Amazon Nova Micro API — классификация текста и цена

Контекст: 128 000токенов
Результат: Текстформат ответа
Вход / выход: 10 ₽ / 30 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "amazon/nova-micro-v1",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

AWS указывает Nova Micro как text-only модель с контекстом 128K. Текущий маршрут Токенмоста также принимает и возвращает текст и показывает 128 000 токенов. Характеристики собственного запуска и облачного API не смешиваются, а фактическая задержка измеряется на нагрузке конкретного приложения.

Ограничьте схему полезными полями

Определите канал, тему, объект, срочность, короткое резюме и необходимость оператора. Для каждого поля задайте допустимые значения. Неизвестное значение остаётся пустым; модель не должна угадывать регион, клиента или номер договора по похожему обращению.

Обрабатывайте поток идемпотентно

Каждая заявка получает стабильный ID и версию схемы. Повторная доставка сообщения не создаёт вторую запись. Ответ модели проходит JSON-валидацию, проверку обязательных полей и ограничение длины до сохранения, а исходный текст остаётся доступным оператору.

Эскалируйте смысловую сложность

Несколько тем, финансовая претензия, вопрос безопасности или низкая определённость переводятся в отдельную очередь. Компактная модель полезна как быстрый первый слой, но не должна маскировать пределы уверенным резюме. Маршрут эскалации измеряется вместе с точностью основных категорий.

Проверьте скорость без потери качества

Нагрузочный тест использует реальное распределение длины, всплески и ограничение параллелизма. Помимо медианы смотрите высокий перцентиль, ошибки и повторные запросы. Качество проверяется на опечатках, сокращениях и редких классах; более быстрый ответ бесполезен, если оператор массово исправляет поля.

Токены и стоимость потока

Для короткой заявки контекст 128 000 токенов обычно не нужен. Системную инструкцию сокращают до проверяемой схемы, а справочники передают идентификаторами или релевантными строками. В прогноз включайте пиковый объём, поскольку очередь и тайм-ауты могут увеличить число повторов. Рассчитывайте стоимость миллиона входящих заявок с повторами и эскалациями по текущим ставкам карточки.

Вопросы и ответы

Nova Micro принимает изображения?

Нет, текущий маршрут работает только с текстом.

Какой контекст указан?

В каталоге Токенмоста указано 128 000 токенов.

Для чего использовать Micro?

Для узких массовых текстовых задач с формальной схемой и понятной эскалацией.

Как проверить скорость?

Нужен нагрузочный тест на реальном распределении длины и параллелизма.

Как считать цену?

Учитывайте успешные ответы, повторы и эскалации на весь объём заявок.