THINKING MACHINES · КАТАЛОГ МОДЕЛЕЙ
Inkling Small Batch API
Inkling Small Batch — пакетный маршрут компактной мультимодальной модели Thinking Machines Lab. Практический сценарий — разметить накопленные аудиоотзывы по темам и срочности, когда ответ не требуется пользователю в реальном времени.
Inkling Small (batch)Thinking Machines- Контекст
- 524 288токенов
- Результат
- Текстформат ответа
- Стоимость
- Тариф уточняетсяусловия — в блоке подключения
ПОДКЛЮЧЕНИЕ
От модели к первому запросу
Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.
const response = await client.chat.completions.create({
model: "thinkingmachines/inkling-small:batch",
messages: [{ role: "user", content: "Ваш запрос" }],
});ПОДРОБНЫЙ ОБЗОР
Возможности модели
Официальная карточка Inkling Small называет 276B общих и 12B активных параметров, обучение на тексте, изображениях и аудио, управляемое reasoning effort и 512K context. Разработчик позиционирует Small как более экономичный вариант; опубликованные оценки не гарантируют точность русской речи в вашем домене. Tokenmost показывает `thinkingmachines/inkling-small:batch`, text/image/audio input, text output и контекст 524288 токенов. До загрузки очереди проверяются batch contract, срок результата, audio format, reasoning, tools, output limit, usage, ошибки отдельных элементов и тариф. Batch не равен streaming transcription. Эталон включает короткие записи с шумом, несколькими темами, персональными данными и фрагменты без речи. Разметчики заранее задают тему, срочность и необходимость ручного ответа; личные данные маскируются до отправки.
Определите единицу пакета
Один элемент должен содержать одну запись, язык, канал, временную метку и идентификатор без персональных данных. Длинные звонки делите по репликам заранее. Порядок связывайте через собственный request key.
Задайте компактную таксономию
Используйте ограниченный список тем, отдельные признаки срочности и поле insufficient_audio. Пример к каждой категории снижает неоднозначность. Свободный комментарий оставляйте вспомогательным, а не основным результатом.
Обрабатывайте частичные ошибки
Пакет может завершиться неравномерно. Храните статус каждой записи, повторяйте только failed items и ограничивайте число попыток. Исходное аудио не удаляйте до прохождения контроля, если политика хранения это разрешает.
Проверьте качество на выборке
Сравните предсказания с двойной ручной разметкой. Считайте macro F1 по темам, recall срочных обращений, долю abstain и расхождения по языкам. Ошибка распознавания и ошибка классификации учитываются отдельно.
Оцените пакетную экономику
Суммируйте media input, инструкции, reasoning и output по завершённым элементам. Добавьте повторы и ручную проверку. Цена одного корректно классифицированного отзыва полезнее номинальной ставки за миллион токенов.
Вопросы и ответы
Для чего нужен batch route?
Для отложенной обработки набора независимых задач без ожидания синхронного ответа.
Это сервис расшифровки?
Модель принимает аудио, но точность транскрипции и формат ответа нужно проверять отдельно.
Можно смешать языки?
Можно тестировать, однако метрики следует считать отдельно для каждого языка и качества записи.
Как поступать с тишиной?
Добавьте класс insufficient_audio и не заставляйте модель выбирать содержательную тему.
Из чего складывается цена?
Из фактического usage успешных элементов, повторов и стоимости ручного контроля.