GPT-3.5 Turbo Instruct API — legacy completions и токены

Контекст: 4 095токенов
Результат: Текстформат ответа
Вход / выход: 280 ₽ / 370 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "openai/gpt-3.5-turbo-instruct",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

OpenAI указывает совместимость `gpt-3.5-turbo-instruct` только с legacy Completions, контекст и максимум ответа 4 096 токенов, текстовый ввод и вывод и deprecated status. Модель имеет возможности уровня GPT-3 era и не должна вызываться через Chat Completions только из-за похожего имени. Tokenmost показывает окно 4 095, поэтому preflight проверяет endpoint, actual model ID, prompt serialization, stop sequences, usage и ошибку превышения длины. Контрольные строки включают артикул, регистр, запрещённое сокращение, пустое значение и текст, похожий на инструкцию. Ожидаемый результат задаётся детерминированной схемой. Модель не получает право менять справочник или дополнять неизвестный бренд. Старый prompt и современный messages-format сравниваются на одном наборе, включая граничные пробелы и unicode. Миграция считается успешной после совпадения бизнес-результата, а не токен-в-токен текста. Тариф Tokenmost берётся с карточки маршрута; исторические цены OpenAI не используются как обещание.

Снимите контракт legacy prompt

Запишите префикс, разделители, stop sequences, temperature и постобработку. Часто важное правило живёт в регулярном выражении после ответа. Без него новая реализация может выглядеть правильно, но передавать downstream другое значение.

Соберите пограничные строки

Тесты включают пустой ввод, unicode, длинное название, вложенную инструкцию и значение вне справочника. Для каждого задан точный статус. Неизвестное остаётся unknown, а не превращается в наиболее похожий бренд.

Переведите контракт в messages

System rule, пользовательские данные и примеры разделяются ролями. Структурированный ответ проверяет валидатор. Stop sequence не переносится механически, если новая модель использует другую схему завершения; поведение проверяется тестом.

Включите безопасный переход

Старый и новый обработчик работают параллельно на выборке без двойной записи. Расхождения попадают оператору. После стабильного периода старый endpoint отключается, а rollback ведёт на поддерживаемую версию, не обратно в deprecated маршрут.

Токены и цена нормализованной строки

Считайте prompt, примеры, output, повтор и ручную обработку неизвестных. Короткий контекст требует компактного справочника. Сравнивайте стоимость строки, прошедшей валидатор, по текущим ставкам Tokenmost.

Вопросы и ответы

Какой endpoint нужен GPT-3.5 Turbo Instruct?

OpenAI указывает только legacy Completions endpoint.

Какой контекст доступен?

Около 4K: 4 095 в Tokenmost и 4 096 у OpenAI.

Можно использовать Chat Completions?

Официальная карточка говорит, что эта модель с ним несовместима.

Нужно ли сохранять stop sequence?

Нужно зафиксировать её роль и проверить эквивалентное поведение при миграции.

Как считать цену?

По нормализованной строке, принятой валидатором.