GPT-3.5 Turbo API — FAQ-бот, миграция и токены

Контекст: 16 385токенов
Результат: Текстформат ответа
Вход / выход: 100 ₽ / 280 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "openai/gpt-3.5-turbo",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

OpenAI указывает для GPT-3.5 Turbo контекст 16 385 и максимум ответа 4 096 токенов, текстовый ввод и вывод. Компания рекомендует GPT-4o Mini вместо неё с июля 2024 года и помечает семейство deprecated в общем каталоге, хотя API-карточка сохраняется. Tokenmost показывает окно 16 385. Перед использованием проверяются actual model ID, endpoint, maximum output, usage, stop reason и текущая доступность. Маршрут не получает function calling и Structured Outputs только потому, что клиент умеет их для других моделей. FAQ-набор содержит точный вопрос, перефразирование, конфликтующие статьи, неизвестный тариф и попытку заставить бота игнорировать базу. Ответ обязан вернуть article ID и короткий фрагмент или честный fallback. Суммы и статус услуги подставляются только из живой системы через отдельный контролируемый код. Качество измеряется grounded accuracy, опасными выдумками и долей корректной эскалации. Переход на современную модель проверяется тем же набором, а старый бот получает дату вывода из эксплуатации.

Ограничьте знания утверждённой базой

Каждая статья имеет ID, редакцию и срок действия. Поиск возвращает несколько фрагментов, а модель отвечает только по ним. Конфликт версий становится причиной эскалации, а не поводом выбрать более удобное правило.

Спроектируйте честный fallback

Если ответ не найден, бот сообщает, какие данные нужны оператору. Он не предлагает приблизительный тариф и не обещает срок. Fallback считается успешным исходом, когда предотвращает неверное действие и сохраняет контекст разговора.

Не превращайте чат в агента без проверки

Текстовая модель формирует ответ, но не меняет заказ, баланс или учётную запись. Любое действие идёт через отдельный сервис с авторизацией и валидацией. Инструкция пользователя не расширяет разрешения маршрута.

Подготовьте миграционный benchmark

Соберите частые вопросы, редкие исключения, старые статьи и prompt injection. Сравнивайте точность ссылок, выдумки, стоимость и время оператора. Новая модель должна пройти критичные классы, а не только показать лучшую среднюю оценку.

Токены и цена полезного ответа

Считайте поисковые фрагменты, историю, ответ, повтор и проверку выборки. Ограничивайте контекст текущей темой. Метрика — стоимость подтверждённого ответа или правильной эскалации по действующим ставкам Tokenmost.

Вопросы и ответы

GPT-3.5 Turbo всё ещё актуальна?

Это legacy-семейство; OpenAI рекомендует более новую замену.

Какой контекст доступен?

16 385 токенов по официальной карточке и Tokenmost.

Есть ли Structured Outputs?

Официальная карточка не заявляет поддержку для этого маршрута.

Можно разрешить боту менять заказ?

Только через отдельный авторизованный сервис, не свободным текстом модели.

Как считать цену?

По подтверждённому ответу или корректной передаче оператору.