РУКОВОДСТВО · ОБНОВЛЕНО 2026-10-04
Ошибка переполнения контекста: как найти и убрать причину
Пошаговая диагностика слишком большого запроса. Ищем вклад истории, файлов и инструментов, сокращаем данные без потери текущей задачи.
При context_length_exceeded проверьте лимит фактической модели и полный запрос, включая историю и инструменты. Затем сократите лишний вход или допустимый резерв ответа, сохранив текущую задачу. Повтор неизменённого запроса обычно не устраняет причину; сначала измените его состав.
1. Подтвердите модель и ограничение
Сохраните request_id, HTTP-статус, код и безопасную выдержку ошибки. Сверьте endpoint и точный model ID с документацией фактического сервиса. Не переносите рекламный размер контекста одной модели на другую или на ограниченный маршрут. Отличайте отклонённый слишком большой вход от ответа, оборванного по лимиту генерации. В локальном runtime дополнительно проверьте настроенное окно, которое может отличаться от предела модели. Не публикуйте полный запрос с ключами и клиентскими документами ради диагностики: достаточно структуры и подсчёта составляющих.
2. Разложите запрос на части
Посчитайте отдельно системные инструкции, историю, последнее сообщение, схемы функций и возвращённые результаты инструментов. Проверьте, не добавляет ли клиент один и тот же файл или историю повторно. Изображения и другие модальности учитываются по правилам конкретной модели; длина текстовой строки не даёт точной оценки. Используйте подходящий токенизатор для текстовой части и оставляйте запас на служебное представление. Для воспроизведения замените секреты тестовыми значениями, сохраняя структуру. Так видно, какая часть растёт после каждого хода и где произошла регрессия.
3. Проверьте резерв для ответа
Сверьте входной объём с контекстным окном и допустимой длиной ответа выбранного метода. Для reasoning-моделей учитывайте правила расхода токенов рассуждения: видимый текст не описывает весь выходной бюджет. Уменьшение max_tokens или соответствующего параметра другого протокола иногда помогает вместить запрос, но не спасает вход, который сам превышает предел. Не уменьшайте резерв вслепую до значения, где ответ перестаёт решать задачу. Если требуется полный отчёт, разумнее разделить обработку документов или выбрать подходящую модель после проверки её реального ограничения.
4. Сократите данные с сохранением смысла
Удалите повторные вложения и неактуальные примеры, ограничьте объём результатов поиска. Старую историю можно заменить проверенным резюме: цель, принятые решения, важные значения и незавершённые действия. Не вырезайте отдельно tool call или его связанный результат, если протокол требует пару. Для документов выбирайте релевантные разделы с источниками вместо всего архива. Покажите пользователю, когда нужен более узкий вопрос или разделение задачи. После сокращения проверьте, что сохранились ограничения, права доступа и сведения, без которых модель могла бы выполнить неверное действие.
5. Добавьте проверку перед отправкой
В приложении введите оценку объёма перед сетевым вызовом и понятную ветку для превышения. Сохраняйте только диагностические счётчики, а не лишнее содержимое переписки. На fixtures проверьте длинную историю, большой результат инструмента, повтор файла и минимальную задачу после сокращения. Повторяйте запрос после изменения входа, соблюдая правила идемпотентности для действий. Для Tokenmost сверяйте возможности конкретного API и модели в опубликованной документации; автоматически обещать больший контекст при переключении нельзя. Такая проверка снижает число предсказуемых отказов, но локальная оценка не заменяет серверный контракт.
Частые вопросы
Поможет ли подождать и повторить запрос?
Для неизменённого слишком большого запроса ожидание не меняет объём. Сначала подтвердите причину по ошибке и исправьте вход или ограничения.
Почему короткий вопрос не помещается?
Вместе с ним могут отправляться длинная история, системные инструкции, схемы функций и документы. Проверьте итоговый payload клиента.
Можно ли просто уменьшить max_tokens?
Только если допустимый резерв ответа участвует в ограничении и вход сам помещается. Название параметра и правила зависят от метода.
Большое окно гарантирует хороший разбор документа?
Нет. Оно задаёт предел объёма, а не качество использования всех фрагментов. Проверяйте точные выводы и ссылки на основания отдельно.