Скоро · предварительная инструкция
Параметры генерации
Как управлять длиной и поведением ответа.
Готовимся к запуску API
Каталог и цены уже доступны. Подключение и генерация готовятся. Инструкции с отметкой «Скоро» описывают подготовку: окончательные настройки будут подтверждены при запуске.
Как это устроено
model выбирает модель, messages передаёт задачу, max_tokens ограничивает выход, stream меняет способ получения результата. Дополнительные настройки зависят от модели и метода.
Порядок работы
- Начните с минимального набора полей.
- Меняйте один параметр и сравнивайте результат.
- Проверяйте поддержку temperature, stop и других опций до добавления в общий шаблон.
Что учесть
Не переносите весь набор параметров между моделями без проверки. Неподдерживаемое поле может привести к отклонению запроса.