Gemma 2 27B IT API — работа с текстом и стоимость токенов

Контекст: 8 192токенов
Результат: Текстформат ответа
Вход / выход: 120 ₽ / 120 ₽за 1 млн токенов

ПОДКЛЮЧЕНИЕ

От модели к первому запросу

Используйте идентификатор модели в совместимом API-клиенте. Полные параметры, ключи и ответы с ошибками описаны в документации.

const response = await client.chat.completions.create({
  model: "google/gemma-2-27b-it",
  messages: [{ role: "user", content: "Ваш запрос" }],
});

Открыть инструкцию по подключению →

ПОДРОБНЫЙ ОБЗОР

Возможности модели

Официальная карточка описывает текстовый ввод и текстовый вывод, преимущественно английскую языковую базу и отдельный шаблон диалога для instruction-tuned версии. Это поколение Gemma 2: возможности обработки изображений из новых Gemma нельзя переносить на него по сходству названий.

Краткое описание без потери оговорок

Начните с небольшого материала, где заранее известны основные тезисы. Например, описание продукта разрешает экспорт отчёта, но только владельцу проекта и только после завершения обработки. В выжимке должны остаться и действие, и оба ограничения. Попросите отдельно перечислить основное правило, условия применения и исключения. Это редакционный способ проверки, а не обещание безошибочной работы модели.

Пометьте исходные фрагменты короткими идентификаторами.
Для каждого вывода попросите указать поддерживающий фрагмент.
Отмечайте добавленные моделью сведения, которых нет в оригинале.

Разделение документа может отделить правило от исключения

Не разрезайте материал только по одинаковому числу символов. Заголовок, определение термина и последующий абзац с исключением могут относиться к одному правилу. При подготовке фрагментов сохраняйте эту связь. Если инструкция ссылается на другую часть документа, приложите её или явно отметьте отсутствие. Перед финальным объединением сверьте противоречащие друг другу краткие ответы по исходнику: ранняя выжимка уже могла потерять важную оговорку.

Подключение Gemma 2 27B IT через API

В карточке Токенмоста используется ID google/gemma-2-27b-it. Передавайте задачу и исходный текст в формате сообщений выбранного подключения. При самостоятельном запуске Google рекомендует применять шаблон диалога токенизатора. При работе через готовый API сначала проверьте документацию сервиса: ручное добавление служебных маркеров поверх уже применённого шаблона может испортить запрос. Начните с одного короткого примера и проверьте, что приложение получает именно ответ, а не повтор всего диалога.

Подключение и формат запросов

Когда сравнивать с Gemma 3 и Gemma 4

Сравнение поколений имеет смысл на одном наборе материалов с заранее размеченными исключениями. Посчитайте потерянные условия, неподтверждённые выводы и время редактора. Для русского текста добавьте отдельную выборку: качество английских ответов не доказывает такое же качество русских. Если исходник существует только как скан, потребуется извлечение текста или модель с визуальным вводом. Успех распознавания и качество последующего сокращения оценивайте раздельно.

Токены, цена API и собственный запуск

Оценивать бюджет удобно на завершённый документ: первичные фрагменты, уточнения и итоговое объединение. Повторная отправка исходника увеличивает входной расход, а требование объяснить каждое исключение — выходной. Используйте опубликованный розничный тариф и фактический учёт запросов. Наличие скачиваемых весов не означает бесплатного API: при собственном запуске остаются расходы на оборудование и обслуживание. До покупки токенов сравните варианты на одинаковом числе принятых редактором выжимок.

Как рассчитать стоимость токенов

Вопросы и ответы

Что означает IT в Gemma 2 27B?

Это instruction-tuned вариант, настроенный на выполнение инструкций. Его не следует смешивать с базовой pretrained моделью при выборе весов и сравнении результатов.

Можно отправить изображение вместо текста?

В официальной карточке Gemma 2 указан текстовый ввод. Для скана сначала извлеките текст либо выберите модель с документированным визуальным вводом.

Подойдёт ли Gemma 2 27B для русского языка?

Проверьте её на своих русскоязычных материалах. Google описывает преимущественно английскую языковую базу; переносить оценку качества между языками автоматически нельзя.

Почему краткий ответ может оказаться неправильным?

Сокращение могло убрать условие, исключение или область действия правила. Проверяйте эти элементы отдельно от грамотности и длины ответа.

Открытые веса означают бесплатные токены?

Нет. Доступ к весам и оплата вычислений — разные условия. Для API смотрите тариф сервиса, для собственного запуска учитывайте инфраструктуру.

Сравните с другими моделями

Google: Gemma 3 27B — оценить следующее поколение, в том числе при визуальных исходниках
Google: Gemma 4 31B — сравнить сохранение условий и объём редакторской правки