Google представила Gemini Decisions API: ИИ оценивает 1000 запросов за миллисекунды

Главные возможности нового API

Новый интерфейс позволяет одновременно оценивать до 1000 независимых вопросов на основе общих мультимодальных данных.

Система поддерживает работу с текстом, изображениями, аудио, видео и PDF-документами в объеме до 256 000 токенов.

В отличие от обычных моделей, которые генерируют текст последовательно, слово за словом, эта модель сразу оценивает несколько возможных вариантов ответа. Она определяет вероятность каждого из них и показывает, насколько уверена в своем выборе.

Среднее время вычисления составляет от 50 до 100 миллисекунд, а конечная задержка - 150-250 миллисекунд.

Стоимость составляет 0,10 доллара за миллион входных токенов без дополнительной платы за выходные.

Благодаря этому новинка почти в пять раз дешевле модели Gemini 3.5 Flash-Lite. Сервис уже доступен через платформу Google AI Studio вместе с бесплатным тарифом для прототипирования.

Читайте больше: Gemini собрал досье на пользователей: Google разрешила проверить каждый факт

Каким образом технология изменяет продукты Google?

Компания активно внедряет новый инструмент в собственные экосистемы. В Gemini Notebook API используется как маршрутизатор, снижающий задержку ежедневных запросов на 40 процентов.

В платформе Stitch инструмент помогает мгновенно создавать интерактивные макеты по голосовым командам, а в приложении CC помогает выбирать реакции по эмодзу среди более чем 200 вариантов.

Кроме того, Google Search применяет модель в качестве защитного слоя для обнаружения подозрительной активности.

Экосистема также получает интеграции с популярными платформами, включая OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, Pipecat, LiveKit и OpenCode.