Google представила Gemini Decisions API: ШІ оцінює 1000 запитів за мілісекунди

Головні можливості нового API

Розробники зазначають: новий інтерфейс дозволяє одночасно оцінювати до 1000 незалежних запитань на основі спільних мультимодальних даних.

Система підтримує роботу з текстом, зображеннями, аудіо, відео та PDF-документами обсягом до 256 000 токенів.

На відміну від звичайних моделей, які генерують текст послідовно, слово за словом, ця модель одразу оцінює кілька можливих варіантів відповіді. Вона визначає ймовірність кожного з них і показує, наскільки впевнена у своєму виборі.

Середній час обчислення становить від 50 до 100 мілісекунд, а кінцева затримка - 150–250 мілісекунд.

Вартість становить 0,10 долара за мільйон вхідних токенів без додаткової плати за вихідні.

Завдяки цьому новинка майже вп'ятеро дешевша за модель Gemini 3.5 Flash-Lite. Сервіс уже доступний через платформу Google AI Studio разом із безкоштовним тарифом для прототипування.

Читайте більше: Gemini зібрав досьє на користувачів: Google дозволила перевірити кожен факт

Як технологія змінює продукти Google?

Компанія активно впроваджує новий інструмент у власні екосистеми. У Gemini Notebook API використовується як маршрутизатор, що знижує затримку щоденних запитів на 40 відсотків.

У платформі Stitch інструмент допомагає миттєво створювати інтерактивні макети за голосовими командами, а в додатку CC допомагає обирати реакції з емодзі серед більш ніж 200 варіантів.

Крім того, Google Search застосовує модель як захисний шар для виявлення підозрілої активності.

Екосистема також отримує інтеграції з популярними платформами, серед яких OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, Pipecat, LiveKit та OpenCode.