OpenAI открыла новый API: ИИ может принимать решение почти мгновенно

Что такое модели принятия решений и почему они важны?

Модели принятия решений (или решения первой системы) позволяют искусственному интеллекту быстро делать выбор из имеющихся вариантов и давать оценку уверенности в своем решении.

Разработчики ПО отмечают, что подобные инструменты способны заменять обычные языковые модели в различных рабочих процессах, работая значительно быстрее и со снижением затрат.

Никунд Ханда, руководитель продуктового направления API в OpenAI, отметил, что его коллеги увидели успех аналогичных разработок на рынке и быстро создали собственную версию.

Вместо построения специально откалиброванной модели команда переконфигурировала ChatGPT Luna для ускорения обработки запросов и снижения затрат.

Главным достижением Decisions API стала именно скорость: время обработки удалось сократить с 1-3 секунд до 100-180 миллисекунд.

В будущем компания планирует добавить специализированное обучение - со всем тем, что классические возможности Luna успешно выполняют поставленные задачи.

Читайте больше: Claude раскрыл тайну АНБ за 30 минут: как ИИ разгадал 25-летнюю загадку

Запуск и первые результаты тестирования

Decisions API уже стало доступным для всех клиентов. OpenAI добавила новые голосовые и визуальные возможности, а также оптимизировала работу.

При начальных испытаниях компании Datadog, Ramp и Speak использовали новый API для замены предыдущих моделей OpenAI с более высокой пропускной способностью.

В частности, в сервисе репетиторов Speak время между действиями удалось сократить с 1,4 секунды до 0,13 секунды. Сама компания также задействовала продукт для улучшения чувствительности голосового помощника Dots.

Бенчмарки и конкуренция на рынке

Пока нет однозначного ответа, какой должна быть идеальная модель для принятия решений. Оптимальный баланс между качеством, стоимостью, точностью прогнозов и скоростью работы зависит от конкретных задач.

Гендиректор TypeSafe Диогу Алмейда скептически относится к стандартным бенчмаркам и советует компаниям тестировать модели на своих рабочих сценариях. В то же время TypeSafe недавно опубликовала свой рейтинг и представила обновленную версию Jev с поддержкой изображений и условной логики.

В публичных тестах AIM System One Index и Artificial Analysis Decision Index лидируют D1 Ultra от Liquid и Elephant-1 от Base Lab. Обновленная Jev также остается среди конкурентоспособных моделей, в то время как решения OpenAI занимают другие позиции в рейтингах. По количеству запросов на OpenRouter модели TypeSafe пока остаются самыми популярными.

Отдельный интерес представляет бенчмарк JevMan, в котором ИИ управляет игрой Pac-Man.

Последняя версия Jev возглавляет этот рейтинг, поскольку игра требует от модели постоянно принимать быстрые и рискованные решения на каждом перекрестке – буквально за несколько сот миллисекунд.

Не пропустите : Перебрал контроль над Chrome: OpenAI научила ChatGP управлять вкладками

Новые перспективы использования

Преимуществом решений от OpenAI остается расширенная мультимодальность .

В частности, модель Luna демонстрирует высокую мощность и лучшую калибровку в задачах по классификации изображений.

В будущем разработчики хотят еще больше сократить время отклика - до 60 миллисекунд. Это позволит обрабатывать через API практически каждый отдельный кадр видеопотока.

С ростом скорости и снижением стоимости такие инструменты становятся более доступными и открывают новые сценарии использования ИИ, которые раньше были слишком медленными или дорогими.