OpenAI відкрила новий API: ШІ може ухвалювати рішення майже миттєво

Що таке моделі прийняття рішень та чому вони важливі?

Моделі прийняття рішень, або рішення першої системи, дозволяють ШІ швидко робити вибір із наявних варіантів та надавати оцінку впевненості у своєму рішенні.

Розробники ПЗ відзначають, що подібні інструменти здатні замінювати звичайні мовні моделі у найрізноманітніших робочих процесах, працюючи значно швидше та зі зниженням витрат.

Нікунд Ханда, керівник продуктового напряму API в OpenAI, зазначив, що його колеги побачили успіх аналогічних розробок на ринку і швидко створили власну версію.

Замість побудови спеціально відкаліброваної моделі, команда переконфігурувала ChatGPT Luna для прискорення обробки запитів та зниження витрат.

Головним досягненням Decisions API стала саме швидкість: час обробки вдалося скоротити з 1-3 секунд до 100-180 мілісекунд.

У майбутньому компанія планує додати спеціалізоване навчання - з усім тим, наразі класичні можливості Luna успішно виконують поставлені завдання.

Читайте більше: Claude розкрив таємницю АНБ за 30 хвилин: як ШІ розгадав 25-річну загадку

Запуск та перші результати тестування

Decisions API вже став доступним для всіх клієнтів. OpenAI додала нові голосові та візуальні можливості, а також оптимізувала роботу.

Під час початкових випробувань компанії Datadog, Ramp та Speak використовували новий API для заміни попередніх моделей OpenAI з вищою пропускною здатністю.

Зокрема, у сервісі мовних репетиторів Speak час між діями вдалося скоротити з 1,4 секунди до 0,13 секунди. Сама компанія також задіяла продукт для покращення чутливості голосового асистента Dots.

Бенчмарки та конкуренція на ринку

Наразі немає однозначної відповіді, якою має бути ідеальна модель для ухвалення рішень. Оптимальний баланс між якістю, вартістю, точністю прогнозів і швидкістю роботи залежить від конкретних завдань.

Гендиректор TypeSafe Діогу Алмейда скептично ставиться до стандартних бенчмарків і радить компаніям тестувати моделі на власних робочих сценаріях. Водночас TypeSafe нещодавно опублікувала власний рейтинг і представила оновлену версію Jev із підтримкою зображень та умовної логіки.

У публічних тестах AIM System One Index та Artificial Analysis Decision Index лідирують D1 Ultra від Liquid і Elephant-1 від Base Lab.

Оновлена Jev також залишається серед конкурентоспроможних моделей, тоді як рішення OpenAI посідають інші позиції в рейтингах. За кількістю запитів на OpenRouter моделі TypeSafe поки залишаються найпопулярнішими.

Окремий інтерес становить бенчмарк JevMan, у якому ШІ керує грою Pac-Man. Остання версія Jev очолює цей рейтинг, оскільки гра вимагає від моделі постійно ухвалювати швидкі й ризиковані рішення на кожному перехресті - буквально за кілька сотень мілісекунд.

Не пропустіть: Перебрав контроль над Chrome: OpenAI навчила ChatGP керувати вкладками

Нові перспективи використання

Перевагою рішень від OpenAI залишається розширена мультимодальність.

Зокрема, модель Luna демонструє високу потужність і краще калібрування у завданнях з класифікації зображень.

У майбутньому розробники хочуть ще більше скоротити час відгуку - до 60 мілісекунд. Це дасть змогу обробляти через API практично кожен окремий кадр відеопотоку.

Зі зростанням швидкості та зниженням вартості такі інструменти стають доступнішими й відкривають нові сценарії використання ШІ, які раніше були надто повільними або дорогими.