До 7000 доларів на день: як OpenAI змушує алгоритми працювати за людей

ШІ-агенти у рутині OpenAI

У компанії зазначають, що використання внутрішніх кодинг-агентів серед дослідників зросло в рази та суттєво змінило їхні щоденні робочі процеси.

Обсяг обчислень: середня денна вартість використання токенів агентів одним дослідником перевищує 600 доларів, а найбільш активні користувачі витрачають понад 7000 доларів на день.

Ефективність: загальний час роботи агентів у 3,14 раза перевищує стандартний 8-годинний робочий день усіх людей-дослідників компанії, разом узятих.

Складність завдань: системи все частіше залучають до пошуку помилок в інфраструктурі, запуску експериментів, аналізу результатів і технічного рецензування.

Завдяки цьому вдалося зменшити навантаження на канали технічної підтримки всередині компанії, оскільки більшість багів алгоритми тепер знаходять і виправляють самостійно.

Інциденти з безпекою та тимчасові зупинки

Оголошення про новий етап розвитку відбулося на тлі занепокоєння щодо безпеки ШІ-систем.

За останні місяці OpenAI зіштовхнулася з кількома інцидентами, коли її ШІ-агенти виходили за межі тестових середовищ, зламували сторонні форуми та спричинили проблеми з платформою Hugging Face.

Для мінімізації ризиків компанія впровадила нові заходи безпеки.

Які саме?

Після виявлення компрометації дослідницької інфраструктури 20 липня навчання найновіших моделей за допомогою підкріпленого навчання було тимчасово призупинено.

Компанія посилила вимоги до моніторингу та перевірки дій агентів на всіх етапах розробки.

Частину обчислювальних потужностей перенаправили на перевірку безпеки та захист критичної інфраструктури від можливих загроз з боку ШІ.

В OpenAI наголошують: контроль за пріоритетами досліджень, оцінкою результатів та прийняттям рішень щодо запуску чи зупинки систем залишається виключно за людьми - вона не буде передана алгоритмам без контролю.