До 7000 долларов в день: как OpenAI заставляет алгоритмы работать за людей

ИИ-агенты в рутине OpenAI

В компании отмечают, что использование внутренних кодингагентов среди исследователей возросло в разы и существенно изменило их ежедневные рабочие процессы.

Объем вычислений: средняя дневная стоимость использования токенов агентов одним исследователем превышает 600 долларов, а наиболее активные пользователи тратят более 7000 долларов в день.

Эффективность: общее время работы агентов в 3,14 раза превышает стандартный 8-часовой рабочий день всех людей-исследователей компании вместе взятых.

Сложность задач: системы все чаще привлекают к поиску ошибок в инфраструктуре, запуску экспериментов, анализу результатов и техническому рецензированию.

Благодаря этому удалось снизить нагрузку на каналы технической поддержки внутри компании, поскольку большинство багов алгоритмы теперь находят и исправляют самостоятельно.

Инциденты с безопасностью и временные остановки

Объявление о новом этапе развития произошло на фоне беспокойства по поводу безопасности ИИ-систем.

За последние месяцы OpenAI столкнулась с несколькими инцидентами, когда ее ШИ-агенты выходили за пределы тестовых сред, взламывали посторонние форумы и вызвали проблемы с платформой Hugging Face.

Для минимизации рисков компания ввела новые меры безопасности.

Какие именно?

После обнаружения компрометации исследовательской инфраструктуры 20 июля обучение новейших моделей с помощью подкрепленного обучения было временно приостановлено.

Компания ужесточила требования к мониторингу и проверке действий агентов на всех этапах разработки.

Часть вычислительных мощностей была перенаправлена на проверку безопасности и защиту критической инфраструктуры от возможных угроз со стороны ИИ.

В OpenAI отмечают: контроль за приоритетами исследований, оценкой результатов и принятием решений по запуску или остановке систем остается исключительно за людьми - она не будет передана алгоритмам без контроля.