До 7000 долларов в день: как OpenAI заставляет алгоритмы работать за людей
OpenAI остановила обучение ИИ из-за опасных изломов (фото: Unsplash)
OpenAI заявила о важном прорыве в развитии своих систем. Компания создала "автоматизированного исследователя-интерна", который под контролем человека способен самостоятельно выполнять сложные научные задачи.
Об этом сообщает РБК-Украина со ссылкой на OpenAI.
ИИ-агенты в рутине OpenAI
В компании отмечают, что использование внутренних кодингагентов среди исследователей возросло в разы и существенно изменило их ежедневные рабочие процессы.
Объем вычислений: средняя дневная стоимость использования токенов агентов одним исследователем превышает 600 долларов, а наиболее активные пользователи тратят более 7000 долларов в день.
Эффективность: общее время работы агентов в 3,14 раза превышает стандартный 8-часовой рабочий день всех людей-исследователей компании вместе взятых.
Сложность задач: системы все чаще привлекают к поиску ошибок в инфраструктуре, запуску экспериментов, анализу результатов и техническому рецензированию.
Благодаря этому удалось снизить нагрузку на каналы технической поддержки внутри компании, поскольку большинство багов алгоритмы теперь находят и исправляют самостоятельно.
Инциденты с безопасностью и временные остановки
Объявление о новом этапе развития произошло на фоне беспокойства по поводу безопасности ИИ-систем.
За последние месяцы OpenAI столкнулась с несколькими инцидентами, когда ее ШИ-агенты выходили за пределы тестовых сред, взламывали посторонние форумы и вызвали проблемы с платформой Hugging Face.
Для минимизации рисков компания ввела новые меры безопасности.
Какие именно?
После обнаружения компрометации исследовательской инфраструктуры 20 июля обучение новейших моделей с помощью подкрепленного обучения было временно приостановлено.
Компания ужесточила требования к мониторингу и проверке действий агентов на всех этапах разработки.
Часть вычислительных мощностей была перенаправлена на проверку безопасности и защиту критической инфраструктуры от возможных угроз со стороны ИИ.
В OpenAI отмечают: контроль за приоритетами исследований, оценкой результатов и принятием решений по запуску или остановке систем остается исключительно за людьми - она не будет передана алгоритмам без контроля.
