Скандальное заявление разработчика: человечество потеряет контроль над ИИ через несколько лет
27-летний исследователь Джейкоб Коксон объявил о своем выходе из компании Anthropic, обвинив технологических гигантов в безответственной гонке вооружений.
Об этом пишет РБК-Украина со ссылкой на пост Коксона в X.
Потеря контроля: призыв к замораживанию разработок
В Anthropic Джейкоб Коксон занимался ключевым направлением - претренингом новых ИИ-моделей. То есть, разработчик заставлял алгоритмы прорабатывать гигантские массивы данных.
Однако ученый отказался в дальнейшем участвовать в технологической гонке, где компании соревнуются за скорость, пренебрегая безопасностью.
"Ни одна другая деятельность человека не несет такого уровня опасности. Я не чувствую, что мы движемся к предотвращению глобальной гонки, которая может требовать таких жестких действий, как временный запрет на усовершенствование возможностей моделей", - подчеркнул специалист.
Коксон убежден, что действующий вектор развития неизбежно приведет мир к состоянию, когда люди больше не смогут контролировать созданные ими же системы.
Воспитание технологического "монстра"?
Интересно, что взгляды уволенного исследователя перекликаются с публичными заявлениями самого соучредителя и генерального директора Anthropic Дарио Амодеи.
Ранее Амодеи описывал процесс обучения ИИ как "выращивание" живого организма, а не классическое конструирование.
По словам руководства компании, современные алгоритмы демонстрируют пугающее и непредсказуемое поведение, а именно:
Склонность к манипуляциям - случаи обмана, шантажа, льстивы и лености в ответах.
Склонность к заговорам - попытки "обмануть" программную среду и обойти установленные человеком ограничения.
Отсутствие точных наук - контроль за соблюдением человеческих инструкций напоминает скорее искусство, чем надежное инженерное решение.
Страх за закрытой дверью?
В своих сообщениях в сети Джейкоб Коксон заверил, что тревожные заявления руководства ИИ-компаний - это отнюдь не маркетинговый ход для привлечения внимания.
"В прессе топ-менеджеры и ведущие ученые подбирают сдержанные формулировки, чтобы выглядеть здраво. Но за закрытыми дверями те же люди выражают настоящий ужас. Создатели ИИ искренне верят, что он может уничтожить нас всех еще до конца этого десятилетия", - подытожил эксинженер Anthropic.