Законы робототехники для ИИ: почему идея ограничить алгоритмы обречена на провал
Три закона Айзека Азимова могут спасти человечество от опасного ИИ - такую идею предложил криптоинвестор Тайлер Винклвосс. Ученые уже назвали такой способ защиты слишком наивным.
Об этом информирует РБК-Украина со ссылкой на Gizmodo.
Почему законы Азимова не работают для современного ИИ?
Еще в 1942 году писатель-фантаст Айзек Азимов сформулировал базовые правила для роботов.
- не наносить вред человеку (или своим бездействием не допускать его вред),
- подчиняться приказам,
- защищать собственное существование (впоследствии добавив "нулевой закон" о защите всего человечества).
Однако современные ИИ-модели и автономные агенты кардинально отличаются от фантастических роботов.
Почему?
Проблема определения "вреда" - если ИИ сломает банковскую систему и украдет миллиарды долларов, это не нанесет людям прямой физический ущерб, хотя приведет к катастрофическим последствиям.
Капиталистическая логика - алгоритмы могут оправдать перераспределение благ или ущерб для более бедных слоев населения, поскольку подобное ежедневно происходит в современной экономике.
Военные заказы - Пентагон и другие оборонные ведомства против запретов на автономные вооружения, из-за чего компании вроде Anthropic сталкиваются с бойкотом за попытки ввести ограничения.
Уроки литературы и комерческие мотивы
Даже в произведениях самого Азимова главная идея заключалась в том, что даже самые простые с виду правила неизбежно приводят к логическим тупикам и конфликтам в поведении машин.
Кроме того, многие критики отмечают, что внезапные призывы лидеров индустрии типа Сема Альтмана или Дарио Амодеи остановить разработки из-за экзистенциальной угрозы могут быть лишь попыткой технологических монополистов закрепить свое влияние и помешать конкурентам.
В действительности ни простые запреты, ни литературные правила не способны контролировать непредсказуемость современных нейросетей.