Смерть 50 человек или миллиард убытков: Anthropic придумала критерии бана ИИ
Anthropic лоббирует правила для опасного ИИ (коллаж: РБК-Украина)
Anthropic хочет сама определять, когда ИИ становится слишком опасным и ограничить возможности государства вмешиваться в решения разработчиков.
Об этом пишет РБК-Украина, ссылаясь на Politico.
Компания представила законодателям США собственный законопроект, позволяющий останавливать распространение моделей с катастрофическим уровнем риска.
Когда ИИ будет считаться "катастрофически опасным"?
Согласно документам, правительство сможет заблокировать выпуск или использование разработок только в случае возникновения "предсказуемого и неизбежного риска".
Критериями катастрофической угрозы предлагается считать:
- потенциальную гибель или тяжелые травмы более 50 человек;
- имущественный ущерб на сумму свыше 1 миллиарда долларов;
- угрозы, возникающие из-за создания биологического оружия, масштабных кибератак или выхода модели из-под контроля разработчиков.
Читайте больше: Потеря контроля: Пентагон создает ИИ-вирус, действующий без приказа человека
Оценка моделей и ограничения для госагентств
Проект закона предлагает доверить анализ безопасности "независимым оценщикам", аккредитованным Министерством торговли США. Услуги этих экспертов смогут оплачивать сами ИИ-лаборатории при условии, что гонорар не будет зависеть от результатов заключения.
Если оценщики зафиксируют катастрофический риск, они должны уведомить об этом Министерство торговли в течение 72 часов.
После этого ведомство должно обратиться в федеральный суд в Вашингтоне, поскольку документ прямо запрещает любым федеральным агентствам или чиновникам блокировать разработку или выпуск моделей по своему усмотрению.
Эта норма появилась после того, как летом правительство США из-за строгих экспортных ограничений внезапно заблокировало доступ к двум передовым моделям Anthropic.
Не упустите: Защита от посторонних глаз: у ChatGPT появились скрытые чаты под PIN-кодом
Политическая борьба за национальные стандарты
Законопроект Anthropic также предусматривает упразднение отдельных законов штатов, тем самым создавая единый федеральный стандарт для всей страны.
Это стало предметом острых споров в Конгрессе, поскольку часть демократов опасается, что единый закон ослабит более жесткие нормы, уже принятые в Калифорнии и Нью-Йорке.
В то же время инициатива компании столкнулась с критикой по обе стороны.
Скептики отмечают, что система оценщиков за деньги самих лабораторий создает конфликт интересов , а предлагаемые критерии (50 погибших или миллиардные убытки) обходят текущие проблемы, например автономный хакинг сайтов, с которыми ИИ-агенты сталкиваются уже сегодня.
