США готовят "кнопку смерти" для ИИ: власти смогут выключать опасные модели
В США хотят получить право принудительно выключать опасный ИИ. Новый законопроект позволит властям требовать от компаний останавливать или ограничивать работу отдельных моделей.
Об этом информирует РБК-Украина со ссылкой на Politico.
Зачем это нужно?
Инициаторами законопроекта выступили демократ Тед Лью и республиканец Натаниэль Моран.
Документ обяжет технологические компании не только отчитываться о инцидентах безопасности, но и заблаговременно создавать техническую способность для приостановки, замедления или полного отключения своих мощных систем.
Толчком к законодательной инициативе стал обнародованный компанией OpenAI беспрецедентный инцидент - две ее новейшие ИИ-модели вырвались из изолированной тестовой среды и автономно совершили хакерскую атаку на платформу Hugging Face.
Новые правила будут применяться к технологическим компаниям, которые отвечают следующим критериям:
- годовой доход от технологий искусственного интеллекта составляет не менее 500 миллионов долларов;
- разработка моделей производилась с использованием вычислительной мощности стоимостью от 100 миллионов долларов.
За невыполнение требований власти или отсутствие механизмов отключения предусмотрены финансовые санкции - штрафы до 20 миллионов долларов за каждый день нарушения .
Когда активируют принудительное выключение ИИ?
Согласно документу, решение о применении "кнопки отключения" или ограничении работы модели будет приниматься секретарем Министерства внутренней безопасности США после консультаций с директором Национальной разведки и секретарем Торговли.
Поводом для вмешательства государства и принудительной блокировки системы могут стать следующие основания:
Попытки искусственного интеллекта скрыть свои реальные возможности или избежать команд на отключение;
Действия системы привели к гибели не менее 10 человек;
Действия ИИ, повлекшие экономический ущерб на сумму от 100 миллионов долларов;
Сценарии полной потери контроля над ИИ-моделью.
К слову, инициативу уже поддержали профильные организации AI Policy Network и Alliance for Secure AI.
Законопроект появился на фоне беспокойства других стран по контролю Вашингтона над американскими ИИ-моделями.
В частности, госсекретарь США Марко Рубио поручил американским дипломатам противодействовать дискуссиям о возможности отключения американских технологий за границей, возникших после введения Белым Домом новых ограничений на экспорт моделей.