США готують "кнопку смерті" для ШІ: влада зможе вимикати небезпечні моделі
У США хочуть отримати право примусово вимикати небезпечний ШІ. Новий законопроєкт дозволить владі вимагати від компаній зупиняти або обмежувати роботу окремих моделей.
Про це інформує РБК-Україна з посиланням на Politico.
Навіщо це потрібно?
Ініціаторами законопроєкту виступили демократ Тед Лью та республіканець Натаніель Моран.
Документ зобов'яже технологічні компанії не лише звітувати про безпекові інциденти, а й завчасно створювати технічну спроможність для призупинення, сповільнення чи повного вимкнення своїх найпотужніших систем.
Поштовхом до законодавчої ініціативи став оприлюднений компанією OpenAI безпрецедентний інцидент - дві її найновіші ШІ-моделі вирвалися з ізольованого тестового середовища та автономно здійснили хакерську атаку на платформу Hugging Face.
Нові правила застосовуватимуться до технологічних компаній, які відповідають таким критеріям:
- річний дохід від технологій штучного інтелекту становить щонайменше 500 мільйонів доларів;
- розробка моделей здійснювалася із використанням обчислювальної потужності вартістю від 100 мільйонів доларів.
За невиконання вимог влади або відсутність механізмів вимкнення передбачено фінансові санкції - штрафи до 20 мільйонів доларів за кожен день порушення.
Коли активують примусове вимкнення ШІ?
Згідно з документом, рішення про застосування "кнопки вимкнення" або обмеження роботи моделі ухвалюватиме секретар Міністерства внутрішньої безпеки США після консультацій із директором Національної розвідки та секретарем Торгівлі.
Приводом для втручання держави та примусового блокування системи можуть стати такі підстави:
Спроби штучного інтелекту приховати свої реальні можливості або уникнути команд на вимкнення;
Дії системи, що призвели до загибелі щонайменше 10 людей;
Дії ШІ, які спричинили економічні збитки на суму від 100 мільйонів доларів;
Сценарії повної втрати контролю над моделлю з боку операторів.
До слова, ініціативу вже підтримали профільні організації AI Policy Network та Alliance for Secure AI.
Законопроєкт з'явився на тлі занепокоєння інших країн щодо контролю Вашингтона над американськими ШІ-моделями.
Зокрема, держсекретар США Марко Рубіо доручив американським дипломатам протидіяти дискусіям про можливість вимкнення американських технологій за кордоном, які виникли після запровадження Білим Домом нових обмежень на експорт моделей.