Смерть 50 людей чи мільярд збитків: Anthropic вигадала критерії бану ШІ
Anthropic лобіює правила для небезпечного ШІ (колаж: РБК-Україна)
Anthropic хоче сама визначати, коли ШІ стає надто небезпечним, і обмежити можливості держави втручатися у рішення розробників.
Про це пише РБК-Україна, посилаючись на Politico.
Компанія представила законодавцям США власний законопроєкт, який дозволяє зупиняти поширення моделей із катастрофічним рівнем ризику.
Коли ШІ вважатиметься "катастрофічно небезпечним"?
Згідно з документами, уряд зможе заблокувати випуск або використання розробок лише у випадку виникнення "передбачуваного та неминучого ризику".
Критеріями катастрофічної загрози пропонується вважати:
- потенційну загибель або важкі травми понад 50 людей;
- майнову шкоду на суму понад 1 мільярд доларів;
- загрози, що виникають через створення біологічної зброї, масштабні кібератаки або вихід моделі з-під контролю розробників.
Читайте більше: Втрата контролю: Пентагон створює ШІ-вірус, який діє без наказу людини
Оцінка моделей та обмеження для держагентств
Проєкт закону пропонує довірити аналіз безпеки "незалежним оцінювачам", акредитованим Міністерством торгівлі США. Послуги цих експертів зможуть оплачувати самі ШІ-лабораторії, за умови, що гонорар не залежатиме від результатів висновку.
Якщо оцінювачі зафіксують катастрофічний ризик, вони повинні повідомити про це Міністерство торгівлі протягом 72 годин.
Після цього відомство має звернутися до федерального суду у Вашингтоні, оскільки документ прямо забороняє будь-яким федеральним агентствам чи чиновникам блокувати розробку чи випуск моделей на власний розсуд.
Ця норма з'явилася після того, як влітку уряд США через суворі експортні обмеження раптово заблокував доступ до двох передових моделей Anthropic.
Не пропустіть: Захист від сторонніх очей: у ChatGPT з'явилися приховані чати під PIN-кодом
Політична боротьба за національні стандарти
Законопроєкт Anthropic також передбачає скасування окремих законів штатів, тим самим створюючи єдиний федеральний стандарт для всієї країни.
Це стало предметом гострих суперечок у Конгресі, оскільки частина демократів побоюється, що єдиний закон послабить жорсткіші норми, вже ухвалені у Каліфорнії та Нью-Йорку.
Водночас ініціатива компанії зіткнулася з критикою з обох боків.
Скептики зазначають, що система оцінювачів за гроші самих лабораторій створює конфлікт інтересів, а пропоновані критерії (50 загиблих або мільярдні збитки) оминають поточні проблеми, як-от автономний хакінг сайтів, із якими ШІ-агенти стикаються вже сьогодні.
