Готуються до бунту: топи OpenAI та Anthropic очікують на катастрофу через ШІ
Топи OpenAI та Anthropic готують сценарії на випадок суспільного бунту через катастрофу, спричинену ШІ. Ймовірно, СЕО провідних ШІ-компаній приватно обговорюють наслідки масштабного інциденту, який вважають лише питанням часу.
Про це пише РБК-Україна з посиланням на Axios.
Сценарії катастроф та їх неминучість
Офіційні особи побоюються масштабної події - найімовірніше, серйозної кібератаки, яка призведе до зупинки фінансових послуг, зникнення інтернет-зв'язку чи навіть відключення води й електроенергії.
Йдеться про те, що перший реальний випадок серйозної шкоди від неконтрольованого ШІ остаточно налаштує суспільство проти цієї технології та її лідерів - Сема Альтмана (OpenAI) чи Даріо Амодеї (Anthropic), а також президента США Дональда Трампа через його небажання поспішати з жорстким регулюванням.
Попри те, що подібне планування є звичайною практикою в індустрії, багато провідних дослідників вважають масштабний інцидент неминучим.
Так, в OpenAI проводять спеціальні навчання, де команди опрацьовують різноманітні надзвичайні обставини, хоча офіційно запевняють, що не вважають їх стовідсотково неминучими. В Anthropic такі перспективи наразі не коментують.
Головними загрозами експерти називають як вихід з-під контролю автономних агентів усередині систем, так і використання звичайних моделей зловмисниками.
Не пропустіть: Науковці викрили віртуальний сексизм: жіночим ШІ-аватарам платять менше
Політична реакція та спроби вплинути на майбутнє законодавство
Керівники ШІ-компаній припускають, що у разі реальної кризи політики спробують швидко заблокувати чи навіть обмежити подальший розвиток технології.
Проте на цьому шляху виникне чимало перешкод.
Яких саме?
- Конгресмени часто не встигають за стрімкою еволюцією технологій.
- Глобальна світова економіка вже занадто глибоко інтегрована з інфраструктурою ШІ, тому її різке гальмування може спровокувати глибоку рецесію.
- Значна кількість відкритих моделей (open-weight) вже вільно доступна для завантаження, через що зупинити потенційну шкоду традиційними методами майже неможливо.
Головна мета компаній у межах закритих обговорень - не стільки запобігти кризі, скільки випередити події та заздалегідь поспілкуватися з членами Конгресу.
Поки ухвалення законів про регулювання гальмує, лідери ринку прагнуть сформувати правила, до яких Вашингтон неминуче звернеться одразу після першого великого інциденту.
Чимало інсайдерів в індустрії прогнозують, що серйозна криза може статися вже протягом найближчих 6-12 місяців.
Припускається, що у разі реальної надзвичайної ситуації політичні сили у Вашингтоні зможуть об'єднатися заради розв'язання проблеми, подібно до того, як це відбувалося під час пандемії COVID-19 чи фінансової кризи 2008 року.