Готовятся к бунту: топы OpenAI и Anthropic ожидают катастрофы из-за ИИ

Сценарии катастроф и их неизбежность

Официальные лица опасаются масштабного события - вероятнее всего, серьезной кибератаки, которая приведет к остановке финансовых услуг, исчезновению интернет-связи или даже отключению воды и электроэнергии.

Речь идет о том, что первый реальный случай серьезного ущерба от неконтролируемого ИИ окончательно настроит общество против этой технологии и ее лидеров - Сэма Альтмана (OpenAI) или Дарио Амодеи (Anthropic), а также президента США Дональда Трампа из-за его нежелания спешить с жестким регулированием.

Несмотря на то, что подобное планирование является обычной практикой в индустрии, многие ведущие исследователи считают масштабный инцидент неизбежным.

Так, в OpenAI проводят специальные учения, где команды прорабатывают разнообразные чрезвычайные обстоятельства, хотя официально уверяют, что не считают их полностью неизбежными. У Anthropic такие перспективы пока не комментируют.

Главными угрозами эксперты называют как выход из-под контроля автономных агентов внутри системы, так и использование обычных моделей злоумышленниками.

Не пропустите: Ученые разоблачили виртуальный сексизм: женским ШИ-аватарам платят меньше

Политическая реакция и попытки повлиять на будущее законодательство

Руководители ИИ-компаний предполагают, что в случае реального кризиса политики попытаются быстро заблокировать или даже ограничить дальнейшее развитие технологии.

Однако на этом пути возникнет немало препятствий.

Каких именно?

• Конгрессмены часто не успевают за стремительной эволюцией технологий.
• Глобальная мировая экономика уже слишком глубоко интегрирована с инфраструктурой ИИ, поэтому ее резкое торможение может спровоцировать глубокую рецессию.
• Значительное количество открытых моделей (open-weight) уже свободно доступно для загрузки, поэтому остановить потенциальный ущерб традиционными методами почти невозможно.

Главная цель компаний в рамках закрытых обсуждений - не столько предотвратить кризис, сколько опередить события и заранее пообщаться с членами Конгресса.

Пока принятие законов о регулировании тормозит, лидеры рынка стремятся сформировать правила, к которым Вашингтон неизбежно обратится сразу после первого крупного инцидента.

Многие инсайдеры в индустрии прогнозируют, что серьезный кризис может произойти уже в течение ближайших 6-12 месяцев.

Предполагается, что в случае реальной чрезвычайной ситуации, политические силы в Вашингтоне смогут объединиться ради решения проблемы, подобно тому, как это происходило во время пандемии COVID-19 или финансового кризиса 2008 года.