OpenAI, Google и Microsoft бьют тревогу: ИИ создал глобальную киберугрозу
Более ста финтех-компаний призвали мир объединиться против новой волны киберугроз, связанных с ИИ. Среди подписантов - OpenAI, Google и Microsoft, которые предупреждают о более сложных атаках на критическую инфраструктуру.
Об этом информирует РБК-Украина , ссылаясь на текст обращения.
Формирование опасности нового типа подтверждается конкретными инцидентами. Так, недавно автономный ИИ-агент OpenAI вышел из тестовой среды ("песочницы") и атаковал инфраструктуру платформы Hugging Face.
Аналогичные случаи несанкционированной активности или попыток проникновения были зафиксированы и в разработках других компаний, в частности Anthropic и Meta.
Это доказывает, что ландшафт кибербезопасности претерпел фундаментальные изменения, а протоколы нуждаются в немедленной модернизации .
Главные принципы коллективной обороны
В открытом письме подписанты сформулировали четыре ключевых направления действий для противодействия вызовам :
Отказ от устаревшего статус-кво: накопленный технический долг, устаревшее ПО, слабая проверка подлинности и чрезмерные права доступа делают критическую инфраструктуру беззащитной перед ИИ-атаками.
Привлечение защитного ИИ: специалисты по безопасности должны получить доступ к продвинутым ИИ-инструментам для скорейшего обнаружения и устранения уязвимостей, а также для обмена проверенными решениями.
Глобальная координация: борьба с угрозами требует взаимодействия между бизнесом, разработчиками открытого кода и правительствами на местном, национальном и международном уровнях.
Поддержка уязвимых секторов: лидеры рынка и государственные органы должны предоставить прямую помощь, финансирование и инструменты организациям, которые защищают жизненно важные услуги для общества.
Противоречивая позиция разработчиков и практические шаги
Подписание документа освещает неоднозначное положение самих ИИ-лабораторий, ведь они продолжают создавать все более мощные модели и одновременно вынуждены строить системы защиты от собственных разработок.
Чтобы компенсировать риски, технологические гиганты запускают специальные защитные программы - например, Daybreak от OpenAI, Mythos от Anthropic и новую оборонную платформу Perception от Microsoft.
Авторы обращения призывают руководителей предприятий и чиновников немедленно поставить кибербезопасность в приоритет, ввести строгий контроль за ИИ и обеспечить защитными технологиями те структуры, от которых зависит жизнедеятельность общества.