Спецслужбы ведущих стран мира предупредили о появлении вредоносного ИИ
Фото: искусственный интеллект может нанести вред уже совсем скоро (Getty Images)
Разведывательные службы и службы кибербезопасности стран альянса "Пять глаз" заявили, что новое поколение моделей искусственного интеллекта может существенно усилить кибератаки уже в ближайшее время - речь идет буквально о нескольких месяцах.
Об этом сообщает РБК-Украина со ссылкой на The Guardian.
Спецслужбы стран альянса "Пять глаз", в который входят США, Великобритания, Канада, Австралия и Новая Зеландия, выступили с совместным предупреждением о стремительном развитии искусственного интеллекта.
По их мнению, новые модели ИИ могут открыть злоумышленникам значительно более широкие возможности для проведения сложных кибератак против государственных структур и частного бизнеса.
В заявлении отмечается, что, хотя технологии искусственного интеллекта способны усилить киберзащиту, одновременно они увеличивают скорость, масштаб и сложность киберугроз. Представители спецслужб призвали правительства и компании готовиться к этим вызовам уже сейчас.
По оценке авторов документа, передовые модели ИИ могут превзойти нынешние прогнозы отрасли и кардинально изменить как наступательные, так и оборонительные возможности в киберпространстве. В заявлении отдельно подчеркивается, что речь идет о месяцах, а не годах.
Специалисты также предупреждают, что дальнейшее развитие искусственного интеллекта снизит технические барьеры для хакеров и позволит проводить атаки быстрее и эффективнее. В связи с этим спецслужбы призывают к комплексному реагированию как на уровне отдельных организаций, так и на уровне государств.
Эксперт по вопросам национальной безопасности и искусственного интеллекта Центра исследований США при Сиднейском университете Оливия Шен заявила, что новые мощные модели могут появиться уже в ближайшее время. Она также не исключила, что аналогичные разработки могут вестись не только западными компаниями, но и другими государствами, в частности Китаем.
Что предшествовало
Напомним, в мае страны "Пяти глаз" обнародовали рекомендации относительно рисков, связанных с автономными системами искусственного интеллекта. А в начале июня компания Anthropic представила новые модели Fable и Mythos, которые получили расширенные возможности для поиска уязвимостей в программном коде.
Кроме того, по данным The Economist, в Сенате США заявили, что одна из новых моделей ИИ смогла за считанные часы получить доступ к большинству защищенных систем американских спецслужб. После этого власти США ввели дополнительные ограничения на доступ иностранцев к новым разработкам Anthropic.
РБК-Украина также писало, что искусственный интеллект нового поколения демонстрирует первые признаки вероятного выхода из-под контроля человека - американская компания Anthropic выступила с инициативой объявить временную паузу в создании самых мощных LLM.
