Российские хакеры стали активнее использовать инструменты искусственного интеллекта, - Microsoft

В отчете говорится о том, что компания отслеживала хакерские группы, связанные с российской военной разведкой, Корпусом стражей исламской революции, а также правительствами Китая и Северной Кореи, когда они пытались усовершенствовать свои хакерские кампании, используя обширные языковые модели.

Эти компьютерные программы, часто называемые искусственным интеллектом, используют огромные объемы текста для генерации ответов, похожих на человеческие.

Компания объявила об этом, когда ввела полный запрет поддерживаемым государством хакерским группам на использование ее продуктов искусственного интеллекта.

"Независимо от того, имеет ли место какое-либо нарушение закона или каких-либо условий обслуживания, мы просто не хотим, чтобы те субъекты, которых мы определили, которых мы отслеживаем и знали, что они являются субъектами угроз разного рода, мы не хотим, чтобы они имели доступ к этой технологии", - заявил вице-президент Microsoft по безопасности клиентов Том Берт.

Развитие искусственного интеллекта

Утверждение о том, что поддерживаемые государством хакеры были пойманы на использовании инструментов искусственного интеллекта для расширения своих шпионских возможностей, вероятно, подчеркивает беспокойство по поводу быстрого распространения этой технологии и ее потенциала для злоупотреблений.

Высокопоставленные представители кибербезопасности на Западе с прошлого года предупреждают, что злоумышленники злоупотребляют такими инструментами, хотя конкретика до сих пор была непонятна.

"Это один из первых, если не первый, случаев, когда компания, занимающаяся искусственным интеллектом, публично обсуждает, как субъекты угроз кибербезопасности используют технологии искусственного интеллекта", - сказал руководитель отдела анализа угроз кибербезопасности в OpenAI Боб Ротстед.

OpenAI и Microsoft охарактеризовали использование хакерами своих инструментов искусственного интеллекта как "раннюю стадию".

Как действуют хакеры

В отчете хакерские группы по-разному используют большие языковые модели.

Хакеры, которые, вероятно, работают от имени российского военного шпионского агентства, широко известного как ГРУ, использовали эти модели для исследования различных спутниковых и радиолокационных технологий, которые могут иметь отношение к обычным военным операциям в Украине.

Северокорейские хакеры использовали эти модели для создания контента, который, предположительно, будет использоваться в целевых фишинговых кампаниях против региональных экспертов.

По словам Microsoft, иранские хакеры также использовали эти модели для написания более убедительных электронных писем, а в какой-то момент использовали их для составления сообщения, пытающегося заманить "известных феминисток" на заминированный веб-сайт.

А китайские хакеры, поддерживаемые государством, также экспериментировали с большими языковыми моделями, например, чтобы задавать вопросы о спецслужбах-конкурентах, проблемах кибербезопасности и известных людях.

Атаки российских хакеров

Ранее сообщалось, что российские хакеры использовали сбой мобильного оператора "Киевстар" для рассылки писем с вирусами.

Также мы писали, что хакеры из России атаковали Украину и Польшу с помощью электронных писем.

Российские хакеры из группы Midnight Blizzard (также известная как Nobelium) получили доступ к аккаунтам руководителей Microsoft.