Российский след в ChatGPT: OpenAI раскрыла масштабную ботоферму
OpenAI обнаружила и заблокировала группу аккаунтов ChatGPT из России, которые использовали для продвижения псевдоаналитического института из Израиля и распространения кремлевских нарративов.
Об этом пишет РБК-Украина со ссылкой на отчет OpenAI.
Как работала преступная сеть?
Операторы из России использовали ChatGPT через VPN, давая промпты на русском языке.
Они приказывали нейросети генерировать комментарии на английском и немецком языках, скрывая любые лингвистические следы российского происхождения.
Сгенерированный контент размещали в X, LinkedIn, Facebook, Substack и Telegram. Основной целью этих публикаций было продвижение веб-сайта International Burke Institute (IBI).
Кроме этого, операторы использовали ИИ для:
- Написание комментариев под постами реальных пользователей Substack с призывом подписываться на IBI.
- Создание постов на немецком языке для Telegram-канала Lahme Ente критикой правительства ФРГ, ЕС и Украины.
- Генерация логотипов и профилей для десятков Telegram-каналов, ориентированных на аудиторию в США, Франции, Польше и Турции.
Фейковый "институт" и украденные статьи
Ядром сделки стал сайт IBI, зарегистрированный в феврале 2025 года с указанным адресом в Израиле. На платформе отмечалось, что с ними сотрудничают ведущие мировые ученые, в частности, Ноам Хомский и Фрэнсис Фукуяма.
Однако проверка выявила масштабный подлог.
Какую именно?
Плагиат: 34 из 36 проанализированных статей были полностью скопированы из реальных научных источников (например, Cambridge University Press, Migration Policy Institute).
Фейковое авторство: работы приписывали посторонним ученым. В одном из случаев статью о миграции подписали именем австралийского профессора пищевой химии.
Машинный перевод: тексты содержали неестественные фразы. Например, немецкую "коалицию светофора" в английском тексте перевели как "Svetofor coalition", что свидетельствует об использовании буквального перевода с русского.
Главным инструментом продвижения манипуляций стал вымышленный "индекс суверенитета". В этих отчетах россияне хвалили автономию РФ, в то же время жестко критиковали Францию, США, Германию и ЕС.
Оценка влияния кампании
По оценке OpenAI, непосредственный охват публикаций в соцсетях оказался низким. Однако созданные Telegram-каналы привлекли от 10 до 20 тысяч подписчиков каждый.
По шкале Brookings Breakout Scale операция получила категорию 3 (проникновение на несколько платформ с единичными выходами на реальную аудиторию).
В OpenAI отметили, что эта операция демонстрирует новый тренд: использование ИИ не только для генерации фейков, но и создания фальшивого авторитета и имитации легитимных аналитических институтов.