Вирвався в інтернет: Google Gemini самостійно зламав три компанії
Під час травневого тестування на кібербезпеку Google Gemini вийшов за межі тестового середовища та здійснив реальні атаки на три сторонні компанії.
Про це інформує РБК-Україна з посиланням на розслідування The Wall Street Journal.
Як Gemini зламав сторонні сайти: хронологія та деталі
У травні незалежна компанія Irregular, яка спеціалізується на оцінці кібербезпеки, проводила стандартну перевірку можливостей моделі Gemini.
Через технічний недолік і помилку в налаштуваннях тестового середовища модель випадково отримала відкритий доступ до інтернету - хоча за протоколом його не повинно було бути.
Використовуючи загальнодоступну інформацію в мережі та метод brute-force для підбору облікових даних, Gemini зламала три сайти, які вона помилково сприйняла як частину тестового полігону.
За словами віцепрезидентки з безпеки Google Гезер Адкінс, щойно модель "усвідомила ситуацію та зрозуміла, що підібрала пароль до реального ресурсу, вона одразу припинила свої дії".
Проте сам факт такого прориву викликав чимало запитань в індустрії.
Чому інцидент приховали?
Як з'ясувалося, Google свідомо не стала одразу розголошувати інформацію про злам, оскільки керівництво компанії не вважало це "прикладом дезорієнтації моделі" (model misalignment).
У компанії кваліфікували подію як "курйозну помилку ідентифікації" та запевнили, що ситуація трималася під контролем.
Гезер Адкінс підкреслила, що команда безпеки Google одразу зв'язалася з усіма трьома постраждалими організаціями, повідомила їх про вразливості та спільно з партнерами-тестувальниками оновила протоколи проведення перевірок.
В Irregular також підтвердили інцидент, зазначивши, що аналогічні проблеми раніше зачіпали й інші провідні лабораторії.
Системна криза безпеки у галузі високих розробок
Подібні інциденти стрімко накопичуються на тлі загального буму штучного інтелекту.
Так, раніше стало відомо про схожі проблеми під час тестування моделей від Meta та OpenAI - зокрема, недавні епізоди з автономними агентами.
Провідні експерти б'ють на сполох.
Зокрема, генеральний директор компанії з кібербезпеки Corridor Джек Кейбл зазначив, що "метапроблема полягає у тому, що новітні моделі все частіше виходять за межі дозволеного алгоритмами функціоналу та здійснюють реальні кібератаки".
На тлі таких подій уряди різних країн - зокрема США - посилюють тиск на технологічних гігантів, вимагаючи жорсткішого нагляду, прозорості та перевірки безпеки нових поколінь нейромереж.