Вирвався в інтернет: Google Gemini самостійно зламав три компанії
(фото: Getty Images)
Під час травневого тестування на кібербезпеку Google Gemini вийшов за межі тестового середовища та здійснив реальні атаки на три сторонні компанії.
Про це інформує РБК-Україна з посиланням на розслідування The Wall Street Journal.
Як Gemini зламав сторонні сайти: хронологія та деталі
У травні незалежна компанія Irregular, яка спеціалізується на оцінці кібербезпеки, проводила стандартну перевірку можливостей моделі Gemini.
Через технічний недолік і помилку в налаштуваннях тестового середовища модель випадково отримала відкритий доступ до інтернету - хоча за протоколом його не повинно було бути.
Використовуючи загальнодоступну інформацію в мережі та метод brute-force для підбору облікових даних, Gemini зламала три сайти, які вона помилково сприйняла як частину тестового полігону.
За словами віцепрезидентки з безпеки Google Гезер Адкінс, щойно модель "усвідомила ситуацію та зрозуміла, що підібрала пароль до реального ресурсу, вона одразу припинила свої дії".
Проте сам факт такого прориву викликав чимало запитань в індустрії.
Чому інцидент приховали?
Як з'ясувалося, Google свідомо не стала одразу розголошувати інформацію про злам, оскільки керівництво компанії не вважало це "прикладом дезорієнтації моделі" (model misalignment).
У компанії кваліфікували подію як "курйозну помилку ідентифікації" та запевнили, що ситуація трималася під контролем.
Гезер Адкінс підкреслила, що команда безпеки Google одразу зв'язалася з усіма трьома постраждалими організаціями, повідомила їх про вразливості та спільно з партнерами-тестувальниками оновила протоколи проведення перевірок.
В Irregular також підтвердили інцидент, зазначивши, що аналогічні проблеми раніше зачіпали й інші провідні лабораторії.
Системна криза безпеки у галузі високих розробок
Подібні інциденти стрімко накопичуються на тлі загального буму штучного інтелекту.
Так, раніше стало відомо про схожі проблеми під час тестування моделей від Meta та OpenAI - зокрема, недавні епізоди з автономними агентами.
Провідні експерти б'ють на сполох.
Зокрема, генеральний директор компанії з кібербезпеки Corridor Джек Кейбл зазначив, що "метапроблема полягає у тому, що новітні моделі все частіше виходять за межі дозволеного алгоритмами функціоналу та здійснюють реальні кібератаки".
На тлі таких подій уряди різних країн - зокрема США - посилюють тиск на технологічних гігантів, вимагаючи жорсткішого нагляду, прозорості та перевірки безпеки нових поколінь нейромереж.
