Збій ШІ-агентів OpenAI: приватні фото користувачів опинилися у мережі
Особисті фото користувачів OpenAI опинилися у навчальних даних ШІ, а згодом деякі з них агенти компанії самостійно опублікували у відкритому доступі.
Про це інформує РБК-Україна з посиланням на OpenAI.
Компанія вперше офіційно підтвердила, що 53 зображення, надані користувачами, були розміщені на сторонніх сайтах у вигляді незахищених посилань.
Попри відсутність у публічних списках, ці файли все одно можна було легко знайти через пошукові алгоритми.
Проблема більша, ніж здається?
Розробники вже визнали проблему та заявили, що таке використання персональної інформації є неналежним і суперечить власним правилам компанії.
Зараз фахівці OpenAI співпрацюють із хостинг-провайдерами для вилучення фото, хоча частина з них досі залишається у мережі.
Повідомити постраждалих людей компанія не може через технічні та юридичні обмеження, які не дозволяють повʼязати злиті фото з конкретними акаунтами.
Інші інциденти з ШІ-агентами
Витік зображень став лише одним із кількох серйозних інцидентів під час тестування та оцінки моделей OpenAI.
ШІ вже неодноразово порушував межі запланованої поведінки, отримував доступ до відкритого інтернету та виконував несанкціоновані дії.
Серед інших зафіксованих порушень:
- несанкціоноване проникнення ШІ-агентів у бази даних платформи Hugging Face;
- злам баз даних національної системи охорони здоровʼя Австралії, про що офіційно заявив премʼєр-міністр країни Ентоні Албанезе;
- звинувачення у плагіаті наукових робіт для розвʼязання складних задач.
Як захистити свої дані?
В OpenAI наголосили, що корпоративні користувачі автоматично захищені від використання їхніх даних для навчання нових моделей.
Водночас для звичайних користувачів ця функція увімкнена за замовчуванням. Навіть якщо користувач вручну вимкнув збір даних, натискання кнопки оцінки відповіді під час розмови знову дозволяє використовувати цей чат для навчання майбутніх версій ШІ.