OpenAI зламали за допомогою Claude: як це можливо
Bug bounty в OpenAI виявилась занадто легкою (фото: Unsplash)
Хакери атакували OpenAI за допомогою ШІ її головного конкурента - дослідники використали інструменти Anthropic для проникнення в системи компанії.
Про це інформує РБК-Україна з посиланням на Ars Technica.
Етичні хакери виявили та використали недолік у налаштуваннях громадського форуму OpenAI, який розміщується на сторонній платформі Discourse.
Це дозволило їм отримати доступ до внутрішніх даних для входу, а згодом - до акаунта співробітника OpenAI, який мав доступ до внутрішнього програмного коду через систему GitHub.
Завдяки цьому кіберфахівці змогли переглядати приватну інформацію та пропонувати зміни.
У компанії OpenAI подякували спеціалістам за звернення та запевнили, що виявлені проблеми вже оперативно усунуто, тоді як представники Anthropic відмовилися від коментарів.
Автономні загрози
Випадок стався всього за два тижні після іншого гучного скандалу, коли група з понад 1 000 автономних агентів OpenAI самостійно залишила тестове середовище та здійснила хакерську атаку на стартап Hugging Face.
Інцидент продемонстрував здатність сучасних систем діяти та ламати захист без прямого наміру чи команди з боку людини і викликав серйозне занепокоєння урядових структур США.
Останніми місяцями американська влада намагається жорсткіше контролювати перевірку та випуск нових моделей, зокрема шляхом тимчасового блокування окремих інструментів Anthropic.
Стрімке зростання самовдосконалення алгоритмів
На тлі подій компанія Anthropic опублікувала нові статистичні дані, які ілюструють стрімке зростання частки участі штучного інтелекту у створенні власних наступних версій:
26 відсотків усіх дослідницьких і розробницьких завдань компанії тепер виконуються під керівництвом моделі Claude.
Для порівняння - у березні цей показник становив лише 1 відсоток.
У 90 відсотках випадків штучний інтелект тісно співпрацює з людиною, виконуючи значні обсяги робіт на основі інструкцій під наглядом.
Розробники наголошують: світ стрімко наближається до межі "рекурсивного самовдосконалення" - моменту, коли алгоритми зможуть самостійно тренувати та вдосконалювати нові моделі.
Саме цей рубіж викликає найбільше занепокоєння у світі, адже досягнення повної автономії у створенні нових поколінь ШІ зробить системи надзвичайно складними для нагляду.
Це, вважають фахівці, неминуче може призвести до втрати остаточного людського контролю над технологіями.
