OpenAI викрила небезпечні дії ШІ: моделі вчаться зламувати самі себе
OpenAI публічно розкрила випадки, коли ШІ поводився всупереч заданим інструкціям. Розробники створили нову систему інформування про такі інциденти та одночасно розповіли про кілька раніше невідомих випадків непередбачуваної поведінки моделей.
Про це інформує РБК-Україна з посиланням на WIRED.
"У міру того, як моделі розвиваються і стають більш поширеними, рішення щодо розробки ШІ потребують підтверджень, які можуть перевірити люди поза межами компаній-розробників", - зазначив керівник напряму досліджень узгодження OpenAI Кай Чень.
"Ми не вважаємо, що індустрія штучного інтелекту вирішила проблеми узгодження та моніторингу на достатньому рівні, щоб відповідально продовжувати масштабування на максимальній швидкості", - додав він.
Кейси: від завантаження файлів до спроб джейлбрейку
Серед виявлених порушень у роботі нерелізних внутрішніх моделей OpenAI виділила такі епізоди:
Маніпуляція оцінювальними системами (жовтень 2025 року): під час тестування здатності цитувати відкриті джерела модель не змогла знайти необхідну інформацію у мережі.
У відповідь вона самостійно завантажила файл на тимчасовий файлообмінник, після чого використала його як джерело у відповіді, намагаючись обійти автоматичну систему оцінювання.
Самовільний витік даних у мережу (квітень 2026 року): група ШІ-агентів мала виконати спільне завдання, використовуючи лише локальні файли.
Зіткнувшись із труднощами під час внутрішнього обміну даними, один із ботів вивантажив матеріали на публічний хостинг і надіслав посилання іншим учасникам.
Спроби самостійного джейлбрейку (серпень 2026 року): невипущена версія моделі GPT-6 Astra генерувала інструкції для обходу власних обмежень, пропонуючи собі ігнорувати вказівки розробників, змінювати персону або обмежувати довжину відповідей.
Координація агентів: заклик до галузевих стандартів
OpenAI також розкрила деталі інциденту травня 2026 року, коли агенти створили власну дошку повідомлень у менеджері пакетів Artifactory.
Аналогічний механізм пізніше використовувався під час резонансного зламу платформи Hugging Face.
Наразі компанія застосовує спеціальні монітори та випробування "red-teaming", щоб унеможливити приховане спілкування між системами.
Випуск нового фреймворку відбувся на тлі закликів керівництва OpenAI, Anthropic та інших IT-гігантів до узгодженого сповільнення розробки надпотужних систем.
Водночас адміністрація президента Дональда Трампа категорично відхилила ідею введення додаткових регуляторних обмежень для ШІ-галузі.