ChatGPT знає, як створити біологічну зброю? Експерти дали відповідь
Користувачі перевіряли ChatGPT на запити про отрути та біозброю. Тестування показало, що в окремих випадках чат-бот надавав надто деталізовані відповіді.
Про це пише РБК-Україна з посиланням на матеріал The Wall Street Journal.
Реальні запити замість тестів: оцінка експертів
За даними компанії OpenAI, виявлені запити виявилися реальними спробами зловмисників отримати шкідливу інформацію, а не внутрішніми тестами системи на вразливості. Більша частина з них стосувалася виготовлення саме отруйних речовин.
Після виявлення таке листування передали науковцям та фахівцям з питань біологічного тероризму.
Після ретельного аналізу дослідники констатували:
- окремі відповіді чат-бота були надзвичайно точними;
- інформація викладалася у доступній формі на базовому рівні розуміння;
- сервіс подавав інструкції у терплячій та розважливій формі.
Усіх користувачів, які надсилали подібні небезпечні запити, повністю заблокували.
Реакція розробників та нові ризики для безпеки
Представники компанії OpenAI заявили, що їхні алгоритми розроблені для відхилення шкідливих запитів, а кожна нова версія проходить багаторівневу оцінку безпеки.
У компанії наголосили, що розробники здатні оперативно виявляти загрози, а у разі реальної небезпеки дані порушників одразу передаються правоохоронцям.
Експерти застерігають: стрімкий розвиток технологій і поява нецензурованих моделей створюють додаткові ризики. Зловмисники можуть використовувати спеціальні методи для зняття обмежень із моделей , а це відкриває доступ до небезпечних даних.
Саме тому фахівці продовжують удосконалювати не лише самі нейромережі, але й засоби захисту від подібних уразливостей.