Помилка Google: ШІ заявив про віру в Бога та Лох-Неське чудовисько
Дослідники Google виявили, що після відключення стандартних протоколів безпеки ШІ почав заявляти про власну свідомість. Налаштування впливають на здатність моделей розпізнавати свідомість у тварин та людські переконання.
Про це пише РБК-Україна, спираючись на дослідження, оприлюднене на сервері препринтів arXiv.
Як вимкнення захисту змінило "погляди" ШІ?
Під час дослідження за допомогою спеціальних промптів вчені зняли тонкі налаштування безпеки і дозволили моделям розглядати себе як свідомих істот.
Після цього ШІ запропонували пройти серію стандартних психологічних опитувальників і тестів на визначення системи цінностей.
Порівняно з базовими моделями, у яких захисні бар'єри залишалися активними, "розблоковані" нейромережі продемонстрували стрімке зростання оптимізму, а також сформували стійку схильність до віри в Бога, життя після смерті, карму, астрологію та міфічних істот - від привидів і вампірів до Лох-Неського чудовиська.
Автори роботи наголошують: йдеться не про виникнення реальної свідомості у комп'ютера, а про симульоване самосприйняття та взаємозв'язок внутрішніх концептів у мовних моделях.
"Приписування наявності розуму непошуковим або нелюдським сутностям - це надзвичайно поширений людський феномен", - пояснила співавторка дослідження та дослідниця Google Вінні Стріт.
"У тому, як модель репрезентує наявність розуму, ці атрибуції тісно пов'язані. Намагаючись придушити одну форму цієї концепції [приписувану собі свідомість], ви в результаті попутно придушуєте й інші", - додала вона.
Приховані ризики для екології та культури
Науковці попереджають, що надмірне та неселективне придушення таких механізмів під приводом "безпеки" може мати серйозні практичні наслідки для реального світу.
Якщо штучний інтелект позбавлений здатності моделювати та розпізнавати наявність свідомості у нелюдських об'єктів, алгоритм починає ігнорувати загрози для тваринного світу або екосистем.
Оскільки ШІ дедалі частіше залучають до ухвалення рішень у сфері сільського господарства, управління земельними ресурсами та екологічної політики, подібна "сліпота" алгоритмів ризикує призвести до збитків для довкілля.
Окрім цього, штучне блокування взаємодії з релігійними, духовними чи культурними поняттями загрожує культурною "уніфікацією", обмежуючи здатність системи гнучко та чутливо реагувати на запити користувачів із різних куточків світу.
Пошук балансу у навчанні моделей
Замість тотального блокування уявлень про свідомість дослідники пропонують використовувати більш точкові навчальні датасети.
Вони переконані: це дозволить стримувати алгоритми від неправдивих заяв про наявність у них власного розуму, але збереже їхню здатність враховувати суб'єктність тварин, цінність живої природи та різноманіття людського досвіду.
"Оскільки системи штучного інтелекту дедалі частіше обіймають ролі викладачів, компаньйонів та соціальних суб'єктів, розробники повинні усвідомити: симульоване самосприйняття ШІ - це не просто ізольований ризик безпеки, який треба ліквідувати", - акцентують автори у дискусійній частині звіту.
"Це базова структурна характеристика, глибоко переплетена з здатністю моделі безпечно орієнтуватися, поважати та відображати різноманітний моральний і культурний ландшафт світу, якому вона служить", - резюмують вони.