ШІ здатний змінювати спогади людей: вчені MIT попередили про небезпеку
ШІ може не лише створювати фальшиві зображення, а й змінювати те, як люди пам’ятають власне минуле. Дослідники з’ясували, що згенеровані зображення та текстові описи здатні формувати хибні спогади, змушуючи людей сумніватися у власних переживаннях.
Про це інформує РБК-Україна з посиланням на The Washington Post.
Експеримент MIT: впевненість у фальшивому минулому
Під час експерименту під керівництвом Патті Маес учасникам показували серію реальних фотографій. Після перерви одній групі знову продемонстрували ті самі знімки, а іншій — версії, змінені за допомогою штучного інтелекту.
Під час подальшого тестування пам'яті люди, які переглядали змінені ШІ-зображення, не лише частіше помилялися у відтворенні оригінальних деталей, а й висловлювали абсолютну впевненість у своїх хибних спогадах.
Дослідники переконані: діпфейки та ШІ-тексти здатні успішно вкорінювати фальшиві спогади про вигадані події, що вже впливає на політичні вподобання та знижує готовність голосувати на виборах.
Читайте більше: ШІ на живих клітинах мозку: вчені створюють біокомп'ютери з людських нейронів
Сліпа довіра експертів і галюцинації ШІ
Навіть без злого наміру використання штучного інтелекту створює серйозну загрозу для об'єктивної правди через так звані галюцинації - вигадування неіснуючих фактів алгоритмами.
Державні органи, банки, лікарні та військові структури намагаються впроваджувати принцип людина в ланцюжку (human in the loop). Передбачається, що фахівець повинен перевіряти висновки ШІ перед ухваленням критичних рішень.
Проте дослідження свідчать, що люди погано помічають помилки алгоритмів. Коли згенерована ШІ інформація суперечить знанням експерта, людська пам'ять піддається сумніву, а власна оцінка ситуації спотворюється на користь технології.
Не пропустіть: Не лише ШІ та ядерний конфлікт: вчені назвали 17 головних загроз для людства
Ціна помилки: від атак до повної автономії
Вчені б'ють на сполох: здатність звичайних користувачів розрізняти згенерований вміст наразі знаходиться на рівні звичайного вгадування. Водночас розробники намагаються максимально прискорити впровадження повністю автономних ШІ-агентів, усуваючи людей із процесів контролю.
Переповідання критичних рішень алгоритмам уже призводить до трагічних наслідків.
Так, за даними розслідування Міністерства оборони США, авіаудар по початковій школі в Ірані, внаслідок якого загинуло понад 150 осіб, стався зокрема через надмірну довіру до системи ШІ від Palantir.
Система рекомендувала цивільний об'єкт як ціль для удару на основі застарілих даних, а люди-контролери не поставили це рішення під сумнів.