ИИ способен менять воспоминания людей: ученые MIT предупредили об опасности
ИИ заставляет людей верить в фейковые факты (изображение: РБК-Украина)
ИИ может не только создавать фальшивые изображения, но и изменять то, как люди помнят собственное прошлое. Исследователи выяснили, что сгенерированные изображения и текстовые описания способны формировать ложные воспоминания, заставляя людей сомневаться в своих переживаниях.
Об этом информирует РБК-Украина со ссылкой на The Washington Post.
Эксперимент MIT: уверенность в фальшивом прошлом
В ходе эксперимента под руководством Патти Маэса участникам показывали серию реальных фотографий. После перерыва одной группе снова продемонстрировали те же снимки, а другой - версии, измененные с помощью искусственного интеллекта.
Во время дальнейшего тестирования памяти люди, просматривавшие измененные ИИ-изображения, не только чаще ошибались в воспроизведении оригинальных деталей, но и выражали абсолютную уверенность в своих ложных воспоминаниях.
Исследователи убеждены: дипфейки и ИИ-тексты способны успешно укоренять фальшивые воспоминания о придуманных событиях, что уже влияет на политические предпочтения и снижает готовность голосовать на выборах.
Читайте больше: ИИ на живых клетках мозга: ученые создают биокомпьютеры из человеческих нейронов
Слепое доверие экспертов и галлюцинации ИИ
Даже без злого умысла использование искусственного интеллекта создает серьезную угрозу для объективной правды из - за так называемых галлюцинаций - сочинений несуществующих фактов алгоритмами.
Государственные органы, банки, больницы и военные структуры пытаются внедрять принцип человека в цепочке (human in the loop). Предполагается, что специалист должен проверять выводы ИИ перед принятием критических решений.
Однако исследования свидетельствуют о том, что люди плохо замечают ошибки алгоритмов.
Когда сгенерированная ИИ информация противоречит знаниям эксперта, человеческая память подвергается сомнению, а собственная оценка ситуации искажается в пользу технологии.
Не пропустите: Не только ИИ и ядерный конфликт: ученые назвали 17 главных угроз человечеству
Цена ошибки: от атак к полной автономии
Ученые бьют тревогу: способность обычных пользователей различать сгенерированное содержимое сейчас находится на уровне обычного угадывания. В то же время, разработчики пытаются максимально ускорить внедрение полностью автономных ИИ-агентов, устраняя людей из процессов контроля .
Пересказ критических решений алгоритмам уже приводит к трагическим последствиям.
Так, по данным расследования Министерства обороны США, авиаудар по начальной школе в Иране, в результате которого погибли более 150 человек, произошел в частности из-за чрезмерного доверия к системе ИИ от Palantir.
Система рекомендовала гражданский объект как цель для удара на основе устаревших данных, а люди-контролеры не поставили это решение под сомнение.
