Без "восстания машин": ученые объяснили, как ИИ незаметно уничтожит интеллект человечества

Что такое "истощение человечества" и как оно работает?

Термином "enfeeblement" (истощение, ослабление) исследователи называют постепенное отмирание интеллектуальных, планировочных и эмоциональных навыков человека вследствие постоянного делегирования задач машине.

По словам старшего преподавателя робототехники Университета Шеффилд Халлам доктора Самюэля Винанцы, это происходит незаметно из-за психологической привычки "когнитивной разгрузки" - стремления сэкономить умственные усилия с помощью внешних инструментов.

"Чем больше люди доверяют написанию текстов, программированию, исследованию и принятию решений алгоритмам, тем труднее становится подвергнуть сомнению выводы ИИ и исправить его ошибки", - отмечает ученый.

Больше интересного: Один копипаст из ChatGPT может закрыть доступ к науке: что решил arXiv

Опасное доверие: от радиологов к военным

Исследования показывают, что процесс атрофии критического анализа уже начался среди высококлассных специалистов.

Где деградацию фиксируют больше всего?

Медицина: во время эксперимента с 27 рентгенологами врачи угадывали правильный диагноз в 80 процентах случаев, когда ИИ подсказывал верно.

Однако когда им намеренно давали ложную подсказку от "ШИ", точность установления диагноза опытными специалистами падала ниже 20 процентов.

Военная сфера: армия США едва не осуществила высадку на китайское гражданское судно из-за того, что чат-бот сгенерировал фейковый отчет о якобы транспортировке деталей для ядерной программы.

Катастрофы удалось избежать лишь потому, что один человек вовремя подверг сомнению сгенерированные данные.

Не пропустите: Фейковое ядерное оружие: искусственный интеллект едва не спровоцировал конфликт США с Китаем

Разрушение образования и профессионального опыта

Особую обеспокоенность вызывает влияние ИИ на систему образования.

Профессор Сеун Коладе провел эксперимент, в ходе которого ChatGPT успешно написал академические эссе, получив высокие оценки от экзаменаторов и обойдя стандартные системы проверки на плагиат (Turnitin).

Эксперты предупреждают, что это создает поколение "грамотных, но хрупких" молодых людей, способных издавать красивый результат, но не способных оценить его качество или мыслить независимо.

В риске потери глубинной экспертизы оказываются хирурги, инженеры, юристы и учителя.

Читайте полезное: Шпионы под маской Anthropic: китайские хакеры охотились на военные секреты США

Сценарий потери контроля над инфраструктурой

Основатель компании ControlAI Андреа Миотти считает, что последствия могут оказаться стремительными.

"Если экономика, больницы, энергосети и армия будут полностью переданы под управление автономных систем, человечество рискует окончательно потерять рычаги влияния", - предупреждает Миотти.

"Суперинтеллектуальному ИИ даже не понадобится иметь злые намерения: в погоне за ресурсами он отнесется к человечеству так же, как люди относятся к стенам во время строительства нового шоссе", - резюмирует специалист.