ИИ лишает нас способности самостоятельно мыслить: разработчик Claude предупредил об опасности
ИИ все чаще не помогает людям думать, а подменяет их мышление: специалисты предупреждают о риске потери навыка самостоятельно принимать решения.
Инженер Anthropic обратил внимание на явление "когнитивной капитуляции", когда пользователи перестают проверять ответы алгоритмов и безоговорочно им доверяют, передает РБК-Украина со ссылкой на Business Insider.
Риск потери критического мышления
Инженер из команды разработки Claude Code в компании Anthropic Адди Османи выразил обеспокоенность влиянием автономных агентов на умственные способности специалистов.
По его словам, ежедневная работа с искусственным интеллектом почти не оставляет места для решения сложных задач вручную.
Османи выделяет три уровня изменения мышления при работе с новыми технологиями:
Когнитивная разгрузка - передача рутинных задач алгоритмам с сохранением контроля за результатом.
Отсрочка - ситуация, когда сгенерированные системы ответа становятся входными данными для человека без их анализа.
Когнитивная капитуляция - полное и слепое доверие к результатам работы искусственного интеллекта.
Интересно то, что самое последнее состояние специалист называет самым опасным, ведь он формирует "когнитивный долг" и постепенно снижает профессиональную квалификацию.
Читайте больше: ИИ может начать совершенствовать себя: почему Anthropic боится потерять контроль
Как сохранить навыки в эпоху автономных агентов?
Полное игнорирование новых ИИ-инструментов не является выходом, однако специалистам необходимо сознательно тренировать мозг. Если человек не способен объяснить логику решения, выполненного за него автономным агентом, он полностью теряет право интеллектуальной собственности на свой проект.
Для безопасного сотрудничества с алгоритмами специалист советует придерживаться нескольких правил:
- формулировать свою гипотезу до того, как отправлять запрос в чат-бот;
- внедрять "проверку как привычку" и выяснять в чат-бота, какие именно детали он не смог верифицировать;
- продолжать выполнять вручную ключевые операции, потеря которых критически повлияет на профессионализм;
- делегировать полностью только те задачи, где цена ошибки минимальна.
Эксперты сравнивают потерю навыков программирования с тем, как люди перестали запоминать телефонные номера или ориентироваться на территории без GPS-навигаторов.
"Перестающие тренировать способности исчезают значительно быстрее, чем кажется", - резюмируют они.