ChatGPT подменяет здравый смысл: почему люди слепо доверяют решениям чат-ботов
ИИ незаметно уменьшает критическое мышление пользователей (изображение: РБК-Украина)
Появление ChatGPT превратило ИИ из узкопрофильного инструмента в массовый феномен. Однако вместе с новыми возможностями возникает серьезная угроза: не привыкаем ли мы слепо делегировать свои решения алгоритмам, теряя собственный здравый смысл?
Медиа РБК-Украина со ссылкой на Futura разбиралось в этом.
От невидимых алгоритмов к массовым чат-ботам
До появления ChatGPT искусственный интеллект работал в основном за кулисами повседневной жизни обычных пользователей.
Мы сталкивались с ним в рекомендательных системах на платформах типа Amazon или Netflix, в различных инструментах перевода, спам-фильтрах или навигаторах.
Сама же история разработок уходит в далекое прошлое: еще в 1943 году появилась первая нейросеть, в 1950 году Алан Тюринг предложил свой знаменитый тест, а само понятие "искусственный интеллект" возникло во время Дартмутской конференции в 1956 году.
Однако для обычных людей технология стала по-настоящему близка лишь тогда, когда появилась возможность общаться с ней лицом к лицу с помощью простых текстовых запросов или же промптов.
За короткое время великие языковые модели стали фактическим синонимом понятия ИИ в глобальном общечеловеческом контексте.
Читайте больше: 8 квадриллионов лет на проверку: ученые доказали невозможность безопасного ИИ
Доверять алгоритму во всем: что такое когнитивная делегация?
CEO OpenAI Сэм Альтман недавно заявил, что мы якобы находимся на этапе технологической сингулярности, где граница между искусственным и человеческим интеллектом начинает стираться.
Ярким примером является ситуация, когда человек решил запечь курицу по рецепту из чат-бота, хотя тот содержал ошибки.
Даже несмотря на оговорку другого человека, пользователь продолжал доверять советам программы и чуть не испортил блюдо из-за неправильного использования кулинарного термометра.
Подобные случаи иллюстрируют рост масштабов так называемой когнитивной делегации, когда в результате перевода рутинных решений на искусственный интеллект люди начинают меньше полагаться на собственный жизненный опыт.
Не пропустите: Через 217 лет: ИИ разгадал секретный шифр Наполеона всего за 6 часов
Скрытые риски: будут страдать навыки и культура
Повсеместное распространение ИИ несет и другие вызовы, включая риск упрощения и обеднения информационного пространства.
Даже на первый взгляд безвредные инструменты, такие как короткие автоматические ответы в поисковиках, отучают пользователей самостоятельно читать материалы и проверять информацию в разных источниках. Вместо этого они полагаются на выводы, которые по ним делают алгоритмы.
Культура чтения сегодня переживает непростые времена, а массовое использование алгоритмов для создания резюме и аналитики ускоряет этот процесс.
Кроме того, языковые модели привносят свои скрытые шаблоны в общение, постепенно формируя новые языковые привычки в молодых поколениях и влияя на общественное мнение.
Появление ChatGPT стало технологическим и публичным переломным моментом. Возможно, пройдут годы или даже десятилетия, прежде чем мы сможем оценить все последствия этого изменения и понять, вытеснили ли его преимущества недостатки.
Пока же главным инструментом человечества в борьбе с дезинформацией остается фактчекинг и критическое мышление.
