ШІ краде здатність думати самостійно: розробник Claude попередив про небезпеку
Повна довіра до ШІ шкодить мозку (зображення: РБК-Україна)
ШІ дедалі частіше не допомагає людям думати, а підміняє їхнє мислення: фахівці попереджають про ризик втрати навички самостійно ухвалювати рішення.
Інженер Anthropic звернув увагу на явище "когнітивної капітуляції", коли користувачі перестають перевіряти відповіді алгоритмів і беззастережно їм довіряють, інформує РБК-Україна з посиланням на Business Insider.
Ризик втрати критичного мислення
Інженер з команди розробки Claude Code в компанії Anthropic Адді Османі висловив занепокоєння щодо впливу автономних агентів на розумові здібності фахівців.
За його словами, щоденна робота з штучним інтелектом майже не залишає місця для вирішення складних завдань вручну.
Османі виділяє три рівні зміни мислення під час роботи з новими технологіями:
Когнітивне розвантаження - передача рутинних завдань алгоритмам із збереженням контролю за результатом.
Відтермінування - ситуація, коли згенеровані системи відповіді стають вхідними даними для людини без їхнього аналізу.
Когнітивна капітуляція - повна і сліпа довіра до результатів роботи штучного інтелекту.
Цікаво те, що саме останній стан фахівець називає найнебезпечнішим, адже він формує "когнітивний борг" і поступово знижує професійну кваліфікацію.
Читайте більше: ШІ може почати вдосконалювати сам себе: чому Anthropic боїться втратити контроль
Як зберегти навички в епоху автономних агентів?
Повне ігнорування нових ШІ-інструментів не є виходом, проте фахівцям необхідно свідомо тренувати мозок. Якщо людина не здатна пояснити логіку рішення, яке за неї виконав автономний агент, вона повністю втрачає право інтелектуальної власності на свій проєкт.
Для безпечної співпраці з алгоритмами фахівець радить дотримуватися декількох правил:
- формулювати власну гіпотезу до того, як надсилати запит у чат-бот;
- впроваджувати "перевірку як звичку" та з'ясовувати у чат-бота, які саме деталі він не зміг верифікувати;
- продовжувати виконувати вручну ті ключові операції, втрата яких критично вплине на професіоналізм;
- делегувати повністю лише ті завдання, де ціна помилки мінімальна.
Експерти порівнюють втрату навичок програмування з тим, як люди перестали запам'ятовувати телефонні номери або орієнтуватися на місцевості без GPS-навігаторів.
"Здібності, які перестають тренувати, зникають значно швидше, ніж здається", - резюмують вони.
