ШІ краде здатність думати самостійно: розробник Claude попередив про небезпеку

Ризик втрати критичного мислення

Інженер з команди розробки Claude Code в компанії Anthropic Адді Османі висловив занепокоєння щодо впливу автономних агентів на розумові здібності фахівців.

За його словами, щоденна робота з штучним інтелектом майже не залишає місця для вирішення складних завдань вручну.

Османі виділяє три рівні зміни мислення під час роботи з новими технологіями:

Когнітивне розвантаження - передача рутинних завдань алгоритмам із збереженням контролю за результатом.

Відтермінування - ситуація, коли згенеровані системи відповіді стають вхідними даними для людини без їхнього аналізу.

Когнітивна капітуляція - повна і сліпа довіра до результатів роботи штучного інтелекту.

Цікаво те, що саме останній стан фахівець називає найнебезпечнішим, адже він формує "когнітивний борг" і поступово знижує професійну кваліфікацію.

Читайте більше: ШІ може почати вдосконалювати сам себе: чому Anthropic боїться втратити контроль

Як зберегти навички в епоху автономних агентів?

Повне ігнорування нових ШІ-інструментів не є виходом, проте фахівцям необхідно свідомо тренувати мозок. Якщо людина не здатна пояснити логіку рішення, яке за неї виконав автономний агент, вона повністю втрачає право інтелектуальної власності на свій проєкт.

Для безпечної співпраці з алгоритмами фахівець радить дотримуватися декількох правил:

• формулювати власну гіпотезу до того, як надсилати запит у чат-бот;
• впроваджувати "перевірку як звичку" та з'ясовувати у чат-бота, які саме деталі він не зміг верифікувати;
• продовжувати виконувати вручну ті ключові операції, втрата яких критично вплине на професіоналізм;
• делегувати повністю лише ті завдання, де ціна помилки мінімальна.

Експерти порівнюють втрату навичок програмування з тим, як люди перестали запам'ятовувати телефонні номери або орієнтуватися на місцевості без GPS-навігаторів.

"Здібності, які перестають тренувати, зникають значно швидше, ніж здається", - резюмують вони.