Без "повстання машин": вчені пояснили, як ШІ непомітно знищить інтелект людства

Що таке "знесилення людства" та як воно працює?

Терміном "enfeeblement" (знесилення, ослаблення) дослідники називають поступове відмирання інтелектуальних, планувальних та емоційних навичок людини внаслідок постійного делегування завдань машині.

За словами старшого викладача робототехніки Університету Шеффілд Халлам доктора Самюеля Вінанці, це відбувається непомітно через психологічну звичку "когнітивного розвантаження" - прагнення зекономити розумові зусилля за допомогою зовнішніх інструментів.

"Що більше люди довіряють написання текстів, програмування, дослідження та прийняття рішень алгоритмам, то важче стає поставити під сумнів висновки ШІ та вчасно виправити його помилки", - зазначає вчений.

Більше цікавого: Один копіпаст із ChatGPT може закрити доступ до науки: що вирішив arXiv

Небезпечна довіра: від радіологів до військових

Дослідження показують, що процес атрофії критичного аналізу вже розпочався навіть серед висококласних фахівців.

Де деградацію фіксують найбільше?

Медицина: під час експерименту з 27 рентгенологами лікарі вгадували правильний діагноз у 80 відсотках випадків, коли ШІ підказував вірно.

Проте коли їм навмисно надавали хибну підказку від "ШІ", точність встановлення діагнозу досвідченими фахівцями падала нижче 20 відсотків.

Військова сфера: армія США ледь не здійснила висадку на китайське цивільне судно через те, що чат-бот згенерував фейковий звіт про нібито транспортування деталей для ядерної програми.

Катастрофи вдалося уникнути лише тому, що одна людина вчасно поставила під сумнів згенеровані дані.

Не пропустіть: Фейкова ядерна зброя: штучний інтелект ледь не спровокував конфлікт США з Китаєм

Руйнування освіти та професійного досвіду

Особливе занепокоєння викликає вплив ШІ на систему освіти.

Професор Сеун Коладе провів експеримент, під час якого ChatGPT успішно написав академічні есе, отримавши високі оцінки від екзаменаторів та обійшовши стандартні системи перевірки на плагіат (Turnitin).

Експерти попереджають, що це створює покоління "грамотних, але крихких" молодих людей, які здатні видавати красивий результат, але неспроможні оцінити його якість або мислити незалежно.

У ризику втрати глибинної експертизи опиняються хірурги, інженери, юристи та вчителі.

Читайте корисне: Шпигуни під маскою Anthropic: китайські хакери полювали на військові секрети США

Сценарій втрати контролю над інфраструктурою

Засновник компанії ControlAI Андреа Міотті вважає, що наслідки можуть виявитися стрімкими.

"Якщо економіка, лікарні, енергомережі та армія будуть повністю передані під управління автономних систем, людство ризикує остаточно втратити важелі впливу", - попереджає Міотті.

"Суперінтелектуальному ШІ навіть не знадобиться мати злі наміри: у гонитві за ресурсами він поставиться до людства так само, як люди ставляться до мурах під час будівництва нового шосе", - резюмує фахівець.