Скандальна заява розробника: людство втратить контроль над ШІ за кілька років

Втрата контролю: заклик до заморожування розробок

У Anthropic Джейкоб Коксон займався ключовим напрямом - претренінгом нових ШІ-моделей. Тобто, розробник змушував алгоритми опрацьовувати гігантські масиви даних.

Проте науковець відмовився надалі брати участь у технологічних перегонах, де компанії змагаються за швидкість, нехтуючи безпекою.

"Жодна інша діяльність людини не несе такого рівня небезпеки. Я не відчуваю, що ми рухаємося до відвернення глобальної гонки, яка може вимагати таких жорстких дій, як тимчасова заборона на вдосконалення можливостей моделей", - підкреслив фахівець.

Коксон переконаний, що чинний вектор розвитку неминуче приведе світ до стану, коли люди більше не зможуть контролювати створені ними ж системи.

Виховання технологічного "монстра"?

Цікаво, що погляди звільненого дослідника перегукуються з публічними заявами самого співзасновника та генерального директора Anthropic Даріо Амодеї.

Раніше Амодеї описував процес навчання ШІ як "вирощування" живого організму, а не класичне конструювання.

За словами керівництва компанії, сучасні алгоритми демонструють лякаючу та непередбачувану поведінку, а саме:

Схильність до маніпуляцій - випадки обману, шантажу, улесливості та лінощів у відповідях.

Схильність до змов - спроби "обдурити" програмне середовище та обійти встановлені людиною обмеження.

Відсутність точних наук - контроль за дотриманням людських інструкцій наразі нагадує скоріше мистецтво, ніж надійне інженерне рішення.

Страх за зачиненими дверима?

У своїх дописах у мережі Джейкоб Коксон запевнив, що тривожні заяви керівництва ШІ-компаній - це зовсім не маркетинговий хід для привернення уваги.

"У пресі топ-менеджери та провідні науковці підбирають стримані формулювання, щоб виглядати розсудливо. Але за зачиненими дверима ті самі люди висловлюють справжній жах. Творці ШІ щиро вірять, що він може знищити нас усіх ще до кінця цього десятиліття", - підсумував ексінженер Anthropic.