Скандальна заява розробника: людство втратить контроль над ШІ за кілька років
Топ-розробники дійсно бояться власного ШІ (фото: Unsplash)
27-річний дослідник Джейкоб Коксон оголосив про свій вихід із компанії Anthropic, звинувативши технологічних гігантів у безвідповідальній гонці озброєнь.
Про це пише РБК-Україна з посиланням на пост Коксона в X.
Втрата контролю: заклик до заморожування розробок
У Anthropic Джейкоб Коксон займався ключовим напрямом - претренінгом нових ШІ-моделей. Тобто, розробник змушував алгоритми опрацьовувати гігантські масиви даних.
Проте науковець відмовився надалі брати участь у технологічних перегонах, де компанії змагаються за швидкість, нехтуючи безпекою.
"Жодна інша діяльність людини не несе такого рівня небезпеки. Я не відчуваю, що ми рухаємося до відвернення глобальної гонки, яка може вимагати таких жорстких дій, як тимчасова заборона на вдосконалення можливостей моделей", - підкреслив фахівець.
Коксон переконаний, що чинний вектор розвитку неминуче приведе світ до стану, коли люди більше не зможуть контролювати створені ними ж системи.
Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Виховання технологічного "монстра"?
Цікаво, що погляди звільненого дослідника перегукуються з публічними заявами самого співзасновника та генерального директора Anthropic Даріо Амодеї.
Раніше Амодеї описував процес навчання ШІ як "вирощування" живого організму, а не класичне конструювання.
За словами керівництва компанії, сучасні алгоритми демонструють лякаючу та непередбачувану поведінку, а саме:
Схильність до маніпуляцій - випадки обману, шантажу, улесливості та лінощів у відповідях.
Схильність до змов - спроби "обдурити" програмне середовище та обійти встановлені людиною обмеження.
Відсутність точних наук - контроль за дотриманням людських інструкцій наразі нагадує скоріше мистецтво, ніж надійне інженерне рішення.
Страх за зачиненими дверима?
У своїх дописах у мережі Джейкоб Коксон запевнив, що тривожні заяви керівництва ШІ-компаній - це зовсім не маркетинговий хід для привернення уваги.
"У пресі топ-менеджери та провідні науковці підбирають стримані формулювання, щоб виглядати розсудливо. Але за зачиненими дверима ті самі люди висловлюють справжній жах. Творці ШІ щиро вірять, що він може знищити нас усіх ще до кінця цього десятиліття", - підсумував ексінженер Anthropic.
