Катастрофічні ризики та заборони: Сем Альтман розповів про конфлікт ключових ШІ-концепцій
Сем Альтман розповів, чому OpenAI та Anthropic по-різному бачать майбутнє ШІ - компанії мають протилежні підходи до регулювання технології.
Глава OpenAI вважає, що масштабна користь від розвитку ШІ виправдовує певні ризики, а доступ до моделей має залишатися максимально відкритим. Про це повідомляє РБК-Україна з посиланням на Politico.
Суть розбіжностей між OpenAI та Anthropic
Коментуючи відмінності у підходах із керівником Anthropic Даріо Амодеї, Альтман наголосив, що "світ має погодитися з можливістю окремих негативних інцидентів заради того, щоб люди отримали свободу дій та доступ до інструментів штучного інтелекту".
Тривалий час Anthropic вважалася головним прибічником суворого державного контролю в ШІ-галузі, тоді як OpenAI виступала за м'якші правила.
Попри те, що останніми місяцями їхні позиції дещо зблизилися через випадки непередбачуваної поведінки моделей і кіберінциденти, Альтман прагне чітко розмежувати підходи двох компаній.
Як саме?
Модель Anthropic базується на концепції підвищеної обережності, за якої надпотужні технології мають контролюватися обмеженим колом лабораторій задля запобігання зловживанням.
Підхід OpenAI відхиляє ідею повної консервації технологій і передбачає, що суспільство створить у рази більше позитивних результатів, аніж негативних кейсів.
Більше цікавого: Економить час і гроші: Anthropic презентувала нову ШІ-модель Sonnet 5.5
"Червоні лінії" та катастрофічні ризики
Незважаючи на підтримку ширшого доступу до ШІ, Альтман підкреслив, що компанія не ігнорує глобальні загрози.
OpenAI погоджується з необхідністю сповільнення розробки надскладних передових моделей та підтримує залучення незалежних оцінювачів безпеки.
Головною межею для компанії залишається недопущення катастрофічних сценаріїв - зокрема, повної втрати контролю над штучним інтелектом.
Читайте корисне: Інтелект флагмана у 5 разів дешевше: OpenAI презентувала нову GPT-6.1 Sol
Позиція Anthropic та звинувачення у монополізації
У відповідь на закиди щодо прагнення до регуляторного захоплення ринку представники Anthropic зазначили, що їхні законодавчі ініціативи стосуються виключно найпотужніших передових моделей (frontier models).
Даріо Амодеї раніше наголошував, що нормативні пропозиції Anthropic розробляються з метою сповільнити розробки великих гравців і водночас створити сприятливі умови для менших конкурентів та стартапів.