Крестный отец ИИ дал тревожный прогноз о будущем человечества: это хуже "ядерки"

Джеффри Хинтон - пионер ИИ с Нобелевской премией

В прошлом году 77-летний Джеффри Хинтон проснулся среди ночи с неожиданной новостью: ему присуждена Нобелевская премия по физике. Не за открытия в астрофизике или квантовой механике, а за фундаментальную работу, которая легла в основу современных больших языковых моделей - технологий, питающих ChatGPT, Gemini и другие ИИ-системы.

Хинтон не скрывает, что изначально он мечтал понять, как работает человеческий мозг. Вместо этого он помог создать что-то, что может начать действовать самостоятельно.

"Я мечтал получить награду за то, что понял, как работает мозг. Но я так и не понял, как он работает - и все равно получил премию", - с иронией отметил он.

"Люди еще не поняли, что грядет"

Хинтон не исключает пользы от ИИ - он считает, что технология способна изменить медицину, образование и даже помочь в борьбе с изменениями климата. Но в то же время он откровенно обеспокоен неконтролируемым развитием.

Свои опасения Хинтон озвучил в интервью. По его словам, вероятность того, что ИИ возьмет контроль над человечеством, составляет 10-20%. И это - не сценарий голливудского боевика, а реальный риск, о котором он говорит с серьезностью.

"Мы, как человек, который вырастил милого тигренка. Но можем ли мы быть уверены, что когда он вырастет, не попытается нас убить?" - говорит ученый.

Он считает, что ИИ будет иметь трансформационное влияние на мир, но при этом мы даже не представляем, во что эта технология может превратиться.

Его предостережения перекликаются с опасениями и других, таких как Сундар Пичаи, Илон Маск и Сэм Альтман. Однако Хинтон критикует эти компании за лицемерие - мол, они заботятся не о безопасности, а о прибыли.

ИИ-компании не хотят контроля. И в этом самая большая угроза

Хинтон особенно разочарован Google, которая, по его словам, предала собственные принципы относительно этики и участия в военных проектах ИИ.

"Если посмотреть на то, что сейчас делают крупные компании - а они лоббируют уменьшение регулирования ИИ. Его и так уже почти нет, но они хотят еще меньше", - говорит Хинтон.

Он подчеркивает: крупные компании лоббируют уменьшение и так слабого регулирования.

"Компании должны отдавать треть вычислительных ресурсов на безопасность. А выделяют - в лучшем случае - крохи", - говорит Хинтон.

В прошлом, предупреждая о своей оценке вероятности того, что искусственный интеллект захватит и вытеснит своих создателей, он сказал, что человечеству "никогда раньше не приходилось иметь дело с вещами", умнее нас самих.

"Сколько примеров вы знаете, когда более умная вещь контролируется менее умной? Таких примеров мало", - сказал ученый и добавил, что темпы развития ИИ идут гораздо быстрее, чем он ожидал.

CBS спросила у ведущих лабораторий ИИ, сколько ресурсов они реально тратят на безопасность. Ни одна не дала четкого ответа. Все заявили, что безопасность важна, но открыто критиковали любые попытки серьезного законодательного вмешательства.