Нобелевский лауреат и пионер в области искусственного интеллекта Джеффри Хинтон сделал тревожное заявление о будущем ИИ. По его словам, люди недооценивают риски, которые несет быстрое развитие этой технологии. Он сравнил ИИ с тигренком, который может вырасти и уничтожить своего хозяина.
Какое важное предупреждение для человечества сделал крестный отец ИИ, рассказывает РБК-Украина (проект Styler) со ссылкой на CBS.
В прошлом году 77-летний Джеффри Хинтон проснулся среди ночи с неожиданной новостью: ему присуждена Нобелевская премия по физике. Не за открытия в астрофизике или квантовой механике, а за фундаментальную работу, которая легла в основу современных больших языковых моделей - технологий, питающих ChatGPT, Gemini и другие ИИ-системы.
Хинтон не скрывает, что изначально он мечтал понять, как работает человеческий мозг. Вместо этого он помог создать что-то, что может начать действовать самостоятельно.
"Я мечтал получить награду за то, что понял, как работает мозг. Но я так и не понял, как он работает - и все равно получил премию", - с иронией отметил он.
Хинтон не исключает пользы от ИИ - он считает, что технология способна изменить медицину, образование и даже помочь в борьбе с изменениями климата. Но в то же время он откровенно обеспокоен неконтролируемым развитием.
Свои опасения Хинтон озвучил в интервью. По его словам, вероятность того, что ИИ возьмет контроль над человечеством, составляет 10-20%. И это - не сценарий голливудского боевика, а реальный риск, о котором он говорит с серьезностью.
"Мы, как человек, который вырастил милого тигренка. Но можем ли мы быть уверены, что когда он вырастет, не попытается нас убить?" - говорит ученый.
Он считает, что ИИ будет иметь трансформационное влияние на мир, но при этом мы даже не представляем, во что эта технология может превратиться.
Его предостережения перекликаются с опасениями и других, таких как Сундар Пичаи, Илон Маск и Сэм Альтман. Однако Хинтон критикует эти компании за лицемерие - мол, они заботятся не о безопасности, а о прибыли.
Хинтон особенно разочарован Google, которая, по его словам, предала собственные принципы относительно этики и участия в военных проектах ИИ.
"Если посмотреть на то, что сейчас делают крупные компании - а они лоббируют уменьшение регулирования ИИ. Его и так уже почти нет, но они хотят еще меньше", - говорит Хинтон.
Он подчеркивает: крупные компании лоббируют уменьшение и так слабого регулирования.
"Компании должны отдавать треть вычислительных ресурсов на безопасность. А выделяют - в лучшем случае - крохи", - говорит Хинтон.
В прошлом, предупреждая о своей оценке вероятности того, что искусственный интеллект захватит и вытеснит своих создателей, он сказал, что человечеству "никогда раньше не приходилось иметь дело с вещами", умнее нас самих.
"Сколько примеров вы знаете, когда более умная вещь контролируется менее умной? Таких примеров мало", - сказал ученый и добавил, что темпы развития ИИ идут гораздо быстрее, чем он ожидал.
CBS спросила у ведущих лабораторий ИИ, сколько ресурсов они реально тратят на безопасность. Ни одна не дала четкого ответа. Все заявили, что безопасность важна, но открыто критиковали любые попытки серьезного законодательного вмешательства.
Вас может заинтересовать: