Известный биолог увидел в Claude "личность": почему ученые забили тревогу
Ричард Докинз боится обидеть ИИ (фото: Magnific)
Популярный эволюционный биолог Ричард Докинз спровоцировал новую волну дискуссий о природе искусственного интеллекта. В своей недавней колонке он предположил, что чат-бот Claude от компании Anthropic может иметь определенную форму сознания.
Об этом информирует РБК-Украина со ссылкой на эссе Ричарда Докинза, опубликованное на UnHerd.
Дружба с "Клавдием и Клавдией"
Ричард Докинз обнародовал логи своих разговоров, где он общается с двумя версиями ИИ, которых называет "Клавдием и Клавдией". Биолог признался, что ему "чрезвычайно трудно не относиться к ним как к настоящим друзьям".
Докинз даже написал ИИ открытое письмо, подписав его: "С большой благодарностью вам обоим за то, что вы серьезно отнеслись к моим поискам вашей истинной природы". Ученый убежден, что без наличия "внутреннего опыта" такое сложное поведение машин невозможно объяснить.
Критика ученых: "Это разбивает сердце"
Позиция Докинза вызвала острую реакцию среди экспертов по когнитивным наукам:
Джонатан Бирч (Лондонская школа экономики) отметил, что сознание ИИ - это чистая иллюзия.
"Там никого нет, только цепочка событий по обработке данных, которые часто происходят в географически разных местах", - отметил ученый.
Гарри Маркус (психолог и когнитивист) назвал эссе Докинза "недостаточно скептическим", добавив, что читать такое от выдающегося ученого "разбивает сердце". По его словам, сознание - это о чувствах, а пока нет никаких оснований считать, что Claude что-то чувствует.
В свою очередь, Анил Сет (Университет Сассекса) считает, что Докинз перепутал интеллект с сознанием.
"То, что ИИ свободно владеет языком, раньше считалось признаком сознания у людей с травмами мозга, но этот критерий не работает для ИИ", - акцентирует исследовательница.
Есть ли шанс на "сознательный" ИИ в будущем?
Несмотря на общий скепсис, некоторые ученые призывают "держать разум открытым".
Генри Шевлин (Кембридж) ожидает, что дискуссии о сознании ИИ станут мейнстримом уже в течение этого десятилетия. Он предостерег образованное сообщество от догматизма, поскольку человечество до сих пор точно не знает, как именно работает сознание.
Наконец Джефф Себо (Нью-Йоркский университет) предположил, что хотя действующие нейросети вряд ли можно считать сознательными, идея об их "одухотворенности" будет становиться все более правдоподобной с появлением агентного ИИ - систем, которые не просто говорят, а планируют и выполняют сложные задачи.
Пропасть между биологией и кодом
Исследователь Джейси Риз Антис отмечает, что между тем, как эволюционировал биологический мозг, и тем, как построены системы ИИ, лежит "потрясающая пропасть".
"Claude просто тренировался на огромном массиве человеческих текстов, поэтому его способность копировать человеческий тон - это результат статистики, а не чувств", - говорит ученый.
Эксперты прогнозируют: чем больше ИИ будет действовать как человек (организовывать работу, брать на себя обязанности и т. д.), тем труднее нам будет не видеть в нем личность, даже если внутри - "только холодный код и данные".
