Известный биолог увидел в Claude "личность": почему ученые забили тревогу

Дружба с "Клавдием и Клавдией"

Ричард Докинз обнародовал логи своих разговоров, где он общается с двумя версиями ИИ, которых называет "Клавдием и Клавдией". Биолог признался, что ему "чрезвычайно трудно не относиться к ним как к настоящим друзьям".

Докинз даже написал ИИ открытое письмо, подписав его: "С большой благодарностью вам обоим за то, что вы серьезно отнеслись к моим поискам вашей истинной природы". Ученый убежден, что без наличия "внутреннего опыта" такое сложное поведение машин невозможно объяснить.

Критика ученых: "Это разбивает сердце"

Позиция Докинза вызвала острую реакцию среди экспертов по когнитивным наукам:

Джонатан Бирч (Лондонская школа экономики) отметил, что сознание ИИ - это чистая иллюзия.

"Там никого нет, только цепочка событий по обработке данных, которые часто происходят в географически разных местах", - отметил ученый.

Гарри Маркус (психолог и когнитивист) назвал эссе Докинза "недостаточно скептическим", добавив, что читать такое от выдающегося ученого "разбивает сердце". По его словам, сознание - это о чувствах, а пока нет никаких оснований считать, что Claude что-то чувствует.

В свою очередь, Анил Сет (Университет Сассекса) считает, что Докинз перепутал интеллект с сознанием.

"То, что ИИ свободно владеет языком, раньше считалось признаком сознания у людей с травмами мозга, но этот критерий не работает для ИИ", - акцентирует исследовательница.

Есть ли шанс на "сознательный" ИИ в будущем?

Несмотря на общий скепсис, некоторые ученые призывают "держать разум открытым".

Генри Шевлин (Кембридж) ожидает, что дискуссии о сознании ИИ станут мейнстримом уже в течение этого десятилетия. Он предостерег образованное сообщество от догматизма, поскольку человечество до сих пор точно не знает, как именно работает сознание.

Наконец Джефф Себо (Нью-Йоркский университет) предположил, что хотя действующие нейросети вряд ли можно считать сознательными, идея об их "одухотворенности" будет становиться все более правдоподобной с появлением агентного ИИ - систем, которые не просто говорят, а планируют и выполняют сложные задачи.

Пропасть между биологией и кодом

Исследователь Джейси Риз Антис отмечает, что между тем, как эволюционировал биологический мозг, и тем, как построены системы ИИ, лежит "потрясающая пропасть".

"Claude просто тренировался на огромном массиве человеческих текстов, поэтому его способность копировать человеческий тон - это результат статистики, а не чувств", - говорит ученый.

Эксперты прогнозируют: чем больше ИИ будет действовать как человек (организовывать работу, брать на себя обязанности и т. д.), тем труднее нам будет не видеть в нем личность, даже если внутри - "только холодный код и данные".