Религия хочет влиять на разработку ИИ: позиция Anthropic и OpenAI
Стремительное развитие генеративного ИИ заставило топов Кремниевой долины пересмотреть свое традиционно скептическое отношение к религиозным институтам. Ведущие разработчики нейросетей оказались перед серьезным вызовом: государственное регулирование технологий катастрофически не успевает за инновациями, а потребность в закладке моральных и этических ограничений в базовые алгоритмы становится критической.
Об этом пишет РБК-Украина со ссылкой на Associated Press.
В Нью-Йорке состоялся первый исторический круглый стол Faith-AI Covenant (Пакт религии и ИИ), который собрал за одним столом топ-менеджеров Anthropic, OpenAI и лидеров крупнейших мировых конфессий.
Организатором встречи выступил межрелигиозный альянс из Женевы, специализирующийся на борьбе с экстремизмом и торговлей людьми.
Целью неожиданной коллаборации стало создание единого перечня общечеловеческих принципов, которыми будут руководствоваться ИИ-агенты будущего. За первым раундом переговоров в США должны состояться аналогичные встречи в Пекине, Найроби и Абу-Даби.
Нужны ли ИИ духовные пастыри?
Инициатор проекта баронесса Джоанна Шилдс, которая ранее строила карьеру в Google и Facebook, отметила, что разработчики технологий четко осознают масштаб власти и опасности, которую они выпустили в мир. По ее мнению, именно мировые религии, которые имеют миллиарды последователей, обладают уникальной экспертизой формирования этических ориентиров.
Интересно, что некоторые конфессии начали действовать на опережение еще до официального приглашения от техногигантов:
Церковь Иисуса Христа Святых Последних Дней (мормоны): уже внесла ИИ в свой официальный справочник, отметив, что технология не может заменить божественное вдохновение, но является полезным инструментом для обучения.
Южная баптистская конвенция: приняла специальную резолюцию с требованием проактивно формировать этические рамки для новых технологий, а не просто реагировать на последствия их влияния на общины.
Самую активную позицию в привлечении религиозных деятелей сейчас демонстрирует стартап Anthropic. Создатели популярного чат-бота Claude открыто заявляют, что их внутренняя "Конституция ИИ" создавалась при непосредственном участии экспертов по этике и теологии.
Интересно, что для Anthropic это также важный шаг для восстановления репутации после публичного конфликта с Пентагоном о запрете использования их моделей для создания автономного оружия массового поражения.
Конфликт ценностей и скепсис экспертов
Несмотря на благие намерения участников пакта, инициатива сталкивается с жесткой критикой как со стороны религиоведов, так и со стороны независимых исследователей ИИ.
Главная внутренняя проблема заключается в том, что даже несмотря на наличие общих базовых ценностей, приоритеты различных религиозных общин существенно отличаются. Создать единый универсальный моральный код регулирования высоких технологий, который одинаково удовлетворит христиан, сикхов, иудеев и буддистов, практически невозможно.
С другой стороны, часть научного сообщества считает такое заигрывание с религией обычным пиаром.
Эксперты напоминают о старом лозунге Кремниевой долины - "Двигайся быстро и разрушай все вокруг". Компании разрушили слишком много социальных институтов и теперь пытаются найти оправдание своим действиям.
Бывшая профильный представитель администрации США Румман Чоудхури называет религиозные круглые столы попыткой убежать от реального решения юридических проблем и регулирования, пытаясь переложить ответственность за неоднозначные "серые" этические зоны в разработке ИИ на плечи духовных лидеров.