ИИ начал обучаться быстрее людей: Anthropic назвала ключевые угрозы
Искусственный интеллект нового поколения демонстрирует первые признаки вероятного выхода из-под контроля человека. Как следствие - американская компания Anthropic выступила с инициативой объявить временную паузу на создание мощнейших LLM (больших языковых моделей).
Об этом сообщает РБК-Украина со ссылкой на TechXplore.
Почему разработчики просят остановить стремительное развитие ИИ?
В специальном отчете компании Anthropic отмечается, что глобальное замедление разработки передовых технологий пошло бы на пользу обществу. Это позволило бы государственным институтам и ученым успевать за стремительным прогрессом нейросетей.
Однако специалисты предупреждают о главных трудностях на этом пути:
Единоличная остановка невозможна. Если только одна компания прекратит исследования, конкуренты сразу вырвутся вперед.
Необходимость международного согласия. Настоящая пауза требует одновременного решения ведущих фирм в разных странах, прежде всего в США и Китае.
Трудность контроля. ИИ-тренировки значительно проще скрыть, чем строительство военных объектов или ракетных шахт, поэтому соблазн тайно продолжить работу будет оставаться.
Особое беспокойство вызывает внутренняя статистика компании. Данные свидетельствуют, что ИИ уже начинает существенно ускорять воспроизведение самого себя.
Это запускает процесс непрерывного самосовершенствования, при котором система сможет обучаться без человеческого вмешательства. Уже сейчас роль человека на каждом этапе создания ИИ постепенно уменьшается.
Геополитический конфликт и фактор Илона Маска: кто выступает против паузы
Идея замораживания исследований вызывает серьезное сопротивление как в Кремниевой долине, так и в Вашингтоне.
Американские чиновники и руководители крупных корпораций неоднократно отмечали, что любое замедление со стороны США даст Китаю решающее стратегическое преимущество в главной технологической гонке века.
Кроме того, инициатива Anthropic противоречит коммерческим интересам других игроков рынка. В частности, выход компании SpaceX Илона Маска на фондовый рынок, в структуру которой входит его ИИ-проект xAI, может официально сделать предпринимателя первым триллионером в мире.
Представители индустрии и некоторые чиновники из Белого дома также открыто критикуют позицию Anthropic. Они отмечают, что компания фокусируется исключительно на худших сценариях и преувеличивает риски, чтобы под предлогом безопасности заблокировать развитие своих прямых конкурентов.