Катастрофические риски и запреты: Сэм Альтман рассказал о конфликте ключевых ИИ-концепций
Сэм Альтман рассказал, почему OpenAI и Anthropic по-разному видят будущее ИИ - компании имеют противоположные подходы к регулированию технологии.
Глава OpenAI считает, что масштабная польза от развития ИИ оправдывает определенные риски, а доступ к моделям должен оставаться максимально открытым. Об этом сообщает РБК-Украина со ссылкой на Politico.
Суть разногласий между OpenAI и Anthropic
Комментируя отличия в подходах с руководителем Anthropic Дарио Амодеи, Альтман подчеркнул, что "мир должен согласиться с возможностью отдельных негативных инцидентов ради того, чтобы люди получили свободу действий и доступ к инструментам искусственного интеллекта".
Долгое время Anthropic считалась главным сторонником строгого государственного контроля в ИИ-отрасли, в то время как OpenAI выступала за более мягкие правила.
Несмотря на то, что в последние месяцы их позиции несколько сблизились из-за непредсказуемого поведения моделей и киберинциденты, Альтман стремится четко разграничить подходы двух компаний.
Как именно?
Модель Anthropic базируется на концепции повышенной осторожности, при которой сверхмощные технологии должны контролироваться ограниченным кругом лабораторий для предотвращения злоупотреблений.
Подход OpenAI отвергает идею полной консервации технологий и предполагает, что общество создаст в разы больше положительных результатов, чем отрицательных кейсов.
Больше интересного: Экономит время и деньги: Anthropic презентовала новую ИИ-модель Sonnet 5.5
"Красные линии" и катастрофические риски
Несмотря на поддержку более широкого доступа к ИИ, Альтман подчеркнул, что компания не игнорирует глобальные угрозы.
OpenAI согласна с необходимостью замедления разработки сверхсложных передовых моделей и поддерживает привлечение независимых оценщиков безопасности.
Главным пределом для компании остается недопущение катастрофических сценариев - в частности, полной потери контроля над искусственным интеллектом.
Интеллект флагмана в 5 раз дешевле: OpenAI презентовала новую GPT-6.1 Sol
Позиция Anthropic и обвинения в монополизации
В ответ на упреки в стремлении к регуляторному захвату рынка представители Anthropic отметили, что их законодательные инициативы касаются исключительно мощных передовых моделей (frontier models).
Дарио Амодеи ранее подчеркивал, что нормативные предложения Anthropic разрабатываются с целью замедлить разработки крупных игроков и создать благоприятные условия для меньших конкурентов и стартапов.