Игра с жизнями людей: ученые массово увольняются из Google и OpenAI из-за угрозы ИИ
Эксисследователь Google DeepMind Билал Чугтаи предупредил, что у человечества все меньше времени, чтобы предотвратить катастрофические последствия развития ИИ. Он стал очередным специалистом, который покинул компанию из-за беспокойства, в каком направлении развивается искусственный интеллект.
Об этом сообщает РБК-Украина со ссылкой на пост Чугтаи в X.
Волна беспокойств среди разработчиков ИИ
Заявление Чугтаи дополнило ряд подобных предупреждений от других ведущих специалистов отрасли, указывающих на неконтролируемое развитие возможностей суперинтеллекта.
Что происходило раньше?
Освобождение от Anthropic и OpenAI. В этом месяце разработчик Джейкоб Коксон покинул свой пост, обвинив обоих бывших работодателей в "игре с человеческими жизнями" из-за агрессивной гонки в создании суперинтеллекта.
Эссе Дарио Амодеи. В конце недели исполнительный директор Anthropic обнародовал пространный материал, где призвал сообщество замедлить разработку самых сложных систем во избежание потери контроля над ними.
Поддержка лидеров индустрии. Призыв Амодеи к осмотрительности в редком проявлении солидарности публично поддержали руководитель OpenAI Сэм Альтман и глава SpaceX AI Илон Маск.
"Я оптимистично настроен по возможности безопасного управления ИИ. Чтобы это сделать, нам нужно координироваться, чтобы избежать этой маниакальной гонки между компаниями, разрабатывающими ИИ", - пишет Чугтаи.
"Нам нужно регулировать темп разработки ИИ до скорости, с которой общество может справиться. Нам нужно гораздо больше прозрачности в разработке ИИ, чтобы убедиться, что разрабатывающие ИИ компании не накладывают на нас всех неприемлемый уровень риска", - добавляет он.
Поиск решений и безопасная навигация
Несмотря на серьезность оговорок, Билал Чугтаи сохраняет оптимизм по поводу возможности безопасного направления технологий в будущем.
Согласно обновленным данным его профиля в LinkedIn, после увольнения из Google DeepMind он присоединился к неприбыльной организации BlueDot Impact.
В новой должности Чугтаи сосредоточится на обучении специалистов из разных отраслей методов обеспечения безопасности и контроля искусственного интеллекта.