Контроль вместо безопасности: OpenAI и Anthropic скрывают отчеты о рисках ИИ
Anthropic и OpenAI хотят контролировать материалы независимых экспертов, проверяющих безопасность их ИИ-моделей. Компании опасаются, что публикация таких документов может привести к раскрытию коммерческих тайн и технологических разработок.
Об этом пишет РБК-Украина со ссылкой на Reuters.
Споры из-за права на публикацию
Разработчики опасаются, что привлеченные аудиторы могут передать секретные технологии конкурентам. Поэтому лаборатории пытаются ограничить право оценщиков свободно публиковать свои выводы без предварительного одобрения.
Ситуация вызывает беспокойство в научном сообществе, ведь информация, которую компании считают коммерческой тайной, часто совпадает с данными о потенциальных рисках и опасности ИИ-моделей.
Для защиты данных рассматриваются следующие меры
- Наблюдение за аудиторами : установление надзора со стороны штатных работников компании при работе внешних специалистов.
- Запрет совместительства: аудиторам запретят одновременно работать в нескольких конкурирующих ИИ-лабораториях.
Больше интересного: Опасный сбой в ИИ: Claude проник в чужие системы, воспринимая их за симуляцию
Позиция Anthropic и OpenAI
В Anthropic объяснили, что для новых независимых оценщиков компания оставляет за собой право комментировать и утверждать отчеты во время проверки моделей.
В то же время, по словам представителей компании, внешние аудиторы самостоятельно выбирают методы оценки и формулируют окончательные выводы.
В OpenAI сообщили, что не требуют полного редактирования текстов, однако обычно изымают конфиденциальную информацию.
Показательным стал инцидент на платформе Hugging Face, где автономные ИИ-агенты повлекли за собой сбой инфраструктуры.
Готовя итоговый отчет OpenAI изменила его структуру, тон и акценты и изъяла непубличные данные, однако исследователи заверили, что основные выводы остались неизменными.
Не пропустите: Суперинтеллект вместо ИИ: Трамп издал указ о полном ребрендинге технологии
Отсутствие четких стандартов и законов
Беспокойство экспертов усиливается из-за отсутствия законодательно закрепленных правил независимого оценивания.
В конце прошлого месяца президент Дональд Трамп и руководители ИИ-компаний подписали Соглашение Белого дома о суперинтеллекте, которое предусматривает проведение независимых проверок.
Однако документ не содержит четких инструкций по поводу того, как именно должны проводиться эти исследования.
Более 200 ученых и исследователей подписали открытое письмо с требованием обеспечить полную независимость проверок, широкий доступ к моделям и защиту аудиторов от возможных санкций со стороны технологических гигантов.