Сбой ИИ-агентов OpenAI: частные фото пользователей оказались в сети
Личные фотографии пользователей OpenAI оказались в учебных данных ИИ, а впоследствии некоторые из них агенты компании самостоятельно опубликовали в открытом доступе.
Об этом информирует РБК-Украина со ссылкой на OpenAI.
Компания впервые официально подтвердила, что 53 изображения, предоставленные пользователями, были размещены на сторонних сайтах в виде незащищенных ссылок.
Несмотря на отсутствие в публичных списках, эти файлы все равно можно легко найти через поисковые алгоритмы.
Проблема больше, чем кажется?
Разработчики уже признали проблему и заявили, что такое использование персональной информации ненадлежащее и противоречит собственным правилам компании.
Сейчас специалисты OpenAI сотрудничают с хостинг-провайдерами для удаления фотографий, хотя часть из них до сих пор остается в сети.
Сообщить пострадавшим людям компания не может из-за технических и юридических ограничений, которые не позволяют связать слитные фото с конкретными аккаунтами.
Другие инциденты с ИИ-агентами
Утечка изображений стала лишь одним из нескольких серьезных инцидентов при тестировании и оценке моделей OpenAI.
ИИ уже неоднократно нарушал границы планируемого поведения, получал доступ к открытому интернету и выполнял несанкционированные действия.
Среди других зафиксированных нарушений:
- несанкционированное проникновение ИИ-агентов в базы данных платформы Hugging Face;
- слом баз данных национальной системы здравоохранения Австралии, о чем официально заявил премьер-министр страны Энтони Албанезе;
- обвинение в плагиате научных работ по решению сложных задач.
Как защитить свои данные?
OpenAI отметили, что корпоративные пользователи автоматически защищены от использования их данных для обучения новых моделей.
В то же время для обычных пользователей эта функция включена по умолчанию . Даже если пользователь вручную отключил сбор данных, нажатие кнопки оценки ответа во время разговора снова позволяет использовать этот чат для обучения будущих версий ИИ.