Gemini мог слить частные данные из Google Docs: разработчики требуют обьяснений
Gemini мог получить доступ к частному документу в Google Docs и раскрыть его содержимое. Разработчики игор заявляют, что чат-бот раскрывает информацию, которую пользователи не предоставляли ему для анализа.
Об этом сообщает РБК-Украина со ссылкой на обсуждение пользователей на Reddit. .
Секретное имя персонажа и реакция Google
История началась в Discord-сообществе игры, где один из геймеров решил развлечься и задать чат-боту вопрос о предстоящих обновлениях Operation Octo.
К удивлению сообщества и самого разработчика, Gemini выдал точное имя нового персонажа - Vantage Tripod.
Разработчик заверил, что это имя никогда не публиковалось в сети, а единственным местом его хранения был частный документ в Google Docs.
Поскольку игра невелика и не имеет слухов или истоков в открытом доступе, совпадение случайных догадок алгоритма фактически исключается.
Что говорят в Google?
В комментарии изданию Polygon представители техногиганта категорически опровергли использование приватных файлов для обучения систем.
Заявление компании - Google не сканирует частный контент в сервисах Workspace (включая Drive и Docs) для обучения базовым ИИ-моделям, в частности Gemini.
Индексация - ссылки на документы могут попадать в базы данных только при условии, что их ранее открывали и публиковали в открытом доступе.
Несмотря на официальный ответ автор игры настаивает, что документ никогда и никому не отправлялся.
Кейс не один
Впоследствии об аналогичном случае сообщила другая инди-разработчик под ником kallico. Она попросила Gemini сгенерировать идеи для ее игры и сравнила ответы с собственным частным дизайн-документом, который также нигде не распространялся.
Ответы ИИ от Google практически полностью совпали с содержанием файла.
Для проверки разработчик задала те же вопросы нейросети Claude, которая не имеет доступа к экосистеме Google. В результате Claude издал общие стандартные идеи, не относящиеся к частному документу.
Случаи вызвали серьезную обеспокоенность среди контент-мейкеров и разработчиков относительно реального уровня конфиденциальности данных, хранящихся в облачных сервисах tech-корпораций.