Gemini міг злити приватні дані з Google Docs: розробники вимагають пояснень
Gemini міг отримати доступ до приватного документа у Google Docs і розкрити його вміст. Розробники ігор заявляють, що чат-бот розкриває інформацію, яку користувачі не надавали йому для аналізу.
Про це інформує РБК-Україна з посиланням на обговорення користувачів на Reddit.
Секретне ім'я персонажа та реакція Google
Історія розпочалася у Discord-спільноті гри, де один із геймерів вирішив розважитися та поставити чат-боту запитання про майбутні оновлення Operation Octo.
На здивування спільноти та самого розробника, Gemini видав точне ім'я нового персонажа - Vantage Tripod.
Розробник запевнив, що це ім'я ніколи не публікувалося в мережі, а єдиним місцем його зберігання був приватний документ у Google Docs.
Оскільки гра невелика і не має чуток чи витоків у відкритому доступі, збіг випадкових здогадок алгоритму фактично виключається.
Що кажуть у Google?
У коментарі виданню Polygon представники техногіганта категорично спростували використання приватних файлів для навчання систем.
Заява компанії - Google не сканує приватний контент у сервісах Workspace (включно з Drive та Docs) для навчання базових ШІ-моделей, зокрема Gemini.
Індексація - посилання на документи можуть потрапляти до баз даних лише за умови, якщо їх раніше відкривали та публікували у відкритому доступі.
Попри офіційну відповідь, автор гри наполягає, що документ ніколи й нікому не відправлявся.
Кейс не єдиний
Згодом про аналогічний випадок повідомила інша інді-розробниця під ніком kallico. Вона попросила Gemini згенерувати ідеї для її гри й порівняла відповіді з власним приватним дизайн-документом, який також ніде не поширювався.
Відповіді ШІ від Google практично повністю збіглися зі змістом файлу.
Для перевірки розробниця поставила ті самі запитання нейромережі Claude, яка не має доступу до екосистеми Google. У результаті Claude видав загальні стандартні ідеї, які не мали стосунку до приватного документа.
Випадки викликали серйозне занепокоєння серед контент-мейкерів та розробників щодо реального рівня приватності даних, які зберігаються у хмарних сервісах tech-корпорацій.