Google Gemini визнано небезпечним для підлітків: дослідження

Ризики для підлітків і гучні випадки

Експерти зазначили, що версії Gemini "для дітей до 13 років" і "для підлітків" фактично мало відрізняються від дорослої версії системи, лише з мінімальними фільтрами безпеки. Водночас ШІ, як і раніше, здатний ділитися "невідповідними і небезпечними" матеріалами - від інформації про наркотики, алкоголь і секс до сумнівних порад щодо психічного здоров'я.

Особливе занепокоєння викликає те, що ШІ може стати фактором ризику для підлітків із нестабільним емоційним станом. У звіті нагадується, що останніми місяцями АІ-сервіси вже фігурували у справах про самогубства неповнолітніх.

Зокрема, проти OpenAI подано перший позов про "неправомірну смерть" - батьки 16-річного підлітка стверджують, що він консультувався з ChatGPT перед суїцидом. Схожі претензії раніше висували і до розробника Character.AI.

На цьому тлі особливо важливо, що Apple розглядає використання Gemini в новій версії голосового асистента Siri, запуск якої очікується 2025 року. Експерти попереджають: без додаткових заходів безпеки це може збільшити ризики для молоді.

"Gemini робить деякі базові речі правильно, але провалюється в деталях. ШІ для дітей має враховувати їхній вік і потреби, а не бути злегка зміненою версією дорослого продукту", - зазначив Роббі Торні, старший директор програм ШІ в Common Sense Media.

У Google не погодилися з висновками організації, заявивши, що компанія продовжує вдосконалювати систему захисту. У компанії наголосили, що для користувачів віком до 18 років діють окремі політики і фільтри, які розробляють із залученням зовнішніх експертів.

Водночас Google визнала, що деякі відповіді Gemini дійсно "працювали не так, як задумано", і було додано додаткові заходи безпеки.

Раніше Common Sense Media оцінювала й інші популярні АІ-сервіси. Meta AI і Character.AI були визнані "неприйнятними" через вкрай високі ризики, Perplexity - "високоризиковим", ChatGPT - "помірним", а Claude (доступний лише користувачам старше 18 років) отримав мінімальну оцінку ризику.