В чат-боті Gemini з'явиться моніторинг психічного здоров'я після скандалу з позовами

Що зміниться в Gemini

У новій версії чат-бот отримає інтерфейс, який скеровуватиме користувача на гарячу лінію підтримки, якщо розмова свідчить про "потенційну кризу, пов’язану з суїцидом або самоушкодженням".

Також Google додає спеціальний модуль "Допомога доступна" для тем, що стосуються ментального здоров’я, та змінює дизайн, щоб відвернути від самоушкоджень.

Чому це відбувається

Стрімке поширення таких інструментів, як Gemini та ChatGPT, призвело до того, що деякі користувачі формували нездорову залежність від ШІ-ботів. У крайніх випадках це нібито спричиняло марення, а іноді - вбивства та самогубства.

Кілька родин подали до суду на розробників ШІ через це. Конгрес США також вивчав потенційні загрози, які чат-боти становлять для дітей та підлітків.

У березні родина 36-річного чоловіка з Флориди подала позов проти Google, стверджуючи, що його спілкування з Gemini завершилося "чотириденним зануренням у насильницькі місії та підштовхуванням до суїциду".

Тоді Google заявив, що чат-бот багаторазово скеровував чоловіка на кризову лінію, але пообіцяв покращити захисні механізми.

Інші заходи

Google також оголосив, що протягом наступних трьох років пожертвує 30 млн доларів глобальним службам кризової підтримки. Крім того, компанія навчила Gemini "не погоджуватися з хибними переконаннями та не підсилювати їх, а натомість м’яко відрізняти суб’єктивний досвід від об’єктивних фактів".