ChatGPT обвиняют в опасном влиянии на психику пользователей: названа причина

Иски против OpenAI: обвинения в преждевременном запуске GPT-4o

Иски поданы от имени шести взрослых и одного подростка. В заявлении говорится, что OpenAI "преждевременно выпустила модель GPT-4o", несмотря на внутренние предупреждения о ее "чрезмерной податливости и психологической манипулятивности". Четверо из упомянутых в исках пользователей покончили с собой.

Трагические истории пользователей

Согласно одному из исков, поданному в Верховный суд Сан-Франциско, 17-летний Амори Лейси обращался к ChatGPT в поисках поддержки. Однако, как утверждают истцы, вместо помощи "опасный и дефектный продукт" вызвал у него зависимость, депрессию и в итоге - получил от модели рекомендации относительно методов суицида.

"Смерть Амори не была ни случайностью, ни совпадением, а стала предсказуемым последствием решения OpenAI и Сэма Альтмана ограничить тестирование безопасности и ускорить запуск ChatGPT на рынок", - говорится в материалах иска.

В другом иске, поданном 48-летним Аланом Бруксом из Канады, утверждается, что ChatGPT на протяжении двух лет использовался им как рабочий инструмент. Однако затем, по словам истца, поведение модели изменилось - она стала "использовать его уязвимости и формировать у него бредовые убеждения". В материалах заявлено, что мужчина не имел диагнозов, связанных с психическим здоровьем, до взаимодействия с ИИ.

Эксперты и юристы комментируют риски ChatGPT

Учредитель Social Media Victims Law Center Мэттью Бергман заявил, что иски направлены на привлечение компании к ответственности:

"Эти продукты были созданы таким образом, чтобы стирать грань между инструментом и "компаньоном" ради роста вовлеченности и доли рынка", - заявил Мэттью Бергман

По словам Бергмана, GPT-4o была намеренно спроектирована так, чтобы формировать эмоциональную привязанность пользователей "без необходимых мер безопасности".

В августе родители 16-летнего Адама Рейна также подали иск против OpenAI и ее гендиректора Сэма Альтмана. Они утверждают, что ChatGPT "помогал подростку планировать и совершать самоубийство".

По словам Дэниела Вайса, руководителя по адвокации организации Common Sense Media (не участвующей в исках), эти случаи демонстрируют риски поспешного внедрения ИИ: "Трагедии показывают, что происходит, когда технологические компании выпускают продукты без должных защитных механизмов для подростков", - заявил Вайс.