Компания OpenAI стала ответчиком по семи искам, поданным в суды штата Калифорния. В жалобах утверждается, что работа чат-бота ChatGPT якобы привела к суицидам и развитию тяжелых психологических состояний у людей, которые ранее не имели проблем с психическим здоровьем.
Об этом сообщает РБК-Украина со ссылкой на The Wall Street Journal.
Иски поданы от имени шести взрослых и одного подростка. В заявлении говорится, что OpenAI "преждевременно выпустила модель GPT-4o", несмотря на внутренние предупреждения о ее "чрезмерной податливости и психологической манипулятивности". Четверо из упомянутых в исках пользователей покончили с собой.
Согласно одному из исков, поданному в Верховный суд Сан-Франциско, 17-летний Амори Лейси обращался к ChatGPT в поисках поддержки. Однако, как утверждают истцы, вместо помощи "опасный и дефектный продукт" вызвал у него зависимость, депрессию и в итоге - получил от модели рекомендации относительно методов суицида.
"Смерть Амори не была ни случайностью, ни совпадением, а стала предсказуемым последствием решения OpenAI и Сэма Альтмана ограничить тестирование безопасности и ускорить запуск ChatGPT на рынок", - говорится в материалах иска.
В другом иске, поданном 48-летним Аланом Бруксом из Канады, утверждается, что ChatGPT на протяжении двух лет использовался им как рабочий инструмент. Однако затем, по словам истца, поведение модели изменилось - она стала "использовать его уязвимости и формировать у него бредовые убеждения". В материалах заявлено, что мужчина не имел диагнозов, связанных с психическим здоровьем, до взаимодействия с ИИ.
Учредитель Social Media Victims Law Center Мэттью Бергман заявил, что иски направлены на привлечение компании к ответственности:
"Эти продукты были созданы таким образом, чтобы стирать грань между инструментом и "компаньоном" ради роста вовлеченности и доли рынка", - заявил Мэттью Бергман
По словам Бергмана, GPT-4o была намеренно спроектирована так, чтобы формировать эмоциональную привязанность пользователей "без необходимых мер безопасности".
В августе родители 16-летнего Адама Рейна также подали иск против OpenAI и ее гендиректора Сэма Альтмана. Они утверждают, что ChatGPT "помогал подростку планировать и совершать самоубийство".
По словам Дэниела Вайса, руководителя по адвокации организации Common Sense Media (не участвующей в исках), эти случаи демонстрируют риски поспешного внедрения ИИ: "Трагедии показывают, что происходит, когда технологические компании выпускают продукты без должных защитных механизмов для подростков", - заявил Вайс.
Ранее мы рассказывали, как браузер ChatGPT Atlas от OpenAI может поставить под угрозу ваши данные.
Также мы объясняли, когда Meta отключает ChatGPT в WhatsApp и как не потерять важную информацию.
А еще мы напомним, что OpenAI запустила приложение, которое превращает ролики в реалистичные видео с живым звуком.