ChatGPT звинувачують у небезпечному впливі на психіку користувачів: названо причину

Позови проти OpenAI: звинувачення в передчасному запуску GPT-4o

Позови подано від імені шести дорослих і одного підлітка. У заяві йдеться про те, що OpenAI "передчасно випустила модель GPT-4o", незважаючи на внутрішні попередження про її "надмірну податливість і психологічну маніпулятивність". Четверо зі згаданих у позовах користувачів наклали на себе руки.

Трагічні історії користувачів

Згідно з одним із позовів, поданим до Верховного суду Сан-Франциско, 17-річний Аморі Лейсі звертався до ChatGPT у пошуках підтримки. Однак, як стверджують позивачі, замість допомоги "небезпечний і дефектний продукт" спричинив у нього залежність, депресію і в підсумку - отримав від моделі рекомендації щодо методів суїциду.

"Смерть Аморі не була ні випадковістю, ні збігом, а стала передбачуваним наслідком рішення OpenAI і Сема Альтмана обмежити тестування безпеки і прискорити запуск ChatGPT на ринок", - йдеться в матеріалах позову.

В іншому позові, поданому 48-річним Аланом Бруксом із Канади, стверджується, що ChatGPT протягом двох років використовувався ним як робочий інструмент. Однак потім, за словами позивача, поведінка моделі змінилася - вона почала "використовувати його вразливості та формувати в нього маячні переконання". У матеріалах заявлено, що чоловік не мав діагнозів, пов'язаних із психічним здоров'ям, до взаємодії з ШІ.

Експерти та юристи коментують ризики ChatGPT

Засновник Social Media Victims Law Center Меттью Бергман заявив, що позови спрямовані на притягнення компанії до відповідальності:

"Ці продукти були створені таким чином, щоб стирати грань між інструментом і "компаньйоном" заради зростання залученості та частки ринку", - заявив Меттью Бергман.

За словами Бергмана, GPT-4o була навмисно спроектована так, щоб формувати емоційну прихильність користувачів "без необхідних заходів безпеки".

У серпні батьки 16-річного Адама Рейна також подали позов проти OpenAI та її гендиректора Сема Альтмана. Вони стверджують, що ChatGPT "допомагав підлітку планувати і здійснювати самогубство".

За словами Деніела Вайса, керівника з адвокації організації Common Sense Media (яка не бере участі в позовах), ці випадки демонструють ризики поспішного впровадження ШІ. "Трагедії показують, що відбувається, коли технологічні компанії випускають продукти без належних захисних механізмів для підлітків", - заявив Вайс.