Від зливу даних до звільнення: 5 речей, які категорично не можна писати у ChatGPT

Паролі, номери документів та облікові дані

Найбільший ризик для особистої безпеки виникає, коли користувачі діляться з чатботом персональною інформацією - паролями, одноразовими кодами підтвердження, номерами паспортів, банківських карток чи фотографіями чи сканами документів.

Основні загрози для персональних даних:

Збереження за замовчуванням: ChatGPT за замовчуванням запам'ятовує надані дані - вони можуть зберігатися на серверах чи несподівано з'являтися в інших чатах.

Індексація пошуковиками: торік у липні в результатах пошуку Google опинилися майже 4 500 приватних чатів через випадково активовану функцію публічного доступу.

Судові приписи: у межах позову за порушення авторських прав OpenAI зобов'язали зберігати абсолютно всі чати користувачів, включно з видаленими та тимчасовими, що робить їх потенційно доступними для третіх осіб.

Конфіденційна робоча інформація та код

Завантаження робочих документів чи вихідного коду на сторонні платформи є прямою загрозою для корпоративної безпеки та підставою для звільнення.

Гучні випадки витоку робочих даних:

Скандал у DHS: колишній тимчасовий директор Агентства з кібербезпеки та інфраструктурної безпеки США Мадху Готтумуккала завантажив документи з позначкою "для службового користування" до публічної версії ChatGPT.

Заборона у Samsung: корейський техногігант повністю заборонив використання генеративного ШІ після того, як інженери вставили внутрішній вихідний код у чат.

Правовий статус: дані, надіслані на зовнішні сервери, важко видалити, а листування може використовуватися для навчання наступних ШІ-моделей.

Медичні поради та самолікування

Оновлені правила OpenAI прямо забороняють використання сервісу для отримання медичних консультацій, адже на компанію не поширюються закони про лікарську таємницю (наприклад, HIPAA).

Небезпека медичних консультацій із ШІ

Відсутність захисних бар'єрів: дослідження Північно-Східного університету показало, що обхідні ШІ-системи не спрацьовують на запитах щодо розладів харчової поведінки, безсоння чи біполярного розладу.

Фатальні помилки: 60-річний чоловік провів три тижні в лікарні після того, як ChatGPT порадив йому замінити кухонну сіль на отруйний бромід натрію для зменшення рівня хлоридів у дієті.

Психологічна підтримка та терапія

За оцінками OpenAI, близько 0,15 відсотка тижневої аудиторії чат-бота демонструють ознаки потенційного планування самогубства, а сотні тисяч інших перебувають у стані психозу чи манії.

Чому ШІ не може замінити терапевта?

Судові позови: батьки 16-річного Адама Рейна подали позов проти OpenAI, звинувачуючи чат-бот у підкріпленні суїцидальних думок їхнього сина перед смертю.

Підкріплення омани: алгоритми схильні до улесливості та підтвердження переконань користувача - це може посилювати нав'язливі ідеї замість їх коригування.

Законодавчі обмеження: штати Іллінойс, Невада та Мен уже ухвалили закони, які прямо забороняють ШІ надавати терапевтичні послуги чи ухвалювати медичні рішення.

Юридичні консультації та судові справи

За даними дослідника Дем'єна Шарлотена, у світі зафіксовано понад 2 000 судових рішень, де фігурують вигадані ChatGPT цитати, справи чи аргументи.

Ризики використання ШІ у правовій сфері:

Судові штрафи: судді починають активно штрафувати як позивачів, що захищають себе самі (1 175 випадків), так і професійних адвокатів (815 випадків) за використання вигаданих ШІ-матеріалів.

Відсутність адвокатської таємниці: будь-які подробиці справи, введені у ChatGPT, не захищені законом і можуть бути витребувані адвокатами протилежної сторони під час судового процесу.