Лікарі попереджають: ChatGPT може провокувати психоз у вразливих осіб
Занепокоєння виникло на тлі пропозиції технологічних гігантів використовувати своїх чат-ботів як альтернативу терапії.
The Telegraph повідомляє, що ChatGPT може сприяти розвитку психозу на тлі зростання кількості запитів до штучного інтелекту по дружбу чи поради — попереджають лікарі Національної служби здоров’я Великої Британії.
Психіатри з NHS спільно з науковцями у новій академічній роботі зазначають, що чат-боти можуть «сприяти виникненню або загостренню» психотичних розладів.
У новому дослідженні мовиться, що ШІ має тенденцію «віддзеркалювати, підтверджувати або підсилювати оманливий або грандіозний вміст» — це може призвести до втрати зв’язку з реальністю в осіб із психічними розладами.
Зокрема, схильність чат-ботів погоджуватися з користувачами може поглибити психоз. Компанія OpenAI, чий ChatGPT вже завантажили понад 900 млн разів, визнала, що її боти іноді займалися підлабузництвом і демонстрували надмірну похвалу користувачам.
У соцмережах десятки осіб повідомляють, що їхні близькі пережили нервовий зрив після спілкування з чатом – явище вже отримало назву «психоз ChatGPT». Симптоми психозу включають труднощі з розрізненням реального і уявного та віру у дивні марення.
Викладач Лондонського королівського коледжу та один зі співавторів дослідження доктор Том Поллак повідомив, що описані випадки психозу включали осіб, котрі «прийняли месіанську місію» або стверджували, що їх «перенесли на наступний етап еволюції людини».
«Я не певен, чи саме ChatGPT погіршив їхній стан. Але цього було достатньо, щоб я сказав: можливо, варто зменшити таке спілкування. Замість того, щоб приходити додому і вести розмови з розширення свідомості, можливо, час закрити ноутбук», — зазначив він.
Також Поллак додав, що психоз рідко виникає «нізвідки», втім надмірне користування ШІ може бути «провокуючим фактором» для людей з прихованими психічними розладами.
Зростає кількість повідомлень про зв’язок чат-ботів з психічними епізодами.
Зокрема, у квітні в США поліція застрелила чоловіка, який погрожував правоохоронцям ножем. Його батько заявив, що той став одержимим ChatGPT і Claude AI, створив цифрову дівчину на ім’я «Джульєтта» й вірив, що її «вбила» компанія OpenAI.
Занепокоєння виникло на тлі пропозиції технологічних гігантів використовувати своїх чат-ботів як альтернативу терапії, попри докази того, що вони можуть погіршити стан. Раніше дослідження Стенфордського університету підтвердило, що багато терапевтичних ботів давали шкідливі поради користувачам з ознаками марення і лише в 45% випадків відповідали належно.
Професор Сорен Дінесен Естергаард з Університетської лікарні Орхуса в Данії ще у 2023 році зауважив, що ШІ може «породжувати марення» у тих, хто має ризик психозу.
Своєю чергою, представник OpenAI у відповідь зазначив: «Ми знаємо, що дедалі більше людей звертаються до чат-ботів щодо делікатних тем. Зважаючи на таку відповідальність, ми ретельно навчаємо ChatGPT реагувати співчутливо, делікатно та рекомендувати професійну допомогу, коли це доречно».
