ChatGPT зможе сповіщати близьких про суїцидальні думки користувача
Компанія OpenAI анонсувала запуск нової функції для ChatGPT під назвою «Довірена особа».
Вона сповіщатиме близьких, якщо в розмові з’являються згадки про самоушкодження.
Про це пише Tech Crunch із посиланням на пресслужбу OpenAI.
Ця функція дозволяє дорослому користувачеві ChatGPT призначити іншу людину як довірений контакт у своєму обліковому записі — наприклад, друга чи родича.
У випадках, коли в чаті він писатиме про суїцидальні думки, OpenAI пропонуватиме зв’язатися з цим контактом. Чат також надішле сповіщення контакту, заохочуючи його зв’язатися з користувачем.
Сповіщення надсилатимуть на пошту, у застосунку або текстовим повідомленням. Сповіщення має бути коротким і спонукати контактну особу зв’язатися з відповідною людиною. Воно не містить детальної інформації про те, що обговорювалося, щоб захистити приватність користувача, зазначає компанія.
OpenAI зіткнулася з хвилею судових позовів від родин людей, які вчинили самогубство після розмови з її чат-ботом. У низці випадків родини стверджують, що ChatGPT підштовхнув їхніх близьких до самогубства — або навіть допоміг їм це спланувати.
Раніше дослідження показало, що безоплатний чат-бот OpenAI не завжди виявляє схильну до ризиків поведінку й не ставить під сумнів хибні переконання користувачів із психічними розладами.
