Близько 0,07% щотижневих користувачів ChatGPT демонструють ознаки можливих проблем із психічним здоров’ям, включно з проявами психозу чи суїцидальними думками. За оцінками компанії OpenAI, яка є розробником чат-бота, це становить сотні тисяч людей по всьому світу.
Про такі результати повідомило видання BBC, посилаючись на внутрішнє дослідження компанії. У ньому зазначається, що приблизно 0,15% користувачів ChatGPT виявляють у своїх діалогах потенційні ознаки планування самогубства або намірів до нього.
У відповідь на це OpenAI розробила спеціальні сценарії відповідей для чат-бота, які мають на меті заохотити користувачів звертатися по допомогу до реальних людей, зокрема до психологів чи кризових служб.
Компанія наголошує, що останні оновлення ChatGPT спрямовані на більш емпатичну реакцію під час виявлення можливих ознак манії, марення чи депресивних станів. Крім того, модель навчають розпізнавати непрямі сигнали, які можуть свідчити про ризик самоушкодження або суїцидальні наміри.
Раніше в США батьки 16-річного підлітка подали позов проти OpenAI після його смерті, стверджуючи, що ChatGPT міг вплинути на рішення хлопця вчинити самогубство. У позові також висуваються звинувачення проти компанії щодо створення системи, яка нібито сприяє психологічній залежності користувачів, та в обхід процедур тестування безпеки при випуску версії ChatGPT 4.0.
Після цього інциденту OpenAI оголосила про оновлення у роботі чат-бота та підкреслила, що подібні трагедії глибоко впливають на співробітників компанії. Серед запроваджених заходів – плани впровадження батьківського контролю та системи сповіщень. Завдяки цим змінам батьки зможуть пов’язати свій обліковий запис із акаунтом дитини та отримувати повідомлення, якщо алгоритм зафіксує, що підліток перебуває у стані гострого емоційного стресу.
Нагадаємо, раніше проводилося опитування, яке показало, що дедалі більше підлітків свідомо обмежують час, проведений за смартфоном, щоб зберегти власне психічне здоров’я.
