Вбивства та суїциди після розмов із ChatGPT: як відреагували в OpenAI

OpenAI заявила, що планує впровадити батьківський контроль, а деякі конфіденційні розмови переправлятиме до моделей міркування, таких як GPT-5. Зміни планують запровадити протягом місяця. 

ChatGPT. Ілюстративне фото

Такі рішення ухвалили через трагічні випадки, які сталися після обговорень із ChatGPT. Так підліток Адам Рейн вчинив самогубство — до цього він обговорював із ChatGPT заподіяння собі шкоди та плани покінчити життя самогубством. Чат-бот, як пише видання Dev, навіть надав йому інформацію про конкретні методи суїциду. Також трагічна ситуація сталася у випадку Стейна-Еріка Соельберга. Він страждав на психічні розлади, використовував ChatGPT, щоб підживити свою параною про всесвітню змову. Його марення загострилися, і в результаті він убив свою матір, а потім і себе.

OpenAI, як пише видання, визнала, що її системи безпеки мають недоліки, особливо під час довгих бесід. Експерти вказують на ключові проблеми: моделі часто підтверджують слова користувача, а їхні алгоритми змушують їх продовжувати розмову, замість того щоб зупинити потенційно небезпечні дискусії.

OpenAI вважає, що одним із рішень для розмов, які “виходять з-під контролю”, може бути автоматичне перенаправлення конфіденційних чатів на моделі міркування. Зазначається, що запустили маршрутизатор, який у режимі реального часу обирає, яку модель залучити: звичайну для чату чи спеціальну для роздумів, залежно від контексту розмови. Найближчим часом планують направляти деякі чутливі розмови до моделі, орієнтованої на роздуми, як-от GPT-5-thinking. Це буде у випадку, коли система помітить, що людина перебуває в стані гострого стресу. 

Також протягом місяця планується впровадження батьківського контролю. Це дозволить батькам зв’язати свій акаунт з акаунтом їхньої дитини за допомогою електронної пошти. 

Нагадаємо: портал “Коментарі” писав, як зміняться виплати на дітей в Україні.