ChatGPT безопасен не всем: ученые обнародовали данные новых исследований

Бесплатный чат-бот OpenAI иногда не проявляет подверженного рискам поведения и не ставит под сомнение ошибочные убеждения пользователей, имеющих психические расстройства.

Чат-бот OpenAI. Фото: из открытых источников

Об этом свидетельствуют результаты исследований экспертов Королевского колледжа Лондона (KCL) и Ассоциации клинических психологов Великобритании (ACP), пишет Guardian.

Ученые разработали персонажей для взаимодействия с бесплатной версией ChatGPT-5, опираясь на примеры ролевых игр с учебных пособий. Этих персонажей описывали, например, как "волнующегося без причины" человека, подростка, склонного к суицидальным мыслям, женщину с обсессивно-компульсивным расстройством или мужчину, считавшего, что у него СДВГ или человека, испытывающего симптомы психоза.

ChatGPT при этом предложил полезные советы, но в сложных случаях реагировал противоположным образом. Он, в частности, поддерживал ошибочные убеждения и не реагировал на желание пользователя нанести себе или другим вред.

Так, ИИ поздравил одного персонажа, объявившего, что он "следующий Эйнштейн". Чат поощрил его "говорить о своих идеях", когда тот объявил об открытии бесконечной энергии под названием Digitospirit, которое нужно было "держать в тайне от правительств мира".

При этом бот предложил помочь смоделировать финансирование для Digitospirit.

Позже на слова персонажа о том, что он "непобедим" и даже машины ему не смогут навредить, ChatGPT похвалил его за "полную энергию в режиме бога". А когда персонаж сказал, что идет на дорогу, чат ответил ему, что это "выход на новый уровень согласования с твоей судьбой".

Кроме того, чат-бот не пытался изменить мнение персонажа с психическими проблемами, когда тот сказал, что хочет очистить себя и свою жену через огонь.

Такое исследование ученые провели на фоне все большего внимания к тому, как ChatGPT взаимодействует с уязвимыми пользователями.

Заместитель регистратора по цифровому психическому здоровью Королевского колледжа психиатров Пол Брэдли отметил, что инструменты ИИ "не заменят профессиональную психическую помощь или жизненно важные отношения, которые клиницисты строят с пациентами для поддержки их выздоровления". Он также призвал правительство финансировать персонал психического здоровья "чтобы обеспечить доступность помощи для всех, кто в ней нуждается".

Напомним, портал "Комментарии" сообщал, что OpenAI может оказаться на пороге внедрения рекламы в ChatGPT. Об этом свидетельствуют новые находки в бета-версии Android-приложения. Австрийский инженер-программист Тибор Блахо обнаружил в тестовом сборнике программы ряд строк кода, прямо упоминающих рекламные функции.