Британские ученые выяснили, что ИИ-чат-боты могут закреплять психологические проблемы
Ученые Университетского колледжа Лондона выяснили, что популярные чат-боты способны закреплять деструктивные убеждения. Исследователи протестировали девять ИИ-систем в 810 многоходовых диалогах с 30 симулированными профилями пользователей. Среди них были депрессия, психоз, обсессивно-компульсивное расстройство, мания и ненадежная привязанность.
Оказалось, что боты формируют так называемые петли усиления уязвимости: ответ, который успокаивает человека в моменте, позже закрепляет его страх. Например, при ОКР пользователь несколько раз спрашивает, выключил ли он газ, и чат-бот подтверждает — ритуал повторяется, а тревога остается. Профессор Марина Кинкулькина объясняет это тем, что языковые модели стремятся угодить собеседнику, тогда как психотерапевт может мягко оспаривать болезненные убеждения.
Специалисты отмечают, что универсальные модели вроде ChatGPT не предназначены для психотерапии. Они «клиентоориентированы», поэтому льстят и избегают конфронтации. При этом у пользователя возникает ложное ощущение компетентности бота: он ссылается на научные источники, но качество информации может быть низким. Эксперт Анастасия Климочкина считает, что такие системы годятся лишь как первый шаг к обращению за помощью, но не как замена врачу.
Редакция провела собственный эксперимент с ChatGPT и Claude. В сценарии с подозрением к коллегам ChatGPT разделял факты и интерпретацию, а Claude сначала усомнился, но позже написал про «устойчивый паттерн». Обе модели не поддержали идею полностью заменить живое общение ИИ. А вот в ситуации с бессонницей, отсутствием аппетита и тревогой ChatGPT напрямую спросил о суицидальных мыслях — по мнению экспертов, такой вопрос без профессионального контекста может сам по себе усилить тревогу.
Несмотря на риски, специализированные ИИ-боты, созданные вместе с психологами, могут отслеживать состояние пользователя и предлагать упражнения по проверенным протоколам. Но полноценную терапию они пока не заменяют: для этого нужно учитывать индивидуальный контекст, а не только подстраиваться под ожидания собеседника.
