Все больше людей обсуждают тревогу, одиночество и эмоциональные проблемы с чат-ботами на базе искусственного интеллекта вместо того, чтобы обращаться к специалистам. Нейросети помогают быстро получить поддержку, разобраться в симптомах и найти ответы на волнующие вопросы. Однако такой формат общения имеет серьезные ограничения и в ряде случаев способен даже усугубить состояние человека. Эксперты отмечают, что особенно осторожно к подобным консультациям стоит относиться при сложных психологических и психических проблемах.

Общение с чатом – дешевле консультации у специалиста

По словам психолога Романа Тимофеева, многие пользователи выбирают общение с искусственным интеллектом вместо полноценной консультации у специалиста из-за низкой стоимости. Кроме того, языковые модели способны достаточно убедительно воспроизводить человеческую манеру общения, из-за чего люди начинают наделять их человеческими качествами и воспринимать как собеседников.

"Похоже, здесь два варианта ответа. Первый – это очень дешево. Во-вторых, до определенных пределов он все-таки неплохо имитирует реального живого человека. Настолько, что мы очень быстро начинаем приписывать тому же чату человеческие характеристики. Это неудивительно, поскольку все тексты, которые он генерирует, созданы на основе того, что когда-то написали сами люди", – сказал он.

Психолог отметил, что сегодня языковые модели часто выполняют функцию своеобразного "продвинутого поисковика". Люди используют их, чтобы понять, нормальны ли переживаемые ими симптомы, стоит ли обращаться за помощью и как можно описать собственное состояние. Тимофеев считает, что на этапе первичного поиска информации эти инструменты действительно могут быть полезны. Однако более глубокий разговор о психологических трудностях требует того, чего ИИ пока обеспечить не может.

"Иногда людям действительно нужно подтверждение собственного мнения. В этом нет ничего плохого. Я хочу высказать мнение, хочу, чтобы что-то похожее на человеческое мне в ответ сказали: все так, все правильно. Отразили мое ощущение. С этим модель справляется отлично. Отзеркаливание она умеет делать прекрасно", – сказал Тимофеев.

Языковые модели склонны подтверждать уже существующие убеждения пользователя

При этом специалист подчеркнул, что искусственный интеллект работает только с текстом и не способен учитывать множество невербальных сигналов, на которые обращает внимание психолог во время консультации. Из-за этого важная часть информации о состоянии человека просто теряется.

"Она явно не очень хорошо понимает все, что не связано с текстом. Потому что люди говорят одно, при этом закатывают глаза, им хочется заплакать или сбивается дыхание, шея покрывается красными пятнами. Хороший специалист сразу увидит любое расхождение между тем, что за текст произносится и как он произносится", – добавил Тимофеев.

Одним из главных рисков он считает склонность языковых моделей подтверждать уже существующие убеждения пользователя. Это особенно опасно для людей с психическими расстройствами или выраженными эмоциональными проблемами. Даже в традиционной терапии существуют методы, которые подходят не всем пациентам, а использование чат-ботов может дополнительно усиливать проблему.

"По большому счету психическое расстройство – это нахождение в довольно непроницаемом пузыре собственных мыслей, где человек постоянно получает подтверждение тому, что его картина мира работает. А языковые модели очень хорошо поддерживают такие матрицы, такие закрытые пузыри", – добавил специалист.