В последние годы своей жизни Алан Тьюринг размышлял об интеллекте компьютеров. Названный в его честь тест на интеллект машины гласит: если в процессе общения человек не способен отличить машину от другого человека, то машина является разумной.

С одной стороны, Тьюринг таким образом избежал философских споров о природе интеллекта – интеллект заключается в разумном поведении. С другой стороны, он открыл дверь, в которую позже, сам того не желая, вошел Джозеф Вейценбаум.

К 1966 году Вейценбаум создал чат-бота Элиза. Его целью было исследование общения с компьютером посредством естественного языка. Один из нескольких сценариев чат-бота имитировал психотерапевта. Следуя этому сценарию, Элиза возвращала пользователям их собственные реплики в виде вопросов.

По сравнению с современными чат-ботами Элиза была примитивной. Несмотря на это, пользователи считали ее разумной и понимающей. Это оказалось широко распространенной склонностью, которую впоследствии стали называть эффектом Элизы.

Этот эффект основан на особенностях человеческой языковой компетенции: независимо от источника мы склонны воспринимать понятную речь как осмысленную. Таким источникам мы обычно также приписываем рациональность и понимание. Вейценбаум непреднамеренно воспользовался этими психологическими особенностями. Те, кто пошел по его стопам, делали это уже намеренно.

В сфере кибербезопасности психологическое манипулирование пользователем называется атакой посредством общения. Местным примером могут служить мошеннические телефонные звонки, доставившие немало проблем. Тест Тьюринга открыл дверь к "взлому людей" при создании искусственного интеллекта (ИИ): если интеллект машины зависит от впечатления пользователя, тогда для создания "разумной" машины как будто достаточно сформировать у пользователя соответствующее впечатление.

Современные чат-боты гораздо мощнее Элизы. По-видимому, усилился и эффект, который они оказывают на восприимчивых пользователей. Например, все чаще появляются истории о пользователях, которые убеждены, что ChatGPT обладает сознанием, помог им совершить научный прорыв или просто имеет божественное происхождение. Неофициальный диагноз для таких пользователей – "ИИ-психоз".

Устранить эту проблему вполне по силам OpenAI и другим компаниям, занимающимся искусственным интеллектом. Однако, как и в случае с компаниями, владеющими социальными сетями, это может не соответствовать их интересам. И тем, и другим выгодно иметь как можно больше пользователей и удерживать их на своих платформах. Пользователь, ставший зависимым от чат-бота, – хороший клиент.

В связи с искусственным интеллектом все чаще говорят о критическом мышлении. Критическому мышлению способствуют такие установки, как открытость или (умеренный) скептицизм. Ему препятствуют когнитивные предубеждения, например, групповое мышление, которое заключается в склонности членов группы приводить свои взгляды в соответствие с предполагаемым групповым консенсусом. Я полагаю, что в случае искусственного интеллекта критическому мышлению также препятствует эффект Элизы.

Как и от когнитивных предубеждений, полностью избавиться от эффекта Элизы невозможно. Критическое мышление учит замечать влияние предубеждений и ограничивать его. В контексте искусственного интеллекта то же самое следовало бы делать и с эффектом Элизы. В результате, возможно, мы стали бы разумнее относиться к искусственному интеллекту, размышляя о нем, и были бы немного здоровее душевно, используя его.