В Эстонии для описания искусственного интеллекта (ИИ) используется выражение "кратт". В эстонском фольклоре кратт – это магическое существо, которое приносит своему хозяину всевозможное добро (например, зерно, одежду, деньги). Он исполняет поручения хозяина с огромным рвением, и если его не оставлять без еды или работы, он оказывается великолепным помощником. Именно так искусственный разум называет и государственная коммуникационная платформа Эстонии по вопросам ИИ и управления данными.

Использование "кратта" в качестве метафоры помогает упростить коммуникацию и с помощью запоминающихся сравнений объяснить даже далеким от темы людям, что такое ИИ. Еще античные философы использовали метафоры для разъяснения сложных понятий.

Кратт как довольно остроумная для эстонского контекста метафора очень хорошо подходит для описания узкого искусственного интеллекта. Под узким ИИ понимается искусственный разум, созданный для выполнения одной конкретной задачи или очень ограниченного круга задач.

Зачастую он справляется с ними очень хорошо, а нередко даже лучше или быстрее человека, но он не способен выйти за рамки заданных границ. У него нет разума, самовосприятия и способности применять свои навыки в других, незнакомых ситуациях. Он предлагает вам подходящие фильмы на стриминговой платформе, основываясь на ваших привычках, или отвечает на ваши вопросы в качестве чат-бота на сайте компании.

Однако он не напишет за вас эссе и не переведет текст на другой язык. Для этого нужен "кратт" иного рода. Такие кратты с узкой специализацией уже меняют многие сферы и способствуют прорывным достижениям в здравоохранении, транспорте, экономике, науке и других областях.

Технологические компании уже соревнуются за главный куш в этой технологической гонке – создание сильного искусственного интеллекта (AGI). Хотя единого определения этого понятия не существует, в общих чертах его можно описать как разум, сопоставимый с человеческим. AGI обладал бы когнитивными способностями нашего уровня: умением рассуждать, решать сложные задачи, мыслить абстрактно и осваивать новые навыки без специального программирования.

Сэм Альтман, генеральный директор компании OpenAI (создатель ChatGPT), полагает, что первый сильный ИИ появится совсем скоро – в течение второго президентского срока Дональда Трампа.

Бывший коммерческий директор Google X Мо Гавдат признался, что его мало заботит то, как именно эксперты определяют AGI. Для него сильный ИИ уже реальность, поскольку во многих областях машины справляются гораздо лучше человека. Впрочем, хватает и скептиков, полагающих, что на это уйдет еще пара десятилетий, а некоторые и вовсе считают достижение общего ИИ невозможным.

Создание сильного искусственного интеллекта – если оно произойдет – принесет с собой радикальные перемены в мире, возможно, самые масштабные из когда-либо случавшихся за столь короткий срок. Учитывая успехи робототехники, нетрудно представить гуманоидных сантехников, сиделок в больницах или ученых, которые уже к началу рабочего дня успели изучить все научные труды, когда-либо написанные в мире в их области. Это изменит саму суть труда и, по мнению некоторых (включая главу OpenAI Сэма Альтмана), разрушит всю существующую экономическую систему.

Хотя можно предположить, что благодаря роботам с ИИ производство станет практически бесплатным, а производительность вырастет в разы, остается вопрос: на какие средства лишившиеся работы люди будут приобретать товары и услуги? Чтобы представить себе такой мир, нужно воображение, но это все же возможно. Пожалуй, труднее осознать то, что все описанное теоретически может произойти в ближайшие пару десятилетий. Сильный искусственный интеллект (AGI) уже точно нельзя называть "краттом" – он для этого слишком человекоподобен.

Если будущее, в котором мы сосуществуем с сильным ИИ, наше воображение еще способно охватить, то визуализировать следующий этап уже довольно сложно.

Сверхинтеллект – это следующая теоретическая форма ИИ, чей разум значительно превосходит интеллект самых светлых и одаренных людей практически в любой области: от научного творчества и общей мудрости до социальных навыков.

Есть ученые, которые утверждают, что от сильного ИИ до сверхинтеллекта – всего один шаг. Сверхинтеллект совершает поступки, причины и логику которых человек понять уже не в силах.

Отношения между сверхинтеллектом и людьми можно сравнить с моими отношениями с моей собакой Непси, которая при всем желании не может понять, почему я каждое утро ухожу из дома на работу и возвращаюсь только вечером. Она не способна представить, что такое "работать", зачем созданы офисные пространства, почему, приезжая в офис, я ставлю машину на подземную парковку, а потом еще и плачу за это.

Нельзя утверждать, что сверхинтеллект непременно и сразу уничтожит человечество. Вполне возможно, что он будет относиться к людям так же, как я отношусь к своей собаке – она милый и важный член нашей семьи, но ее благополучие все равно зависит от хозяев. Я не спрашиваю у собаки разрешения на повседневные дела и не обсуждаю с ней свои жизненные цели, хотя мне часто приходится считаться с ее существованием (например, следить, чтобы кто-то из домочадцев вовремя вывел ее на прогулку).

Представить себе сосуществование со сверхинтеллектом нам просто не под силу. Как человек, дружественно настроенный к технологиям, я с азартом слежу за развитием ИИ. Тем не менее, стоит всерьез воспринимать тех, кто выражает обеспокоенность: поскольку у сверхинтеллекта могут быть цели, непонятные людям, человечество рискует стать для него незначительным или даже мешающим компонентом. Например, в случае, если люди попытаются его отключить или не подчинятся его воле. Самое сложное здесь то, что мы не способны даже вообразить такое будущее, не говоря уже о точной оценке рисков и возможностей. Это будущее характеризуется полной неизвестностью.

Если "кратт" – подходящая метафора для узкого ИИ, то для общего и сверхмощного интеллекта стоило бы поискать другие образы. Метафоры не безобидны: они не только объясняют, но и формируют наш образ мыслей.

Лауреат Нобелевской премии Джеффри Хинтон, которого называют "крестным отцом ИИ", полагает, что существует 10–20-процентная вероятность того, что развитие технологий приведет к гибели человечества в ближайшие три десятилетия. Хинтон сравнил искусственный интеллект с тигренком. Пока тигренок маленький, он милый и забавный, но, повзрослев, он становится смертельно опасным для человека.

Илон Маск в своем знаменитом интервью 2014 года в Массачусетском технологическом институте заявил, что искусственный интеллект – это величайшая экзистенциальная угроза человечеству. Он сказал, что, создавая его, мы "вызываем демона", которого не сможем контролировать. Тем самым он ввел еще одну метафору, которую, на мой взгляд, следовало бы переосмыслить.

В христианской традиции демоны отождествлялись со злыми духами, чьи деяния были губительны для людей и враждебны Богу. Именно так их в большинстве своем воспринимают в современной западной культуре – как существ, чьи помыслы и действия всегда злонамеренны.

По моей оценке, это сравнение применительно к ИИ неточно. Утверждать, что сильный ИИ или даже сверхинтеллект обязательно принесет человечеству гибель – значит преувеличивать. Нужно признать, что мы просто этого не знаем и не можем предсказать поведение сверхинтеллекта.

В дохристианскую эпоху, в Древней Греции, демоны не считались представителями чистого зла. Они были посредниками между людьми и богами – существами промежуточными, непредсказуемыми и порой капризными. Последствия их деяний могли обернуться для человека как благословением, так и погибелью. Они были способны довести до безумия, но могли проявлять и истинную добродетель.

Понятие демона в его древнегреческом значении, по-моему, идеально подходит для сильного ИИ и сверхинтеллекта. Он может принести с собой величайший расцвет в истории или же полное уничтожение человечества. Его главная черта – абсолютная непредсказуемость.

Беда метафоры "кратта" в том, что в фольклоре это довольно глупое существо, над которым человек имеет интеллектуальное превосходство. Например, кратта можно уничтожить, дав ему невыполнимое задание – скажем, сплести веревку из песка. Богатство он собирает, воруя у соседей, а не создавая что-то свое, и если его не кормить кашей или хлебом, он звереет. В фольклоре финно-угорских народов плохое обращение с краттом могло привести к тому, что он испачкает нечистотами весь дом или даже обеденный стол.

Метафора "кратта" для узкого ИИ одновременно и удачна, и, с другой стороны, карикатурна, поскольку отрицает реальность развития технологий. Непредсказуемый древнегреческий демон – созидатель процветания со сверхъестественной силой или же разрушитель – кажется мне куда более уместным образом.

Однако и с этими метафорами возникают проблемы. Метафора должна быть понятна в современном контексте. В современной Эстонии мало кто знает подробности о краттах, и, к сожалению, то же самое касается древнегреческих демонов. Под влиянием христианства демона все равно видят лишь воплощением зла. Эти смыслы приходится долго объяснять. Но, возможно, у кого-то есть предложение еще более точной метафоры для искусственного разума, которая учитывала бы как его великолепные возможности, так и пугающие риски и неизвестность?

-------------------------------------------------------------------------------------------------------

https://www.kratid.ee/ 
https://sonaveeb.ee/search/unif/dlall/dsall/kratt/1/est 
https://time.com/7312305/agi-race-us-china-trump/ 
https://mogawdat.substack.com/p/agi-asi-aci-and-our-imminent-dystopia 
https://www.theguardian.com/technology/2024/dec/27/godfather-of-ai-raises-odds-of-the-technology-wiping-out-humanity-over-next-30-years