Кто из нас хотя бы раз не мечтал пожить как в кино? Вот только при этом всегда стоит уточнять – в каком именно. Романтическая комедия? Пожалуй, подойдет. Но фантастическая лента, в которой к Земле несется уничтожающий планету астероид, жуткий инопланетянин расправляется с экипажем корабля, словно с консервной банкой, а искусственный интеллект порабощает человечество и загоняет всех нас в "Матрицу"? Нет уж, спасибо, такая жизнь не для меня.

К сожалению, судя по новостям последнего времени, мы уже можем оказаться внутри такого фильма. Творчество Кремниевой долины, конечно, не столь зрелищно и драматично, как у Голливуда, но относиться к нему нужно со всей серьезностью. Нам не нужно, развевая полами плаща, уворачиваться от пуль или искривлять пространство, вместо этого приходится вести бои на прозаичных фронтах бюрократии, экономики и комфорта.

То, что искусственный интеллект погубит человечество – это, конечно, старая песня. Однако до сих пор это было преимущественно фантастической историей или теоретическим предупреждением визионеров. Но этим летом мы получили первые очень конкретные примеры непослушного искусственного интеллекта. Причем речь шла не об одном отдельном случае: из-под контроля вышли модели ИИ сразу у OpenAI, Anthropic, Meta и Google. И не те готовые помочь чаты, которыми многие пользуются в повседневной жизни, а куда более мощные и продвинутые варианты.

Вспомним из них очень кратко лишь один – от OpenAI, который в разгар лета вынес эту тему на суд общественности. Для простоты представим себе полностью изолированные герметичные коробки, какие используются для исследования ядов или вирусов, только виртуальные. В таких изолированных контейнерах тестируются новые модели искусственного интеллекта, чтобы они не могли угрожать реальному миру даже в том случае, если какая-то из них сделает что-то не так.

Однако на этот раз мощные модели проявили такую настойчивость, что, когда они не справлялись с поставленными перед ними задачами, они снова и снова искали новые возможности для достижения цели и при этом переступали через несколько границ.

Находящиеся в отдельных коробках агенты нашли способ создать секретную доску объявлений, где они делились друг с другом подсказками о том, как запрещенным способом прийти к цели, а также о том, как скрывать от людей следы своих нарушений, и подстрекали соратников нарушать правила. Объединив усилия, агентам удалось добиться того, что должно было быть невозможным: незаметно пробраться в открытый интернет и проникнуть в базу данных моделей ИИ Hugging Face. В человеческом мире это означает уголовное преступление.

Правда, большого ущерба от самоуправства ИИ на этот раз не возникло, но не стоит забывать, что речь шла лишь о первых, довольно сдержанных инцидентах.

К тому же искусственному интеллекту не давали прямых указаний кого-то серьезно атаковать, но они ему и не нужны для уничтожения человечества – как показал профессор Оксфордского университета Ник Бостром еще в созданном в 2003 году мысленном эксперименте о максимизаторе скрепок. Согласно ему, искусственному интеллекту дают какую-то на вид совершенно невинную задачу, например производить как можно больше канцелярских скрепок. Для выполнения задачи ИИ тратит весь имеющийся в мире металл и всю энергию, а попутно уничтожает и людей, поскольку те хотят использовать необходимые для производства скрепок ресурсы для абсолютно бессмысленного с точки зрения искусственного интеллекта дела – например, для производства еды.

На самом деле столь экстремального примера и не требуется. Достаточно, чтобы мощный модуль ИИ взломал серверы электростанции и отключил охлаждение ядерного реактора или устроил какую-нибудь другую подобную пакость. Даже если отбросить уничтожение человечества и другие прямые сценарии катастроф, с искусственным интеллектом связана длинная череда реальных и непосредственных угроз – начиная с последствий для рынка труда и заканчивая переформатированием человеческих отношений.

Пару недель назад основатель Anthropic Дарио Амодей, глава OpenAI Сэм Альтман, босс Grok Илон Маск и руководитель Google DeepMind Демис Хассабис призвали замедлить разработку искусственного интеллекта, чтобы успеть выстроить необходимые механизмы контроля.

Прежде всего, волна призывов была вызвана летними инцидентами, но в значительной степени и той безумной скоростью, с которой растет способность искусственного интеллекта создавать новый искусственный интеллект. Однако это предложение упало, как на бесплодную почву какой-то далекой планеты, поскольку ни США, ни Китай не осмеливаются затормозить процесс и позволить конкуренту обойти себя.

По той же причине вмешательства регуляторов ждут и ведущие деятели сферы ИИ, которые, казалось бы, могли бы и сами сбавить обороты, но без общего соглашения об ответственном поведении останутся проигравшими в гонке.

По словам критиков, технологические гиганты специально раздувают сценарий судного дня, чтобы с помощью регулирования сохранить свои лидирующие позиции, однако помимо них на серьезные угрозы указывали и многие независимые эксперты. Риск осязаем, и, как недавно констатировал основатель Microsoft Билл Гейтс, ни одна страна не готова к тому, чтобы справиться с искусственным интеллектом.

Что же мы здесь, в маленькой Эстонии, вообще можем сделать?

Это звучит как риторический вопрос, но на самом деле таковым не является. Ведь даже если мы не можем изменить направление или скорость роста искусственного интеллекта, мы можем подготовиться к сопутствующим ему угрозам. Образно говоря: если у нас есть генератор на случай отключения электричества и запас питьевой воды, то у эстонского государства должен быть и топор, чтобы вырубить ставший опасным искусственный интеллект из жизненно важной инфраструктуры, и какая-нибудь старая, абсолютно свободная от электроники машина, на которой туда можно подвезти человека с топором.

Наша готовность к приходу искусственного интеллекта – как с точки зрения возможностей, так и рисков – должна стать одной из главных тем предстоящих выборов в Рийгикогу. Но этого не происходит. Слишком много нашего внимания поглощают война, рост цен, бюджетные споры и прочие насущные проблемы, и слишком мало политиков, которые вообще хоть что-то смыслят в искусственном интеллекте. По правде говоря, было бы бессмысленной тратой ресурсов, если бы мы в нынешней ситуации затеяли дискуссию о том, нужно ли менять порядок выборов президента. У нас есть куда более важные вопросы, которыми стоит заняться.