Мари-Лийс Якобсон: может ли искусственный интеллект превратить избирателей в коров?

Искусственный интеллект – прирожденный бюрократ, а человек должен сохранять контроль над политическими решениями и возможность проверять их на соответствие действительности, отметила Мари-Лийс Якобсон в эфире Vikerraadio.
В последние недели Эстонию потрясли несколько новостей о сокращениях, за которыми стоит стремление предприятий реорганизовать свою деятельность и с помощью искусственного интеллекта автоматизировать работу, которую до сих пор выполняли люди. Искусственный интеллект кардинально меняет рынок труда в частном секторе, но как он влияет на государственное управление и демократию?
Израильский историк Юваль Ной Харари заявил, что искусственный интеллект гораздо лучше человека справляется с бюрократической работой. Эволюционно человек не был создан для бюрократии. Наши предки развивались в условиях, где не существовало сводов законов, банковских счетов, отчетов и административных производств. Бюрократия – сравнительно позднее изобретение в истории человечества, к которому мы так и не смогли до конца приспособиться.
Зато искусственный интеллект, по словам Харари, – это прирожденный бюрократ, для которого базы данных, предписания и бесконечные производства являются естественной средой деятельности. В отличие от человека, он способен одновременно обрабатывать огромное количество информации и при этом не уставать.
Поэтому вполне логично, что вскоре зазвучат и предвыборные лозунги о государстве с искусственным интеллектом. Зачем человеку тратить недели на рассмотрение какого-нибудь заявления, если искусственный интеллект справится с этим за считаные минуты? Почему бы не поручать ему также составление правовых актов, анализ их влияния и организацию работы целых ведомств?
Звучит заманчиво. Меньше бюрократии, более быстрые услуги и меньшие расходы. Однако Харари рисует мрачную картину будущего. Он сравнивает возможные отношения человека с искусственным интеллектом с отношением коровы к человеку. При виде человека корова в какой-то мере понимает его поведение, но ничего не знает о финансовых рынках и законах, влияющих на принятие людьми решений относительно ее судьбы.
Точно так же, по словам Харари, в один прекрасный момент мы можем обнаружить, что искусственный интеллект создал настолько сложные административные, правовые и экономические системы, что человек уже просто не в состоянии понимать логику их работы. Мы можем по-прежнему оставаться частью этой системы, но утратить способность действительно ее контролировать. То есть оказаться в положении коров.
Теперь перейдем к демократии. Искусственный интеллект очень органично вписывается в логику технократического управления и, по всей видимости, был бы весьма эффективным авторитарным руководителем. Однако демократия – это не просто передача распоряжений или поиск наиболее эффективного решения.
Демократия основана на праве людей решать, в каком обществе они хотят жить, какие ценности считать важными и кому доверить власть. Эти решения не всегда рациональны и эффективны. Зачастую они противоречивы, принимаются медленно и даются нелегко. И хотя современная демократия тоже не является чем-то, что досталось нам эволюционно, навыки сотрудничества и ведения переговоров, играющие центральную роль в осуществлении народовластия, были эволюционным преимуществом человека.
Кроме того, ориентированный на человека конституционный порядок является главной гарантией защиты от господства искусственного интеллекта. Насколько далеко мы позволим ему зайти в этой сфере, зависит от нас самих.
Разумеется, и здесь искусственный интеллект может играть роль усердной экономки: помогать организовывать работу и упорядочивать информацию, переводить и анализировать. Гораздо важнее, однако, вопрос о том, в какой мере мы позволим искусственному интеллекту конструировать реальность?
Опасения по поводу склонности людей жить в симулякрах вместо реальности французский мыслитель Жан Бодрийяр высказывал еще 45 лет назад. И более ранние технологии позволяли создавать искаженное представление о действительности – от слухов до Photoshop, но скорость и достоверность, с которыми искусственный интеллект позволяет, например, создавать дипфейки или меняет нашу практику поиска информации, вывели симулякры на новый уровень.
Примеров того, как искусственный интеллект искажает реальность, уже предостаточно.
Так, перед нынешними выборами в Венгрии на официальной странице премьер-министра Виктора Орбана в Facebook было опубликовано созданное искусственным интеллектом видео, в котором лидер оппозиции Петер Мадьяр якобы принимает телефонный звонок от председателя Еврокомиссии Урсулы фон дер Ляйен. Правда, к видео была добавлена пометка о том, что контент создан с помощью искусственного интеллекта.
Перед выборами 2023 года в Словакии распространилась поддельная аудиозапись, на которой лидер оппозиции Михал Шимечка якобы обсуждает с журналистом манипулирование результатами выборов. Запись была опубликована непосредственно перед голосованием, когда времени на опровержение дезинформации оставалось крайне мало.
Перед парламентскими выборами в Германии в прошлом году партия "Альтернатива для Германии" использовала созданные искусственным интеллектом изображения, противопоставлявшие идеализированный образ Германии и миграционную угрозу. Это были не фотографии реального общества, а созданный в поддержку политического сигнала синтетический мир.
Эстония тоже не осталась в стороне от подобных тенденций, хотя о столь же серьезных инцидентах пока не сообщалось. Самое время обсудить, готовы ли партии договориться о прозрачных принципах использования искусственного интеллекта в предвыборных кампаниях и о том, какие способы его применения следует исключить. Это не поможет устранить угрозу подобных попыток манипулирования извне парламентской системы, но зато их будет легче осудить.
Стоит также задуматься о том, готовы ли журналисты и избиратели к ситуации, когда непосредственно перед выборами появится какой-нибудь особенно убедительный, но полностью вымышленный политический скандал.
Наши политики могут расходиться во мнениях по многим вопросам, но превратиться в коров, пожалуй, не хотел бы никто из них.
Редактор: Евгения Зыбина



