Видеолекция: подделывать теперь можно не только фото, но и видео. Как отличить т.н. дипфейк? ({{contentCtrl.commentsTotal}})

Фото: Christoph Scholz/Creative Commons

Технология обработки визуальной информации уже зашла достаточно далеко, чтобы можно было подделывать не только фотографии, но и видео, создавая т.н. "глубинные подделки" (дипфейк).

"Ложь успевает обойти полмира, пока правда надевает штаны". Эта меткая цитата в последние годы часто используется, когда речь идет о распространении неправды. Ложная информация принимает множество форм, и важно понимать, что ложь в виде текста - только одна из них. 

В последнее время ложная информация все чаще приобретает форму аудио-, фото- или видеоподделок. Поэтому становится важным уметь проверять и критически анализировать сообщения сомнительной ценности, которые доходят до нас в виде картинок или видео. 

В конце 2017 года начало быстро распространяться новое понятие: глубокая подделка, или дипфейк (англ. deepfake). Это понятие означает, что искусственный интеллект при помощи технологии глубинного обучения может изучить человеческие движения (например, мимика при разговоре) и на этой основе сгенерировать поддельные видео. Чем больше фотографий и видео конкретной личности есть в интернете, тем больше личность подходит для создания дипфейка.

В дипфейковых видео можно заставить человека делать и говорить то, чего желает их создатель. Следует учитывать, что чем дальше развивается эта технология, тем сложнее людям отличить подделку невооруженным глазом, и тем правдоподобнее она выглядит. Представьте, какой вред могут нанести такие подделки - как фигурирующим в них людям, так и обществу в целом.

Может произойти так, что вредоносная информация будет звучать якобы из уст влиятельных личностей и заставит других людей вести себя опасно по отношению как к себе, так и к другим людям. Ложная информация, распространенная посредством дипфейк, может обрушить биржи и повлиять на экономику. Она также может повлиять на межгосударственные отношения и даже довести до политических конфликтов. Например, мир уже облетели дипфейковые видео, где политики якобы говорят вещи, которые они никогда не говорили, или где они выглядят больными или одурманенными.

К счастью, распространение таких подделок пока не привело к всемирному политическому хаосу. Но имидж некоторых известных политиков, общественных деятелей и звезд кинематографа пострадал. 

Самый большой вред был нанесен людям, которых изобразили в дипфейковых видео порнографического толка. В подобных видеороликах лицо порноактера подменяется лицом желаемого человека. Около 96% дипфейков, распространяемых онлайн, именно порнографические. Тема дипфейковых видео всплыла в общественности в первую очередь потому, что их жертвой стали известные актрисы - их и изобразили в порнографических роликах. 

Но знаменитости - не единственные, чью жизнь подпортили поддельные видео. Порнографические дипфейки создаются и с "участием" обычных людей. В подобных случаях создателями видео часто являются бывшие партнеры, желающие выразить свою горечь по поводу разрушенных отношений, а то и отомстить.

Так что же нужно сделать для того, чтобы ненароком не навредить другим распространением дипфейка? И как самому избежать участи жертвы ложной информации? Простое решение существует! Всегда добавляйте к публикации указание на источник, чтобы не создавать или не распространять ложную информацию. Если вы хотите пошутить и поделиться заведомой неправдой, то упомяните, что это шутка. В случае каждой публикации следует подумать, как люди, видящие ее, могут ее воспринять. То, что для вас может показаться удачной шуткой, для другого человека может быть оскорбительным, а то и вообще сеющим страх и панику, подрывающим дух. Так что не стоит забывать о золотом правиле ежедневного общения: то, что является для другого человека личным и интимным, не должно становиться поводом для шуток. 

Если вы видите публикацию, которая кажется вызывающей негативные эмоции, необычной, конфликтной или пугающей, то следует проявить медиаграмотность и задать вопрос: откуда эта информация и какую цель может преследовать ее распространитель? Если в случае пугающего видео или фото невозможно узнать, когда, где и кем оно сделано, то следует подумать - а вдруг это ложная информация или дипфейк? Имитация лица человека в дипфейковых видео не полностью точна и аккуратна. В них можно заметить странные или резкие движения в области рта, а текст может казаться странным и даже шокирующим. Также проследите, не кажутся ли какие-то черты лица изображенного человека слишком "плавными", нет ли несоответствий в цвете лица. 

Давайте вспомним цитату, с которой начался этот разговор: "ложь успевает обойти полмира, пока правда надевает штаны". Кому она принадлежит? Она такая меткая, что ее авторство приписывали множеству известных личностей - от писателя Марка Твена до политика Уинстона Черчилля. У каждого из них была своя версия этой цитаты - где-то фигурировали штаны, где-то сапоги, а где-то ложь облетала полмира, а не обходила. Так что истинное авторство установить сложно, но смысл цитаты довольно глубокий, не правда ли? Ложь распространяется быстрее правды, но ее можно остановить критическим анализом сообщения, фотографии или видео. Если вы сомневаетесь в правдоподобности фото или видео, обратите пристальное внимание на контекст и ситуацию, в рамках которой они представлены публике. Часто ответ на вопрос "ложь или правда" кроется именно в тематике фото или видео, или во времени его размещения.

В качестве завершения темы распространения ложной информации предлагаю вам выполнить простое задание. Ваш друг попробовал свои силы в создании дипфейка, в котором его одноклассница рассказывает о том, как ворует в магазинах. Друг делится видео в секретной группе в Facebook. Какие последствия могут быть у его действий, и как вы поведете себя в такой ситуации?

ERR публикует информационные материалы о том, как лучше ориентироваться в современном перенасыщенном информационном пространстве и быстрее отличать проверенные факты от фейковых новостей, в рамках очередной недели медиаграмотности, которая проводится в Эстонии 26-30 октября.

Редактор: Андрей Крашевский

Hea lugeja, näeme et kasutate vanemat brauseri versiooni või vähelevinud brauserit.

Parema ja terviklikuma kasutajakogemuse tagamiseks soovitame alla laadida uusim versioon mõnest meie toetatud brauserist: