В ноябре Европейская комиссия согласовала проект постановления о "контроле переписки в мессенджерах" (chat control). По словам Патрика Брейера, Еврокомиссия фактически хочет приватизировать контроль над перепиской в мессенджерах. Компании должны будут с помощью искусственного интеллекта сканировать все сообщения, их вложения и метаданные, выявлять несовершеннолетних пользователей и ограничивать их доступ к приложениям с функциями переписки.

В открытом письме от 17 ноября эксперты по кибербезопасности и конфиденциальности подвергли критике эти предложения. Объем сканирования был вновь расширен, а предназначенные для этого решения искусственного интеллекта (ИИ) из-за своей неточности приведут к большому количеству ложных срабатываний, для проверки которых у Европейского союза нет ресурсов.

Кроме того, Еврокомиссия в собственном отчете не смогла убедительно доказать, что массовая слежка поможет предотвратить количество случаев жестокого обращения с детьми или сократить их количество. По мнению многих организаций по защите детства, следует вместо этого инвестировать в профилактику, образование и помощь жертвам, а также в доступность такой помощи.

Нецелесообразно рассматривать регулирование отдельно от его влияния на дизайн технологий и совместного воздействия регулирования и технологий на общество. Техническая реализация требования об ограничении доступа несовершеннолетних приведет к обязательной проверке возраста всех пользователей. Все существующие технические решения для реализации этого являются несовершенными.

Сбор копий документов увеличит риск утечки данных, что подтверждается как утечкой данных в Discord, так и другими недавними подобными случаями. Основанная на искусственном интеллекте проверка возраста по контурам лица пользователя является неточной. Решения, основанные на протоколе отсутствия информации, такие как предлагаемый ЕС цифровой кошелек, сделают пользователей зависимыми от поддерживающих их аппаратных средств и программного обеспечения, ограничивая доступ тем, кто не имеет подходящих устройств или документов.

Детей можно защитить от вредного влияния социальных сетей, не нарушая при этом конфиденциальность и безопасность всех пользователей, включая детей, которые в будущем станут совершеннолетними. Поскольку разработка вредных для них и для всех нас темных моделей дизайна подталкиваются желанием показывать персонализированную рекламу, первым шагом был бы запрет такой рекламы. Если реклама необходима для финансирования услуги, то она должна быть связана с отображаемым контентом, а не с предыдущим поведением пользователя и выводами, сделанными на его основе.

Как будто всего этого мало, 19 ноября Европейская комиссия решила, что для повышения конкурентоспособности ЕС необходимо "смягчить" правила защиты данных. Среди прочего, компании больше не должны будут информировать пользователей о деталях сбора и обработки данных, в случае "обоснованного интереса" можно будет использовать созданный пользователями контент для обучения моделей искусственного интеллекта и так далее.

Политики пошли в этих вопросах по пути наименьшего сопротивления, оставив статус-кво практически неизменным. Технологические гиганты довольны, потому что им не придется менять свои бизнес-модели и они смогут собирать еще больше данных о пользователях во имя благородной цели. Службы безопасности довольны, потому что смогут в очередной раз расширить свои возможности и полномочия по слежке. Политики и часть активистов довольны, потому что они могут показать, что занимаются этим вопросом.

Проигравшими являются пользователи, в том числе дети, которые в будущем станут взрослыми и которым останется "радость" использования интернета, который деградирует в общество слежки. Те, кто не желает такого будущего и не поддерживает передачу функций охраны правопорядка частным компаниям без демократического контроля, должны срочно заявить об этом депутатам Европейского парламента, поскольку вскоре начнутся переговоры об окончательной редакции проекта постановления о контроле за перепиской в мессенджерах, прежде чем он будет вынесен на голосование в Европарламенте.

Как Джордж Оруэлл, так и Олдос Хаксли в своих самых известных произведениях вдохновлялись романом Евгения Замятина "Мы". В описанной в книге антиутопии люди жили, - естественно, для обеспечения безопасности, - в домах из прозрачного стекла. Образно говоря, 2025 год был годом проектирования стеклянных домов в Европе и других западных странах.