Новые правила ЕС потребуют от мессенджеров сканировать сообщения для выявления правонарушений

74

Еврокомиссия готова предложить новые правила, согласно которым приложения мессенджеров вроде WhatsApp или Facebook* Messenger будут выборочно сканировать сообщения пользователей в поисках материалов, связанных с сексуальным насилием над детьми (т.н. CSAM) и попытками домогательств до несовершеннолетних со стороны взрослых. Проект раскритиковали эксперты по информационной безопасности и правозащитники.

Новые правила ЕС потребуют от мессенджеров сканировать сообщения для выявления правонарушений

После того, как данные о законопроекте появились ранее на этой неделе, он немедленно подвергся критике ряда групп и экспертов. По словам одного из них, «документ представляет самую страшную вещь из тех, что он когда-либо видел». Некоторые специалисты заявляют, что это один из самых «постыдных» законов, полностью несовместимый с любой свободной демократией. В частности, закон предусматривает ряд новых обязательств для «онлайн-провайдеров сервисов», включая магазины приложений, хостинг-сервисы и любых провайдеров «сервисов межличностного общения».

Наиболее суровые нормы будут применяться к популярным мессенджерам. Так, после получения запроса от властей администрация мессенджера обязана будет сканировать сообщения указанных властями пользователей в поисках материалов, связанных с сексуальным насилием в отношении детей, а также фактов домогательств — это потребует использования инструментов машинного зрения и систем ИИ для анализа контекста фото и текстов. Запросы будут делаться правоохранительными органами отдельных государств. Тем не менее, в документе отсутствует определение того, как именно будут «таргетироваться» запросы — на отдельных личностей, сообщества или более широкие категории пользователей.

Новые правила ЕС потребуют от мессенджеров сканировать сообщения для выявления правонарушений

Критики утверждают, что подобные запросы могут быть использованы для слежки за большими группами. По мнению некоторых экспертов, законопроект «оставляет дверь открытой для намного более обобщённой слежки». Кроме того, в случае принятия закон сможет полностью свести на нет систему сквозного шифрования. Хотя оно не запрещается в документе, компании будут обязаны использовать в своих системах программное обеспечение, способное идентифицировать CSAM-контент, что сделает сквозное шифрование практически невозможным. Поскольку правила ЕС оказывают влияние на цифровую политику во всех частях света, аналогичные нормы могут распространиться и на всю планету.

По словам представителя правозащитной организации Electronic Frontier Foundation, отсутствует способ сделать то, что намерен сделать ЕС, без массового сканирования сообщений. Если проект станет законом, это приведёт к нарушению конфиденциальности пользователей не только в ЕС, но и по всему миру.

Кроме того, в случае «домогательств» обнаружение контента потребует использования специальных инновационных алгоритмов, в результате чего неизбежны ошибки и попадание в поле зрения правоохранительных органов невиновных пользователей мессенджеров. В качестве примера неэффективности подобных инструментов правозащитники приводят спам-фильтры, постоянно ошибающиеся в оценке контента.

* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».

Источник