После начала российского полномасштабного вторжения в Украину российские власти стали активнее использовать камеры видеонаблюдения с системами автоматического распознавания лиц для задержания политических активистов и призывников.
Правозащитники "ОВД-Инфо" насчитали около 600 таких случаев, но реальная статистика может быть выше, отмечают в "Роскомсвободе".
Сергея Захарова задержали в метро, не объяснив причину. В ОВД сотрудники полиции несколько раз спрашивали Захарова, не связано ли его задержание с участием в акциях протестов. "Вы же задержали меня по какому-то основанию, а теперь меня же спрашиваете, за что задержали?" – ответил Захаров. После этого мужчину отпустили.
"Мы с друзьями ехали на спектакль Севы Лисовского по Бертольду Брехту. Доехав до "Измайловской", к нам зашли два сотрудника полиции, которые постоянно дежурят в метро, – вспоминает Дарья, героиня документального фильма "Лобное место" проекта "Признаки жизни". – Якобы я была в каком-то специальном списке за неуплату штрафа по статье об участии в митинге, когда нас задержали 26 февраля [2022 года]". Поэт Никита Левитский, другой герой фильма, отметил, что Дарью сфотографировали после задержания. "Многих из тех, кого сфотографировали на митингах, вчера задержали в метро просто потому, что в базе есть их фотографии", – говорит он.
Егора Комлева, Елену Грибкову и ещё минимум 13 человек задержали после похорон оппозиционного политика Алексея Навального.
Преследования политических активистов или участников протестов при помощи камер, впрочем, начались ещё до полномасштабной российской агрессии. В январе 2022 года проект "ОВД-Инфо" опубликовал доклад о том, как российские власти используют камеры и систему распознавания лиц против протестующих.
Согласно докладу, в 2021 году правозащитники зафиксировали по меньшей мере 454 задержания постфактум, из них 363 связаны с акциями в поддержку оппозиционного политика Алексея Навального. Как минимум 164 человека рассказали, что во время судов или бесед с полицией им сообщили об использовании фото– и видеоматериалов с их участием в качестве доказательств. 125 человек получили возможность ознакомиться с этими материалами. "ОВД-Инфо" отмечает, что упоминания о системе распознавания лиц были лишь в шести постановлениях судов.
6 мая 2021 года задержали на тот момент московского муниципального депутата района Черёмушки Юлию Щербакову, силой увезли в ОВД и устроили суд в тот же же день за акцию в поддержку Алексея Навального: камера ошибочно приняла за неё совсем другую женщину.
Как отмечает в разговоре с Moscow Times юрист "Роскомсвободы" Саркис Дарбинян, российские власти игнорируют рекомендации ООН по ограничениям в применении видеонаблюдения и неправомерно используют биометрические данные граждан.
Правозащитники "ОВД-Инфо" отмечают, что задержания участников протестов или других активистов служат для запугивания граждан. Эти действия принуждают людей к отказу от реализации своих гражданских прав. К тому же, напоминают правозащитники, участие в акциях протеста само по себе не является правонарушением. Помимо этого, КоАП не подразумевает наказания за намерение совершить правонарушение.
Несмотря на то что камеры с системой распознавания лиц должны были снизить уровень преступности и увеличить раскрываемость преступлений, они стали инструментом репрессий, работающим выборочно и совершающим ошибки. Более того, уровень раскрываемости преступлений с начала активного использования камер с ИИ только снизился, говорят собеседники Радио Свобода.
Краткая история внедрения системы распознавания лиц: от чёрно-белых камер до ИИ
Сергей Росс, основатель исследовательского центра "Коллективное действие", с коллегами в своей научной работе описывают основные этапы внедрения системы распознавания лиц в Москве.
- 2001 год – в жилых домах и общественных местах установлены чёрно-белые камеры.
- 2005 год – камеры подключаются к точкам видеонаблюдения.
- 2010 год – создан Департамент информационных технологий Москвы, мэром Москвы становится Сергей Собянин – именно с его приходом начался процесс цифровизации Москвы, отмечают исследователи.
- 2011 год – объявлено о запуске программы "Безопасный город".
- 2012 год – запуск первой системы распознавание лиц в московском метро. В том же году власти запретили скрывать свои лица на митингах.
- 2014 год – масштабирование "Безопасного города".
- 2015 год – разрабатываются меры антитеррористической безопасности для чемпионата мира по футболу 2018. Камеры установлены по всему городу, создаются программные комплексы и единый центр хранения и обработки данных с удалённым доступом к камерам и архивам в режиме реального времени.
- 2017 год – начало сотрудничества Департамента информационных технологий Москвы и NtechLab, который занимался разработкой системы распознавания лиц. На сегодняшний день в Москве также используются и другие системы: Tevian FaceSDK, VisionLabs Luna Platform и Kipod.
- 2018 – проверка системы распознавания лиц на чемпионате мира по футболу.
- 2020 – официальное начало московского пятилетнего эксперимента по массовому внедрению искусственного интеллекта, хотя общегородское внедрение ИИ, вероятнее всего, началось ещё в 2019 году. В 2020 году система использовалась для отслеживания нарушений ограничительных мер в период пандемии COVID-19.
- 2021 – система автоматического распознавания лиц внедрена во все московские камеры, принадлежащие госорганам.
В одной только Москве сегодня работает более 205 тысяч камер, отмечают исследователи. На втором месте по количеству камер – Подмосковье (свыше 80 тысяч), далее Санкт-Петербург (67 тысяч) и Татарстан (32 тысячи). Самый "слепой" регион – Чукотка (15 камер).
Сколько стоит разработка систем и обслуживание камер?
Журналисты Moscow Times посчитали, что траты на системы распознавания лиц с 2011 года составили 3,6 миллиарда рублей, из них более 1,2 миллиарда – после начала полномасштабной агрессии.
С 2011 года было заключено почти 600 контрактов на обслуживание камер, подключённых к системе "Безопасный город", и передачу видео с них в центры хранения данных. Общая сумма – 120 миллиардов рублей, при этом контракты на 90 миллиардов заключила мэрия Москвы. Основные поставщики услуг – "Ростелеком" (50 с половиной миллиардов), "Ситроникс" миллиардера Владимира Евтушенкова (23 с половиной миллиарда) и "Московская городская телефонная сеть" (12 миллиардов).
Издание со ссылкой на контракт Департамента информационных технологий Москвы от 29 ноября 2022 года отмечает, что самым дорогим видом видеонаблюдения было внутридворовое – на одну камеру из бюджета уходило 15 с половиной тысяч рублей в месяц, или 900 тысяч рублей за пять лет действия контракта. Для коммерческих структур были предусмотрены другие условия: "Ростелеком" предлагает камеры за 3 тысячи рублей под ключ и 1800 рублей сверху за систему распознавания лиц.
Как работают камеры?
Социолог Антон Васильев (имя изменено из соображений безопасности) отмечает, что логика работы системы распознавания лиц для преследования политических активистов сильно отличается от работы этой же системы в ходе расследования краж или других преступлений. Более того, этим фактически занимаются разные специалисты.
"Камеры работают: мы это видим и знаем", – говорит Васильев. Он отмечает, что на сегодняшний день камеры видеонаблюдения и система распознавания лиц лучше всего работают в метро, в том числе потому, что там лучшие для этого условия: подходящее освещение, удачное расположение камер, невозможность скрыться.
Это никому не нужно
При этом Васильев отмечает, что фактически эта система в метро раньше применялась для поиска преступников или активистов крайне редко, потому что она, по словам социолога, работала "слишком хорошо", а у самих полицейских не было цели раскрывать как можно большее количество преступлений.
"Если они включают камеры, то система отрабатывает настолько быстро, что данные сразу логируются (информация фиксируется и структурируется с возможностью быстрого доступа к ней. – Прим. РС). Если находили человека в розыске, его сразу логировали, и поэтому нужно было отрабатывать. И вот представьте себе ситуацию, что у вас и так поток дел, а вам ещё сверху в два раза больше прилетает, потому что камеры включены. Это никому не нужно. Поэтому их включали тогда, когда было понимание, сколько дел нужно, чтобы дотянуть до отчетности. Их включали в один день, дотягивали до необходимой отчётности и выключали.
И это такая хрестоматийная ситуация – не как они работают, а как стоит относиться ко всем этим системам. У полицейских обычно в повседневной жизни нет никакого желания искать каких-то протестующих или оппозиционеров. Не факт, что вообще они их в глаза в своей жизни видели, за исключением редких ситуаций массовых повязок. В повседневной жизни они разбираются с кучей однотипных краж, всяких жалоб и так далее. Всё, что может им помочь раскрыть дело, – это хорошо, но всё, что ускоряет этот процесс настолько, что он становится неконтролируемым, для них плохо. Потому что ваша задача – не поймать всех преступников, а получить премию и не получить выговор".
Вторым фактором, который следует учитывать при оценке эффективности работы камер, является качество их работы вне метро. Данные для системы распознавания и сопоставления лиц берутся в основном из паспортной службы и картотеки загранпаспортов, поэтому у силовиков возникают проблемы с разпознаваием иностранцев из-за "мерцающего контроля" за ними, отмечает Васильев.
"По последним данным за 2023 год, 13% граждан России имеют загранпаспорт. Плюс вспоминаем фотографии, которые они могут получить из обычных паспортов, и это, нужно понимать, только последние 5–10 лет, когда фотографии стали цифровизироваться. Соответственно у них, на самом деле, нет фотографий как минимум двух третей жителей России", – говорит социолог.
Он вспоминает, что крупнейшие российские банки для расширения баз данных в 2020 году пытались под разными предлогами собрать биометрические данные клиентов: они предлагали разные бонусы за то, что человек сдаст в банке биометрию, но при этом у банков не было понимания, как это лучше сделать и зачем. В результате этой акции свои биометрические данные сдали примерно 100 тысяч человек, говорит Васильев. Поэтому фотографии на данный момент всё ещё берутся "откуда придётся".
Основатель исследовательского центра "Коллективное действие" Сергей Росс отмечает, что говорить о том, откуда силовики берут фотографии для системы распознавания лиц, со стопроцентной уверенностью нельзя. При этом, опираясь на судебные дела и общение с информаторами, а также анализируя работу подобных систем в других странах, он пришёл к выводу, что камеры довольно часто ошибаются при распознавании лица именно из-за плохого качества референтного изображения нужного им человека. Он соглашается с Васильевым и считает, что фотографии в некоторых случаях действительно берут "откуда придётся".
"С поправками на это можно сказать, что есть какая-то база референтных изображений, и эта база действительно состоит в основном из вот этих вот паспортных и прочих данных. Это достаточно низкокачественные снимки, что в том числе сказывается на точности распознавания, на результатах этой системы".
Росс вспоминает дело мундепа Щербаковой, когда система распознавания лиц выдала за неё совершенно другого человека. "Видимо, хотели поймать её, но загнали в систему, видимо, не те или вообще не её фотографии. И в итоге-то её задержали, но дело развалилось очень быстро, потому что там очевидно не она на фотографиях. Это намекает на то, что вот эти вот так называемые референтные изображения, которые являются основанием для сличения, они либо берутся из паспорта, то есть плохо подходят для этих целей, либо набраны из соцсетей и тоже не слишком высокого качества, либо вообще фотографии подбираются наспех", – говорит Росс.
Социолог говорит, что в Москве низкий общий уровень раскрываемости преступлений, но при этом очень высокий уровень раскрываемости тяжких преступлений по сравнению с общероссийским, потому что в этом случае система работает хорошо. При этом многие дела, в которых была задействована система распознавания лиц, остаются в "серой зоне" и делопроизводство останавливается. Васильев объясняет это тем, что массовое применение камер может вызвать широкое общественное недовольство, которого опасаются силовики. Поэтому говорить о резком повышении количества раскрытых преступлений даже после ввода биометрических данных не приходится, но при этом камеры нередко становятся инструментом политического преследования. В этом случае всё же есть определённые нюансы.
На протестах и крупных митингах камеры на данный момент, по мнению социолога, работают хуже и практически не используются. Дело в том, что на площадях установлены свисающие камеры "Купол": из-за скруглённой оптики они плохо работают с биометрическими данными. Обычно в таких случаях используют методику анализа антропометрических данных, уникальные качества каждого отдельного человека, но применение этой системы довольно редко встречается в российской практике.
Камеры работают в этом смысле в первую очередь для устрашения
Основная же задача этих камер во время протестов – не столько следить за самими протестующими, сколько координировать работу полиции. Если же у силовиков есть профайл и задача задержать активиста, то они с большей вероятностью будут ориентироваться именно на камеры, установленные в метро.
"Раньше, до массового расцвета систем распознавания лиц, к вам был просто пришли и сказали: "Не ходите на митинг". А сейчас к вам приходят и говорят: "Мы знаем, что вы были на митинге. Не ходите больше туда или давайте пройдем в участок". И камеры работают в этом смысле в первую очередь для устрашения, потому что весь остальной профайл, он и так есть, он не нужен, все всё знают", – говорит Васильев.
Мешок денег или мешок проблем? Помогают ли камеры лучше раскрывать преступления и почему они не работают по всей России
Вопреки большим финансовым вложениям и всё большему внедрению системы распознавания лиц, коэффициент раскрываемости преступлений не вырос с 2018 по 2021 годы, отмечают Сергей Росс и коллеги. Более того, уровень раскрываемости с началом "московского эксперимента" снизился по всем видам преступлений на несколько процентных пунктов. Впрочем, исследователи отмечают, что это может быть связано и с изменением структуры совершаемых преступлений: например, в период исследования резко возросло количество киберпреступлений.
Анализ показывает, что, по крайней мере в Москве, внедрение системы распознавания лиц не привело к повышению раскрываемости краж и преступлений, совершённых в общественных местах, хотя оно и оказывает некоторое влияние на общее количество преступлений, работая как сдерживающий фактор. Авторы исследования отмечают в целом низкую раскрываемость преступлений по Москве – 30% (в Германии, например, 60%), и внедрение систем распознавания лиц её никак не повысило.
"Эти данные свидетельствуют о том, что ожидания официальных лиц и их заявления о миллиардах государственных средств, вложенных в создание единой системы наблюдения с системой распознавания лиц, оказались далеки от реальности. Обещанная "настоящая революция в области поиска и раскрытия преступлений", похоже, произошла не так, как утверждали официальные лица", – говорится в исследовании.
"Любое внедрение, в том числе даже такое, казалось бы, простое, как камера или система распознавания лиц, прикрученная к этим камерам, требует исследований и уточнений: как это работает в разных контекстах, как на это реагируют сотрудники полиции, как они это используют и так далее. Это требует изучения и исследования, и этого сделано не было до сих пор. Причем это я знаю не только с точки зрения логики, я анонимно общался с одним из основателей этой системы. Собственно, он тоже говорит, что не было никаких исследований на эту тему ни до внедрения, ни на стадии внедрения. Конечно, в итоге система внедряется с разного рода ошибками, которых можно было бы избежать. И я думаю, что эти ошибки при расширении этой системы на всю страну будут множиться, множиться и множиться", – говорит Росс.
Кроме того, отмечает Росс, существует очень много разных разработчиков систем и их заинтересованных кураторов в различных органах власти, количество которых только увеличится при расширении системы на всю страну.
"Это и мэр Собянин, который является отдельным игроком. Эта система, которая в Москве, – это отдельная его вотчина. В Петербурге другая система. Есть другие интересанты, есть интересант в виде Сбербанка, есть интересант в виде Центробанка, у которого есть тоже свои системы, есть Минкомсвязи. И все эти интересанты преследуют какую-то свою повестку, у них какие-то свои взгляды на эту систему. Они все продвигают по мере возможности своё регулирование, лоббируют свои интересы и так далее. И это все, естественно, накладывается, и я думаю, что это станет большой проблемой при развитии. Потому что вот это перетягивание одеяла, мне кажется, скажется на внедрении тоже не в лучшую сторону", – отмечает Росс.
С точкой зрения Сергея Росса соглашается и социолог Антон Васильев.
"Если посмотреть на систему "Безопасный город", от которой происходят все эти камеры, она была введена в 2014 году. В 2017 или 2018 году она официально, на уровне правительственной комиссии, была признана неэффективной. В 2018 году правительство Москвы заключает соглашение с NTechLab – это, собственно, одна из лидирующих российских компаний по решениям в сфере биометрии.
Притом что в 2018 году уже всё было готово, то есть алгоритм был, понимание было, мощности какие-то были, но система была запущена только в 2020 году, потому что государство на уровне конкретных людей, конкретных механизмов – это повседневная, иногда скучная, иногда более активная работа, в которой люди, по большому счету, пытаются просто качать между собой власть и ресурсы.
Тот самый всероссийский проект "Безопасный город" возник буквально из-за ведомственной борьбы и больше не из-за чего. Если вы почитаете норматив, вы узнаете, что ведомство, ответственное за "Безопасный город" в России, – это не МВД, это даже не муниципальные власти, это не какие-то силовики, а МЧС. Просто МЧС победило в аппаратной борьбе.
МВД очень много возмущалось и, собственно, запороло всю программу по итогу. Почему она была признана неэффективной? Потому что ее запороло МВД, оно просто категорически встало против и отказалось пользоваться всеми этими комплексами, даже подключаться к ним. На местах это приводило ко всяким разным коллизиям. С биометрией точно так же. Главная причина, опять же исходя из того, как я вижу себе контекст, почему все готово было уже в 2018 году, а внедрили только в 2020-м, заключается банально в том, что в Москве было сильное напряжение между мэрией Москвы и МВД", – говорит Васильев.
Можно ли обмануть камеры?
Сооснователь NTechLab, одного из ведущих российских игроков в сфере систем распознавания лиц, Александр Кабаков говорил, что их систему крайне трудно обмануть и она способна распознать даже лицо в маске.
Антон Васильев в целом согласен с этим, но подчеркивает, что московская система оборудована системой распознавания не последнего поколения.
"Современные исследования показывают, что хорошую систему распознавания лиц не обмануть. Чтобы она вас распознала, достаточно хорошего качества оригинального изображения и любого качества изображений для сличения, когда у вас между зрачками 8 пикселей, и от переносицы до носа тоже 8 пикселей. Этого хватит для распознания человека системой последнего поколения. В Москве, например, системы не последнего поколения, Сбербанк, напротив, использует самые современные системы. Изменится ли ситуация в будущем – неясно".
Сергей Росс отмечает, что существует множество вещей, которые теоретически могут позволить обмануть систему распознавания лиц: причёска, темп и стиль походки, специальная одежда. "Можно ли обмануть в принципе, не концентрируясь на России? Второе – можно ли обмануть камеры в условиях российских реалий, в которых политические активисты находятся каждый день? На оба вопроса ответ – "да", но это разные "да".
Если мы говорим конкретно про Россию, про Москву сегодняшнего дня и про политических активистов, то самая главная защита в том, что система использует низкокачественные снимки. Существует масса примеров, когда активистов действительно превентивно задержали по камерам, но есть не меньше примеров обманов системы.
Например, кейс Люси Штейн, которая была под домашним арестом, переоделась в курьера и вышла из подъезда. Мало того, что подъездные камеры низкокачественные, и понятно, что они её пропустили, но и потом она как-то покинула страну. Большое количество активистов за последние два года, в том числе против которых были различные виды серьезных преследований, покинули Россию.
Значит, камеры не так гладко работают, как это заявляется, по крайней мере вот на эти цели. Соответственно, низкое качество входящих референтных изображений – это, в принципе, наибольшая проблема", – считает Сергей Росс.
