Введение моратория на использование Facial Recognition в системе городского видеонаблюдения

Внедрение повсеместно видеокамер и систем, умеющих распознавать лица, обосновывается легитимными целями поиска пропавших детей и борьбы с преступностью, включая терроризм. Однако опыт говорит о том, что технология распознавания лиц  уже используются и будет использоваться значительно более активно для незаконного контроля за людьми со стороны государства, чем для реальной борьбы с преступностью. 

Технология распознавания лиц - это прогрессивная технология двойного назначения. 

В ходе проводимой кампании мы просим ввести мораторий на использование “технологии распознавания лиц” правоохранительными органами и органами надзора в отношении лиц, не причастных к совершению каких либо правонарушений и не дававших согласие на использование их биометрических данных. Такой мораторий должен действовать до завершения всех социологических и юридических исследований в отношении последствий использования технологий и до момента принятия надлежащих правовых гарантий от злоупотреблений и сохранности данных.

Мораторий должен применяться к любому виду разработки нормативных актов, создания и поддержания федеральных и региональных программ, предоставления федеральных субсидий и помощи субъектам РФ, которые стремятся использовать эту технологию в правоохранительных целях либо для контроля за передвижением граждан. 

Такие меры необходимы для защиты россиян от чрезвычайно серьезной угрозы их конституционным правам на приватность и тайну частной жизни. Технологии, которые подходят для организации слежки, непременно будут использованы для слежки.

Они позволят отслеживать людей без их согласия в режиме реального времени, соотносить их с цифровыми профилями, однозначно идентифицировать людей в их повседневной жизни. И далее влиять на их поведение с целью ограничения некоторых видов “нежелательного поведения”, признанного таковым узкой группой политических сил. Эта способность угрожает создать мир, в котором люди наблюдаются и идентифицируются, когда они совершают законные действия - участвуют в мирном гражданском протесте, собираются  в месте религиозного поклонения, посещают врача или идут в университет. 

При этом, действующее законодательство:

• не разрешает сбор биометрических данных граждан и их обработку, в том числе распознавание их лиц без их ведома и их надлежащего согласия;
• не содержит нормативных положений, позволяющих как использовать подобную технологию правоохранительными органами, так и установить правовые гарантии против злоупотреблений и нецелевого использования данных.

В настоящее время Правительство Москвы и МВД продолжают расширять использование технологии распознавания лиц без каких-либо гарантий и инструментов надлежащего надзора, анонсируя подключение к указанной системе более 100 000 городских камер. Для этого власти собираются потратить более 13 млрд рублей. 

При использовании подобной технологии в отношении конкретных лиц необходимо получить решение суда об ограничении права на тайну частной жизни, однако для правоохранительных органов не существует  на сегодня требований, предусматривающих необходимость подобных судебных санкций до начала использования технологии распознавания лиц. Также как и не существует никакого реально работающего надзора над тем, чьи лица загружаются в эти базы данных и кто, а также на основании чего имеет доступ к таким базам.

Эта проблема уже стала предметом самой серьезной озабоченности в связи с возможными злоупотреблениями в других странах. Технология уже используется для выявления людей, протестующих против жестокости полиции в США и Великобритании, В Китае она была развернута для систематического контроля над представителями религиозных меньшинств, уйгуров. 

Понимая существующие технологические возможности слежки, которая, без сомнений, уничтожит приватность и значительно ударит по правам человека в условиях того, что многие критики называют “цифровым тоталитаризмом”,  наблюдая за ужасным китайским примером, в США, Великобритании и ЕС сегодня прогрессивные политические силы ведут активную  работу по разработке законопроектов, запрещающих полицейским и властям разного уровня использовать технологию распознавания лиц для отслеживания и поимки людей. В Калифорнии уже введен запрет на использование технологии.

Принимая во внимание, что в России не существует надлежащего надзора за организацией слежки за гражданами и вмешательством в частную жизнь, меры по массовому внедрению подобных технологий ставят под удар фундаментальные права российских граждан и других лиц, находящихся на территории РФ.

В решении Большой палаты ЕСПЧ от 4 декабря 2015 года по делу “Роман Захаров против России”, в котором исследовалась организация российской системы прослушивания мобильных телефонов и перехвата любой другой информации вне рамок уголовных расследований, было установлено, что в России действует произвольная и оскорбительная практика слежения.

Европейский суд по правам человека установил, что российский суд не осуществляет полноценного контроля при принятии решения, разрешающего прослушивание: суд не имеет доступа к информации о методах и тактиках оперативно-розыскной деятельности, не проверяет наличие обоснованного подозрения в преступлении, факты дела и соразмерность по ст. 8 Конвенции. Кроме того, отсутствует хоть какая-либо возможность контроля наличия разрешения на прослушивание в момент его начала. В отношении контроля за прослушиванием после выдачи разрешения, Большая Палата отметила, что суд, выдавший разрешение, о ходе и результатах прослушивания не уведомляется, прокурорский надзор является неэффективным, а сам человек, которого прослушивали, никогда и не узнает, что подобное с ним происходило. Таким образом, российская система СОРМ была признана несовместимой с требованиями статьи 8 Конвенции о защите прав человека и основных свобод. 

До настоящего времени решение ЕСПЧ по делу Захарова так и не было исполнено в России, система слежки не поменялась, а с принятием “пакета Яровой” и ряда других законов ситуация стала только хуже. 

Начиная с 2015 года, российские власти предприняли целый ряд шагов, направленных на серьезное ограничение права на уважение частной жизни и тайну переписки, фактически распространив систему постоянного прямого контроля телефонных переговоров на все интернет-коммуникации. Наиболее неоднозначной мерой является принятый 6 июля 2016 года так называемый «Закон Яровой» - Федеральный закон № 374-ФЗ.  Закон представляет собой пакет поправок, в частности, в Федеральный закон «Об информации, информационных технологиях и о защите информации» и Федеральный закон «О связи» под предлогом противодействия терроризму, затронувших различные аспекты регулирования телекоммуникаций, в том числе касающиеся приватности и анонимности. Технически и организационно хранилища информации должны предусматривать постоянный удаленный неограниченный доступ спецслужб с помощью технических средств ко всем пользовательским данным, которые операторы связи и Интернет сервисы обязаны хранить в течении длительного времени.

Кроме того, Россия остается страной с неадекватной защитой персональных данных. Это связано с весьма слабым законодательством, а также отсутствием независимости, беспристрастности и надлежащих полномочий у уполномоченного органа, осуществляющего надзор и дознание в сфере защиты приватности человека. При этом многочисленные утечки персональных данных из государственных и банковских систем остаются безнаказанными. 

Искусственный интеллект для массового распознавания лиц обеспечит государство  тотальным контролем над социальной реальностью, сделав власть всевидящей и, одновременно, невидимой для общества.

Камеры сканируют всех в поле зрения - взрослых и детей – выхватывая наши глубоко личные биометрические данные без нашего согласия. Это грубое нарушение нашей конфиденциальности.

Если мы знаем, что за нами наблюдают и идентифицируют наши лица, мы меняем свое поведение. Мы можем решить не выражать свои взгляды публично или из-за риска  быть наказанным за участие в мирном протесте. Мы не должны менять то, как мы живем и действуем в соответствии с законом и общепризнанными международными нормами прав человека, чтобы защитить себя от необоснованного наблюдения. Технология распознавания лиц делает нас менее свободными.

В рамках проводимой Роскомсвободой общественной кампании мы требуем ввести мораторий на использование “технологии распознавания лиц” правоохранительными органами и органами надзора в отношении лиц, не причастных к совершению каких либо правонарушений, и не дававших согласие на использование их биометрических данных.

_______________________________________________________________

Ban Facial Recognition in urban surveillance systems

Facial recognition system is justified by the legitimate goals like searching for missing children and combating crime, including terrorism. But experience suggests that the system is already being used for illegal control of people much more actively than for a real fight against crime.

Facial Recognition System is advanced dual-use technology.

In our campaign we demand for a moratorium on the use of Facial Recognition System by law enforcement and supervisory authorities regarding persons who were not involved in any offenses and did not consent to the use of their biometric data. The moratorium must act until all sociological and legal studies have been completed with respect to the consequences of using the system. Also the moratorium should be in effect until the adoption of appropriate legal safeguards which prohibit data abuse and protect its safety.

The moratorium should be applied to any type of regulations, federal and regional programs, including the subjects of the Russian Federation who seek to use the system for law enforcement purposes or to control the movement of citizens.

Such measures are necessary to protect Russians from an extremely serious threat to their constitutional rights to privacy. Technologies that are suitable for surveillance will certainly be used for surveillance.

The technology will allow to track people without their consent in real time, correlate them with digital profiles and identify people in their daily lives. And it will allow to influence their behavior in order to limit some types of “undesirable behavior” recognized as such by a narrow group of political forces. This ability is dreadful because it threatens to create a world where people are observed and identified when they commit legal acts - if they participate in a peaceful civil protest, gather in a place of religious worship, visit a doctor or go to university.

At the same time, the current legislation:

• does not allow the collection of biometric data of citizens and their processing, including the recognition of their faces without their knowledge and their proper consent;
• does not contain provisions allowing both the use of such technology by law enforcement agencies and the establishment of legal safeguards against abuse and misuse of data.

Currently, the Moscow Government and the Ministry of Internal Affairs continue to expand the use of Facial Recognition System without any guarantees and proper supervision tools. The Moscow govt announced the connection of more than 100,000 city cameras to this system. For this, the authorities are going to spend more than 13 billion rubles (about $200 million)

When using this technology in relation to specific individuals, it is necessary to obtain a court decision to limit the right to privacy. However, there are currently no requirements for law enforcement agencies that require such judicial sanctions before using Facial Recognition. As well as there is no really working supervision over whose faces are uploaded to these databases and who, and also on the basis of which has access to such databases.

This issue has already become a matter of most serious concern in other countries. The technology is already being used to identify people protesting against police brutality in the US and UK. In China, it has been deployed to control representatives of religious minorities - Uyghurs.

Understanding technological capabilities of surveillance, which will undoubtedly destroy privacy and significantly affect human rights many critics call this situation “digital totalitarianism”. Watching the terrible Chinese example, in the US, UK and EU progressive political forces are actively working on the development of bills prohibiting police and authorities at various levels from using Facial Recognition System to track and capture people. San Francisco and other US cities have already banned the use of the System.

Taking into account that in Russia there is no proper oversight of the organization of surveillance of citizens, measures for the mass introduction of such technologies endanger the fundamental rights of Russian citizens and other persons located here.

The decision of the Grand Chamber of the ECHR of December 4, 2015 in the case of Roman Zakharov v. Russia, which examined the organization of the Russian system for wiretapping mobile phones and intercepting any other information outside the framework of criminal investigations, established that arbitrary and insulting tracking practice was in effect in Russia .

The European Court of Human Rights has established that the Russian court does not exercise control over making a decision authorizing wiretapping. The court does not have access to information about the methods and tactics of operative-search activities, it does not check for reasonable suspicion of a crime, the facts of the case and the proportionality under Art . 8 of the Convention. In addition, there is no any possibility of monitoring the availability of wiretapping permission at the time it started. Regarding the control of wiretapping after issuing a permission, the Grand Chamber noted that the court that issued the permission was not notified of the progress and results of the wiretapping and prosecutorial supervision was ineffective, also the person who was being tapped would never know that such a thing had happened to him. Thus, the Russian SORM system was found to be incompatible with the requirements of Article 8 of the Convention for the Protection of Human Rights and Fundamental Freedoms.

To date, the ECHR decision in the Zakharov case has not been enforced in Russia, the surveillance system has not changed, and with the adoption of the “Yarovaya Law” and a number of other laws, the situation only got worse.

Since 2015, the Russian authorities have taken a number of steps aimed at seriously restricting the right to respect for private life and confidentiality of correspondence. The authorities have extended the system of constant direct control of conversations to all Internet communications. The most controversial measure is the so-called “Yarovaya Law” adopted on July 6, 2016. The law is a package of amendments, in particular, to the Federal Law “On Information, Information Technologies and the Protection of Information” and the Federal Law “On Communications” under the pretext of countering terrorism. These amendments were affecting various aspects of telecommunications regulation, including those related to privacy and anonymity. Technically, the information storages should provide for constant remote unlimited access of special services with the help of technical means to all user data that telecom operators and Internet services are required to store for a long time.

In addition, Russia remains a country with inadequate protection of personal data. This is due to very weak legislation, as well as the lack of independence, impartiality and proper authority of the authorized agencies that oversees and inquires into the protection of human privacy. At the same time, numerous leaks of personal data from state and banking systems go unpunished.

Artificial intelligence for mass Facial Recognition will provide the state with total control over social reality. It can make power all-seeing and, at the same time, invisible to society.

The cameras scan everyone in sight - adults and children - grabbing our deeply personal biometric data without our consent. This is a gross violation of our privacy.

If we know that our faces are watching and identifying, we change our behavior. We may decide not to express our views publicly because of the risk of being punished for participating in a peaceful protest. In accordance with the law and universally recognized international human rights standards we must not change the way we live and act in order to protect ourselves from unreasonable observation. Facial recognition technology makes us less free.

As part of a public campaign conducted by Roskomsvoboda, we demand a moratorium on the use of Facial Recognition Technology by law enforcement and supervisory authorities in relation to persons who were not involved in any offenses and did not consent to the use of their biometric data.