Photo: Scott Webb // Unsplash

Amnesty International у США закликає заборонити використання технологій розпізнавання облич для масового стеження

11 червня 2020

• У контексті расистської діяльності поліції та расового профілювання чорношкірих використання технології розпізнавання облич (ТРО) може посилити порушення прав людини з боку поліції, а також підірвати право на мирний протест і право на недоторканність приватного життя

• Правоохоронні органи щодня порушують права людей на вулицях. Нам потрібно, щоб поліція виконувала свої зобов’язання щодо забезпечення права людини на протест проти вбивств поліцією і права журналістів/-ок висвітлювати їх. Правоохоронні органи зобов’язані сприяти здійсненню права на мирний протест, а не придушувати його.

• Ми пишаємося тим, що співпрацюємо з такими організаціями, як Ліга алгоритмічного правосуддя, ACLU, Фонд електронних кордонів та іншими, які підкреслюють небезпеку ТРО. Amnesty США закликає заборонити використання, розробку, виробництво, продаж і експорт технологій розпізнавання облич для цілей масового спостереження з боку поліції та інших державних органів.

Технологія розпізнавання облич (ТРО) – це узагальнений термін, який використовується для опису набору додатків, що виконують певне завдання з використанням людського обличчя для перевірки або ідентифікації особи. ТРО може створювати засоби для ідентифікації та класифікації людей у масштабі, заснованому на їхніх фізичних особливостях, включно зі спостереженнями або висновками про характеристики, які належать захисту – наприклад, расу, етнічну приналежність, гендер, вік, статус інвалідності.

Ця технологія набула величезного поширення протягом останніх років, особливо у сфері правоохоронної діяльності. Наприклад, компанія Clearview AI стверджує, що працює з більш ніж 600 правоохоронними органами тільки в США. Інші компанії, що займаються ТРО, як-от Dataworks Plus, також продають свої системи поліцейським управлінням по всій країні.

Ми спостерігаємо цю гру щодня в Сполучених Штатах, де поліцейські департаменти по всій країні використовують ТРО для ідентифікації протестувальників/-ць.

Використання ТРО поліцією порушує права людини з цілого ряду різних причин. По-перше, у контексті расово-дискримінаційної поліцейської діяльності та расового профілювання чорношкірих осіб використання ТРО може посилити порушення прав людини з боку поліції при нападі на чорношкірі громади. Дослідження незмінно показують, що системи ТРО обробляють деякі обличчя більш точно, у залежності від ключових характеристик, включно з кольором шкіри, етнічною приналежністю і гендером. Наприклад, Національний інститут стандартів і технологій (NIST) виміряв вплив раси, віку та гендеру на провідні системи ТРО, що використовуються у США – за словами д-ра Чарльза Х. Роміна, директора NIST, «дослідження показало більш високі показники помилкових спрацьовувань у жінок, афроамериканців і особливо у афроамериканських жінок».

Окрім того, дослідники з Джорджтаунського університету попереджають, що ТРО «непропорційно вплине на афроамериканців/-ок», переважно тому, що у списках спостереження поліції США значно більше чорношкірих осіб, аніж білих. «Поліцейські системи розпізнавання обличчя не тільки працюють гірше з афроамериканцями/-ками; афроамериканці/-ки також із більшою вірогідністю будуть включені до цих систем і піддані обробці».

По-друге, там, де ТРО використовується для ідентифікації та масового спостереження, «вирішення» проблеми точності та підвищення точності для вже маргіналізованих або знедолених громад не вирішує проблему впливу ТРО як на право на мирний протест, так і на право на недоторканність приватного життя. Наприклад, чорношкірі люди вже стикаються з непропорційним втручанням у приватне життя та інші права, і «підвищення» точності може означати тільки посилення нагляду й позбавлення прав для спільноти, що вже перебуває у несприятливому становищі.

ТРО тягне за собою широко поширений масовий моніторинг, збір, зберігання, аналіз або інше використання матеріалів і збір конфіденційних персональних даних (біометричних даних) без індивідуалізованої обґрунтованої підозри у вчиненні кримінальних правопорушень, що рівносильно невибірковому масовому нагляду. Amnesty International вважає, що невибіркове масове стеження ніколи не є пропорційним втручанням у права на недоторканність приватного життя, свободу вираження думок, свободу асоціацій і мирних зібрань.

Держави повинні також поважати, захищати і гарантувати право на мирні зібрання без будь-якої дискримінації. Право на мирні зібрання має основоположне значення не тільки як засіб політичного вираження, а й для захисту інших прав. Мирні протести є основним аспектом динамічного суспільства, і держави повинні визнати позитивну роль мирних протестів у зміцненні прав людини.

Саме здатність бути частиною анонімного натовпу часто дозволяє багатьом людям брати участь у мирних зібраннях. Як заявив спеціальний доповідач ООН із питань про захист права на свободу думок і їх вільне вираження Девід Кей: «в умовах нестримного незаконного спостереження цільові громади знають або підозрюють про такі спроби стеження, що, у свою чергу, формує і обмежує їх здатність реалізовувати право на свободу вираження думок [і] асоціації».

Таким чином, точно так само, як проста загроза стеження створює лякаючий ефект для онлайн-активностей людей, використання технології розпізнавання облич буде стримувати людей від вільного відвідування мирних зібрань у громадських місцях.

Хвиля прийнятих на місцевому рівні законопроєктів у 2019 році призвела до обмеження використання ТРО в правоохоронних органах у багатьох містах США, включно з Сан-Франциско й Оклендом у Каліфорнії, Сомервіллом і Брукліном у Массачусетсі. У Сан-Дієго призупинили використання ТРО правоохоронними органами з січня 2020. Портленд, штат Орегон, наразі розглядає питання про поступову заборону використання як державними, так і приватними суб’єктами. Законодавці в Массачусетсі тим часом обговорюють загальнодержавну заборону на використання ТРО урядом.

Amnesty США закликає заборонити використання, розробку, виробництво, продаж і експорт технологій розпізнавання осіб для цілей масового спостереження з боку поліції та інших державних органів. Ми пишаємося тим, що співпрацюємо з такими організаціями, як Ліга алгоритмічного правосуддя, ACLU, Фонд електронних кордонів та іншими, які підкреслюють небезпеку ТРО.