Розпізнавання облич у США призвело до неправомірних арештів

У січні 2020 року Роберт Вільямс провів 30 годин у в'язниці Детройта, оскільки технологія розпізнавання обличчя дозволила йому бути злочинцем. Збіг був неправильним, і містер Вільямс подав до суду.

У п’ятницю в рамках судового врегулювання щодо його неправомірного арешту містер Вільямс отримав зобов’язання від Детройтського департаменту поліції діяти краще. Місто прийняло нові правила використання поліцією технології розпізнавання облич, яка, за словами Американської спілки громадянських свобод, яка представляє містера Вільямса, має стати новим національним стандартом.

«Ми сподіваємося, що це рухає голку в правильному напрямку», — сказав пан Вільямс.

Містер Вільямс був першою людиною, яку, як відомо, незаконно заарештували через неправильне розпізнавання обличчя. Але він був не останнім. Поліція Детройта заарештувала щонайменше двох інших людей у ​​результаті невдалого обшуку з розпізнаванням облич, у тому числі жінку, яку звинуватили у викраденні автомобіля, коли вона була на восьмому місяці вагітності .

Правоохоронні органи по всій країні використовують технологію розпізнавання облич, щоб намагатися ідентифікувати злочинців, чиї злочини потрапили на камеру. У штаті Мічиган програмне забезпечення порівнює невідомі обличчя з тими, що містяться в базі даних фотографій або фотографій водійських прав. В інших юрисдикціях поліція використовує такі інструменти, як Clearview AI, які шукають фотографії, зібрані із сайтів соціальних мереж і загальнодоступного Інтернету.

Одне з найважливіших нових правил, ухвалених у Детройті, полягає в тому, що зображення людей, ідентифікованих за допомогою технології розпізнавання облич, більше не можна показувати очевидцям у серії фотографій, якщо немає інших доказів, які пов’язують їх зі злочином.

«Програма «сфотографуйся, додай це в список» закінчиться», — сказав Філ Мейор, юрист ACLU Мічигану. «Це врегулювання переміщує департамент поліції Детройта з найкраще задокументованого зловживання технологією розпізнавання облич на національного лідера у використанні огорож».

Поліція каже, що технологія розпізнавання облич є потужним інструментом для розкриття злочинів, але деякі міста та штати, включаючи Сан-Франциско; Остін, Техас; і Портленд, штат Орегон, тимчасово заборонили його використання через побоювання щодо конфіденційності та расових упереджень. Стівен Ламоро, керівник відділу інформатики Детройтського відділу розвідки злочинів, сказав, що департамент поліції «дуже прагне використовувати технологію значущим чином для громадської безпеки». За його словами, Детройт має «найсильнішу політику в країні зараз».

Як це йде не так

Містер Вільямс був заарештований після злочину, який стався в 2018 році. Чоловік викрав п'ять годинників з бутіка в центрі Детройта, записавши його на камеру спостереження. Фірма із запобігання збиткам надала кадри поліцейському департаменту Детройта.

Відповідно до документів, оприлюднених у рамках судового позову пана Вільямса, перевірка обличчя чоловіка зі зображеннями водійських прав і знімками кухлів дала 243 фотографії, розташованих у порядку впевненості системи, що це та сама особа на відео з камер спостереження. Дев'ятою в списку була фотографія старого водійського посвідчення містера Вільямса. Особа, яка проводила пошуки, визнала його найкращим і надіслала звіт детективу поліції Детройта.

Детектив включив фотографію пана Вільямса в «шестику фотографій» — фотографії шести людей у ​​сітці — яку він показав підряднику служби безпеки, який надав відео з камер спостереження магазину. Вона погодилася, що пан Вільямс був найближчим партнером до чоловіка в бутіку, і це призвело до ордера на його арешт. Містер Вільямс, який був за робочим столом у компанії з постачання автомобілів, коли вкрали годинники, провів ніч у в’язниці, у нього зібрали відбитки пальців і ДНК. Його звинуватили в шахрайстві в роздрібній торгівлі, і він був змушений найняти адвоката, щоб захистити себе. Зрештою прокуратура закрила справу.

У 2021 році він подав до суду на Детройт, сподіваючись змусити заборонити цю технологію, щоб інші не спіткали його долю. Він сказав, що минулого року він був засмучений, коли дізнався, що поліція Детройта звинуватила Порчу Вудрафф у викраденні автомобіля та пограбуванні після невдалого збігу з розпізнаванням обличчя. Поліція заарештувала пані Вудрафф, коли вона готувала своїх дітей до школи. Вона також подала до суду на місто; розгляд справи триває.

«Це так небезпечно», — сказав пан Вільямс, маючи на увазі технологію розпізнавання обличчя. «Я не бачу в цьому позитивної користі».

Нові правила

Поліція Детройта несе відповідальність за три із семи відомих випадків, коли розпізнавання обличчя призвело до незаконного арешту. (Інші були в Луїзіані, Нью-Джерсі, Меріленді та Техасі.) Але чиновники Детройту заявили, що новий контроль запобіжить новим зловживанням. І вони залишаються оптимістичними щодо потенціалу технології у розкритті злочинів, яку вони тепер використовують лише у випадках серйозних злочинів, включаючи напади, вбивства та вторгнення в житло.

Джеймс Вайт, начальник поліції Детройта, звинуватив у неправомірних арештах «людську помилку». Його офіцери, за його словами, надто покладалися на висновки, отримані технологією. Помилковим було їх судження, а не машини.

Нова політика, яка діє з цього місяця, має цьому допомогти. Згідно з новими правилами, поліція більше не може показувати обличчя людини очевидцю лише на основі збігу розпізнавання обличчя.

«Повинен бути якийсь вторинний підтверджуючий доказ, який не пов’язаний, перш ніж з’явиться достатнє обґрунтування, щоб перейти до списку», – сказав пан Ламоро з підрозділу кримінальної розвідки Детройта. Поліції знадобиться інформація про місцезнаходження людини, скажімо, з телефону людини або докази ДНК — щось більше, ніж фізична схожість.

Департамент також змінює спосіб проведення фотосесії. Це прийняття того, що називається подвійним сліпим послідовним, що вважається більш справедливим способом ідентифікації когось. Замість того, щоб пред’являти свідку «шість упаковок», офіцер — той, хто не знає, хто є головним підозрюваним — показує фотографії одну за одною. Крім того, список включає інше фото людини, ніж те, яке показала система розпізнавання обличчя.

Поліції також потрібно буде повідомити, що проводився огляд обличчя, а також якість зображення обличчя, яке обшукують. Наскільки зернистим була камера спостереження? Наскільки видно обличчя підозрюваного? — оскільки зображення низької якості навряд чи дасть надійні результати. Їм також доведеться розкрити вік фотографії, опублікованої автоматизованою системою, і чи були інші фотографії людини в базі даних, які не збігаються.

Франклін Хейс, заступник начальника поліції Детройта, сказав, що він упевнений, що нова практика запобіжить майбутнім помилковим ідентифікаціям.

«Є ще кілька речей, які можуть помилитися, наприклад, однояйцеві близнюки», — сказав пан Хейс. «Ми ніколи не можемо говорити ніколи, але ми вважаємо, що це наша найкраща політика».

Арун Росс, професор інформатики в Університеті штату Мічиган, який є експертом у сфері технології розпізнавання облич, сказав, що політика Детройту є чудовою відправною точкою, і інші агенції повинні її прийняти.

«Ми не хочемо порушувати права та приватне життя людей, але ми також не хочемо, щоб злочинність розгулу», - сказав пан Росс.

Наскільки це допомагає?

Ідентифікація очевидців – це трудомістка робота, і поліція прийняла камери та розпізнавання облич як більш надійні інструменти, ніж недосконала людська пам’ять.

Шеф Уайт сказав місцевим законодавцям минулого року, що технологія розпізнавання облич допомогла «вивести 16 вбивць з вулиці». Відповідаючи на запитання про додаткову інформацію, співробітники управління поліції не надали подробиць про ці випадки.

Натомість, щоб продемонструвати успіхи департаменту з цією технологією, поліцейські показали відео з камер спостереження, на якому зображено чоловіка, який розлив пальне всередині заправки та підпалив її. Вони сказали, що його ідентифікували за допомогою технології розпізнавання обличчя та заарештували тієї ночі. Пізніше він визнав свою провину .

Департамент поліції Детройта є одним із небагатьох, хто стежить за пошуками за допомогою системи розпізнавання облич, подаючи щотижневі звіти про її використання до наглядової ради. У минулі роки в середньому здійснювалося понад 100 пошукових запитів на рік, причому приблизно половина з цих пошукових запитів виявляла потенційні збіги.

Відділ відстежує лише те, як часто він отримує підказку, а не те, чи вдається вона. Але в рамках домовленості з містером Вільямсом, який також отримав 300 000 доларів, за словами представника поліції, компанія має провести перевірку своїх пошуків за допомогою розпізнавання облич, починаючи з того часу, коли вона вперше почала використовувати цю технологію в 2017 році. Якщо вона виявить інших У випадках, коли людей було заарештовано з незначною кількістю підтверджуючих доказів, окрім збігу обличчя, департамент має сповістити відповідного прокурора.

Моллі Клейнман, директор технологічного дослідницького центру Мічиганського університету, сказала, що нові засоби захисту звучать багатообіцяюче, але вона залишилася скептичною.

«Детройт — місто, яке надзвичайно охороняється. Усюди камери», – сказала вона. «Якби вся ця технологія стеження справді робила те, що заявляє, Детройт був би одним із найбезпечніших міст у країні».

Віллі Бертон, член Ради комісарів поліції, наглядової групи, яка схвалила нову політику, назвав її «кроком у правильному напрямку», хоча він все ще виступає проти використання поліцією технології розпізнавання облич.

«Технологія ще не готова», — сказав пан Бертон. «Один фальшивий арешт — це забагато, і якщо мати три в Детройті, треба забити тривогу, щоб припинити це».