Mężczyzna z New Jersey, który został niesłusznie skazany na więzienie po błędnej identyfikacji za pomocą oprogramowania do rozpoznawania twarzy, ma wiadomość dla dwóch agencji policyjnych w Ontario, które korzystają obecnie z tej samej technologii.
„Istnieją wyraźne dowody na to, że to nie działa” – powiedział Nijeer Parks.
Parks, obecnie 36-letni, spędził 10 dni za kratkami za kradzież i napaść na funkcjonariusza policji, której w styczniu 2019 r. nie popełnił. Powiedział, że został zwolniony po tym, jak przedstawił dowody, że w czasie popełnienia przestępstwa przebywał w innym mieście i dokonywał przelewu pieniężnego. Z wewnętrznego raportu policji wynika, że w listopadzie następnego roku prokuratura umorzyła sprawę.
Jak wynika z dokumentów policyjnych dostarczonych w ramach pozwu złożonego przez prawnika Parks przeciwko kilku oskarżonym, w tym policji i burmistrzowi Woodbridge w stanie New Jersey, śledczy zidentyfikowali Parks jako podejrzanego korzystającego z technologii rozpoznawania twarzy. oprogramowanie.
Policja w regionach Peel i York niedaleko Toronto ogłosiła pod koniec maja, że działają wspólnie realizowanie Technologia firmy Idemia, której użyją do porównania istniejących zdjęć policyjnych ze zdjęciami z miejsc zbrodni przedstawiającymi podejrzanych i osoby objęte tajemnicą.
Parks stwierdził, że jego przypadek uwydatnia ograniczenia takiego oprogramowania.
„On w niczym nie przypomina mnie” – powiedziała Parks, która jest czarna, o mężczyźnie ze zdjęcia, którego policja użyła do zidentyfikowania go. „Ja… w zasadzie chcesz mi powiedzieć, że wszyscy jesteśmy podobni”.
Jak wynika z raportu policyjnego przedstawionego jako dowód sądowy w sprawie cywilnej, zdjęcie pochodziło z fałszywego prawa jazdy wydanego w stanie Tennessee, które podejrzany dostarczył funkcjonariuszom na miejscu kradzieży.
Mężczyzna został oskarżony o kradzież przekąsek z hotelowego sklepu z pamiątkami w Woodbridge w stanie New Jersey i niemal potrącenie funkcjonariusza, gdy później odjeżdżał.
Jak wynika z dokumentów sądowych zweryfikowanych przez CBC News, dwa dni później śledczy przesłał detektywowi z Woodbridge e-mailem plik PDF zawierający „możliwy dobry wynik w zakresie rozpoznawania twarzy”.
„To on” – odpowiedział detektyw, nawiązując do podejrzanego z incydentu w hotelu.
Parks został aresztowany i oskarżony o szereg przestępstw, w tym napaść z bronią w ręku i stawianie oporu podczas aresztowania. Z protokołu przesłuchania policyjnego wynika, że powiedział śledczemu, że tak naprawdę nigdy nie był w Woodbridge, około 40 kilometrów od jego domu w Paterson w stanie New Jersey.
Parks opisał niedawno CBC tę mękę jako „doświadczenie poza ciałem, ponieważ nie mogłem uwierzyć, że to się wydarzyło”.
W Ontario policja upiera się, że wdrożyła zabezpieczenia zapobiegające sytuacji, w której niedopasowanie mogło skutkować aresztowaniem.
„To czynnik ludzki” – stwierdził komendant policji regionalnej w Yorku. Kevin Nebrija powiedział CBC. Powiedział, że śledczy osobiście „przyjrzą się dopasowaniu i zobaczą, czy potwierdza to inne dowody, które uzyskaliśmy”.
Zarówno policja w Yorku, jak i w Peel stwierdziły osobno, że oprogramowanie będzie wykorzystywane jako dodatkowe narzędzie do dostarczania wskazówek dochodzeniowych i nie będzie jedyną podstawą aresztowania. Powiedzieli również, że system nie będzie używany do analizy wideo na żywo.
„Idemia Face Expert będzie wykorzystywana do wspomagania podejmowania decyzji przez ludzi, a nie je zastępowała” – powiedział zastępca komendanta policji regionalnej Peel Nick Milinovich w nagraniu wideo opublikowanym w Internecie. „To poprawi bezpieczeństwo publiczne dla wszystkich”.
Zarzuty dotyczące „stronniczej technologii”
Badania wielokrotnie wskazał niedociągnięcia w technologii rozpoznawania twarzy, w szczególności ryzyko błędnej identyfikacji osób rasowych.
W pozwie Parks częściowo obwinia za swoje bezprawne aresztowanie „niewłaściwe wykorzystanie stronniczej technologii”.
Władze miasta Woodbridge odrzuciły prośbę CBC o komentarz w tej sprawie, ponieważ sprawa jest w toku.
Przedstawiciel firmy Idemia nie odpowiedział na pytania przesłane e-mailem.
Amerykańska Unia Wolności Obywatelskich (ACLU) na początku tego roku wniesiony orzeczenie sądowe popierające Parks, w którym stwierdzono, że „funkcjonariusze w bezzasadny sposób polegali na niepewnym tropie wynikającym z zasadniczo zawodnej technologii”.
„Podobnie jak w tym przypadku, szkody wynikające z błędnej identyfikacji (technologii rozpoznawania twarzy) w nieproporcjonalny sposób ponoszą czarnoskórych Amerykanów” – napisała ACLU.
Amerykańska Administracja Usług Ogólnych, która nadzoruje wykonawców federalnych, stwierdziła w raporcie z 2022 r., że takie narzędzia nieproporcjonalnie nie dorównały w testach Afroamerykanom.
Yuan Stevens, pracownik naukowy w Centrum Genomiki i Polityki Uniwersytetu McGill w Montrealu, powiedział, że należy zapewnić większą przejrzystość w zakresie udoskonalania algorytmów rozpoznawania twarzy.
„Jest bardzo możliwe, że baza danych Idemii została przeszkolona na podstawie białych twarzy Europejczyków, w związku z czym osoby kolorowe, takie jak ja, byłyby częściej niesłusznie podejrzane o popełnienie przestępstwa”.
Stevens powiedział, że twarze osób rasy czarnej i rdzennej są często nadreprezentowane na zdjęciach policyjnych, ponieważ takie bazy danych „zawierają zdjęcia osób, które są poddawane wzmożonej kontroli i inwigilacji przez policję”.
Idemia cytowana jako najdokładniejsza
Idemia zakwestionowała zarzuty stronniczości w swoim oprogramowaniu.
Na slajdach przygotowanych na rok 2018 prezentacja zatytułowanej „Ocena rozpoznawania twarzy w Idemia” – napisał przedstawiciel firmy, że algorytm firmy ma „ten sam (wskaźnik fałszywie pozytywnych identyfikacji) w przypadku osób rasy czarnej i białej, mężczyzn i kobiet”.
Policja regionalna York podała na swojej stronie internetowej, że „w ciągu ostatnich pięciu lat technologia rozpoznawania twarzy poczyniła ogromne postępy w zakresie dokładności i różnic demograficznych”, cytując dane amerykańskiego Narodowego Instytutu Standardów i Technologii (NIST).
Na liście dostawców znajduje się NIST rankingowe Algorytm Idemii w 2022 r. jako najdokładniejszy w teście uczciwości współczynnika fałszywych dopasowań.
Policja prowincji Ontario oświadczyła, że rozważa wdrożenie podobnego programu, oceniając jednocześnie „dokładność, konsekwencje dla prywatności i potencjalne błędy związane z porównywaniem twarzy”.
RMCP stwierdziło, że zwróciło się do niektórych zewnętrznych dostawców o wyłączenie funkcji rozpoznawania twarzy zintegrowanych z narzędziami używanymi przez policję krajową.
W 2014 roku policja w Calgary stała się pierwsza agencja policyjna w Kanadzie wykorzystania technologii rozpoznawania twarzy, uruchamiając system zaprojektowany przez NEC Corporation of America.
Policja w Toronto podała, że korzysta z rozpoznawania twarzy od 2018 r. Na jej stronie internetowej znajduje się również informacja o NEC jako dostawcy technologii.
Śledczy w obu miastach na krótko skorzystali z kontrowersyjnego systemu Clearview AI, który przeszukiwał zdjęcia osób pobrane z Internetu.
Policja w Peel i York oświadczyła, że omówiła swój plan z komisarzem prowincji ds. informacji i prywatności.
Biuro komisarza powiedziało CBC, że „nie popiera, nie zatwierdza ani nie certyfikuje” żadnego programu, w sprawie którego konsultowano się z nim.
Dwie siły policyjne w Ontario korzystają obecnie z oprogramowania do rozpoznawania twarzy, które błędnie zidentyfikowało mężczyznę z New Jersey, który trafił do więzienia. Mężczyzna pozywa teraz za bezprawne aresztowanie, twierdząc, że technologia jest stronnicza.
Biuro udostępnia publicznie przewodnictwo dla agencji policyjnych, które chcą korzystać z funkcji rozpoznawania twarzy w celu przeszukiwania baz danych zawierających zdjęcia policyjne.
Jeśli chodzi o Parksa, on i jego prawnik zwrócili się o wydanie wyroku w trybie uproszczonym, co oznacza, że ich sprawa nie będzie musiała trafiać do sądu. Jego prawnik, Daniel Sexton, powiedział, że prowadzi również rozmowy w sprawie pozasądowego rozstrzygnięcia sprawy.
„Nie chcę, żeby ktokolwiek przechodził przez to samo, przez co ja przeszłam” – powiedziała Parks.
