Technologia, która miała pomagać brytyjskiej policji w walce z przestępczością, może doprowadzać do poważnych pomyłek i niesłusznych zatrzymań. Oficjalny raport ujawnił niepokojące problemy związane z systemem rozpoznawania twarzy wykorzystywanym podczas policyjnych śledztw. Szczególnie narażone mają być osoby należące do mniejszości etnicznych, ponieważ algorytmy częściej błędnie wskazują je jako podejrzanych. Inspektorzy ostrzegają, że funkcjonariusze nie zawsze sprawdzają wyniki działania systemu, zanim podejmą działania wobec konkretnych osób.
Algorytm wskazuje podejrzanych, ale może się mylić
Niepokojące ustalenia znalazły się w raporcie przygotowanym przez His Majesty’s Inspectorate of Constabulary, czyli instytucję kontrolującą działalność brytyjskiej policji. Dokument opublikowany w środę, 11 listopada, dotyczy retrospektywnego rozpoznawania twarzy (Retrospective Facial Recognition – RFR). Technologia ta pozwala porównywać zdjęcia podejrzanych, na przykład pochodzące z monitoringu, z fotografiami znajdującymi się w policyjnych bazach danych. System analizuje obraz i wskazuje osoby, których twarze mogą odpowiadać poszukiwanemu wizerunkowi.
Problem polega na tym, że wynik takiego porównania nie jest dowodem winy. To jedynie wskazówka, która powinna zostać zweryfikowana przez funkcjonariuszy za pomocą dodatkowych czynności. Inspektorzy odkryli jednak, że część policjantów nie rozumiała tej różnicy. Niektórzy traktowali potencjalne dopasowanie jako wystarczającą podstawę do podjęcia działań, nie przeprowadzając odpowiednich kontroli. W kilku przypadkach nadmierne zaufanie do wyników algorytmu doprowadziło do niewłaściwych decyzji w toku śledztwa.
Przeczytaj też: Gdzie uciekać w razie wojny czy ataku nuklearnego? Nowa mapa wskazuje najbezpieczniejsze miejsca w Wielkiej Brytanii
Rozpoznawanie twarzy przez policję w UK: Mniejszości etniczne bardziej narażone na pomyłki
Szczególnie niepokojący jest problem stronniczości algorytmów. Z raportu wynika, że systemy rozpoznawania twarzy mogą częściej błędnie identyfikować osoby należące do mniejszości etnicznych. Ryzyko dotyczy między innymi osób czarnoskórych, Azjatów i kobiet. Oznacza to, że niewinne osoby mogą zostać wskazane jako potencjalni sprawcy przestępstw tylko dlatego, że algorytm nieprawidłowo przeanalizował ich wizerunek.
Inspektorzy zwrócili również uwagę na jakość zdjęć wykorzystywanych podczas wyszukiwania. Zdarzało się, że funkcjonariusze przesyłali niewyraźne fotografie lub obrazy przedstawiające kilka osób jednocześnie. Takie materiały dodatkowo obniżały wiarygodność wyników.
Policja przechowuje również zdjęcia, które powinny zostać usunięte
Raport ujawnił jeszcze jeden problem dotyczący ochrony danych osobowych. Kontrolerzy znaleźli przypadki, w których policyjne zdjęcia osób zatrzymanych były nadal przechowywane, mimo że zgodnie z obowiązującymi zasadami powinny już zostać usunięte. Dodatkowe obawy budzi brak kompleksowych przepisów regulujących stosowanie technologii rozpoznawania twarzy. Inspektorzy wskazują, że brytyjskie prawo nie nadąża za rozwojem tych rozwiązań, co utrudnia policji ustalenie odpowiednich zasad i zabezpieczeń.
Kathryn Stone z HMICFRS podkreśliła, że zaufanie społeczeństwa do tej technologii zależy od właściwego nadzoru, ograniczenia ryzyka błędów i zapewnienia, że ostateczne decyzje nadal podejmują ludzie.
Organizacja Big Brother Watch również ostro skrytykowała obecne praktyki. Jej przedstawicielka Jasleen Chaggar ostrzegła, że traktowanie wyników algorytmu jak wiarygodnych dowodów może prowadzić do sytuacji, w których policja zapuka do drzwi niewinnych ludzi, podejrzewając ich o przestępstwa popełnione w miejscach, w których nigdy nie byli.
Policja broni jednak wykorzystania tej technologii. Przedstawiciel National Police Chiefs’ Council zapewnia, że rozpoznawanie twarzy może znacząco pomóc w wykrywaniu przestępstw, pod warunkiem odpowiedzialnego i proporcjonalnego stosowania. Jak podsumowuje The Guardian, raport pokazuje jednak, że bez skutecznych zabezpieczeń narzędzie mające zwiększać bezpieczeństwo może stać się źródłem poważnych krzywd dla niewinnych osób.