Koniec z inwigilowaniem Czarnych?

Podczas gdy polskie prawicowe media i politycy wykorzystują masowe protesty antyrasistowskie jakie przetaczają się przez USA do dalszego szerzenia rasizmu i niechęci do imigrantów, na świecie coraz więcej organizacji, instytucji i firm traktuje problem poważnie i wprowadza znaczące reformy w swoim funkcjonowaniu celem ułatwienia walki z dyskryminacją rasową.

Ostatnim przykładem może być firma Amazon, która zakazała amerykańskiej policji i służbom korzystania ze swojego oprogramowania do elektronicznego rozpoznawania twarzy. Chodzi tu o kontrowersyjny, produkowany przez Amazon i działający przy użyciu skomplikowanych algorytmów sztucznej inteligencji program „Rekognition”. Program umożliwia między innymi kojarzenie w czasie rzeczywistym nagrań z kamerek zamontowanych na policyjnych mundurach z policyjną bazą danych i twarzami ze zdjęć w policyjnych archiwach. W teorii ułatwia to zatrzymywanie przestępców.
Twarz osoby poszukiwanej, gdy zostaje choćby przypadkiem zarejestrowana przez kamerkę z policyjnego munduru, zostaje automatycznie rozpoznana przez oprogramowanie ‚Rekognition’ i porównana ze zdjęciami w policyjnych bazach danych. Funkcjonariusz jest automatycznie informowany o tym, że jego kamera zarejestrowała twarz osoby poszukiwanej i może dokonać zatrzymania lub kontroli podejrzanego. W teorii ułatwia to walkę z przestępczością i policja chętnie podaje przykłady najgorszych przestępców – od terrorystów po gwałcicieli i pedofilów, których można wyłapać dzięki temu systemowi. Teoretycznie więc, oprogramowanie jest pożyteczne.
Niestety, wokół zastosowania tej technologii nagromadziło się sporo kontrowersji. Organizacje broniące praw człowieka alarmują, że oprogramowanie myli się w wielu przypadkach i błędnie rozpoznaje niektóre twarze. Co bardziej szokujące, program „Rekognition” myli się wyjątkowo często w przypadku twarzy osób czarnoskórych. Sprawę nagłośniono, gdy w lipcu 2018 roku opublikowano wyniki testu oprogramowania w którym „Rekognition” błędnie zidentyfikował twarze 28 członków amerykańskiego Kongresu, w szczególności kongresmenów czarnoskórych i kolorowych. Grupa członków Kongresu wysłała potem list do szefa Amazona, Jeffa Bezosa, domagając się zaprzestania udostępniania programu instytucjom porządkowym, w tym policji i służbom imigracyjnym.
Jak argumentowali, używanie tego oprogramowania może prowadzić do pomyłek i nadużyć. Bezos bronił wtedy współpracy ze służbami, argumentując, że skuteczność oprogramowania szacowana jest na 80% i że firma zaleca służbom policyjnym traktowanie oprogramowania jako narzędzia pomocniczego a nie ostatecznie decydującego o czyjejś winie. Jak jednak wykazali dziennikarze The Washington Post, policja wykorzystywała oprogramowanie ignorując zalecenia producenta, co prowadziło do sytuacji, gdy zatrzymywano, przesłuchiwano i dręczono niewinnych ludzi, oczywiście głównie Czarnych. Problemy w identyfikacji twarzy przy użyciu tego oprogramowania wykazali w 2019 roku naukowcy z Massachusetts Institute of Technology, zwracając dodatkowo uwagę na duży odsetek błędnych wskazań w przypadku kolorowych kobiet.
Policja i służby wykorzystują te technologie nie tylko do ścigania najgroźniejszych przestępców, ale także do profilowania aktywistów i osób uczestniczących w protestach. Technologii tych używano już na przykład przy okazji protestów w Baltimore po tym jak uniewinniono sześciu policjantów odpowiedzialnych za śmierć czarnoskórego baltimorczyka Freddiego Graya. W trakcie protestów po tych wydarzeniach, policja profilowała uczestników przy użyciu technologii rozpoznawania twarzy i wiele osób trafiło do aresztu w oparciu o dowody z oprogramowania. Przypomnijmy w tym miejscu, że Freddie Gray zmarł po tym, jak w policyjnym radiowozie złamano mu kręgosłup. Odpowiedzialni za to policjanci twierdzili, że obrażenia były skutkiem „przewrócenia się” w czasie transportu na komisariat. Świadkowie twierdzili natomiast, że policjanci używali nadmiernej siły a zatrzymany krzyczał „nie mogę oddychać” gdy funkcjonariusz klęczał mu na karku. Dzisiaj taki przebieg wydarzenia brzmi już bardzo znajomo. Pomimo tego, policjanci zostali jedynie zawieszeni, bez wstrzymania wynagrodzenia, a następnie „ukarani” w wewnętrznym śledztwie, którym kierowali inni policjanci. Można tu jeszcze wspomnieć o tym, że Freddie Gray był całkowicie niewinny, nie popełnił żadnego przestępstwa i został aresztowany przypadkowo.
Przy innej okazji, policja na Florydzie wykorzystywała to niepewne oprogramowanie do zatrzymywania i przetrzymywania w aresztach ludzi na podstawie przepisów antynarkotykowych, pomimo tego, że sam producent ostrzegał, że odczyty z oprogramowania mogą być błędne a ich skuteczność jest ograniczona. Ofiarą pomyłek padali oczywiście wyłącznie Czarni i inni kolorowi. Od tamtego czasu działacze na rzecz praw obywatelskich prowadzą kampanie na rzecz zaprzestania wykorzystywania tych technologii. Wszystkie te starania rozbijały się do tej pory o argumenty o „walce z przestępczością” czy „zagrożeniu terroryzmem”.
Potrzeba było masowych protestów początku czerwca 2020 roku i ogromnej presji społecznej, by Amazon zdecydował się na zawieszenie współpracy z amerykańską policją. Przedstawiciele Partii Demokratycznej przedstawili w Kongresie projekt ustawy o reformie policji, w której zakazuje się korzystania przez aparat ścigania z systemu rozpoznawania twarzy w czasie rzeczywistym. Niektórzy aktywiści wskazują jednak, że projekt reformy nie idzie wystarczająco daleko. Amerykańska Unia Swobód Obywatelskich (ACLU) argumentuje, że zakazane powinno być wszelkie korzystanie z technologii rozpoznawania twarzy w urządzeniach na mundurach policyjnych. „Technologia rozpoznawania twarzy zagraża prywatności wszystkich, ale szkodliwość tej technologii nie jest doświadczana przez wszystkich jednakowo. Niedawne, wszechstronne badania rządowe przeprowadzone przez Narodowy Instytut Nauki i Technologii wykazały, że Afroamerykanie i Azjaci byli nawet 100 razy bardziej narażeni na błędną identyfikację niż biali, w zależności od algorytmu i rodzaju użycia go. Nawet jedna błędna identyfikacja może prowadzić do niesłusznego aresztowania, długotrwałych przesłuchań a nawet śmierci z rąk policji – wszystko to są zbyt częste przypadki rasistowskich nadużyć policyjnych, jakich kolorowi doświadczają na co dzień” – pisze ACLU.
Podobne oprogramowanie tworzą wielkie firmy, takie jak IBM czy Microsoft. IBM zakazał w ostatnich dniach wykorzystywania swojego oprogramowania do prowadzenia „masowej obserwacji i profilowania rasowego” i rozważa całkowity zakaz sprzedaży takich produktów służbom policyjnym. W liście skierowanym do amerykańskiego Kongresu, szef IBM Arvind Krishna napisał, że „walka z rasizmem jest pilna jak nigdy”. Krishna ogłosił, że dalsza współpraca z policją i innymi agendami rządowymi zależna będzie od wyników współpracy w trzech obszarach: reforma policji, odpowiedzialne korzystanie z technologii i rozszerzenie szkoleń w zakresie korzystania z produktów firmy.
Firma Microsoft zapewniała w ostatnich dniach o swoim przywiązaniu do idei zwalczania rasizmu i zwróciła się nawet do jednej z wiodących artystek nowojorskich z prośbą o ozdobienie antyrasistowskim muralem firmowego sklepu w centrum Nowego Jorku. Nie do końca jest jednak jasne na ile poważnie firma traktuje swoje deklaracje o antyrasizmie. 250 pracowników firmy wystosowało list w którym zachęcają swojego pracodawcę do zerwania kontraktów z amerykańską policją ale kierownictwo Microsoft wydaje się głuche na takie wezwania. Firma nie tylko tworzy i sprzedaje systemy do rozpoznawania twarzy i inwigilacji ale aktywnie uczestniczy w działaniach na rzecz stworzenia przepisów prawnych korzystnych dla producentów tego typu oprogramowania i deregulacji przepisów dla tej branży. W tym roku firma brała aktywny udział w lobbowaniu na rzecz wprowadzenia prawa ułatwiającego korzystanie z tych technologii przez policję i prywatne firmy w Kalifornii. Dzięki staraniom organizacji proobywatelskich, w Kalifornii udało się zapobiec wprowadzeniu tej ustawy ale podobna ustawa weszła ostatnio w życie w stanie Waszyngton.
Trudno oczekiwać, że Microsoft z własnej inicjatywy zrezygnuje z promowania przepisów korzystnych z punktu widzenia ich interesów. Branża technologii inwigilacyjnych jest bardzo dochodowa i ma przyszłość, o ile rządom państw na świecie uda się przekonać społeczeństwa, że elektroniczna inwigilacja jest niezbędna do tego, by poczuli się bezpiecznie. W projekcie ustawy w Kalifornii zawarto przepisy usuwające obecny, wywalczony przez działaczy na rzecz praw obywatelskich zakaz stosowania przez władze systemu rozpoznawania twarzy. Taki zakaz obowiązuje obecnie w sześciu stanach Ameryki a Microsoft chce go znieść.
Firma współpracuje ponadto z izraelskimi firmami zajmującymi się produkcją systemów rozpoznawania twarzy, które wykorzystywane są do inwigilowania Palestyńczyków na Zachodnim Brzegu Jordanu. Microsoft może twierdzić, że jest oddany idei rasowej sprawiedliwości ale działania firmy nie poszły na razie ani o krok w kierunku odcięcia się od szkodliwych praktyk związanych z wykorzystaniem ich systemów przez policję i służby bezpieczeństwa.
Należy mieć nadzieję, że dobre kroki podjęte w tej dziedzinie przez firmy Amazon i IBM będą kopiowane przez innych. Pewne jest natomiast, że nie odbędzie się to bez presji ze strony organizacji pozarządowych i ruchów na rzecz sprawiedliwości społecznej. Do moralnego zachowania korporacje trzeba zmusić.