Tehnologija prepoznavanja lica
Datum objave: 05.09.2019.
Tehnologija prepoznavanja lica brzo se širi. Već uveliko rasprostranjen u Kini, softver koji identificira ljude uspoređujući slike njihovih lica s bazama podataka sve više se primjenjuje i u ostatku svijeta. Najčešće ga koriste policijske službe, ali se također koristi u zračnim lukama, željezničkim stanicama i trgovačkim centrima. Brz rast ove tehnologije pokrenuo je prijeko potrebnu raspravu. Aktivisti, političari, akademici, pa čak i policijske službe izražavaju ozbiljnu zabrinutost zbog utjecaja koji prepoznavanje lica može imati na političku kulturu koja se temelji na pravima i demokraciji.
Zabrinutosti za ljudska prava
Birgit Schippers, kao znanstvenica koja istražuje budućnost ljudskih prava, dijeli ovu zabrinutost. Navodi deset razloga zbog kojih bismo trebali biti zabrinuti za masovnu uporabu tehnologije prepoznavanja lica na javnim prostorima.
1) Usmjerava nas na put prema automatiziranoj prismotri
- CCTV je već rasprostranjen u cijelom svijetu, ali da bi vlade mogle upotrijebiti snimke protiv vas, moraju pronaći određene isječke kako radite nešto što mogu koristiti kao dokaz. Tehnologija prepoznavanja lica dovodi javni nadzor na nove razine. Omogućuje automatizirani i neselektivni nadzor ljudi u svakodnevnom poslu, pružajući vlastima priliku da prate svaki vaš korak.
2) Djeluje bez jasnog zakonskog ili regulatornog okvira
- Većina zemalja nema posebno zakonodavstvo koje bi reguliralo uporabu tehnologije prepoznavanja lica, mada neki zakonodavci to pokušavaju promijeniti. Ovaj pravni limun otvara vrata zlouporabi, poput dobivanja naših slika bez našeg znanja ili pristanka i njihove uporabe na načine koje mi ne bismo odobravali.
3) Krši načela nužnosti i razmjernosti
- Organizacije UN-a koje se zalažu za načela ljudskih prava, na London Policing Ethics Panel, ukazuju da nadzor treba biti nužan i razmjeran. To znači da nadzor treba ograničiti na počinjenje teških kaznenih djela, umjesto da omogući neopravdano uplitanje u našu slobodu i osnovna prava. Tehnologija prepoznavanja lica u suprotnosti je s tim principima. To je tehnologija kontrole koja izražava simptomatsko nepovjerenje države u njene građane.
4) Krši naše pravo na privatnost
- Pravo na privatnost je važno čak i na/u javnim prostorima. Štiti izražavanje našeg identiteta bez uplitanja države ili privatnih tvrtki. Tehnologija prepoznavanja lica neselektivno snima, pohranjuje i analizira naše slike, čime ugrožava to pravo jer znači da više ne možemo ništa učiniti u javnosti, a da država to ne zna.
5) To djeluje obeshrabrujuće na našu demokratsku političku kulturu.
- Nadgledanje javnih prostora može odvratiti pojedince da prisustvuju javnim događajima. To može ugušiti sudjelovanje u političkim prosvjedima i kampanjama za promjene. I može obeshrabriti nekonformističko ponašanje. Ovaj zastrašujući učinak ozbiljno je kršenje prava na slobodu okupljanja, udruživanja i izražavanja.
6) Građanima uskraćuje priliku za pristanak
- Nedostaju detaljne i konkretne informacije o tome kako se prepoznavanje lica zapravo koristi. To znači da nam se ne daje mogućnost da pristanemo na snimanje, analizu i pohranu naših slika u razne baze podataka. Uskraćujući nam mogućnost pristanka uskraćuje nam se izbor i kontrola nad korištenjem vlastitih slika.
7) Često je netočna
- Tehnologija prepoznavanja lica obećava točnu identifikaciju. No brojne su studije istaknule kako algoritmi zasnovanii na rasno pristranim podacima postavljaju pogrešno prepoznavanje ljudi u boji, posebno žena u boji. Takva algoritmička pristranost posebno je zabrinjavajuća ako rezultira nezakonitim uhićenjima ili ako natjera javne agencije i privatne tvrtke na diskriminaciju žena i ljude iz skupina etničkih manjina.
8) To može dovesti do pristranosti automatizacije
- Ako ljudi koji koriste softver za prepoznavanje lica pogrešno vjeruju da je tehnologija nepogrešiva, to može dovesti do loših odluka. Ova ''pristranost automatizacije'' mora se izbjegavati. Strojno proizvedeni ishodi ne bi trebali određivati kako državne agencije ili privatne korporacije postupaju s pojedincima. Obučeni ljudski operatori moraju provoditi smislenu kontrolu i donositi zakonite odluke.
9) To znači da postoje tajni državni popisi za nadzor
- Baze podataka koje sadrže naše slike lica trebale bi zvoniti na uzbunu. Podrazumijevaju da privatne tvrtke i agencije za provođenje zakona dijele naše slike kako bi izradili popise potencijalnih osumnjičenih bez našeg znanja ili pristanka. To je ozbiljna prijetnja našim individualnim pravima i građanskim slobodama. Sigurnost ovih baza podataka i njihova ranjivost na hakerske napade također su zabrinjavajući.
10) Može se koristiti za ciljanje već ranjivih skupina
- Tehnologija prepoznavanja lica može se koristiti za javni nadzor. Ali može se koristiti i selektivno, na primjer za identificiranje migranata i izbjeglica. Prodaja softvera za prepoznavanje lica agencijama kao što je kontroverzna ''US Immigration and Customs Enforcement (ICE)'', koja je bila jako kritiziran zbog svojih taktika u postupanju s migrantima, treba brinuti svakoga tko se zalaže za ljudska prava. A uporaba ručnih mobilnih uređaja s aplikacijom za prepoznavanje lica od strane policijskih snaga podiže spektar pojačanog rasnog profiliranja na razini ulice.
Uz toliko kontroverzi oko tehnologije prepoznavanja lica, nužna je šira debata o njezinom utjecaju na naša prava i građanske slobode. Bez odgovarajuće pravne regulacije ovih sustava, riskiramo stvaranje distopijskih policijskih država u nekad slobodnim, demokratskim zemljama.
Prepoznavanje lica za nadzor
Deset razloga zbog kojih biste trebali brinuti zbog tehnologije
Autor: Birgit Schippers,
Objavljeno 21. kolovoza 2019. godine.