Piše: Lidija Glišić
Ako je dvadeseti vijek bio vijek građanskih sloboda, dvadeset prvi postaje vijek digitalnih prava i digitalne moći. Dok su tehnološke kompanije odavno shvatile da onaj ko raspolaže podacima taj vlada ljudima, pravni sistem kasni sa odgovorom na osnovno pitanje: šta se dešava sa ljudskim pravima u ovoj našoj eri u kojoj ljudi više nijesu jedini donosioci odluka?
Šošana Zubof to opisuje jednostavno: digitalne tehnologije podijelile su društvo na one koji posmatraju i one koji su posmatrani. Razlika između ta dva pola postala je nova politička granica. Kompanije koje gomilaju podatke oblikuju pravila stičući moć nad demokratijom, a građani, kao vlasnici tih podataka, ostaju nebranjeni i ucijenjeni sopstvenim digitalnim tragovima.
Privatnost u doba masovnog nadzora
Pravo na privatnost, nekada zamišljeno kao zaštita ličnog prostora, danas zvuči kao romantična fraza iz nekog književnog klasika.
Kako inače objasniti da Australija, koja i dalje važi za demokratsku državu, koristi tehnologiju za prepoznavanje lica kako bi u vrijeme pandemije provjeravala da li građani poštuju kućnu izolaciju? Ili da njujorška kompanija Clearview AI prikuplja fotografije praktično svih ljudi na planeti pod različitim izgovorima, dok istovremeno tu bazu prodaje privatnim investitorima bez znanja onog čiji se lik koristi?
Da ne govorimo o prediktivnoj analitici koja pretpostavlja naše buduće ponašanje, a podatke o našim navikama, lokacijama i kontaktima prodaje kao robu na tržištu koje Šošana Zubof naziva “tržištem budućih ponašanja”. Zato ima onih koji znaju više o našim namjerama od nas samih, i to bez ikakve obaveze da nas o tome obavijeste.
Sloboda govora u eri algoritamske cenzure
Sloboda govora nekada je značila pravo da slobodno izražavaš svoje mišljenje, ideje, kritike i informacije — bez straha od cenzure, odmazde ili kažnjavanja.
Danas naše mišljenje prolazi kroz razne digitalne filtere, toliko da ga tako “prečišćenog” ni sami ne prepoznajemo. Za to su krivi algoritmi koji određuju šta je prihvatljivo, a šta ekstremno, bez ikakve demokratske kontrole. Da ne govorimo o dezinformacijama, deepfake sadržajima i botovima koji narušavaju povjerenje u javni prostor relativizujući svaku informaciju.
Nediskriminacija u sjenci algoritamske pristrasnosti
Pravo na nediskriminaciju znači da nijedna osoba ne smije biti tretirana lošije zbog svoje rase, pola, jezika, nacionalnosti, religije, invaliditeta, seksualne orijentacije, socio-ekonomskog statusa itd.
Za sada, vještačka inteligencija ne stvara nove predrasude, već prihvata i nastavlja stare. Tako će algoritmi za zapošljavanje, vrednujući kandidate na osnovu nekih ranijih rodno pristrasnih kriterijuma, diskriminisati žene, dok će kreditni sistemi iznova odbijati pripadnike etničkih manjina – ne zbog stvarnog rizika, već zbog naslijeđenih podataka koje vještačka inteligencija koristi iz vremena kada su te etničke grupe bile siromašnije i samim tim proglašavane “manje podobnim”.
Pravo na rad u vrijeme automatizacije
Pravo na rad je značilo da svaka osoba ima pristup dostojanstvenom, sigurnom i fer plaćenom radu.
Automatizacija je učinila da se pravo na rad suočava sa najvećom transformacijom od industrijske revolucije. Mnoge velike kompanije radnike tretiraju kao privremene “izvršioce”, dok algoritmi određuju njihovu platu, pa čak i trajanje pauze.
Zato su zemlje članice EU, u pokušaju da zaštite radnike koji rade za digitalne platforme kao što su Volt, Uber i Glovo, počele da uvode regulisanje statusa ovih radnika. Za sada algoritam ne može da ih otpustiti, a platforme će morati da omoguće da ključne odluke o radnicima donose isključivo ljudi.
Vidimo da uz staromodna ljudska prava niču i nova “neljudska”: pravo mašina da odlučuju, predviđaju, uče iz naših iskustava, često bez našeg znanja i saglasnosti… Upravo zato će ovo biti vijek u kome ćemo se boriti protiv zadiranja algoritama u sve pore našeg života. Nova borba za osvajanje ljudskih prava upravo počinje!
Izvor: RTCG
