Piše: Ivan Radanović
Mada se predstavlja kao čista tehnologija, veštačka inteligencija je planetarna struktura koja zavisi od ogromne količine fosilnih goriva, minerala, jeftinog rada i ličnih podataka. Upravo zbog toga, ali i kapitala potrebnog da bi se razvila, veštačka inteligencija nije samo alat već i snažna politička, ekonomska i kulturna sila koja bi, bez snažne regulacije, zatečene nejednakosti produbila.
„Kad tehnologija predvodi, prate je problemi“, naslov je prošlogodišnjeg članka dvoje filozofa, Lotje Sifels i Tamar Šaron, o javnoj aplikaciji CoronaMelder, dizajniranoj u Holandiji aprila 2020. za automatizaciju beleženja i rano obaveštavanje korisnika o kontaktu sa zaraženim osobama. Nakon mesec dana, pandemija se razbuktala a korišćenje aplikacije zakomplikovalo. Javne ustanove su, umesto aplikacijom, počele da se bave redefinisanjem početnog problema, kršeći principe demokratskog odlučivanja kako bi ga prilagodile onome što aplikacija može da uradi.
Četvrta godišnjica litije “U imenu Božijem je sud i pravda!”
To je, prema autorkama, bio primer tehnosolucionizma – nekritičkog uvođenja intruzivne tehnologije kao univerzalnog rešenja za društvene probleme. Prema Kembridžovom rečniku, tehnosolucionizam je „ideja da se svi problemi mogu rešiti tehnologijom, iako istina može biti složenija“. Ovaj termin ima negativnu konotaciju, a koren čitave pojave kritičari vide u samoj kapitalističkoj modernosti, usmerenoj na ekonomski rast.
Da li je tehnologija lek za sve
Popularna priča o istoriji kapitalizma počinje otkrićem parne mašine u 18. veku i nastavlja se nizom tehnoloških inovacija koje imamo danas. Implicitna pouka je da je, uz pravu tehnologiju, ekonomski rast ostvariv takoreći ni iz čega. Prema mejnstrim ekonomskoj misli, najvažniji su znanje i institucije. Prema ekofeminističkoj kritici, nema rasta ni iz čega već zanemarivanja njegovih troškova – od kolonijalnog nasilja do degradacije prirode.
Prethodno je povučena linija između ljudi i prirode, pri čemu su „prirodom“ smatrane i žene i nebelački narodi. U ime racionalnosti, nauke i tehnologije, zemljište je postalo svojina, živa bića stvari a ekosistemi resursi. Tu je ključna tehnologija, koja povećava produktivnost rada i kapitala, to jest kapacitet da se proizvodi više i brže. Ekonomski rast i jeste ubrzanje proizvodnje u jedinici vremena.
Kad se tehnologija pomeša sa diskursom rasta, nastaje priča o tehnološkom razvoju kao ključu ljudskog blagostanja. Tehnologija će rešiti sve: optimizovati ljudsko odlučivanje (veštačka inteligencija), preokrenuti klimatske promene (geoinženjering) i nahraniti „prenaseljenu“ planetu (agroindustrija). Ali problem tehnosolucionizma je u tome što su složeni problemi prevashodno politički, a ne tehnički.
Politička rešenja ne rešavaju tehničke probleme (dati neispravan računar onome kome računar najviše treba), niti tehnološka rešenja rešavaju političke (nova metoda opravke računara ne garantuje da će računar dobiti onaj kome najviše treba). Zato je tehnologija neodvojiva od pitanja pravde, pa glavni kriterijum odlučivanja o njoj ne sme biti profit.
Progutana priroda i potcenjeni rad
Šta se razvija, za koga i ko o tome odlučuje – pita se Kejt Kroford u knjizi „Atlas veštačke inteligencije“. Ona osporava poželjnu predstavu čiste tehnologije i tvrdi da veštačka inteligencija nije ni veštačka, ni inteligentna, ni čista. To je ekstraktivna industrija zavisna od eksploatacije energije, minerala, jeftinog rada i velikog broja podataka.
Već podnaslov knjige („moć, politika i planetarni troškovi“) svrstava Kroford u kritičku liniju istraživača visoke tehnologije, poznatu po radovima Jevgenija Morozova, Šošane Zubof i drugih. Oni ističu skrivene troškove i zabrinjavajuće implikacije veštačke inteligencije, nasuprot njenim blagim (Harari) i ushićenim (Kurcvejl) braniteljima.
Kada je reč o prirodnim resursima, Kroford piše o sedamnaest retkih elemenata bez kojih nema telefona, laptopova i drugih delova infrastrukture veštačke inteligencije. Prilikom njihove ekstrakcije, postoji katastrofalan odnos iskopane zemlje i upotrebljvih materijala. Pri dobijanju disprozijuma i terbijuma, svega 0,2% iskopane gline sadrži dragocene elemente. To znači da 99,8% zemlje postaje jalovina štetna po okolinu. Radi se i o vodi: samo u 2024. godini Guglovi data centri potrošili su blizu 23 milijarde litara vode, što je oko trećine godišnje potrošnje Turske.
Duboke nejednakosti ispoljavaju se u potrošnji – skupe elektronske naprave kupuje i menja uglavnom bogatija manjina sveta, dok gro ekološke štete trpi siromašna većina – ali i u ostalim fazama. U rudnicima osnovnih sirovina rad je doslovno ropski, a lanci snabdevanja netransparentni, što otežava proizvodnju „nekonfliktnih“ komponenti. „Sirovine se ‘peru’ kroz toliko veliki broj firmi da je praćenje njihovog porekla nemoguće – ili bar tako kažu proizvođači krajnjih proizvoda, što im omogućava da verodostojno poriču eksploataciju od koje profitiraju. Ekološko neznanje i svesno žmurenje pred izrabljivanjem su preduslov održanja ekonomije podataka“, piše Kroford.
Razgovor o sistemima veštačke inteligencije se retko dotiče toga koliko je loše plaćenih radnika potrebno za njihovu izgradnju, održavanje i ispitivanje. U AI modele je ugrađeno hiljade sati rada na izuzetno repetitivnim mikro-zadatacima: od iznurujućeg obeležavanja podataka za obučavanje do psihološki traumatičnog pregledanja sumnjivog sadržaja. U slučaju autonomnih vozila ili digitalnih ličnih asistenata, radnici doslovno moraju da glume veštačku inteligenciju.
Kompanija X.AI, koja upravlja servisom Grok, tvrdila je da njena asistentkinja Amy može da zakazuje sastanke i obavlja razne svakodnevne zadatke. Ipak, otkrilo se da to ne radi „ona“ već unajmljeni radnici koji u dugim smenama nadgledaju i ispravljaju poruke, anotiraju mejlove i održavaju iluziju da su usluge firme automatizovane 24/7. „Odlazio sam kući potpuno otupljen, lišen svake emocije“, rekao je jedan od zaposlenih.
Svojevremeno je Međunarodna organizacija rada, anketiravši 3500 mikro-radnika iz 75 zemalja koji su radili na platformama poput Clickworker i Amazon Mechanical Turk, utvrdila da mnogi od njih primaju manje od lokalnog minimalca, uprkos visokim kvalifikacijama. To što je naše korisničko iskustvo na internetu iole prijatno, po svemu sudeći, nije zasluga veštačke inteligencije već pravog, ali potcenjenog rada.
Ova obmana, prema Kroford, ima ideološku funkciju. „Lažna automatizacija ne zamenjuje ljudski rad već ga premešta i raspršuje u vremenu i prostoru. Tako se veza između rada i vrednosti još više muti, a sami radnici još više otuđuju jedni od drugih i od rezultata svog rada“, ističe ona.
Ideologija podataka
Ne radi se samo o radnicima, jer dramatično raste prikupljanje digitalnih podataka koje ostavljamo svi. Tekstovi, glasovni i video snimci, fotografije načinjene u javnom prostoru ili od strane državnih ustanova – osnova su za građenje smisla i vršenje osnovnih operacija AI uređaja. Prikupljanje podataka džinovskih razmera je postalo toliko fundamentalno da ga više niko ne dovodi u pitanje.
Kroford piše o uznemirujućoj bazi policijskih fotografija načinjenih nakon hapšenja i privođenja osumnjičenih, koje preuzima i obrađuje američki Nacionalni institut za standarde i tehnologiju. „Ne radi se samo o užasnom patosu samih slika, niti o invaziji privatnosti jer oni ne mogu da odbiju fotografisanje“, navodi ona. Radi se o tome da ovakve baze podataka nagoveštavaju nemilosrdni pragmatizam tehnološkog sektora: logiku po kojoj je sve podatak kojim se može slobodno služiti.
Kompanije ne mare za kontekst nastanka podataka, unapred se pravdajući razvojem „računarske inteligencije“, „dubokog učenja“ i slično. Ranih dvehiljaditih podaci su postali sirovina, što je prof. Zubof videla kao rađanje nadzornog kapitalizma.
Kroford navodi da odgovorni za sastavljanje skupova podataka – oni koje Zubof zove nadzornim kapitalistima – pretpostavljaju da im sadržaj interneta bezgranično pripada „Misle da su iznad potrebe za odobrenjem ili etičkom refleksijom“, pojašnjava ona. Podaci se predstavljaju kao nešto što se može slobodno koristiti. To rađa moralni imperativ prikupljanja bez obzira na posledice, ali i tržišni – ako jedna firma neće, konkurenti hoće.
Šta se krije iza uverenja da je podatak sve što se može ugrabiti? Same floskule o „rudarenju podataka“ ili tome da su podaci „nova nafta“ udaljavaju pojam podatka od nečeg ličnog, podložnog individualnoj kontroli. Retoričke finte skrivaju vekovnu praksu svođenja na stvari: ako priroda više nije živa već fond besplatnih zaliha, onda ni podaci nisu lični već isplativa investicija.
„Reći da su podaci ‘nova nafta’ ne znači samo istaći njihovu isplativost, već i sakriti probleme fosilne industrije: od ugovornog ropstva, geopolitičkih sukoba, ekološke devastacije i drugih dugoročnih posledica“, navodi Kroford.
Uostalom, posmatranje podataka kao „prirodnog resursa“ koji samo čeka da bude „otkriven“ deo je istog kolonijalnog obrasca. Taj obrazac – od tuđe zemlje (terra nullius) do tuđih podataka (cookies) – pojačan je neoliberalnim pogledom na tržište kao na glavno merilo vrednosti. Upravo je to srž onoga što Kroford zove ideologijom podataka: „Kada su podaci puki oblik kapitala, onda je sve opravdano i svi prostori se mogu podvrgnuti sve invazivnijim sredstvima datifikacije“, zaključuje ona.
Klasifikacija je moć
Opasna je i pristrasnost AI sistema, što za Kroford nije greška, već odlika same klasifikacije. Kada se podaci iz sveta prikupe, izmere, obeleže i sortiraju, postaju nesiguran teren za gradnju sistema koji se na njima obučavaju. To pokazuju stotine primera diskriminatornih rezultata: od polne pristrasnosti u Eplovim algoritmima za procenu kreditne sposobnosti, preko rasizma u COMPAS softveru koji američki sudovi koriste za procenu kriminalnog rizika, mizoginog rečnika koji usvajaju čet-botovi do oglasa za visoko plaćene poslove koji se češće prikazuju muškarcima nego ženama.
„Kreirati trenažni skup podataka znači uzeti skoro beskonačno složen i raznolik svet i ugurati ga u taksonomije, što zahteva inherentno političke, kulturne i društvene izbore“, navodi Kroford. A kada se pristrasnosti otkriju, kompanije ih svode na tehnički problem podataka, koji potom reše ne bi li izjavili da je njihov servis sada „pravedniji“. Ali suština nije u tome, već načinu konstrukcije samog znanja: izabrane tehnike klasifikacije mogu postati osnov za naturalizaciju pristrasnosti i hijerarhija.
Seksistički, rasistički i drugi sporni pogledi na svet mogu, u kontekstu veštačke inteligencije, pogoršati nejednakosti. Sama nejednakost nije ništa novo – oduvek je oblikovala pristup resursima i mogućnostima. Problem je, međutim, što nejednak pristup resursima utiče na stvaranje novih podataka, koji se onda ugrađuju u tehničke sisteme za klasifikaciju i prepoznavanje obrazaca. Ako ti sistemi postanu osnov za rad institucija, nejednakosti se normalizuju – pod maskom tehničke neutralnosti.
Ali nema tehničke neutralnosti, zaključuje Kroford: AI sistemi nisu autonomni, nisu racionalni i nisu sposobni da saznaju išta bez šireg skupa političkih i društvenih infrastruktura. Danas one ne sprečavaju rast tehnokratske moći Amazona, Gugla, Palantira i ostalih kompanija, niti opasnost da ta moć postane politička – naprotiv.
Veštačka inteligencija nije puka alatka već politička, ekonomska i kulturna sila koja bi, bez snažne regulacije, produbila zatečene nejednakosti. Suočiti se s tim znači razumeti interakciju između AI sistema i podataka, radnika, prirode i ljudi na čije živote će njihova upotreba da utiče, pa spram toga odlučiti kada veštačku inteligenciju ne treba koristiti.
Svojevremeno je Žak Elul pisao da se tehnologija razvija samo zbog toga što se razvija, bez potrebe za drugim razlozima ili motivima. Nešto ranije Hana Arent je upozoravala da ćemo mi, zemaljska bića sa pretenzijama na kosmički značaj, postati nesposobni da shvatimo i artukulišemo stvari koje smo u stanju da činimo. Oboje su mislili isto: patimo od moralnog zaostajanja.
Izvor: RTS OKO
