Ekonomski rast je cilj koji opravdava sve – svaku politiku štednje, devastaciju životne sredine ili zatvaranje proizvodnog pogona. Nebitno je hoće li to ugroziti nečije školovanje, zdravlje ili pravo na rad – ako nije profitablno, ima da ga nema. Glavni razlozi razbucavanja javnih dobara i socijalne zaštite su pljačka i moć. Tu nema ničeg novog, ali je zloslutno što se pravda pričom o profitabilnosti (privatizacija), efikasnosti (smanjenje socijalnih davanja) i konkurentnosti privrede (politika niskih zarada). I naširoko se guta, od akademije i katedri do novinarskih redakcija. Boljitak sutra traži rezove danas – što dublje, to bolje.
Ekonomski rast je religija modernosti. Što su juče bili Hristos, apostoli i koncil, danas su BDP, filantropi i Svetski ekonomski forum. Poslovičnu skromnost zamenila je alavost. Poput vernika što plamen vere svoje održava pregnućem, iskušenja preživljava i religija rasta. Svetska ekonomska kriza, evropska dužnička kriza, pandemija, rat u Ukrajini. Iznova i iznova, BDP „kleca“ ali mora da se oporavi jer je viši standard tu, odmah iza ugla. Samo treba raditi, trpeti i verovati.
Tehnologija kao panacea
Ustaljena priča o istoriji kapitalizma počinje otkrićem parne mašine u osamnaestom veku i nastavlja se nizom inovacija sve do čipova i personalnog računara. Prema toj priči, ekonomski rast je poput fontane novca koju pokreće tehnologija. Pouka je da se, uzpravu tehnologiju, ekonomski rast može ostvariti takoreći ni iz čega. Ali nema rasta ni iz čega, već zanemarivanja njegovih troškova.
Ekonomija nije „nauka o upravljanju oskudnim resursima“, već materijalni proces ekstrakcije, proizvodnje, distribucije, potrošnje i stvaranja otpada. Da bi se smatrao efikasnim, kapitalizmu su potrebni resursi koje će smatrati besplatnim. Zato njegovoj popularnoj istoriji nedostaje nasilje – invazije, otimačine, trgovina robovima, ugnjetavanje žena i uništavanje živog sveta.
Istorija ekonomije ispričana je jezikom modernosti. Prema „ocu moderne nauke“ Frensisu Bejkonu (1561–1626), cilj modernizacije je vlast čoveka nad prirodom. Novu etiku, koja ne samo dozvoljava već i slavi arčenje prirode, Rene Dekart (1596–1650) je zaokružio u čitavu ontologiju dualizma. Povučena je linija fronta između ljudi (belih muškaraca) i prirode. U ime racionalnosti – zapravo kapitala, nauke i tehnologije – Zemlja postala svojina, živa bića stvari a ekosistemi resursi. Tu je ključna tehnologija, čija je svrha da uveća produktivnost kapitala i rada, to jest kapacitet da se proizvodi više i brže. Ekonomski rast i jeste ubrzanje proizvodnje u jedinici vremena.
Kad se tehnologija pomeša sa diskursom rasta, nastaje priča o tehnološkom razvoju kao ključu ljudskog blagostanja. Tehnologija će promeniti sve: optimizovati odlučivanje (veštačka inteligencija), sprečiti klimatske promene (geoinženjering) i nahraniti „prenaseljenu“ planetu (agroindustrija). Ali problem tehnofilije je u tome što su savremeni problemi isuviše složeni da bi se rešili samo tehnologijom.
Svojevremeno je, u prilog nezavisnosti centralnih banaka, nemački ekonomista Rudiger Dornbuš (1942-2002) pisao da je novac „isuviše ozbiljan da bi se prepustio političarima“. Iliti, pustimo stručnjake. Slično važi i za naučno-tehnološka istraživanja, koja su sve manje vođena društveno definisanim potrebama, a sve više profitabilnošću. To je loše, jer društveni problemi (inflacija, nezaposlenost, nejednakost) nisu tehnički već politički.
Politička rešenja ne rešavaju tehničke probleme (dati neispravan računar onome kome računar najviše treba), kao što ni tehnološka rešenja ne rešavaju političke probleme (nova metoda opravke računara ne garantuje da će računar dobiti onaj kome najviše treba). Tehnologija je neodvojiva od pitanja pravdeizato glavni kriterijum odlučivanja o njoj ne sme biti tržište.
Progutana planeta
Šta se razvija, za koga se razvija i ko o tome odlučuje – rečito se pita Kejt Kroford, autorka knjige Atlas veštačke inteligencije, koju je nedavno objavio FMKnjige po prevodu Stefana Pipera. Protiveći se marketinško-korporativnoj predstavi o čistoj tehnologiji, Kroford tvrdi da veštačka inteligencija nije ni veštačka, ni inteligentna, ni čista: to je ekstraktivna industrija zavisna od eksploatacije energije i mineralnih resursa, jeftinog rada i podataka velikih razmera. Poželjna predstava je drugačija. Na primer, naziv „oblak“ (cloud) sugeriše nešto vazdušasto i održivo u okviru zelene industrije, što perfidno skriva da je klaud važan deo sistema veštačke inteligencije koji se pravi od stena, litijumskog rastvora i sirove nafte.
Postoji sedamnaest retkih zemnih elemenata bez kojih nema telefona, laptopova, punjivih baterija, optičkih kablova i drugih delova infrastrukture veštačke inteligencije. Prilikom njihove ekstrakcije, odnos između iskopane zemlje, otrovnih toksina i upotrebljivih materijala je monstruozan. Kroford navodi da, pri dobijanju disprozijuma i terbijuma, samo 0,2% iskopane gline sadrži dragocene zemne elemente. To znači da se 99,8% zemlje baca i kao „jalovina” truje potoke i zemljište. U igri su i ogromne količine vode. Prošle godine, Guglovidata centri potrošili su blizu 23 milijarde litara vode, što je oko trećine godišnje potrošnje Turske sa 86 miliona stanovnika. Pritom Gugl,Amazon, Majkrosoft i drugi ove centre grade u sušnim područjima, gde pogoršavaju krizu vodosnabdevanja.
Ignorisanje troškova zabrinjava: „Iz perspektive dubokog vremena, ekstrahujemo geološku istoriju Zemlje zarad delića sekunde savremenog tehnološkog vremena, pri čemu pravimo uređaje kao što su ‘Amazon eho’ ili ‘Ajfon’, dizajnirane da traju svega nekoliko godina”, piše Kroford. Ono što počinje kao ruda uzeta iz zemlje i pretvara se u kratkotrajnu potrošačku robu, završava na deponijama elektronskog otpada u Gani, Pakistanu i drugde.
Potcenjeni rad
Na duboke nejednakosti ukazuje već to što skupe, pomodne naprave kupuje mahom bogatija manjina čovečanstva, dok gro ekološke štete trpi siromašna većina. Ali one se javljaju i pre potrošnje, u ekstrakciji i proizvodnji. U rudnicima osnovnih sirovina rad je doslovno ropski. Lanci snabdevanja metalima i mineralima su dugi, složeni i otežavaju proizvodnju „nekonfliktnih” elektronskih komponenti. „Elementi se ‘peru’ kroz toliko veliki broj firmi da je praćenje njihovog porekla nemoguće – ili bar tako tvrde proizvođači krajnjih artikala, što im omogućava da verodostojno poriču eksploataciju od koje profitiraju”, ističe Kroford. Sve to važi čak i bez „običnog” rudarstva velikih razmera koje je naročito štetno (RioTinto). Ekološko neznanje i svesno žmurenje pred izrabljivanjem su preduslov održanja ekonomije podataka.
Razgovor o sistemima veštačke inteligencije se retko dotiče toga koliko je loše plaćenih radnika potrebno za njihovu izgradnju, održavanje i ispitivanje – ne samo u rudarstvu, već i u softverskom delu, gde radnici izvršavaju izuzetno repetitivne i monotone mikro-zadatke. Hiljade sati iznurujućeg obeležavanja podataka za obučavanje modela, pregledanje i eliminacija sumnjivog sadržaja služi za održavanje iluzije o magiji veštačke inteligencije.U slučaju autonomnih vozila ili digitalnih ličnih asistenata, radnici doslovno moraju da glume veštačku inteligenciju. Kompanija X.AI, koja upravlja servisom Grok, tvrdila je da njena asistentkinja Amy može da zakazuje sastanke i obavlja razne svakodnevne zadatke. Ipak, otkrilo se da to ne radi „ona“ već unajmljeni radnici koji u dugim smenama nadgledaju i ispravljaju poruke, anotiraju mejlove i održavaju iluziju da su usluge firme automatizovane 24/7. „Odlazio sam kući potpuno otupljen, lišen svake emocije“, rekao je jedan od zaposlenih.
Međunarodna organizacija rada anketirala je 3500 mikro-radnika iz 75 zemalja, koji su radili za platforme kao što su Clickworker ili Amazon Mechanical Turk i otkrila da su mnogi primali manje od lokalnog minimalca, uprkos visokom obrazovanju. Potcenjeni su i oni što moderiraju sadržaj – procenjuju nasilne snimke, govor mržnje i druge okrutnosti – što je psihološki traumatično. Ponovo su na delu nejednakosti: da bi naše korisničko iskustvo na internetu bilo iole prijatno, siromašni rade potplaćen i iscrpljujući posao.
U ovoj obmani, na kocki nisu samo istinski radni troškovi koji se sistemski potcenjuju. Povrh toga, lažna automatizacija ne zamenjuje ljudski rad, već ga premešta, obesmišljava i raspršuje u vremenu i prostoru. To ima i svoju ideološku funkciju: veza između rada i vrednosti još više je zamućena, a radnici još više otuđeni jedni od drugih i od rezultata svog rada.
Ideologija podataka
Ne radi se samo o radnicima. U poslednjoj deceniji dramatično je poraslo prikupljanje digitalnih podataka koje ostavljamo svi – tekstova, glasovnih i video snimaka, fotografija načinjenih u javnom prostoru ili od strane državnih ustanova – a koji su osnova za građenje smisla i vršenje osnovnih operacija AI uređaja. Prikupljanje džinovskih razmera je postalo toliko fundamentalno da ga više niko ne dovodi u pitanje.
Kroford piše o uznemirujućoj bazi podataka policijskih fotografija načinjenih nakon hapšenja i privođenja osumnjičenih, a koje preuzima američki Nacionalni institut za standarde i tehnologiju. „Ne radi se samo o užasnom patosu samih slika, niti o tome što predstavljaju invaziju privatnosti, pošto ti ljudi ne mogu da odbiju fotografisanje“, navodi ona. Radi se o tome da ovakve baze podataka nagoveštavaju nemilosrdni pragmatizam tehnološkog sektora: logiku po kojoj je sve podatak kojim se može slobodno služiti.
Kompanije sve manje mare za kontekst nastanka podataka i pristanak onih kome pripadaju, dok se unapred pravdaju razvojem „računarske inteligencije“, „mašinskog učenja“ i slično. Sve je počelo ranih dvehiljaditih, kada su fotografije, tekstovi, audio i video snimci postali su puka sirovina za AI sisteme. „Odgovorni za sastavljanje skupova podataka pretpostavili su da im sadržaj interneta bezgranično pripada, da su iznad potrebe za odobrenjem ili etičkom refleksijom“, piše Kroford. Podaci se svuda predstavljaju kao nešto što se može slobodno koristiti, što je loše jer proizvodi neku vrstu moralne zapovesti prikupljanja podataka bez obzira na posledice. Uostalom, to traži tržište: ako jedna firma neće, njeni konkurenti hoće.
Šta se krije iza uverenja da je podatak sve što se može ugrabiti? Same floskule o „rudarenju podataka“ ili tome da su podaci „nova nafta“ udaljavaju pojam podatka od nečeg ličnog, podložnog individualnoj kontroli. Te retoričke finte skrivaju vekovni kontinuitet objektifikacije: ako priroda nije živa već običan resursni fond, onda ni podaci nisu lični već „investicija“. „Reći da su podaci ’nova nafta’ ne znači samo istaći njihovu isplativost, već i sakriti probleme fosilne industrije: od ugovornog ropstva, geopolitičkih sukoba, ekološke devastacije i drugih dugoročnih posledica“, navodi Kroford.
Uostalom, posmatranje podataka kao „prirodnog resursa“ koji samo čeka da bude „otkriven“ je deo istog obrasca kojim su pravdana kolonijalna osvajanja. Bilo da se radi o zemlji (terra nullius) ili našoj privatnosti (cookies), to je kontinuitet na kom kapitalizam počiva. Danas ga pojačava neoliberalni pogled na tržište kao glavnog oblika organizacije vrednosti. Upravo je to srž onoga što Kroford zove ideologijom podataka: „Kada su podaci puki oblik kapitala, onda je sve opravdano i svi prostori se mogu podvrgnuti sve invazivnijim sredstvima datifikacije“, zaključuje ona.
Klasifikacija je moć
Opasna je i pristrasnost AI sistema, što za Kroford nije greška, već odlika same klasifikacije. Kada se podaci iz sveta prikupe, izmere, obeleže i sortiraju, postaju nesiguran teren za gradnju sistema koji se na tim podacima obučavaju. To pokazuje stotine primera diskriminatornih rezultata AI sistema: od polne pristrasnosti u Eplovim algoritmima za procenu kreditne sposobnosti, preko rasizma u COMPAS softveru koji američki sudovi koriste za procenu kriminalnog rizika, mizoginog rečnika koji usvajaju čet-botovi do oglasa za visoko plaćene poslove koji se češće prikazuju muškarcima nego ženama.
„Kreirati trenažni skup podataka znači uzeti skoro beskonačno složen i raznolik svet i ukalupiti ga u taksonomije, što zahteva inherentno političke, kulturne i društvene izbore“, navodi Kroford. Jednom izabrane, tehnike klasifikacije mogu postati osnov za naturalizaciju različitih pristrasnosti. A kada se pristrasnosti otkriju, kompanije ih svode na tehnički problem podataka, koji reše da bi izjavili kako je njihov AI sada „pravedniji“. Ali suština ostane netaknuta, a to je način konstrukcije samog znanja.
Seksistički, rasistički i drugi problematični pogledi na svet mogu, u kontekstu veštačke inteligencije, pogoršati nejednakosti. Sama nejednakost nije ništa novo – oduvek je oblikovala pristup resursima i mogućnostima. Problem je, međutim, što nejednak pristup resursima utiče na stvaranje novih podataka, koji se onda ugrađuju u tehničke sisteme za klasifikaciju i prepoznavanje obrazaca. Ako ti sistemi postanu osnova za rad institucija, nejednakosti se normalizuju – pod maskom tehničke neutralnosti.
Nema neutralne tehnologije
Ali nema tehničke neutralnosti, niti se pravda može isprogramirati. AI sistemi nisu autonomni, nisu racionalni i nisu sposobni da saznaju išta bez šireg skupa političkih i društvenih infrastruktura. Upravo zbog sadašnjih infrastruktura, nejednakosti su sve dublje a tehnokratska moć sve veća. Sa sistemima veštačke inteligencije velikog obima, ovi procesi se ubrzavaju. To znači da su dizajnirani u interesu moćnih – od političara do direktora tehnoloških korporacija. Na kocki su i demokratija i sloboda.
Kroford zaključuje da veštačka inteligencija nije puka alatka već politička, ekonomska i kulturna sila. Suočiti se s tim znači odrediti u kojim uslovima matematika i inženjerstvo ne rešavaju, već otežavaju problem. To znači razumeti interakciju između AI sistema i podataka, radnika, prirode i ljudi na čije živote će njihova upotreba da utiče – pa spram toga odlučiti kada veštačku inteligenciju ne treba koristiti.
Do tada, ona će nastaviti da oblikuje komunikaciju, znanje i moć. Međutim, već danas možemo da razmislimo o sopstvenoj ulozi u tome. Da se zapitamo treba li nam baš uvek „razgovor“ sa ChatGPT i da li nam znači nekoliko sekundi „uštede“ u odnosu na obično pretraživanje interneta. Da razumemo šta gubimo kada mislimo da dobijamo, šta trošimo kada mislimo da štedimo i kome služimo kada mislimo da smo to mi sami.
