Meta naočare stigle su i u Srbiju. Pametne naočare tehnološkog giganta omogućavaju fotografisanje, snimanje, slušanje muzike, pozive i korišćenje veštačke inteligencije – diskretno i sa stilom.
Po pristupačnoj ceni od nekoliko stotina evra, ove naočare mogu se kupiti direktno sa sajta Mete, a i preko oglasa u Srbiji. Pored Mete, druge kompanije planiraju razvijanje sopstvenih modela pametnih naočara, a istraživanja predviđaju da će čak 100 miliona ljudi posedovati svoj par kroz nekoliko godina.
Na društvenim mrežama se spekuliše i da ih je nedavno koristio dekan novosadskog Fakulteta sporta i fizičkog vaspitanja, Patrik Drid, na sednici Senata tokom tajnog glasanja koje je zapečatilo status profesora Vladimira Mihića. Na pitanje novinara Danasa, Drid je rekao da sednicu nije snimao, a da naočare nosi zbog lične bezbednosti imajući u vidu da je već duže vreme „kontinuirano izložen uvredama, pritiscima i snimanju od strane drugih lica“.
Njihova upotreba postavlja brojna pitanja zakonitosti, etičnosti i privatnosti, a u svetu su već naširoko korišćene u maliciozne svrhe.
Na ovu temu razgovaramo sa Kristinom Obrenović, projektnom koordinatorkom i istraživačicom iz organizacije Partneri Srbija i Hristinom Cvetinčanin Knežević, sociološkinjom i istraživačicom.
Između koristi i rizika
Na pitanje koja je svrha Meta naočara i da li donose više štete nego koristi, Obrenović ističe da se one prodaju kao modni gadžet, ali je suština da su to kamere koje se nose na licu.
„Snimaju video i audio iz perspektive korisnika, a softver može da prepoznaje lica, objekte i tekst u onome što snime. Zvanično se predstavljaju kao pomoć u svakodnevnom životu – navigacija, prevod, asistencija osobama sa oštećenim vidom. Ali problem je što se ista tehnologija koja omogućava korisne funkcije može koristiti i za masovno, neprimetno snimanje ljudi bez njihovog pristanka. Da li više šteti nego što koristi zavisi od konteksta upotrebe, ali u autoritarnim ili polu-autoritarnim okruženjima, rizik zloupotrebe je nesrazmerno veći od benefita, jer je moć asimetrična: korisnik naočara ima kontrolu, osoba koja je snimljena – nema nikakvu“, navodi Obrenović.
Cvetinčanin Knežević ističe da je važno da ovu priču ne svedemo na pitanje da li su Meta naočare dobre ili loše, jer svaka velika tehnološka promena donosi i koristi i rizike. Kako sociološkinja i istraživačica navodi, u teoriji, Meta naočare mogu biti korisne za sve već navedeno i u tom smislu problem nije sama kamera, problem je društveni kontekst uz koji ta kamera dolazi.
Digitalni svet polako ulazi u naš
„Po mom mišljenju, Meta ovde ne prodaje novi uređaj, već pokušava da izgradi novu tehnološku platformu – pre nekoliko godina govorili smo o Metaverzumu kao o virtuelnom svetu u koji ćemo ulaziti pomoću VR naočara, zar smo to zaboravile? Metaverzum nije postao deo svakodnevice onako kako se očekivalo, međutim, mislim da je je prerano i preoptimistično da zaključimo da je ideja propala i da se od nje odustalo. Naprotiv, samo je evoluirala i promenila oblik“, smatra Cvetinčanin Knežević.
Kako sociološkinja navodi, umesto da mi odlazimo u digitalni svet, digitalni svet polako dolazi u naš.
„Pametne AI naočare brišu granicu između fizičkog i digitalnog prostora. Internet više nije mesto na koje odlazimo, on postaje sloj kroz koji posmatramo stvarnost, i u tom smislu, Meta naočare su možda bliže viziji iz romana Ready Player One nego prvobitnom Metaverzumu, čini se da već sada, i to ne polako, digitalna infrastruktura postaje sastavni deo našeg svakodnevnog života“, kaže sagovornica Mašine.
Nadzorni kapitalizam i ljudsko iskustvo kao roba
Sociološkinja kaže da je još važnije to što sada po prvi put ulazimo u eru u kojoj veštačka inteligencija ne čeka da joj se obratimo, već posmatra i uči zajedno sa nama.
„Dok današnji pametni telefoni reaguju kada ih uzmemo u ruke, Metine pametne naočare predstavljaju korak ka tzv. ,ambient computingu‘, odnosno tehnologiji koja je stalno prisutna i koja kontinuirano prikuplja informacije o našem okruženju. Meta već testira funkcije koje bi omogućile da AI pamti šta smo videli, gde smo bili ili sa kim smo razgovarali“, podseća Cvetinčanin Knežević.
Mnogo veće pitanje koje se sada otvara, smatra sociološkinja, jeste: šta se događa kada naše pamćenje, pažnja i svakodnevno iskustvo postanu infrastruktura jedne privatne kompanije?
„Karl Marks je pisao o otuđenju kao procesu u kojem proizvodi ljudskog rada počinju da vladaju čovekom umesto obrnuto, a danas bismo mogli govoriti o tehnološkom otuđenju. Sve više funkcija koje su nekada bile sastavni deo ljudskog iskustva, poput pamćenja, orijentacije, opažanja, donošenje odluka i dr. prepuštamo algoritmima. Tehnologija više nije samo alat, kako je Marks govorio, već je postala posrednica kroz koju doživljavamo svet“, navodi Cvetinčanin Knežević.
Zbog toga ona smatra da je mnogo korisnije posmatrati ovu temu kroz koncept nadzornog kapitalizma o kojem piše Šošana Zubof.
„Platforme više ne prikupljaju samo naše klikove ili pretrage, već prisvajaju naš pogled, našu pažnju, naše svakodnevne rutine i naše okruženje. Drugim rečima, podatak više nije naskuplja roba na ovom tržištu algoritamske pažnje, već to postaje (analogno i autentično) ljudsko iskustvo“, kaže sociološkinja.
Načini zloupotrebe – beskonačni
Jedno je nesporno. „Vrste i načine zloupotrebe ove tehnologije su praktično beskonačne“, kaže Obrenović.
„Od korišćenja za stalking/proganjanje, ucena i pretnji objavljivanjem intimnih snimaka. Deepfake sadržaja (zloupotreba nečijeg lika za lažni seksualni sadržaj), prisilnog ,outovanja‘, identifikacija LGBTQ+ osoba bez njihovog pristanka, što u određenim sredinama može direktno ugroziti bezbednost“, navodi istraživačica.
Cvetinčanin Knežević podseća i na olakšano tajno snimanje ljudi, prikupljanje biometrijskih podataka, prepoznavanje lica, neovlašćeno beleženje razgovora, doksovanje ili pravljenje baza podataka o kretanju i ponašanju građana,
Obrenović dodaje da je važno naglasiti da žrtva ne može da se „isključi“ iz nečije tuđe kamere. „Za razliku od telefona koji se drži u ruci i vidljiv je, naočare deluju kao običan modni dodatak, a meta snimanja često i ne zna da je snimana“, kaže Obrenović.
Kontekst Srbije
Podsetimo se da su tokom prošle godine zabeleženi brojni slučajevi nezakonite upotrebe tehnologija za nadzor, uključujući špijunske softvere korišćene protiv novinara, aktivista, učesnika protesta i građana, o čemu možete čitati na Mašini.
„Ono što nas sve posebno zabrinjava, u kontektu Srbije jeste zloupotreba ovakve tehnologije od strane države jer proširuje mogućnosti identifikacije i praćenja ljudi u javnom prostoru“, navodi projektna koordinatorka i istraživačica Partneri Srbija.
U kontekstu Srbije, gde je masovna pojava represija države nad aktivistima ovaj rizik dobija poseban, konkretniji oblik, kaže naša sagovornica.
„Alatka koja omogućava identifikaciju lica u realnom vremenu, u kombinaciji sa državnim ili paradržavnim akterima koji imaju motiv da prate učesnike protesta, može pored obeshrabrivanja učešća u protestima, narušavanja privatnosti, dovesti i do ugrožavanja bezbednosti učesnika protesta (kroz kasnije targetiranje u medijima, praćenje i dr.), a za za razliku od policijskih kamera koje su bar vidljive, ova tehnologija je namerno dizajnirana da bude neupadljiva“, objašnjava Obrenović.
Cvetinčanin Knežević podseća na vreme kada su se pojavile prve nadzorne biometrijske kamere na ulicama glavnog grada, pre više od pet godina i kaže da je tada možda već bilo vreme za strah i paniku.
„Sada je to vreme prošlo i iskreno se nadam da nam neće otići i ovaj voz, da postavimo najvažnije pitanje a to je šta znači uvođenje tehnologije masovnog snimanja u društvu koje već ima problem sa zloupotrebom moći?“, navodi sociološkinja.
Situacija ide korak dalje uz činjenicu da je nadzor upakovan u praktičnost, te da ljudi dobrovoljno pristaju na njega, objašnjava sagovornica Mašine.
„Ljudi često ovu temu povezuju sa Orvelovom 1984, ali mislim da današnja situacija zapravo ide korak dalje. Kod Orvela država prisiljava građanke i građane da budu pod nadzorom, a danas građanke i građani dobrovoljno kupuju uređaj koji ih povezuje sa sistemom nadzora jer im zauzvrat nudi pogodnost, personalizaciju i praktičnost. Nadzor više ne čitamo kao kaznu, već kao uslugu“, smatra Cvetinčanin Knežević.
Gde sve završavaju snimci
Kako Obrenović navodi za Mašinu, dodatni, manje poznat problem jeste da sadržaj koji ove naočare snimaju negde završava.
„U slučaju META-e, isplivale su informacije da se informacije prikupljene putem naočara koriste za treniranje META-ine veštačke inteligencije. U februaru su zaposleni u kompaniji Sama (podizvođač META-e iz Kenije) za dva švedska lista izjavili da su videli snimke korisnika pametnih naočara kako koriste toalet, kako imaju intimne odnose itd. Dakle opasnost nije samo od osobe koja snima, već i od kompanije koja je naočare proizvela“, objašnjava istraživačica.
Obrenović ističe da je posebno zabrinjavajuće što se ovaj trend nastavlja i drugi tehnološki giganti poput Gugla su najavili proizvodnju svojih AI naočara.
Tehnologija nije rodno neutralna
Meta naočare su, kako smo do sada delimično pomenuli, korišćene za snimanje pornografskog sadržaja, kao i snimanja žena i devojaka na ulici od strane muškaraca u svrhe pravljenja sadržaja „vodiča za prilaženje“ ženama i slično. Sve, naravno, bez dozvole, pisao je i BBC.
Nakon svega toga, ove naočare reklamira poznata ličnost, proslavljena kroz američki rijaliti „Kardašijani“, Kajli Džener.
Hristina Cvetinčanin Knežević smatra da je Džener samo simbol, pa i simptom, jedne mnogo šire i opasnije ideološke strategije, te da stoga mnogo gubimo ako se fokusiramo samo na nju.
„Poslednjih godina videle smo brojne slučajeve u kojima muškarci koriste pametne naočare ili skrivene kamere da bez znanja žena snimaju prilaske na ulici, objavljuju njihove reakcije, brojeve telefona ili druge lične podatke kao sadržaj za društvene mreže. Tada žene postaju sadržaj, često bez ikakvog pristanka, što dodatno normalizuje kulturu seksualnog nasilja, voajerizma i objektivizacije žena“, navodi sociološkinja.
Kako dodaje, upravo zato je zanimljivo što Meta sada istu tehnologiju promoviše kroz jednu od najpoznatijih žena i modnih influenserki na svetu, jer to nije slučajno.
„Reč je o procesu estetizacije tehnologije kada algoritamski kapitalizam nadzora vrlo komotno uređaj koji izaziva ozbiljna pitanja privatnosti i nadzora predstavlja kao modni dodatak, lifestyle proizvod i simbol savremenog života“, objašnjava sociološkinja i istraživačica.
Mišljenje Cvetinčanin Knežević je da to to govori mnogo o načinu na koji funkcioniše savremeni kapitalizam – jer kada tehnologija izaziva otpor zbog mogućih društvenih posledica, vrlo često se ne menja sama tehnologija, već način na koji je predstavljamo pa se umesto jezika nadzora, koristi jezik mode, lepote, praktičnosti i individualnog izbora.
Iz feminističke perspektive, kaže naša sagovornica, ovo je posebno važno zato što tehnologija nikada nije rodno neutralna, kako od svoje geneze „transformiše društvo koje već ima itekako žive i orne postojeće odnose moći“.
Ko dobija moć da posmatra a ko postaje objekat pogleda?
„Već imamo problem sa onim što kolokvijalno nazivamo osvetničkom pornografijom, a reč je u neovlašćenom deljenju intimnog sadržaja, kao i deepfake pornografijom, neretko i platformskim AI alatima za digitalno svlačenje žena, ali i creep-shot fotografijama, Telegram grupama i sadržajem u kojem se žene tretiraju kao objekti za ocenjivanje ili ,osvajanje‘, u najboljem mogućem scenariju, jer su obično viđene isključivo kao seksualni objekti, ogoljeni od svake čovečnosti, dobre samo za (dovrši rečenicu). Pametne naočare ne stvaraju te obrasce, ali ih čine diskretnijim, lakšim, masovnijim i svarljivijim“, uočava sociološkinja.
Zato Cvetinčanin Knežević misli da pravo pitanje nije da li su ove naočare opasne – već ko uz njih dobija moć da posmatra, snima, pamti i analizira druge ljude, a ko postaje objekat tog pogleda.
„Ako smo iz 1984. naučile da je opasan svet u kojem nas neko neprestano posmatra, onda nas ova tehnologija suočava sa novom situacijom jer nadzor više ne izgleda kao kamera na zidu. Ako pitamo Kajli Džener, nadzor je zapravo elegantan modni dodatak koji obećava da će nam olakšati svakodnevni život. Upravo zato je važno da o njemu razgovaramo pre nego što postane potpuno nevidljiv. Vreme prolazi, tik-tak…“, zaključuje sagovornica Mašine.
