Foto: Pixabay
Nadzor prepakovan u modni dodatak i lifestyle simbol – tako sagovornice Mašine opisuju Meta naočare koje stigle i na naše tržište. Uhođenje, ucene, prikupljanje biometrijskih podataka, stvaranje deepfake i drugih pornografskih sadržaja – samo su deo „beskonačnih“ načina zloupotrebe pametnih naočara sa ugrađenom kamerom. Hristina Cvetinčanin Knežević i Kristina Obrenović za Mašinu govore tome šta znači uvođenje tehnologije masovnog snimanja u društvu koje već ima problem sa zloupotrebom moći, asimetriji moći i tome kako naskuplja roba na tržištu algoritamske pažnje, postaje ljudsko iskustvo.
Meta naočare stigle su i u Srbiju. Pametne naočare tehnološkog giganta omogućavaju fotografisanje, snimanje, slušanje muzike, pozive i korišćenje veštačke inteligencije – diskretno i sa stilom.
Po pristupačnoj ceni od nekoliko stotina evra, ove naočare mogu se kupiti direktno sa sajta Mete, a i preko oglasa u Srbiji. Pored Mete, druge kompanije planiraju razvijanje sopstvenih modela pametnih naočara, a istraživanja predviđaju da će čak 100 miliona ljudi posedovati svoj par kroz nekoliko godina, piše portal Mašina.rs.
Na društvenim mrežama se spekuliše i da ih je nedavno koristio dekan novosadskog Fakulteta sporta i fizičkog vaspitanja, Patrik Drid, na sednici Senata tokom tajnog glasanja koje je zapečatilo status profesora Vladimira Mihića. Na pitanje novinara Danasa, Drid je rekao da sednicu nije snimao, a da naočare nosi zbog lične bezbednosti imajući u vidu da je već duže vreme „kontinuirano izložen uvredama, pritiscima i snimanju od strane drugih lica“.
Njihova upotreba postavlja brojna pitanja zakonitosti, etičnosti i privatnosti, a u svetu su već naširoko korišćene u maliciozne svrhe.
Na ovu temu razgovaramo sa Kristinom Obrenović, projektnom koordinatorkom i istraživačicom iz organizacije Partneri Srbija i Hristinom Cvetinčanin Knežević, sociološkinjom i istraživačicom.
Između koristi i rizika
Na pitanje koja je svrha Meta naočara i da li donose više štete nego koristi, Obrenović ističe da se one prodaju kao modni gadžet, ali je suština da su to kamere koje se nose na licu.
„Snimaju video i audio iz perspektive korisnika, a softver može da prepoznaje lica, objekte i tekst u onome što snime. Zvanično se predstavljaju kao pomoć u svakodnevnom životu – navigacija, prevod, asistencija osobama sa oštećenim vidom. Ali problem je što se ista tehnologija koja omogućava korisne funkcije može koristiti i za masovno, neprimetno snimanje ljudi bez njihovog pristanka. Da li više šteti nego što koristi zavisi od konteksta upotrebe, ali u autoritarnim ili polu-autoritarnim okruženjima, rizik zloupotrebe je nesrazmerno veći od benefita, jer je moć asimetrična: korisnik naočara ima kontrolu, osoba koja je snimljena – nema nikakvu“, navodi Obrenović.
Cvetinčanin Knežević ističe da je važno da ovu priču ne svedemo na pitanje da li su Meta naočare dobre ili loše, jer svaka velika tehnološka promena donosi i koristi i rizike. Kako sociološkinja i istraživačica navodi, u teoriji, Meta naočare mogu biti korisne za sve već navedeno i u tom smislu problem nije sama kamera, problem je društveni kontekst uz koji ta kamera dolazi.
Digitalni svet polako ulazi u naš
„Po mom mišljenju, Meta ovde ne prodaje novi uređaj, već pokušava da izgradi novu tehnološku platformu – pre nekoliko godina govorili smo o Metaverzumu kao o virtuelnom svetu u koji ćemo ulaziti pomoću VR naočara, zar smo to zaboravile? Metaverzum nije postao deo svakodnevice onako kako se očekivalo, međutim, mislim da je je prerano i preoptimistično da zaključimo da je ideja propala i da se od nje odustalo. Naprotiv, samo je evoluirala i promenila oblik“, smatra Cvetinčanin Knežević.
Kako sociološkinja navodi, umesto da mi odlazimo u digitalni svet, digitalni svet polako dolazi u naš.
„Pametne AI naočare brišu granicu između fizičkog i digitalnog prostora. Internet više nije mesto na koje odlazimo, on postaje sloj kroz koji posmatramo stvarnost, i u tom smislu, Meta naočare su možda bliže viziji iz romana Ready Player One nego prvobitnom Metaverzumu, čini se da već sada, i to ne polako, digitalna infrastruktura postaje sastavni deo našeg svakodnevnog života“, kaže sagovornica Mašine.
Nadzorni kapitalizam i ljudsko iskustvo kao roba
Sociološkinja kaže da je još važnije to što sada po prvi put ulazimo u eru u kojoj veštačka inteligencija ne čeka da joj se obratimo, već posmatra i uči zajedno sa nama.
„Dok današnji pametni telefoni reaguju kada ih uzmemo u ruke, Metine pametne naočare predstavljaju korak ka tzv. ,ambient computingu‘, odnosno tehnologiji koja je stalno prisutna i koja kontinuirano prikuplja informacije o našem okruženju. Meta već testira funkcije koje bi omogućile da AI pamti šta smo videli, gde smo bili ili sa kim smo razgovarali“, podseća Cvetinčanin Knežević.
Mnogo veće pitanje koje se sada otvara, smatra sociološkinja, jeste: šta se događa kada naše pamćenje, pažnja i svakodnevno iskustvo postanu infrastruktura jedne privatne kompanije?
„Karl Marks je pisao o otuđenju kao procesu u kojem proizvodi ljudskog rada počinju da vladaju čovekom umesto obrnuto, a danas bismo mogli govoriti o tehnološkom otuđenju. Sve više funkcija koje su nekada bile sastavni deo ljudskog iskustva, poput pamćenja, orijentacije, opažanja, donošenje odluka i dr. prepuštamo algoritmima. Tehnologija više nije samo alat, kako je Marks govorio, već je postala posrednica kroz koju doživljavamo svet“, navodi Cvetinčanin Knežević.
Zbog toga ona smatra da je mnogo korisnije posmatrati ovu temu kroz koncept nadzornog kapitalizma o kojem piše Šošana Zubof.
„Platforme više ne prikupljaju samo naše klikove ili pretrage, već prisvajaju naš pogled, našu pažnju, naše svakodnevne rutine i naše okruženje. Drugim rečima, podatak više nije naskuplja roba na ovom tržištu algoritamske pažnje, već to postaje (analogno i autentično) ljudsko iskustvo“, kaže sociološkinja.
Načini zloupotrebe – beskonačni
Jedno je nesporno. „Vrste i načine zloupotrebe ove tehnologije su praktično beskonačne“, kaže Obrenović.
„Od korišćenja za stalking/proganjanje, ucena i pretnji objavljivanjem intimnih snimaka. Deepfake sadržaja (zloupotreba nečijeg lika za lažni seksualni sadržaj), prisilnog ,outovanja‘, identifikacija LGBTQ+ osoba bez njihovog pristanka, što u određenim sredinama može direktno ugroziti bezbednost“, navodi istraživačica.
Cvetinčanin Knežević podseća i na olakšano tajno snimanje ljudi, prikupljanje biometrijskih podataka, prepoznavanje lica, neovlašćeno beleženje razgovora, doksovanje ili pravljenje baza podataka o kretanju i ponašanju građana,
Obrenović dodaje da je važno naglasiti da žrtva ne može da se „isključi“ iz nečije tuđe kamere. „Za razliku od telefona koji se drži u ruci i vidljiv je, naočare deluju kao običan modni dodatak, a meta snimanja često i ne zna da je snimana“, kaže Obrenović.
Kontekst Srbije
Podsetimo se da su tokom prošle godine zabeleženi brojni slučajevi nezakonite upotrebe tehnologija za nadzor, uključujući špijunske softvere korišćene protiv novinara, aktivista, učesnika protesta i građana, o čemu možete čitati na Mašini.
„Ono što nas sve posebno zabrinjava, u kontektu Srbije jeste zloupotreba ovakve tehnologije od strane države jer proširuje mogućnosti identifikacije i praćenja ljudi u javnom prostoru“, navodi projektna koordinatorka i istraživačica Partneri Srbija.
U kontekstu Srbije, gde je masovna pojava represija države nad aktivistima ovaj rizik dobija poseban, konkretniji oblik, kaže naša sagovornica.
„Alatka koja omogućava identifikaciju lica u realnom vremenu, u kombinaciji sa državnim ili paradržavnim akterima koji imaju motiv da prate učesnike protesta, može pored obeshrabrivanja učešća u protestima, narušavanja privatnosti, dovesti i do ugrožavanja bezbednosti učesnika protesta (kroz kasnije targetiranje u medijima, praćenje i dr.), a za za razliku od policijskih kamera koje su bar vidljive, ova tehnologija je namerno dizajnirana da bude neupadljiva“, objašnjava Obrenović.
Cvetinčanin Knežević podseća na vreme kada su se pojavile prve nadzorne biometrijske kamere na ulicama glavnog grada, pre više od pet godina i kaže da je tada možda već bilo vreme za strah i paniku.
„Sada je to vreme prošlo i iskreno se nadam da nam neće otići i ovaj voz, da postavimo najvažnije pitanje a to je šta znači uvođenje tehnologije masovnog snimanja u društvu koje već ima problem sa zloupotrebom moći?“, navodi sociološkinja.
Situacija ide korak dalje uz činjenicu da je nadzor upakovan u praktičnost, te da ljudi dobrovoljno pristaju na njega, objašnjava sagovornica Mašine.
„Ljudi često ovu temu povezuju sa Orvelovom 1984, ali mislim da današnja situacija zapravo ide korak dalje. Kod Orvela država prisiljava građanke i građane da budu pod nadzorom, a danas građanke i građani dobrovoljno kupuju uređaj koji ih povezuje sa sistemom nadzora jer im zauzvrat nudi pogodnost, personalizaciju i praktičnost. Nadzor više ne čitamo kao kaznu, već kao uslugu“, smatra Cvetinčanin Knežević.
