Hiranje ekstra I.: telo podatkov

Herodot v Perzijskih vojnah opisuje presenetljivo moč nevidnega imperija Skitov: potujočega ljudstva, ki je vladalo vsepovsod in nikjer. Njihova moč ni izvirala iz okupacije ozemlja in vojaških utrdb, temveč prav iz odsotnosti tovrstnih temeljev. Skiti so živeli kot hortikulturna in nomadska družba. Po potrebi so si tam, kjer so se znašli, prisvajali ozemlja in pobirali davke, osvojena ozemlja pa so po potrebi tudi zapuščali. Njihovi nasprotniki so bojda kmalu ugotovili, da se z njimi ni dobro zapletati, niti če so si jih uspeli podrediti. Če Skitom niso bili všeč pogoji sodelovanja, so namreč spet izginili neznano kam.

Ob koncu devetdesetih let prejšnjega stoletja je umetniški kolektiv Critical Art Ensemble izdal zbirko esejev, v kateri so opazovali novo elitno moč poznega kapitala, ki se je takrat izrisovala na obzorju. S pomočjo tehnološkega odpiranja kiberprostora naj bi ponovno odkrivala uporabnost potujočih roparskih strategij, podobnih strategijam Skitov. V eseju Nomadska moč in kulturno uporništvo so člani kolektiva opozorili na pešanje centraliziranih središč moči – vladnih uradov, nacionalnih spomenikov, univerz in nakupovalnih središč – ter na vzpon drugačnih, nomadskih bunkerjev, produktov »globalne vasi« in informacijskih tehnologij. Nomadskih bunkerjev zaradi virtualne narave ni lahko opaziti, hkrati pa jim uspeva zavzemati tako središča javnega življenja kot tudi zasebna bivališča.

Nasprotniki Skitov so imeli težave pri bojevanju z logiko, ki jim je bila tuja, in tako je kolektiv CAE že konec devetdesetih napovedal, da se bomo s podobnimi težavami soočili ob poskusih upora novim akterjem, ki si bodo nakopičili moč v kiberprostoru. Postavljanje barikad na cestah je bilo v 19. stoletju morda radikalna blokada pretoka blaga in vojaške moči, v 20. stoletju občutna motnja, na prelomu v 21. stoletje pa je ulica – povezovalka starih, zdaj bolj simboličnih bunkerjev – postala za nomadsko moč že precej nepomembna. Nomadi so jo, ne da bi jih pretirano skrbelo, prepustili protestnikom pred spomeniki nekdanje moči.

V eseju Utopične obljube – omrežne realnosti CAE kot svarilo pred vrtoglavo evforijo, ki jo je povzročil hiter razvoj računalništva in interneta, predstavijo pet lažnih obljub medmrežja. Ena od njih je obljuba o povečanem udobju, o lažjem opravljanju nalog. Za obljubo, ki uporabnike zapelje k opremljanju z elektronskimi rekviziti, se skriva model za usmerjanje k intenzifikaciji dela. Spogledujoč se z Leroi-Gourhanom, lahko računalniško in informacijsko tehnologijo dojemamo kot podaljšek človeškega telesa, kot zunanjo kognitivno tehnologijo, ki ljudem omogoča hitrejšo in naprednejšo uporabo kognitivnih funkcij, recimo spomina. CAE to kognitivno posodobitev dojemajo kot porobotenje ljudi, katerega namen je intenzifikacija produktivnega dela v službi kapitala. Delo je res lažje, ko lahko tipkamo na laptop namesto na pisalni stroj, a kot je nekoč potožil Negri, se zdaj od nas pričakuje, da natipkamo toliko več vsebine v krajšem času. Poslati e-mail s prenosnega računalnika je malenkost v primerjavi s pošto in faksi, a kaj ko se ga da poslati tudi v soboto ob dveh ponoči ali z dopusta daleč stran od pisarne.

Zanimivo je, da so v času, ko sta Page in Brin šele razvijala Google Search in je bil Zuckerberg še najstnik, CAE za lažne obljube medmrežja prepoznali tudi obljube o skupnosti, novi kolektivni zavesti, demokraciji in novem telesu. Člani kolektiva so v obdobju pred nastankom družbenih omrežij sklepali, da lahko beg pred odtujenostjo v zavetje virtualne skupnosti porodi še hujšo odtujenost in da nova kolektivna zavest, če obstaja, priča le o novi dobi imperializma, uresničeni z informacijskim nadzorom. Kljub mnogim demokratičnim značilnostim zgodnjega interneta CAE niso verjeli niti obljubi o demokraciji, čeprav so njihovi razlogi za skrb tu najmanj preroški. Skrbelo jih je na primer, da se bodo ljudje na medmrežju zaradi občutka, da so nadzorovani, obnašali in izražali manj svobodno, kot bi se sicer, in da bo omrežje ljudi spodbujalo k urejeni homogeni dejavnosti. Po tridesetih letih hitrega razvoja se je zgodilo nasprotno: ljudje v internetnem javnem prostoru izražajo najskrajnejša stališča, za čedalje večje razdore med njimi pa poskrbijo algoritmi. Ti uporabnike zapirajo v mehurčke, ki pa so med sabo zelo heterogeni. Skrb se je pokazala za napačno, kar zadeva razloge za razkroj demokracije, a utemeljeno glede njenega morebitnega propada. 

Medmrežje je obljubljalo še nekaj: novo telo, ki se bo neomejeno spreminjalo v virtualnih simulacijah. CAE so se bali, da bo z novim virtualnim telesom prišel tudi njegov fašistični brat – telo podatkov. Ta bo deloval v službi represivnega aparata, ker bo omogočal učinkovitejši nadzor, in v službi marketinškega aparata, ker bo omogočal učinkovitejše oglaševanje. Izpodrinil bo organsko telo v korporacijski in vladni birokraciji in postal središče družbene kulture.

Dve leti po tem, ko so člani kolektiva Critical Art Ensemble izrazili pomisleke o lažnih obljubah medmrežja, sta stanfordska sošolca Page in Brin pognala Google Search, ki naj bi vse informacije sveta zbral na enem mestu, na katerem bodo zastonj dostopne javnosti. Kmalu se je pokazalo, da uporabnice med iskanjem poleg podatkov o ključnih besedah, vpisanih v iskalnik, ustvarjajo tudi zanimive stranske produkte. Ob uporabi iskalnika se predpomnilniki polnijo s podatki o lokacijah in številu iskanj, črkovanju, času uporabe, odločitvah pri izbiri rezultatov iskanja, skratka – s podatki o obnašanju uporabnic.

Nakopičeni podatki, ki so jih sprva zanemarjali, so se še enemu stanfordskemu študentu Amitu Patelu zdeli prav intrigantni. Zanimale so ga tehnologije podatkovnega rudarjenja oziroma odkrivanja znanja v podatkovnih bazah, ki so postajale priljubljene v devetdesetih. Zamislil si je, da bi lahko z organiziranjem in analizo Googlovih podatkovnih baz iz njih iztisnili popis širokega spektra človeškega vedenja, ki bi bil pomembno sredstvo za razvoj umetnih inteligenc. Googlovi inženirji so pridobljene podatke tako začeli uporabljati za izboljšavo svojih storitev s pomočjo strojnega učenja. Metode strojnega učenja iz podatkov oziroma učnih primerov izpeljejo posplošene opise v različnih oblikah, na primer klasifikacijskih pravilih ali odločitvenih drevesih. Ti rezultati omogočajo nadaljnje modeliranje in napovedovanje. Zaradi velike količine podatkov o pogostih iskanjih se lahko iskalnik na primer nauči predvideti besedo po dveh vpisanih črkah: in lahko se mu naroči, da jo predlaga. Več uporabnikov ima iskalnik, več se lahko od njih nauči in bolje optimizira storitve. Boljše storitve privabljajo še več uporabnikov, ki generirajo še več podatkov, s katerimi se lahko iskanje še bolj optimizira, iz obilice podatkov pa je možno izdelovati nove programe, ki se učijo branja, prevajanja, preverjanja slovnice. Nove uporabne tehnologije, ki privabljajo nove uporabnike. Vse lepo in prav, a gdje so pare.

To o parah je zanimalo investitorje, ko se je pokazalo, da kljub tehnični dovršenosti, priljubljenosti in uporabnosti Google Search kot brezplačna storitev leta 1999 ni imel zanesljivega načina za pretvarjanje naložb v dobiček. Leto prej sta Googlova ustanovitelja Brin in Page v članku The Anatomy of a Large Scale Hypertextual Web Search Engine izrazila prepričanje, da se spletni iskalniki ne bi smeli pajdašiti z oglaševalci, saj bo to neizbežno pripeljalo do pristranskosti pri prikazovanju rezultatov. Poudarila sta, da je nujno, da tehnologije iskanja in brskanja po spletu ostanejo v akademski sferi in njihovo delovanje ostane transparentno. 

Aprila leta 2000 je po poplavi naložb, ki niso prinesle pričakovanih hitrih dobičkov, in po ogromnem številu neuspelih mladih podjetij v Silicijevi dolini počil tako imenovani dot com mehurček, kar je razjezilo tudi tiste strice, ki so vlagali keš v Google. In ko so nate jezni strici s kešem, se očitno, kako že pravijo, zarečenega kruha poje največ. Page in Brin sta opustila sanje o nepristranskih transparentnih storitvah za javno dobro in sklenila, da mora njun iskalnik postati bolj oglaševalcem prijazen. Oglasi v Searchu so se do tedaj prikazovali ob vpisani kombinaciji ključnih besed, ki so jih izbirali oglaševalci sami. Zdaj pa je moral biti oglas relevanten za vsak specifičen uporabniški profil, ki ga opredeli Google sam, in sicer z analizo nakopičenih podatkov o obnašanju, povezanem z IP-naslovom uporabnice. Leta 2003 so trije Googlovi računalniški inženirji patentirali tehnološko inovacijo pod imenom Generating User Information for Use in Targeted Advertising, v kateri so predstavili Googlovo rešitev, ki bo končno poskrbela za to, da denar za oglaševanje nikoli več ne bo vržen v prazno.

Tehnologije optimiziranega spletnega oglaševanja, ki ciljajo na točno tiste skupine, za katere je oglas relevanten, in znotraj njih na točno tiste posameznike ob točno tistem času, ko je najbolj verjetno, da bo oglas vplival nanje, so se tako začele razvijati s svetlobno hitrostjo in v naslednjih dvajsetih letih preobrazile našo ekonomsko in družbeno realnost. Novi marketinški modeli, za katere je potrebna analiza podatkov o uporabnici, da ji lahko v pravem času uturijo prave oglase, so vzpostavili močno finančno motivacijo za nadaljnje razvijanje tehnologij, ki ob izvajanju takšnih ali drugačnih storitev pobirajo davke v obliki zabeleženega obnašanja.

Google, danes tehnološki konglomerat Alphabet Incorporated, tako navsezadnje ni ostal v akademski sferi in je raje poblagovil potenciale ogromnih podatkovnih baz. Če danes v Googlovih nastavitvah zahtevate, da vam prikažejo tisti drobec podatkov, v katerega imate kot zvesti uporabnik vpogled, boste ugotovili, kar že veste, le da bo to nekako boleče konkretno. Odkar je Google zasedel telefone z operacijskim sistemom Android, spremlja našo lokacijo ves čas, tudi ko ne uporabljamo njegovih Zemljevidov, in tako izdeluje precizno zgodovino vsakega našega premika. Če uporabljamo Android in imamo večino aplikacij prenesenih iz Googlove Play trgovine, Google dostopa tudi do podatkov o uporabi prenesenih aplikacij, na primer tistih za beleženje menstrualnega cikla, budilke, koledarja, beležk, dokumentov in večinoma tudi vseh prednaloženih aplikacij, kot so tiste za pošiljanje SMS-ov in shranjevanje kontaktov, fotografij in posnetkov. K bogatenju znanja o naših profilih pridno prispevajo tudi Drive, YouTube in Gmail. Drive s popisom naših dokumentov, a tudi tistih, do katerih dostopamo, in načinov, kako z njimi ravnamo; YouTube s popisom celotne zgodovine ogledov, dolžine naših interakcij, komentarjev in všečkov; Gmail pa s popisom naše spletne korespondence, v kateri se lahko znajdejo računi spletnih nakupov, potrdila bank, položnice, pogodbe z davčnimi številkami, zdravniški izvidi ter podatki o najrazličnejših spletnih storitvah ali mobilnih aplikacijah, v katere smo se prijavili z Googlovim računom. Če poleg Gmaila uporabljamo še spletni brskalnik Chrome in našega starega znanca, iskalnik Google Search, dopolnjujemo podatke še z iskalnimi nizi in obnašanjem na spletnih straneh, ki jih obiskujemo. 

Tako zvana Meta, ki ima z Alphabetom duopol nad večino današnjega spletnega oglaševanja, po podobnem receptu ekstrahira podatke, ki jih proizvajamo z uporabo njenih platform, kot sta Facebook in Instagram. Prijatelji, sledilci, všečki, komentarji iz leta 2010, izbrisane in neizbrisane medijske datoteke in korespondenca, čas ogledov določene vsebine – lahko bi naštevali v nedogled. Če Facebook prosim, da »my Facebook data« z mano tudi deli, blagovoli generirati tri ZIP-datoteke, ki si jih smem prenesti na računalnik. Potem se lahko poglobim v stotine oglaševalskih kategorij, pod katerimi sem označena, in med njimi pod črko L najdem hecno zaporedje Lemon, LGBT, Lidl, Life. Izvem, da bojda spadam v populacijo Starting Adult Life. Najdem lahko vsak trenutek svojega FB-obstoja, naletim na seznam svojih »aktivnosti izven Facebooka« in še obsežnejši seznam seznam zunanjih oglaševalcev, ki so, kot piše v imenu HTML-datoteke, »uporabljali vašo aktivnost ali informacije«. 

Tovrstno anekdotično jamranje je opora za oris kančka vsakodnevne proizvodnje presežnih podatkov o obnašanju, ki jih Shoshana Zuboff v delu The Age of Surveillance Capitalism označi kot podlago, iz katere se razvijajo mehanizmi in logika novega ekonomskega in družbenega reda: nadzorovalnega kapitalizma. Ta deluje po načelih, katerih razvoja so se bali v CAE in ki si po Zuboff nujno prisvajajo najrazličnejše človeške izkušnje kot material za izdelavo podatkov o našem obnašanju. Glavni cilj teh ekstrakcijskih operacij je njihova nadaljnja preobrazba v sredstva za intenzivnejše trgovanje in napovedovanje prihodnjega obnašanja. Medtem ko se podatki, ekstrahirani iz takšnih ali drugačnih koncev računalniško zaznamovanega obstoja, uporabljajo tudi za izboljševanje storitev in produktov, se večina ekstrahiranih podatkov uporablja za pitanje sistemov, ki se iz njih lahko kaj novega naučijo. S procesi strojnega učenja iz masovnih zalog podatkov nastajajo sredstva napovedovanja, s katerimi se trguje na trgih prihodnjega obnašanja, kot jih imenuje Zuboff. S prihodom nove logike nadzorovalnega kapitalizma se spreminjajo tudi odnosi na drugih trgih: potrošnik je manj pomemben kot kupec in bolj kot material za ekstrakcijske operacije prek produktov oziroma storitev, ki se mu prodajajo ali ponujajo. 

Podrobneje smo že opisali modele za ciljno oglaševanje, ki so bili zgolj zametki novih metod za uporabo čedalje večjih baz ekstrahiranih podatkov. Te metode so se nadalje razvijale, preoblikovale in nadgrajevale: najprej, opozori Zuboff, s premikom od targetiranja k programiranju, ki nas usmerja k temu, da prispevamo še več podatkov. Internetni giganti, ki nadzirajo velik delež virtualnih prostorov, v katerih preživljamo čas, so tako začeli razvijati tako imenovano »persuasive technology«. Ljudi je treba s pomočjo najnovejših psiholoških ugotovitev čim bolj zasvojiti z dopaminskimi shoti, da bodo ostali priklopljeni. Vrinjena obvestila o prejetih sporočilih, komentarjih in všečkih, premišljeno oblikovanje uporabniških vmesnikov, zabavni filtri za fotografije in posnetke, vse to za maksimizacijo naših interakcij. Kmalu je postalo jasno, da najboljši podatki o obnašanju nastanejo s poseganjem v igro, druženje, zabavo. Kako dobiti milijone fotografij obrazov ljudi in hkrati njihovo privolitev, da se fotografije uporabijo za razvoj tehnologij obraznega prepoznavanja? Z zabavnim filtrom, ki obraz postara. Filter vržeš med ljudi in z lastnimi kreativnimi posegi bodo zastonj poskrbeli še za njegovo promocijo. Programiranje uporabnikov k neplačanemu pitanju podatkovnih baz ni uporabno le za razvoj novih tehnologij, temveč tudi za še učinkovitejše targetiranje taistih uporabnikov. 

Targetiranje pa ne poteka več le pri prodaji produktov in storitev, temveč tudi pri prodaji idej. Ko se ukvarjamo z vsebinami, ki nas pritegnejo, in tako hranimo program, se ta nauči, da nam servira še več vsebin, ki bi nas utegnile zanimati glede na našo zgodovino interakcij in glede na zgodovino interakcij tistih, ki jih pritegnejo podobne vsebine, ali tistih, s katerimi se povezujemo. Program poskuša pridobiti interakcijo zagrenjenega najstniškega fanta, tako da mu servira mizogin incel mem, interakcijo študentke kulturologije pa s serviranjem mema, ki se norčuje iz istega incel mema. Programu v tem procesu ni treba izdelati nobenega mema: lahko se zanaša na brezplačno uporabniško produkcijo vsebine. To vsebino mora zgolj prepoznati kot nekaj, kar bo očitno palilo v tem ali onem mehurčku. Algoritem z učenjem iz primerov našega obnašanja preračuna verjetnost interakcij in vrže interakcijsko vabo. Glede na učinkovitost tovrstnih algoritmov se lahko o sebi naučimo še nekaj, kar že vemo. Vsak rad sliši, da ima prav: vsak je rad član zbora v frazi preaching to the choir. In vsak se rad nasmeji memu o tem, kako zelo so glupi tisti na drugi strani.

Ko je Francisco Varela razmišljal o čilski državljanski vojni v sedemdesetih, ga je presunila globoka razklanost družbe, neverjetna polarizacija političnega prepričanja, ki jo je v razvoju svoje misli pripisal napačni epistemologiji. Iz Smetnjakovega prevoda njegovega zapisa citiramo naslednje misli.

Ne morem dovolj močno poudariti, da gre tu dobesedno za razklanost na dvoje. Zjutraj si šel lahko do trafike in en časopis je trdil, da »dežuje«, drugi pa, da »ne dežuje«. »A je pesjan«; »A je vladar vesolja«. Bilo je dobesedno tako. /…/ Zame torej nikakor ni zgolj abstraktna trditev, če rečem, da moramo pri tem, ko udejanjamo naše svetovne nazore in jih projiciramo navzven, istočasno ohraniti razumevanje, da je ta projekcija /…/ relativni okvir, ki premore način, da se razveljavi. /…/ konec koncev ne morem več slediti obliki političnega delovanja, ki temelji na resnici. Ne morem reči, da je moje politično stališče resnično v primerjavi s tvojim, ki je napačno. /.../ Seveda se moram postaviti na določeno stran in to je okej, toda kako pri tem dejanju resnično izrazim, da priznavam pomembnost druge strani in temeljno bratstvo obeh stališč? Kako lahko stopim do Pinocheta in rečem: »Pozdravljen, brat moj«? Ne vem. Sploh ne mislim, da sem tako razsvetljen. Tega ne bi bil zmožen narediti, a v določenem smislu se zavedam, da je to velika omejitev. To bi v določenem smislu moralo biti mogoče. Konec citatov.

Treba je opozoriti, da priznavanje tovrstnih omejitev ne pomeni podpiranja kao apolitične politične opcije »poiščimo skupne poti, ne levo, ne desno, ampak naprej«. Pomeni le, da je pomembno iskati relacije, zunaj katerih naša lastna percepcija resnice najbrž ne more obstajati.

izsek

Lahko si rečemo, da gre za norost, da gre za pomanjkanje stika z realnostjo. Realnost, na podlagi katere naj bi delovali, pa se medtem posameznici kaže čedalje bolj podobna njenemu prepričanju o tem, kaj realnost je. Spletni mehurčki in priporočilni algoritmi pa poskrbijo, da v virtualni trafiki vidimo le še tisti časopis, ki nam potrjuje, da dež, ki ga z lastno percepcijo res vidimo, danes res pada. Tisti, ki tvezijo o soncu, so bržkone nori. Popolna razklanost družbe, polarizacija in radikalizacija nasprotnih stališč niso pogruntavščina ali posledica spletnih mehurčkov. So zgolj še ena človeška realnost, ki se jo lahko stroj, naučen za serviranje optimalne vsebine, nauči uporabljati za maksimizacijo interakcije in ekstrakcije. S to maksimizacijo se razklanost najbrž res potencira, a ta logična posledica zaradi golega zgražanja o tehnodistopični prihodnosti še ne bo izginila.

Ko sistem že obstaja in deluje, se da, kot se je to vedno dalo, bržkone plačati za malo dodatne propagande, dostavljene na prave naslove. Najameš Cambridge Analytico, da cilja na mlade potencialne volivce v Trinidadu in Tobagu in jim naspama personalizirane videe o tem, zakaj je treba volitve bojkotirati. Ali pa, da cilja na neodločene volivce v swing states Združenih držav z vsakemu posebej prilagojenimi vsebinami, ki obravnavajo zanje pomembne vrednote in diskreditirajo politične nasprotnike Donalda Trumpa. Trenutno se še dogaja, da kdo zažvižga, da svet zgroženo gleda in si misli, da je tehnologija pomagala vse zjebati do konca. Podporniki zmagovalnih kandidatov pa si mislijo, da je tehnologija končno omogočila ljudem uvideti resnico. Ali bi bili vsaj približno tako iskreno pretreseni in zgroženi, če bi se tehnološko prefinjene manipulacije uporabljale za pomoč kandidatom, s katerimi simpatiziramo? Mogoče pa bi si mislili, da tehnologija, karkoli že to pomeni, pač je, kjer je. Mogoče bi si rekli: jebiga, pa naj ima vsaj vsaka stran na voljo ista sredstva. Za to in ono o demokraciji je gotovo že malo ... prekasno.

Koristi polnjenja telesa podatkov ne žanjejo le spletni giganti, kot so Alphabet, Meta in za zdaj še ne rebrandan Amazon. Ekstrakcija in napovedovanje sta postala eni od najboljših tehnik za večanje dobička in tako ustaljeni poslovni praksi v številnih panogah. Matematičarka Cathy O’Neil v delu Weapons of Math Destruction obravnava razrast problematičnih modelov, zgrajenih za avtomatizacijo in napovedovanje na različnih področjih, in jih poimenuje orožja za matematično uničevanje. Zanje je značilen kiks pri začetnem vnosu podatkov v sisteme strojnega učenja, ki jih ponavadi sestavljajo nepremišljeno izbrani učni primeri ali pa rezultati predhodnih statističnih korelacij: na primer povezave med poštno številko in kreditno sposobnostjo. Naslednja značilnost problematičnih modelov je netransparentnost njihovih algoritmov, ki so običajno patentirani kot intelektualna lastnina ali enostavno prikriti. Tretja značilnost je povratna zanka, ki se sama potrjuje. Dinamični statistični modeli za napovedovanje ves čas izboljšujejo svoje napovedi, saj za vsako prejmejo povratno informacijo o njeni pravilnosti oziroma o tem, kako uspešno so se ji približali. Slabi modeli, ki jih obravnava O’Neil, pa ne prejemajo povratnih informacij o svojih napovedih, saj delujejo po načelu samoizpolnjujoče se prerokbe. Če je program za ocenjevanje prijavljenih na delovno mesto kljub zastarelosti standarda naučen, da nekdo z visoko stopnjo nevrotičnosti na standardiziranem testu osebnosti ne bi bil primeren za zaposlitev, ljudi s takšno lastnostjo oceni kot neprimerne. Povratne informacije o tem, da je napoved napačna in da se je kandidat pravzaprav izkazal, ne more model nikoli dobiti, saj oseba zaradi začetne napovedi pač ne bo dobila zaposlitve. 

O’Neil opozarja, da končni modeli pogosto delujejo s človeškimi predsodki, ki se jih priučijo. Da bi zmanjšala rasistični človeški faktor sodnikov in porot, so sodišča v več kot dvajsetih zveznih državah ZDA na primer začela uporabljati sistem LSI – R, ki napove verjetnost povratništva pri ljudeh, obtoženih kriminalnih dejanj. Točkovno oceno verjetnosti povratništva, ki jo poda model, sodišča upoštevajo tudi pri določanju kazni. Amerikancem kot Amerikancem je uspelo narediti model, ki je še bolj rasističen od sodnikov. V modelu namreč h končnemu točkovanju pomembno prispeva rezultat vprašalnika, ki ga mora izpolniti obsojeni. In čeprav v njem ni vprašanja »Ali ste črni«, ga nadomestijo druga, na primer »Kolikokrat ste imeli opravka s policijo«, ki glede na nesorazmerno popisovanje, ustavljanje in preiskovanje temnopoltih in latino moških v ZDA tem prišteje občutno več točk. 

Tudi modeli, ki napovedujejo z učenjem iz preteklih primerov, se pogosto naučijo upoštevati človeške predsodke, ki so bili v preteklih primerih prisotni. Dokaj znan je na primer poskus britanske medicinske fakultete St. George, ki je že v poznih sedemdesetih razvila algoritem za pregledovanje več tisoč prijav, ki so jih prejeli vsako leto. Programu so dali primere preteklih prijav in podatke o tem, katere so bile sprejete in katere zavrnjene, ter mu naročili, naj se iz tega nauči zbrati značilnosti dobre ali slabe prijave in jo glede na rezultat avtomatsko pošlje naprej ali zavrne. Leta 1988 je bila institucija uradno obtožena rasne in spolne diskriminacije, saj se je program z analizo dobljenih podatkov naučil, da mora očitno zavrniti vse prijave, ki vsebujejo pakistansko narodnost, afriško poreklo ali ženski spol.

V svetu tehnologij, ki vse natančneje in obsežneje kopičijo podatke o vseh vidikih življenja in smrti, je razvijanje napovedovalnih modelov, slabih ali ne, v porastu. Poleg vsesplošne uporabe ciljnega oglaševanja mora imeti vsaka uvornk firma dandanes tudi kakšnega svojega podatkovnega znanstvenika, ki gradi modele za takšne in drugačne napovedi, relevantne za produkt oziroma storitev, ki jo podjetje ponuja. Baze se vsakodnevno polnijo s podatki o številu naših korakov, srčnem utripu in krvnem tlaku, o vožnji avtomobila, o potrošnji, o spancu, o makronutrientih naših zajtrkov, o izobrazbi, o porničih, o transakcijah, o številu srček emojijev pod slikami mačk in zagotovo tudi o vsem ostalem. Panoptikon je passé. Kaj ti bo vrhovni pogled, ki je mogoče tam in vzbuja samodisciplino, če pa je pogled dejansko lahko ves čas pri vsakomur, pravila discipline pa se posodabljajo po želji glede na to, kdo uporablja poročila, ki jih pogledi generirajo. Ogromne baze podatkov čakajo na preobrazbo v vzorce in zakonitosti, s katerimi se razvijajo orodja za optimiziranje produktivnosti, potrošnje, zasvojenosti, porabe ali pa, zakaj pa ne, svobode. Tehnologija sicer res nastaja z ekonomsko logiko in je že prežeta s političnimi pomeni, a zato je z njimi še ne gre enačiti. Zuboff vztraja, da čeprav nadzorovalni kapitalizem uporablja številne tehnologije, kot so sledilne tehnike, spletne platforme in metode strojnega učenja, to nikakor ne pomeni, da lahko te tehnologije enačimo z operacijami nadzorovalnega kapitalizma.

Critical Art Ensemble so konec devetdesetih opozorili, da čedalje manj vemo, kdo je zatiralec, čeprav se naš subjektivni občutek, da smo zatirani, povečuje. Percepcija večnosti poznega kapitalizma, podoba revolucije v ruševinah in zmuzljiva nomadska moč, ki začenja vladati kiberprostoru, pa pri kulturnih ustvarjalcih sprožajo umike namesto uporov. CAE so zato predlagali novo strategijo upora: okupacijo kiberprostora oziroma zadrževanje podatkov. Motnjo delovanja sistema kot umetniško in družbeno intervencijo in kot ustvarjanje prostora za kritične diskurze o postavljanju meja tistim, ki upravljajo z novimi tehnologijami. CAE so ocenili, da ni verjetno, da bodo tovrstne teorije elektronskih motenj dodelali znanstveniki ali tehnični delavci, in da je torej ključno, da odgovornost zanje prevzamejo umetniki. 

V nadaljnjem razmišljanju se nam pridružuje barcelonsko-berlinska umetnica in raziskovalka Joana Moll, ki s svojimi deli raziskuje in posega v številne vidike današnjega tehnološko posredovanega obstoja. Začenjamo z njeno izjavo o povezavi med umetniško prakso, interveniranjem in raziskovanjem.

Izjava

Joana Moll trenutno gostuje v Sloveniji v sklopu dvanajste edicije programa Taktike in praksa, ki ga Aksioma tokrat pripravlja v sodelovanju z Akademijo za likovno umetnost in oblikovanje ter Cukrarno. Edicija, ki bo vključevala razstave, delavnice in predavanja Joane Moll, Vladana Jolerja, Bena Grosserja in skupine Disnovation.org, poteka pod imenom Novi ekstraktivizem. Ta izraz v kontekstu programa označuje ekstrakcijo podatkov o človeškem vedenju, delovanju in čutenju za napajanje podatkovnih baz, od koder se podatki nadalje preobrazijo s procesi strojnega učenja ali usposabljanja drugih umetnih inteligenc. Prvi projekt, s katerim se je Joana Moll predstavila v Ljubljani, je Skrito življenje uporabnika Amazona, ki je bil do nedavnega predstavljen v Aksiominem razstavnem prostoru.

Izjava

V razstavnem prostoru Aksiome smo si lahko ogledali knjigo, ki jo je umetnica naročila prek Amazona, in več kot tisočkrat obsežnejšo knjigo izpisane kode, ki je nastala ob tem preprostem nakupu, izvedenem po najkrajši možni poti. Proces raziskovanja niti ni bil pretirano tehnološko zahteven: umetnica je z inspekcijo kode v brskalniku in z uporabo okna z ukaznim pozivnikom zabeležila vso kodo, ki je nastala v procesu nakupa knjige. Koda je vključevala različne operacije za organiziranje in oblikovanje vsebine na vseh dvanajstih straneh, ki jih je naložil brskalnik, in seveda tudi manj očitne procese nalaganja piškotkov in ekstrahiranja dokumentov in datotek iz uporabničinega računalnika. Moll je po končanem procesu zabeležila skoraj devet tisoč A4-strani kode, ki smo si jih lahko natiskane ogledali v Aksiomi, zabeležila pa je tudi energetsko porabo in ogljični odtis, ki sta nastala ob nakupu.

Moll z umetniškimi intervencijami že več let posega v kiberprostore in jih tako raziskuje. Leta 2017 je v sklopu projekta The Dating Brokers v sodelovanju s Tactical Tech za 136 dolarjev kupila milijon profilov ljudi od podjetja USDate, ki je specializirano za trgovanje z uporabniškimi profili. Podatki kupljenih profilov so vključevali več kot pet milijonov fotografij uporabnikov, njihove e-maile in osebne podatke, vključno z interesi, spolom in spolno usmerjenostjo, lokacijo prebivališča in tako naprej. Moll je v okviru projekta objavila kupljene podatke, seveda z zakritimi obrazi na fotografijah in podobnimi ukrepi za ohranjanje zasebnosti, ki jih ostali kupci tovrstnih profilov seveda ne uporabljajo. V nadaljevanju projekta je s sodelavci poskušala raziskati, kdo tovrstne paketke profilov prodaja, kdo jih kupuje in kaj se z njimi dogaja po nakupu. Zmenkarske profile ponavadi kupujejo zmenkarske platforme, da širijo izbor ljudi v svojih ponudbah. Podjetje USDate, ki z njimi trguje, jih je, kot so ugotovili Moll in sodelavci, najverjetneje odkupilo ali drugače ekstrahiralo z zmenkarske platforme Plenty of Fish. Ta platforma od leta 2015 spada pod Match Group, matično podjetje večine popularnih zmenkarskih platform, kot so Tinder, OkCupid, Match, Affiny in druge. Če se ob poslušanju sprašujete, ali je kdo že odkupil vaš Tinder profil, je odgovor: najverjetneje da. Uporabniški podatki, generirani v Tinderju, pripadajo Match Groupu, ta pa jih lahko deli z drugimi hčerinskimi podjetji in uporablja na najrazličnejše načine. Match Group nima le hčera, ampak tudi kar precej sester. Pripada namreč še večji ameriški korporaciji InterActiveCorp, ki vključuje pet glavnih divizij, od katerih ima vsaka več deset hčerinskih podjetij, ta pa sama ponujajo na stotine različnih produktov in storitev. Če je InterActiveCorp mama, ki skrbi, da si sestre, kot so Match Group, IAC Applications in IAC Publishing, nesebično delijo podatke, in si te sestre prizadevajo, da si tudi njihove hčere in nečakinje delijo podatke, ne smemo pozabiti niti na prijatelje, povabljene na to družinsko srečanje. In prijatelji na takšna srečanja radi nosijo piškotke. 

Piškotki so besedilne datoteke, ki se naložijo na napravo, iz katere prek brskalnika dostopamo do določene spletne strani. S pomočjo piškotkov pa se učinkovito beležijo informacije o našem obnašanju na tej spletni strani. Seveda pa ni nujno, da piškotke ustvari domena, ki nam jih uturi. Najbolj opasni so third party cookies. Google Ads na primer plača lastnikom določene spletne strani, da lahko njihovim uporabnikom ob obisku te strani vsili svoje piškotke. Seveda tega ne počne le Google. Piškotki so odlično orodje za trgovce z informacijami, kakršen je USDate, od katerega je Joana Moll odkupila podatke milijona profilov.

V svetu, kjer podatkovne baze o obnašanju postajajo novo zlato, tisti, ki podatke ekstrahirajo, z njimi tudi trgujejo. Osebni podatki, ki jih vnesemo v svoj Tinder profil, niso zanimivi le oglaševalcem, ampak tudi rastoči skupini »middlemanov«, ki nabirajo podatke z različnih koncev in krajev, da o uporabnikih zberejo čim večje število tako imenovanih podatkovnih točk. Uporabniki so identificirani z IP-naslovom ali, če je ta skrit, z unikatnim odtisom brskalnika, in do potankosti profilirani. Bogate baze podatkov o točno določenih uporabnicah se potem prodajajo naprej oglaševalcem ali komurkoli, ki da pare. Tovrstno posredništvo ni vedno enako: obstajajo tako legitimna podjetja, ki delujejo po načelu marketinških vmesnikov, kot tudi shady preprodajalci informacij, ki delujejo nekje na meji legalnosti. Različna podjetja in organizacije nas tako profilirajo ne le s kupovanjem podatkov, ampak tudi z uporabo sledilnih tehnologij, kot so piškotki. 

Vse to sledenje in ekstrahiranje nista problematična le s stališča pravice do zasebnosti – ki je v očeh mnogih internetnih gigantov zastarela. Kot smo se lahko naučili iz projekta Skrivno življenje uporabnika Amazona, terjajo številni operacijski procesi za učinkovito ekstrahiranje uporabniških podatkov konkretno energetsko porabo. Joana Moll s številnimi projekti opozarja na ogljični odtis internetnih gigantov, ki nam s predstavami o virtualnosti in oblakih meglijo pogled pred realnostjo strežnikov in računalnikov, ki vsi potrebujejo – uganili ste – štrom. V projektih CO2GLE in DEFOOOOOOOOOOOOOOOOOOOOOREST Moll obravnava količino izpustov ogljikovega dioksida, ki jo Google proizvede vsako sekundo: po njenih izračunih je to 500 kg CO2. Oba projekta sta v obliki spletne instalacije, tako da lahko na njunih straneh spremljamo količino izpustov ogljikovega dioksida, ki jo Google proizvede vsako sekundo.

Joana Moll podobno problematiko še podrobneje obravnava v novem projektu Carbolytics, ki ga je Aksioma naročila v okviru konS ≡ Platforme za raziskovalno sodobno umetnost in je nastal v sodelovanju z barcelonskim superračunalniškim centrom (BSC) ter festivalom Sónar. V okviru projekta so pri BSC izračunali količino sledilnih piškotkov na milijonu največjih spletnih mest na svetu in povprečno porabo energije, ki je povezana z njimi. Projekt bo svetovno premiero, na kateri bodo razkriti tudi rezultati raziskave, doživel pojutrišnjem, 16. februarja, v Aksiomi.

Izjava

Razmišljanja v današnji oddaji so nas neizbežno pripeljala tudi do vprašanj o možnostih upora oziroma posega v podivjane ekstrakcijske sisteme. Zuboff v svojem delu o nadzorovalnem kapitalizmu ves čas razmišlja o tem, da so politični odzivi nanj temeljno zgrešeni. Opozarja, da se srečujemo z nepoznanim, ki si ga napačno razlagamo skozi lečo poznanega. Za primer te trditve lahko pomislimo na neučinkovitost zakonodaj, ki s starimi pravnimi koncepti obravnavajo novo logiko. Evropska unija je z GDPR-jem poskušala preprečiti, da bi piškotki tretjih strank neregulirano sledili podatkom in jih ekstrahirali. Novi zakoni so v državah članicah povzročili najbrž vsem znane birokratske zagonetke, pri zaščiti državljanov pred mrežami prežečih spletnih podatkolovcev pa niso bili pretirano uspešni. GDPR je začel veljati maja 2018 in Interactive Advertising Bureau Europe – IAB je tedaj razvil orodje, ki naj bi vsem piškotkanja željnim v EU omogočil, da to še naprej počnejo legalno. Omenjeno orodje je znano z imenom Transparency & Consent Framework – TFC: poslušalci se ga bodo najbrž spomnili kot tisti tečni popup, ki te na vsakem vogalu sprašuje, ali se strinjaš s piškotki. TFC uporablja več kot tisoč podjetij, vključno z Googlom, Facebookom in Amazonom. Joana Moll nam je v mini spoilerju zaupala zanimivo informacijo.

Izjava

Prispevanje k okoljski katastrofi pa ni edini problem TFC-ja. Evropski nadzornik za varstvo podatkov, ki ga vodi belgijski organ APD - Data Protection Authority, je pred manj kot dvema tednoma razsodil, da so vsi podatki, pridobljeni s pomočjo TFC-jev, v EU nelegalno pridobljeni. TFC je problematičen na več ravneh. Ne glede na to, kaj označite, ko vas vprašajo, ali se strinjate s piškotki, bodo piškotki že naloženi na vaši napravi. Edina razlika je, da bodo poleg vseh podatkov, ki se zberejo s piškotki, poslani še podatki o tem, ali želite ali ne, da se podatki dejansko uporabijo. TFC se naivno zanaša na moralno neoporečnost zbiralcev podatkov in ne preverja, ali se zbrani podatki dejansko uporabljajo ali ne. Drug problem je oblikovanje obrazca za privolitev, ki uporabnici na vse možne načine oteži izražanje nestrinjanja z uporabo svojih podatkov. APD je razsodil, da je za kršitve odgovorna IAB Evropa – lastnica TFC-ja, ki mora tega v določenem času spremeniti. Hkrati je odločil, naj se vsi podatki, zbrani s pomočjo TFC-ja od maja 2018, izbrišejo. Posledice v resničnem življenju še čakamo.

Neprilagojenost zakonodaj na hitro spreminjajoče se dogajanje v kiberprostoru in dejstvo, da internetni veljaki ne upoštevajo zakonov, nista nič novega. Joana Moll je v projektu Algorithms Allowed ugotovila, da ameriška internetna podjetja na različne načine sodelujejo z državami, ki naj bi bile pod popolnim embargom ZDA. Googlove piškotke je našla na spletnih straneh Kube, Irana, Sudana in drugih držav pod ameriškim embargom. Pojavili so se celo na uradni spletni strani Severne Koreje. 

Ko razmišljamo, kako bi spreminjali kiberprostor in se upirali središčem moči v njem, Zuboff svetuje, naj se najprej nujno seznanimo z novo nomadsko logiko nadzorovalnega kapitalizma. Upamo, da je bila vsebina nocojšnje oddaje korak k seznanjanju s to logiko. Za konec pa predvajamo še misli Joane Moll o spopadanju z ekstrakcijskimi tehnologijami.

Izjava

Pisala je Neja. Lektorirala je Višnja. Tehnicirala je Klara O, brala sva Špela in Škoda.