Kdor je v zadnjih dneh preživel vsaj nekaj kratkih trenutkov na družbenih omrežjih, se gotovo ni mogel izogniti številnim posnetkom znanih oseb, prijateljev, šefov, profesorjev in drugih osovražencev, ki veselo prepevajo najbolj stigmatizirane uspešnice svetovne popularne glasbe. Gre seveda za primer tako imenovanih deepfake posnetkov, kjer računalniška tehnologija na podlagi slike zgenerira umeten posnetek posameznika, na katerem prešerno prepeva. Tehnični del nastanka teh posnetkov in algoritmov bomo prepustili kolegom v znanstveni redakciji, v tokratnem razmišljanju pa nekaj besed o političnem in družbenem kontekstu ustvarjanja umetnih videovsebin.

Zadnji viralni in medijsko izpostavljeni val deepfake posnetkov je poleg navdušenja in škodoželjnega hihitanja - Uroš Urbanija je moj najljubši - namreč sprožil tudi popolnoma razumljivo ogorčenje in strah pred potvarjanjem video realnosti in posledicami, ki jih bo to prineslo. Ni si nam niti treba hipotetično predstavljati, kako bi se to tehnologijo dalo zlorabiti. Praktično istočasno z nastankom te tehnologije jo je internetno občestvo namreč uporabilo za svoj primarni življenjski cilj - optimizacijo lastnih orgazmov. Tako se že leta na medmrežju pojavljajo številni precej prepričljivi posnetki raznih slavnih igralk in pevk, ki jih tehnologija postavlja v gledalcem poželjive spolne akte. Te prakse pa niso omejene le na slavne, ampak so z dostopnostjo deepfake tehnologije žal postale tudi stalnica internetnega blatenja in omadeževanja. 

Osladno radovedne novinarje raznih liberalnih ameriških medijev, ki v svojih prispevkih pogosto dajejo vtis tehnološke pismenosti povprečnega ludista, pa poleg neokusnih posnetkov  muči še eno vprašanje. Bodo deepfaki povzročili konec demokracije? Če je namreč mogoče narediti digitalni pornič iz preproste slike posameznika, ne bi bilo enostavno ustvariti tudi lažnih posnetkov politikov, ki bi jih uporabili v političnih kampanjah? Eden izmed prej omenjenih apple ludistov je hipotetiziral celo scenarij, v katerem Severna Koreja na deepfejkan posnetek ameriškega predsednika, v katerem naznani jedrski napad na Korejce, odgovori s pravim. Čeprav je ta scenarij tudi po mnenju njegovega snovalca nekoliko neverjeten, tudi na področju politične rabe te tehnologije ni treba ostati zgolj v svetu domišljije. Pred zadnjimi ameriškimi volitvami so namreč po družbenih omrežjih desne politične opcije zaokrožili umetno ustvarjeni posnetki demokratske političarke Nancy Pelosi, na katerih je bila opita. Pri nas bi politikom verjetno deepfejkali kozarce vode, a možnost za političen vpliv takšnih posnetkov je jasna.

Kaj lahko torej storimo proti poplavi lažnih informacij, ki nam grozi zaradi lahkote ustvarjanja umetnih videoposnetkov, ki jo ponuja nova tehnologija? Prvi odgovor, na katerega je žal osredotočena večina razprave o tej tehnologiji, je recipročni razvoj tehnologije za razkrinkanje deepfakov. Številne raziskovalne ustanove, vlade in vedno dobronamerni Pentagon znatne vsote vlagajo v razvoj algoritmov, ki razkrinkajo in prepoznajo umetno ustvarjene video vsebine. A gre za klasično tehnološko orožarsko tekmo, ki jo, vsaj za zdaj, jasno dobiva orožje, torej deepfaki. Ključen razvoj v zadnjih letih je prav v dostopnosti in enostavni uporabi tehnologije, kar so pokazali ravno videi pojočih osovražencev.

Kot pri reševanju vseh težav, ki jih povzroča razvoj nove tehnologije, se tudi pri vprašanju deepfakov ne moremo znebiti občutka, da se v osnovi družbene in sociološke težave na žalost lotevamo z aplikacijo. Odgovor Silicijeve doline na vsakršno težavo, ki jo deloma pomagajo ustvariti, je algoritemski, kar je po svoje razumljivo glede na to, da so pač za to usposobljeni. Težava pa je, da te rešitve pogosto ne naslavljajo temeljnih družbenih problematik, ki jih nove tehnologije le potencirajo. Od lažnih novic in prekarnih zaposlitev pa do toksičnih delovnih pogojev in socialnih razlik so namreč največja tehnološka podjetja več kot pokazala, da barvita grafična podoba in namizni nogomet v pisarni ne moreta nadomestiti transparentnih in vključujočih demokratičnih nadzornih teles. Pa saj ne, da imajo ta brezmadežno kartoteko, a so vseeno bistveno boljša pri ustvarjanju pozitivnih družbenih sprememb od poveličane platforme za spam slabo prevedenih sporočil pohotnih mamic v naši bližini.

Ob vsem tem apokaliptiziranju in odkrivanju vedno novih načinov, na katere nas bo Facebook vse skupaj pokopal, pa je vseeno treba narediti korak nazaj in se vprašati temeljno vprašanje v celotni zgodbi deepfake posnetkov.

Kako pomembna je v resnici resničnost? Temelj predvidevanja, da bodo lažne videovsebine močno predrugačile človeško družbo, je namreč predpostavka, da ljudje zdaj politično in družbeno delujemo na podlagi neke objektivne resničnosti, ki jo prejmemo iz objektivnih, neprirejenih virov informacij. Diskusija, ki se v javnosti razvija okrog deepfake posnetkov, premikajoče se slike postavlja v vlogo zadnje utrdbe objektivne realnosti, na katero se ljudje zanašamo. Izgubo objektivnosti videoposnetka pa slika kot konec resničnosti v političnem in medijskem prostoru.

Na tej točki je treba priznati, da avtor tega teksta nima strokovne filozofske podlage za resno teoretsko razmišljanje o konceptu resničnosti, zato bomo to prepustili drugim, a že pregled zgodovine političnega delovanja, medijev in človeškega komuniciranja nam da slutiti, da objektivna realnost ni v resnici niti približno tako pomembna za delovanje človeške družbe in politike, kot predpostavlja prej omenjena teza. Čeprav zadnji tehnološki razvoj omogoča izjemno hitro, celo takojšnje spreminjanje videoposnetkov, ima človeštvo možnost za ustvarjanje lažnih videoposnetkov ob dovoljšnjem času in sredstvih že vsaj nekaj desetletij. Kljub temu bi se morali potruditi pri iskanju lažnih videoposnetkov - vsaj če predpostavljamo, da so Američani res pristali na Luni - ki so resno vplivali na družbeno dogajanje po svetu. Vzporednice lahko potegnemo tudi z razvojem tehnologij za spreminjanje slik, ki prav tako niso povzročile vala politične negotovosti. Tudi tam, kjer lahko govorimo o njihovem negativnem vplivu, recimo pri naši samopodobi in percepciji lepote, lahko uspešne izobraževalne kampanje naredijo veliko za omilitev njihovih negativnih posledic.

Resničnost, ki jo percepiramo ljudje, je v vsakem primeru odvisna od namenov in sporočila, ki ga želijo njeni oblikovalci prenesti. Še več, pogosto so prejemniki sporočil že vnaprej odločeni o svoji resničnosti in možnost hitrega ustvarjanja umetnih video posnetkov oseb tega ne bo bistveno spremenila. Človeštvo je od egipčanskega uničevanja imen osovraženih faraonov do “pozabljanja” kolegov tovariša Stalina vedno preko različnih medijev spreminjalo svojo lastno realnost in prepričanja.  

Čeprav se to sprva sicer zdi precej pesimistično naravnano razmišljanje, pa se moramo zavedati, da smo paralelno s tehnikami ustvarjanja nove realnosti razvili tudi družbene varnostne mehanizme. Če bi še pred stotimi leti gola slika angleške kraljice povzročila škandal, danes verjetno ne bi dosegla niti statusa slabe internetne šale. To pa ne zato, ker bi bilo povprečnemu fotošop umetniku tako sliko težko narediti, ali pa zato, ker bi nek vladni organ sproti opozarjal, da je slika umetno ustvarjena. Slika bi bila povsem brezpredmetna zato, ker se povprečen človek zaveda možnosti tehnologije in ustvarjanja lažnih slik in bi presodil, da slika verjetno ni resnična. Ob dvomih pa ima na voljo odgovorne, transparentne in zanesljive vire informiranja, v katerih lahko preveri resničnost take fotografije.

Na nek način prav omenjeni videi prepevanja, ki jih lahko sami ustvarimo na telefonih, opravljajo pomembno vlogo izobraževanja ljudi o možnostih in realnosti napredka tehnologije. Posebno ključno vlogo pri varovanju naše družbene realnosti pa seveda igrajo mediji, katerih glavno poslanstvo vključuje prav posredovanje preverjenih in verodostojnih informacij. Če omenjenih institucij ne bomo znali obdržati neodvisnih in delujočih v dobro vseh, smo pa najverjetneje tako ali tako pogubljeni, bistvene razlike zaradi prirejenih video vsebin ne bo. Še razlog več torej, da vseh vajeti ne bi smeli prepustiti internetnim korporacijam. Če bomo poleg izobraževanja ljudi znali še obdržati odgovorne, transparentne in demokratične informacijske vire, se nimamo deepfake tehnologije ali drugih, za zdaj še nepredstavljivih virov ustvarjanja resničnosti, nič bati. 

Če je realnost vključujoča, pravična in prijetna, ali je v resnici sploh pomembno, da je umetno ustvarjena?