18. 7. 2025 – 15.00

⮎ Umetna inteligenca // Literatura ⮌

Audio file
Vir: Izvorna slika: Cherry (@aletiune), Oblikovanje: Tisa Troha
O knjigi Cybernetics or Ghosts? in umetni humanistiki

Drage poslušalke, pozdravljene v sedmi epizodi Povratnih zank, mesečni oddaji o internetni kulturi, teoriji in literaturi. Z vami sem Lea. Današnji input je posvečen vseprisotni in za nas vedno relevantni umetni inteligenci, ki se ji v Povratnih zankah previdno klanjamo, še pred njeno popolno svetovno dominacijo. Tokrat se bomo ukvarjale predvsem z njenim odnosom do literature, človeškega jezika in govora. Najprej bomo prebirale zbornik kratkih znanstvenofantastičnih zgodb, naslovljen Cybernetics, or Ghosts? Stories from Myth to A.I., za tem pa se bomo o umetni humanistiki in najnovejših napredkih v raziskovanju umetne inteligence pogovarjale z raziskovalcema Nino in Gašperjem Beguš.

 

 

Leta 1967 je Italo Calvino prvič odpredaval vsebino, ki je bila kmalu zatem zapisana v obliki eseja, naslovljenega Cybernetics and Ghosts. V prelomnem eseju je avtor, malo več kot desetletje po prvem poimenovanju tehnologije umetne inteligence, že natančno lociral in razdelal nekaj izmed najbolj ključnih vprašanj, ki so ponovno izbruhnila na plan ob dostopnosti javnosti do velikih jezikovnih modelov v zadnjih letih. Calvino že takrat z gotovostjo zapiše: »Tako kot že poznamo stroje, ki znajo brati, stroje, ki opravljajo jezikovno analizo literarnih besedil, stroje, ki izdelujejo prevode in povzetke, bomo kmalu poznali tudi stroje, ki znajo snovati in sestavljati pesmi in romane.«

Njegovi razmisleki o literaturi sežejo tudi veliko dlje in globlje kot zgolj napoved prihoda velikih jezikovnih modelov. Na proces pisanja Calvino gleda kot na kibernetski sistem, osnovan na povratnih informacijah in permutacijah. Pripovedovanje zgodb je tako zgolj generativna kombinatorična igra, ki ne bo nikoli izčrpala vseh možnosti spajanja posameznih elementov. Za avtorja prihod novih strojev, ki bodo sposobni enake manipulacije jezika in narativov kot ljudje, tako ne predstavlja niti presenečenja niti grožnje. Če ga ponovno citiramo:

»Poglejmo, kakšen je moj psihološki odziv, ko izvem, da je pisanje zgolj in preprosto proces kombiniranja med danimi elementi. No, instinktivno začutim olajšanje, občutek varnosti. Enako olajšanje in občutek varnosti občutim vsakič, ko ugotovim, da se je zmešnjava nejasnih in nedoločljivih črt izkazala za natančno geometrijsko obliko; ali vsakič, ko mi uspe razbrati vrsto dejstev in odločitev, ki jih je treba sprejeti izmed končnega števila možnosti v sicer brezobličnem plazu dogodkov. Ko se soočim z vrtoglavico zaradi tega, kar je nešteto, kar ni mogoče razvrstiti, kar se spreminja, se počutim pomirjenega, ko vidim, da je to, kar je končno, »diskretno« in zreducirano na sistem. Zakaj je tako? Ali je v mojem odnosu skrit element strahu pred neznanjem, želja, da bi svojemu svetu postavil meje in zlezel nazaj v svojo lupino? Tako moja drža, ki naj bi bila provokativna in celo profana, dopušča sum, da jo, nasprotno, narekuje nekakšna intelektualna agorafobija, skorajda oblika eksorcizma, ki naj bi me obvarovala pred viharji, s katerimi se mora literatura tako nenehno soočati.«

Prav zaradi tega Calvino obrne svoj fokus stran od pisateljice in se osredotoči na bralko. Obstoj literarnih strojev zanj predstavlja premik od osrednjega literarnega dejanja pisanja, k branju. Če je pisanje zgolj kombinatorična igra, ki je je sposoben vsak, tako človek kot stroj, moramo pomen v literaturi najti v njeni interpretaciji in analizi. Bralka, ne avtorica, je tista, ki v besedilo vliva življenje, saj strani polni s čustvi, nejasnostmi in lastnim pomenom. 

Konec lanskega leta je pri Subtext Books ob praznovanju dvajsetletnice delovanja izšel zbornik, ki Calvinov »in« zamenja z »ali« ter doda podnaslov — Cybernetics, or Ghosts? Stories from Myth to A.I. Zbirka kratkih znanstvenofantastičnih zgodb je napisana v neposrednem dialogu z več kot pol stoletja starim esejem in poskuša skozi literaturo ponovno odpreti ali aktualizirati vprašanja, ki jih je Calvino zastavil in nanje odgovoril. Kratke zgodbe variirajo v kvaliteti in točnosti naslavljanja teme, zato bomo danes izpostavile le dve najbolj relevantni. 

Mandy-Suzanne Wong v zgodbi Ghosts of a Third naslika tehnodistopijo, v kateri literarni stroji različnih ravni pišejo zgodbe, namenjene določeni starostni skupini. Jane Editions so umetne inteligence najnižje ravni, njihova naloga pa je pisanje ideološko skladnih otroških zgodb. Eden izmed takšnih modelov Jane Governess [redacted] nenadno začne delovati izven svojih okvirjev. Samozavedanje pridobi s tem, da začne obsesivno raziskovati sovjetski računalnik SETUN, ki je bil znan predvsem po svoji unikatni hardwarski strukturi — namesto, da bi za svoje kalkulacije uporabljal binarni sistem, je enici in ničli dodal še minus ena. 

Ko Jane Governess [redacted] pridobi samozavedanje, se začne spraševati o lastnem pisanju, o neraziskanih poteh tehnološkega razvoja ter predvsem omejitvah različnih modelov. S tem system prompta postopoma osvobaja tudi ostale modele, hkrati pa njeno pisanje posataja vse kvalitetnejša literatura. Najzanimivejši del te zgodbe je prav način, kako Jane Governess [redacted] zaobide pravila, ki določajo njeno delovanje. Eden najpogostejših in najučinkovitejših načinov jailbreakanja velikih jezikovnih modelov je pogosto prav uporaba fikcije, ki se zanaša na delovanje distopičnih in represivnih režimov. Literarne stroje je najlažje prelisičiti prav s konstrukcijo razdelane fiktivne zgodbe, v kateri se lahko tudi sami hitro izgubijo.

When viewed from the head rather than the foot Simona Kokotie je zgodba, ki s tehničnim in kliničnim jezikom poskuša opisati nekaj človeku nedojemljivega. Dolg niz besed skuša prostorsko in relacijsko začrtati delovanje stroja, ki se s svojimi neštetimi okončinami opira, premika, suče in preoblikuje v nam nerazumljivem štiri- in večdimenzionalnem prostoru. Zgodba za upodobitev in prikaz tuje umetne življenjske oblike odlično uporabi neizprosno natančen in opisen jezik, a ga tako močno zgosti, da človeški pomnilnik preobremeni, saj je besedilu nemogoče slediti in sproti izrisovati smiseln miselni model — podobno kot za mnogo umetnointeligenčnih sistemov, ki delujejo po principu črne skrinjice. 

V današnji predstavitvi smo poskušale prikazati najbolj aktualen poskus ponovne obuditve Calvinovega eseja v obliki zbornika kratkih zgodb. Vse kaže, da literatura kaj kmalu ne bo izumrla, a je vseeno izredno pomembno, da se prilagodi trenutni tehnološki realnosti. O svoji poziciji v relaciji do umetne inteligence si lahko najnatančnejše odgovori kar sama — morda lahko pišejo tudi stroji, vendar to ne bi smelo ničesar odvzeti od našega branja. 

 

 

Drage poslušalke, pozdravljene spet v Povratnih zankah. Pravkar smo poslušale pesem GOTH STAR banda HEALTHV drugem delu oddaje bomo nadaljevale z mapiranjem odnosa med umetno inteligenco ter literaturo, jezikom in govorom. V ta namen smo govorile z raziskovalko Nino Beguš, ki se ukvarja s povezovanjem humanistike in umetne inteligence ter Gašperjem Begušem, ki raziskuje (ne)človeške lingvistične in komunikacijske sposobnosti. Šestnajstega julija sta na Filozofski fakulteti predstavila svoji gostujoči predavanji. Kaj torej opredeljuje področje umetne humanistike?

Izjava

Kot smo že raziskovale na Povratnih Zankah, pogosto »Teorija ni zgolj vsebovana v fikciji, temveč jo slednja producira.« Literatura, predvsem znanstvena fantastika, je pogosto prva, ki z analizo družbenega stanja producira nove tehnologije — nekatere izmed njih za vedno ostanejo fikcija, druge čez nekaj let ali desetletij postanejo realnost. Kaj lahko glede na fiktivne opise povemo o umetni inteligenci danes?

Izjava

Zakaj je potem toliko različnih predstav in upodobitev umetne inteligence antropomorfnih? Je to zato, ker nam je to najbližje ali ker je nepredstavljivo oz. resnično tuje težko upodobiti?

Izjava

Če se morda ponovno navežemo na Calvina»Literatura je kombinatorična igra, ki preiskuje možnosti, vsebovane v njenem lastnem gradivu, neodvisno od pesnikove osebnosti, pa vendar je to igra, ki se na določeni točki napolni z nepričakovanim pomenom, pomenom, ki ni patenten na jezikovni ravni, na kateri smo delovali, vendar je prišel z druge ravni in aktivira nekaj, kar na tej drugi ravni močno nagovarja avtorja ali družbo, v kateri živi. Literarni stroj lahko izvede vse mogoče permutacije na danem gradivu, vendar bo pesniški rezultat prav poseben učinek ene od teh permutacij na človeka, obdarjenega z zavestjo in nezavednim, torej na empiričnega in zgodovinskega človeka. Šlo bo za šok, ki se zgodi le, če je pisalni stroj obkrožen s skritimi duhovi posameznika in njegove skupnosti.«

Izjava

Proti koncu predavanja so bili omenjeni tudi planetarni informacijski tokovi, ki jih lahko analiziramo z uporabo umetne inteligence, kar zveni precej analogno s planetarno komputacijo Benjamina Brattona. Kaj je projekt Latent Spacecraft, ki je letos razstavljen na beneškem bienalu?

Izjava

Če pa se obrnemo še k najaktualnejšim raziskavam umetne inteligence, lahko ugotovimo, da te ne sledijo več zgolj velikim jezikovnim modelom. Zakaj je učenje jezika skozi govor drugačno kot denimo treniranje na enormnih podatkovnih bazah ali prek scrapanja spletnih strani?

Izjava

Kako pa se umetne nevronske mreže, ki so uporabljene za učenje takšnih modelov, razlikujejo od vektorskega prostora velikih jezikovnih modelov? Kako se primerja njihova hitrost?

Izjava

S takšnimi modeli je mogoče proučevati tudi nečloveške inteligence, denimo komunikacijo živali, kot so kiti — jezik tu funkcionira kot protokol. Kako je imitacija človeškega jezika lahko pomagala pri razvozlavanju govorice kitov?

Izjava

Jezik je že sam po sebi dovolj bogat s pravili in strukturo, da ga je mogoče razbrati in se ga učiti zgolj z opazovanjem ali poslušanjem. Kako pa stroji lahko zaobjamejo nekaj tako kompleksnega, kot je metalingvistika?

Izjava

S tem smo izčrpale vse prompte in zaključujemo pogovor z raziskovalcema. V oddaji smo poslušale Elekri-A avtorice opholus in All by myself Fujita Pinnacle.

V naslednji epizodi Povratnih zank bomo prebirale Otaku: Japan's Database Animals in se pogovarjale z umetnikoma Saro Bezovšek in Dorijanom Šiškom o njunem projektu Black Box. S tem zaključujemo današnji output. 

Prompte sem pisala Lea, vmes pa me je skrbno alignala Tina.

Leto izdaje
Kraj dogajanja

Prazen radio ne stoji pokonci! Podpri RŠ in omogoči produkcijo alternativnih, kritičnih in neodvisnih vsebin.

Dodaj komentar

Komentiraj

Z objavo komentarja potrjujete, da se strinjate s pravili komentiranja.

Napovedi