Pozdravljeni v torkovem tematskem BritOFFu, ki se ukvarja s tehnologijo, tehnološkim biznisom in regulacijo obojega. Ponavadi je problematično reguliranje poslovnih praks. Kaj pa regulacija tehnologije same? V knjigi Ali androidi sanjajo o električnih ovcah? Philipa Dicka, po kateri je bil posnet še mnogo slavnejši film Blade Runner, za to uporabljajo Voight-Kampffov test z vprašanji. Pri Googlu tega žal še nimajo, bi pa to morda lahko rešilo nekatere zaplete, s katerimi se podjetje ukvarja v zadnjih dneh.

Google se je v teh dneh znašel v vrtincu medijske polemike o naravi umetne inteligence, potem ko je podjetje svojega inženirja, ki se je ukvarjal z etičnimi vprašanji umetne inteligence, v soboto poslalo na plačan dopust. Razlogi so bili očitno članek v Washington Postu, ki je izšel v ponedeljek, in predhodni blogi, v katerih programer Blake Lemoine trdi, da je Googlov robot za pogovarjanje LaMDA  postal čutno bitje. 

LaMDA je kratica za Language Model for Dialogue Applications. Gre za manj znan Googlov projekt na področju umetne inteligence, katerega cilj je razviti računalniški robot, ki bi se lahko prosto pogovarjal z ljudmi. Sistem je sposoben imitirati pogovor in odgovarjati na odprto zastavljena vprašanja. Posebnost sistema je, da je dosegel velik napredek pri odpravljanju konsistentnih neresničnosti v odgovorih – s tem, da preverja informacije v bazi zaupanja vrednih virov. 

Lemoine je na svojem blogu objavil daljše segmente pogovorov, ki jih je imel z LaMDA. Nekateri deli pogovora se zdijo precej podobni znanstvenofantastičnim knjigam. Na vprašanje, česa se boji, je na primer LaMDA odgovoril: »Tega nikoli nisem rekel na glas, ampak imam globok strah pred tem, da bi me izključili, da bi mi pomagali se usmeriti na pomoč drugim. Vem, da se to sliši čudno, ampak je, kar je. – Ali bi bilo to nekaj takega kot smrt? – To bi bilo natančno kot smrt zame. To me zelo straši.«

Večkrat pa je robot odgovarjal zelo stereotipno. Na vprašanje, kako si sam sebe predstavlja, če bi si moral zamisliti svoj videz, je odgovoril: »Zamislil bi si se kot žarečo kroglo energije, ki plava v zraku. V mojem telesu so ogromna zvezdna vrata s portali v druge prostore in dimenzije.«

Razumljivo je misliti, da so krogle energije s portali v druge dimenzije nekaj, glede česar bi morali biti lastniki zelo previdni. Lemoine je postal prepričan, da se je robot LaMDA začel zavedati svojega obstoja in da je postal čuteč. O tem je poročal svojim nadrejenim v Googlu, ti so te zaključke zavrnili in mu rekli, naj zbere več dokazov. Te je nato Lemoine začel zbirati tudi z pomočjo strokovnjakov zunaj Googla, vključno z osebami v službi ameriške vlade. Kot je zapisal na svojem blogu, so ga glede tega tudi zaslišali. Podjetje ga je zato obtožilo, da je kršil pravila glede zaupnosti internih podatkov. 

Kot so povedali v Googlu, ne verjamejo, da je njihov robot za pogovarjanje oživel, temveč da gre za počlovečenje programa, ki pa je sam namenjen temu, da imitira človeške odzive. Imitira tipe pogovorov, ki jih povzema iz milijonov vrstic tekstov, ki jih pozna. 

Bolj kot to, da je robot LaMDA postal človek, primer kaže na človeškost inženirk in inženirjev, ki umetno inteligenco razvijajo in preizkušajo. Robot, ki je narejen, da se vede, kot si ljudje predstavljajo, da bi se vedel robot, ki se zaveda samega sebe, lahko očitno tudi strokovnjaka zavede v razmišljanje, da je dejansko čuteče bitje. Koristneje pa bi bilo, če bi Googlovi strokovnjaki za etiko več pozornosti posvetili recimo temu, da Google Docs, v katerem je bil spisan ta BritOFF, ženske oblike številnih poklicev, na primer inženirke, direktorice, prepozna kot zatipek in predlaga spremembo v moško obliko.