Prava nevarnost umetne inteligence ni upor strojev
“Svet ima upravičen razlog za strah, a nam mora zaupati.” S temi besedami je Sam Altman nedavno priznal pomisleke glede morebitnih tveganj, ki jih umetna inteligenca (UI) prinaša človeštvu. Opozorilo prvega moža podjetja OpenAI in drugih tehnoloških baronov, da bi se t. i. inteligentni sistemi v nekaj mesecih lahko polastili spleta, že nekaj tednov buri duhove globalne javnosti. Mogotci visoke tehnologije se uradno bojijo, da bi UI, ki napreduje hitro in silovito, ušla izpod njihovega nadzora ter privedla do katastrofe: npr. do napada na bančni sistem, ki bi lahko ohromil gospodarstvo ene ali več držav; do zlonamerne uporabe modela za izdelavo orožja za množično uničevanje; do zavajajočega poročila, ki bi na podlagi lažnih informacij lahko sprožilo vojaški napad na neškodljiv cilj.
In vendar: kaj vedo oz. kaj nam prikrivajo tehnološki gospodarji? Se za velikim preplahom pred apokalipso oz. celo pred pokončanjem človeške vrste, ki naj bi ga povzročila UI, morda skriva kaj drugega? Marsikdo trdi, da je sum več kot upravičen. Ustvarjanje panike je namreč klasičen strateški manever velikih podjetij z monopolnimi ali oligopolnimi težnjami, kadar želijo prav ona narekovati pravila novega posla.
A medtem ko se na ravni trgov in regulacij – tudi z znanstvenofantastičnimi scenariji – bije boj za tržni primat, resnična dilema morda leži precej globlje. Paolo Benanti, eden vodilnih strokovnjakov za UI ter svetovalec OZN, italijanske vlade in Vatikana za to področje – nenazadnje teolog in frančiškan –, opozarja, da ne gre za robota, ki bi se uprl, temveč za nekaj bolj prefinjenega in nevarnega: za človekovo vdajo. Nevarnost nastopi v trenutku, ko se nehamo spraševati “zakaj” in se zadovoljimo s sprejetjem odgovora UI, češ da je algoritem učinkovitejši od človeka. Opozorilo je treba jemati resno, poudarja Benanti, “kajti tekma za vse zmogljivejše sisteme teče hitreje od naše zmožnosti razumevanja njenih posledic”. In vendar zaustavitev inovacij ni najboljša rešitev: “Preudarnost ni nasprotje inovacij, temveč pogoj, da so inovacije resnično v službi človeka. Pospešek sam po sebi ni vrednota: vrednota je le, če vemo, kam gremo. Danes pa tega ne vemo z gotovostjo.”
Kadarkoli in kjerkoli je na kocki človekovo dostojanstvo, mora imeti zadnjo besedo človek, saj stroj lahko le optimizira: “Stroj ne more prevzeti krivde, ne more čutiti sočutja, se ne more odločiti za odpuščanje,” še trdi Benanti. Človeški razum ostaja nekaj bistveno bogatejšega: je sposobnost dati smisel, razumevati celoten kontekst, se ganiti ob lepoti, trpeti ob krivici … Neločljivo je povezan s telesom, s čustvi, z osebno zgodovino posameznika. Kot slikovito ponazarja Benanti: “Stroj lahko zloži simfonijo, a ne ve, zakaj glasba gane. Lahko napiše besedilo, vendar nima povedati ničesar.” UI zmore pravilno povezati vzorce in podatke, vendar se ne zaveda veličine lastnega odkritja, ne občuti čudenja. Prava nevarnost torej ni v tem, da bi stroji postali preveč podobni človeku, temveč da bi človek začel priznavati za edino pametno zgolj tisto, kar obvladajo oz. proizvedejo stroji. Zrelostni izpit za našo dobo tiči v tem: dokazati, da znamo odgovorno voditi to, kar zmoremo zgraditi.
