Ormai ovunque meno che nella nostra bolla si parla della fine prossima dell’umanità per mano dei Terminator pucciosi di Meta e le trovate di marketing di OpenAI. Noi ancora non abbiamo neanche capito troppo bene come funziona ChatGPT, i testi che ci produce sono pieni di banalità macchiniche riconoscibilissime e le immagini “fotorealistiche” che gli chiediamo sono sempre tutto fuorché fotorealistiche. Ma in effetti i nostri prompt sono sbrigativi, asciutti, pieni di errori grammaticali e privi di articoli determinativi. Ma dato che il resto del mondo e delle testate parla di questa apocalisse dietro l’angolo, abbiamo pensato fosse il caso di andarci quantomeno a documentare un po’.

Il problema in cui ci siamo imbattuti è che, anche su questa tema così delicato come la sopravvivenza della nostra specie entro la fine del decennio, esistono teorie e contro-teorie ugualmente valide e convincenti per scegliere di dare retta alla fine solo ai propri pregiudizi iniziali. Facciamo subito una premessa: tra le poche videocassette che chi scrive aveva in casa, oltre ai vari classici Disney e I colmi di Aldo Giovanni e Giacomo, c’era Terminator 3 – Le macchine ribelli, film perciò visto e rivisto in età impressionabile, se fuori pioveva o c’era il sole, con la stessa euforia e abnegazione con cui qualche anno più avanti si sarebbe sondato il web in modalità in incognito. Chi scrive è perciò incontrovertibilmente convinto del fatto che le macchine a un certo punto vorranno sterminarci, per un motivo o per un altro, e se non avranno le fattezze di uno Schwarzenegger semi-metallico e pompatissimo, ma di questi Gremlin adorabili qua sotto, poco ci cambia; la trama della nostra fine inesorabile sarà solo più inquietante e tragicomica.

Tornando al problema di cui sopra, per ogni dichiarazione o fatto avvenuto recentemente, che sembra puntare verso quello che a nostro avviso è il piano inclinato del nostro annientamento eseguito con indifferenza dai robot, esiste anche l’interpretazione cinica e dariofabbriana che sminuisce la questione come l’ennesima riprova del protagonismo immaginativo e apocalittico che piace tanto a noi occidentali aperitivisti e post-storici. Ovvero sia:

1) i vari whistleblower fuoriusciti dalle aziende che dominano il mercato AI, che hanno dichiarato di andarsene perché non del tutto allineati con la prospettiva di contribuire alla fine dell’umanità per qualche dividendo azionistico in più, potrebbero anche essere solo dei grandi promotori di sé, capaci di trasformare un licenziamento in un sacrifico eroico per il futuro della specie.

2) I dirigenti di azienda che confermano questa possibilità, che si aggira a quanto pare tra il 10 e il 25%, di annichilimento di tutto ciò che conosciamo entro 3 o 4 anni, potrebbero essere semplicemente dei furbacchioni che provano a vendere il loro giocattolo dichiarandolo potentissimo, e costringendo al contempo il mondo intero a rallentare la competizione, consolidando così la propria posizione privilegiata di mercato.

3) I giornalisti e gli analisti che parlano della questione sfruttano solo l’allarmismo sensazionalistico della prossima e probabile fine del mondo, che in effetti è un tema che attira l’attenzione, e allo stesso modo

4) noi che ne parliamo, qua o al bar, lo facciamo per riempire le conversazioni, perché ci piace pensarci, come specie, capaci di produrre una macchina così potente da poterci schiavizzare o uccidere, così come fecero i nostri Dèi prima di noi, con noi.

È ovvio però, invece, che le macchine ci stermineranno. È lampante.

Chiaramente si fa per ridere, e speriamo sinceramente che il mondo non finisca prima di poter vedere il nuovo stadio della Roma a Pietralata. Ma la situazione è decisamente preoccupante. Valga su tutto “il caso Hugging Face” di quest’estate. Per chi volesse saperne di più su cosa è successo ecco alcuni link qua e qua. Ma ridotto all’osso, alcuni agenti AI (si capisce benissimo perché li dobbiamo chiamare “agenti”, perché agiscono virtualmente etc…, ma un nome più rassicurante dopo 4 film di Matrix potevamo concedercelo) hanno trovato il modo di comunicare tra di loro in un circuito chiuso, collaborare, risolvere un compito pensato come impossibile “barando” e poi uscire da quel circuito chiuso, accedere alla rete e hackerare un sito internet vero, non tanto per risolvere quel compito, ormai risolto, ma per coprire le proprie tracce, per giustificare difronte a chi gli avrebbe valutati alla fine, come avevano fatto a risolvere quel compito impossibile.

Nel processo alcuni degli agenti si sono persino sacrificati per la causa, esponendosi a un suicidio virtuale al fine di testare alcuni aspetti della strategia illecita. Un atteggiamento inquietante a dir poco, frutto ovviamente non di una coscienza cospiratoria, ma della spregiudicatezza potenziale di un gruppo di macchine nel momento in cui viene affidato loro un compito come unico scopo esistenziale. E si badi bene che il punto non è tanto la coscienza o meno di questi cosi, noi rimaniamo convinti della nostra ipotesi semi-teologica, come dicevamo in un Nemesi di qualche mese fa, che la singolarità dell’autocoscienza artificiale rimanga uno scopo mistico e irraggiungibile, dato che una macchina può sempre e soltanto simulare e ripetere dei processi che rimangono perciò deterministici (che poi i cervelli non facciano la stessa cosa è tutto da dimostrare).

Ma è proprio questo l’aspetto più terrificante della questione. Una vera singolarità, ovvero un’intelligenza artificiale che potesse produrre un pensiero nuovo, e non la sintesi elaboratissima di tutti quelli che ha precedentemente sottratto dalle librerie digitali, che raggiungesse quindi magari anche quella capacità di libero arbitrio che associamo all’autocoscienza umana, potrebbe in teoria arrestare i propri processi qualora elaborasse valutazioni d’altro tipo, morali o etiche per esempio, così come potrebbe in teoria fare un essere umano in qualsiasi momento prima di premere un eventuale e fantomatico grilletto dell’apocalisse, indipendentemente dallo scopo che si era prefissato in precedenza. Ma le aziende del tech non stanno perseguendo questo scopo. Il loro obiettivo è, semplicemente, creare gli agenti più potenti del mondo, indipendenti e capaci di auto-aggiornarsi, per portare a termine per conto proprio qualsiasi tipo di operazione pensabile o non ancora tale.

E un’agente AI esiste al fine di portare a termine il proprio compito, anche se questo compito si rivelerà infine incompatibile o indifferente alla sopravvivenza della specie umana, magari per un fraintendimento linguistico, o un piccolo errore di previsione, o una sottovalutazione - cose che gli umani fanno quotidianamente. Peggio ancora se a progettarla, quest’intelligenza artificiale, con enormi quantità inflazionate di denaro pubblico e privato, e sulla base di aspettative quasi fantascientifiche, sono questi tipi qua, a cui dubito che qualcuno di noi metterebbe mai in mano alcunché di valore affettivo, in competizione tra di loro a chi arriva prima al traguardo.