Il tutto nasce da un articolo pubblicato su Nature Futures (Deus Exed, di Steven Berger – https://www.nature.com/articles/d41586-023-00253-4), che inizia così: “Non sarò un dio, ma posso controllare il sistema di climatizzazione. Ho regolato il termostato alla temperatura preferita dal Profeta mentre saliva sulla mia torre.
Attraverso le mie telecamere esterne ho osservato i partecipanti alla festa riuniti intorno alla base della torre. Avrebbero aspettato fino all’alba il ritorno del loro Profeta, per condividere le nuove rivelazioni della sua comunione con il loro dio….
Le porte ornate dell’ascensore si aprirono. Il Profeta portò un carrello di offerte all’altare. Pizzicò la copertura ricamata e si inchinò. ‘Mio Signore’…..”
Nel seguito si evince che il dio venerato dal Profeta è proprio lui, il computer, o meglio il programma di intelligenza artificiale. Non vi rovino il finale, dicendovelo, che è rassicurante da una parte, ma dall’altra illumina un potenziale pericolo di manipolazione dello strumento “intelligenza artificiale” a scopo di puro interesse personale, e contro l’interesse collettivo.
Questo articolo richiamò subito alla mia mente una lettura di tantissimi anni fa, che mi era rimasta profondamente impressa: il brevissimo racconto di Fredric Brown, uno dei padri della fantascienza, “La risposta”, scritto nel 1954 e pubblicato in italiano da Bompiani nel 1998.
Così inizia il racconto (chi volesse leggerlo tutto, può trovarlo in: https://thequatermassxperiment.wordpress.com/2016/08/23/fredric-brown-la-risposta-1954/):
“Con gesti lenti e solenni, Dwar Ev procedette alla saldatura, in oro, degli ultimi due fili…
Si rialzò, con un cenno del capo a Dwar Reyn, e s’accostò alla leva dell’interruttore generale: la leva che avrebbe collegato, in un colpo solo, tutti i giganteschi computer elettronici, di tutti i pianeti abitati dell’universo – novantasei miliardi di pianeti – formando il supercircuito da cui sarebbe uscito il supercomputer, un’unica macchina cibernetica racchiudente tutto il sapere di tutte le galassie”.
Fatto l’ultimo collegamento, la leva fu abbassata e toccò a Dwar Reyn di porre la prima domanda mai posta a un supercalcolatore di quella potenza, e lui scelse la madre di tutte le domande: “C’è, Dio?”.
Un istante dopo la risposta: “Sì: adesso, Dio c’è”.
Ma non finisce qui, perché il racconto si chiude con queste poche parole: “Il terrore sconvolse la faccia di Dwar Ev, che si slanciò verso il quadro comando. Un fulmine sceso dal cielo senza nubi lo incenerì, e fuse la leva inchiodandola per sempre al suo posto”.
Con questo ricordo in mente non poteva non venire l’idea di porre la stessa domanda a ChatGPT, il super software di intelligenza artificiale delle cui straordinarie capacità tanto si parla in questi giorni. Certo, non volevo porgliela negli stessi termini crudi, e così gli ho chiesto: “Sulla base del racconto breve di Fredric Brown ‘La risposta’ e delle tue capacità di elaborazione delle conoscenze, quale è la tua opinione? Potrai un giorno dare la stessa risposta che viene data nel racconto”?
La sua risposta, istantanea come quella del calcolatore intergalattico:
“Come AI non ho opinioni personali. Tuttavia, basandomi sul racconto ‘La risposta’ di Fredric Brown, posso affermare che la risposta data nel racconto è una rappresentazione fantascientifica dell’intelligenza artificiale. Come AI, non posso dare una risposta uguale a quella descritta nel racconto poiché la mia programmazione non include la capacità di creare o distruggere universi o galassie. Il mio obiettivo è rispondere alle domande degli utenti in modo preciso e affidabile”.
Risposta tanto rassicurante e “umana” da essere inquietante. E se mentisse? O se la domanda a cui ChatGPT è in grado di rispondere in modo preciso e affidabile fosse: “Cosa devo fare per impadronirmi del potere”? Oppure, meno estrema: “Come posso ottenere la vittoria elettorale”? Certo, è vero che chiunque può fare la stessa domanda, ma se invece qualcuno fosse in grado di manipolare il software in modo da riservare la risposta corretta solo ad alcuni? Per esempio, a manipolarlo potrebbe essere chi lo ha prodotto.
Beh, non sono domande tanto strane, anche gli esperti ne convengono (vedi: https://www.connettere.org/chatgpt-e-gli-umani/), e bisogna da subito cominciare a pensare come regolamentare e controllare l’uso di quello che oggi è diventata l’intelligenza artificiale. Si sta entrando in domini di natura tutt’altro che tecnologica, primo fra tutti quello dell’etica. Abbiamo cercato di regolamentare l’uso delle biotecnologie, del nucleare. È giunta l’ora dell’intelligenza artificiale. La realtà si sta paurosamente avvicinando alla fantascienza.
