Intelligenza artificiale: "Siamo come bambini che giocano con una bomba"

Secondo il filosofo di Oxford Nick Bostrom, le macchine senzienti rappresentano una minaccia per l’umanità più grave del cambiamento climatico

Troverai il Future of Humanity Institute in una stradina medievale nel centro di Oxford. Si trova accanto alla chiesa di St Ebbe, che si trova in questo sito dal 1005, e sopra una Pure Gym, aperta ad aprile. L'istituto, una facoltà di ricerca dell'Università di Oxford, è stato fondato dieci anni fa per rispondere alle domande più importanti per nostro conto. In particolare: quali sono esattamente i "rischi esistenziali" che minacciano il futuro della nostra specie; come li misuriamo; e cosa possiamo fare per prevenirli? O per dirla in un altro modo: in un mondo di molteplici paure, di cosa dovremmo essere più terrorizzati?

Quando arrivo per incontrare il direttore dell'istituto, il professor Nick Bostrom, nell'ufficio del secondo piano stanno consegnando un letto. Il rischio esistenziale è un tipo di operazione 24 ore su 24; dorme in modo intermittente, se non del tutto.

Bostrom, un filosofo quarantatreenne di origine svedese, ha recentemente acquisito una sorta di status di profeta della sventura tra coloro che attualmente stanno facendo di più per plasmare la nostra civiltà: i miliardari tecnologici della Silicon Valley. La sua reputazione si basa principalmente sul suo libro Superintelligence: Paths, Dangers, Strategies, che è stato un bestseller a sorpresa del New York Times l'anno scorso e ora arriva in edizione tascabile, con dietro i consigli imperdibili di Bill Gates e di Elon Musk di Tesla. (Nel miglior tipo di recensione letteraria, Musk ha anche donato all'istituto Bostrom 1 milione di sterline per continuare a portare avanti le sue indagini.)

Il libro è un esame vivace e speculativo della singolare minaccia che Bostrom ritiene – dopo anni di calcoli e discussioni – essere quella che con maggiore probabilità ci annienterà. Questa minaccia non è il cambiamento climatico, né la pandemia, né l’inverno nucleare; è la creazione forse imminente di un’intelligenza artificiale generale più grande della nostra.

La copertina del libro di Bostrom è dominata dall'immagine fatta a penna e inchiostro di un gufo con uno sguardo folle. Il gufo è il soggetto della parabola di apertura del libro. Un gruppo di passeri sta costruendo il proprio nido. "Siamo tutti così piccoli e deboli", twitta debolmente uno. "Immagina quanto sarebbe facile la vita se avessimo un gufo che potesse aiutarci a costruire i nostri nidi!" Ovunque c'è un accordo generale sul cinguettio dei passeri; un gufo potrebbe difendere i passeri! Potrebbe prendersi cura dei loro vecchi e dei loro piccoli! Potrebbe consentire loro di vivere una vita di svago e prosperità! Con queste fantasie in mente, i passeri riescono a stento a contenere la loro eccitazione e volano via alla ricerca del salvatore dalla testa girevole che trasformerà la loro esistenza.

C'è solo una voce di dissenso: "Scronkfinkle, un passerotto con un occhio solo e dal temperamento irritabile, non era convinto della saggezza dell'impresa. Disse: 'Questa sarà sicuramente la nostra rovina. Se non dovessimo riflettere un po' sull'arte di addomesticamento e addomesticamento dei gufi, prima di portare una simile creatura in mezzo a noi?'" I suoi avvertimenti, inevitabilmente, cadono su orecchie sorde di passeri. Addomesticare i gufi sarebbe complicato; perché non prendere prima il gufo e poi elaborare i dettagli più fini? Il libro di Bostrom, che è un acuto campanello d'allarme sulle implicazioni più oscure dell'intelligenza artificiale, è dedicato a Scronkfinkle.

Bostrom articola i propri avvertimenti in modo adeguatamente irritato. Ha la reputazione di essere ossessivo e maniaco del lavoro; è magro, pallido e semi-notturno, spesso resta in ufficio fino alle prime ore del mattino. Non sorprende, forse, che per un uomo le cui giornate sono dominate da lavagne piene di formule che esprimono i relativi meriti di 57 varietà di apocalisse, sembri lasciare il meno possibile al caso. Al posto dei pasti preferisce un elisir di frullato verde composto da verdure, frutta, latte d'avena e siero di latte in polvere. Altri intervistatori hanno sottolineato che evitava le strette di mano per proteggersi dalle infezioni. Mi tende una mano, ma ho la sensazione che successivamente la stia isolando per disinfettarla quando me ne sarò andato. C'è, forse come risultato, in lui una leggera impazienza, alla quale si sforza di resistere.