Attenzione: il contenuto che segue è stato generato da ChatGPT. versione Thinking
Il concetto di singolarità applicato all’AI non coincide semplicemente con la comparsa di una macchina molto intelligente. Nella sua forma più rigorosa, esso designa un punto di discontinuità storica e cognitiva: il momento in cui sistemi artificiali superano l’intelligenza umana in modo generalizzato e, soprattutto, acquistano la capacità di migliorare ricorsivamente se stessi, producendo una dinamica di accelerazione tale da rendere opache o imprevedibili, per la mente umana, le traiettorie successive dello sviluppo tecnico e sociale. Il nucleo teorico classico nasce con I. J. Good nel 1965, viene reso storicamente memorabile da Vernor Vinge nel 1993, e riceve la sua formulazione filosoficamente più ordinata in David Chalmers nel 2010.
Conviene dunque distinguere tre livelli, che spesso vengono confusi nel dibattito pubblico. Il primo è la AGI o intelligenza artificiale generale, cioè un sistema almeno al livello umano in una vasta gamma di compiti. Il secondo è la superintelligenza, cioè un’intelligenza che eccede l’uomo in quasi tutti i domini rilevanti. Il terzo è propriamente la singolarità, che aggiunge alla superintelligenza il tema dell’esplosione di miglioramento e della compressione dei tempi storici. Chalmers è molto utile proprio perché separa con rigore questi passaggi: AI, AI+, AI++, e mostra che la singolarità non è una semplice metafora apocalittica, ma un’ipotesi argomentativa composta da premesse distinte.
Fra gli autori che ne parlano con maggiore chiarezza concettuale, il primo nome da fare è I. J. Good. Il suo merito non è la completezza, ma la formulazione originaria del problema: una macchina ultraintelligente, essendo capace anche di progettare macchine, potrebbe generare una “intelligence explosion”; da qui la celebre idea che “la prima macchina ultraintelligente” potrebbe essere “l’ultima invenzione” dell’uomo. In una formulazione del 1965 Good giudicava “più probabile che no” che una tale macchina sarebbe stata costruita entro il XX secolo. Concettualmente, Good è il punto di partenza; cronologicamente, è il primo grande esempio di previsione fallita.
Un autore oggi meno citato, ma teoricamente importante, è Ray Solomonoff. Nel 1985 tenta qualcosa che Good non aveva fatto: non soltanto evocare l’esplosione, ma modellarne la scala temporale. Distingue una serie di “milestones”: una macchina vicina alla capacità umana in ambiti come scienza e matematica, poi una macchina comparabile alla comunità scientifica informatica, e infine una macchina molte volte superiore a quella comunità. Solomonoff ipotizza che, una volta raggiunto il livello umano, possano bastare circa dieci anni per arrivare a una capacità aggregata paragonabile alla comunità dei computer scientists, e costruisce perfino un modello nel quale la crescita tende a un punto critico in un tempo finito. È uno dei primi tentativi seri di pensare la singolarità non come immagine, ma come dinamica.
Il nome che ha imposto il termine nel lessico contemporaneo è però Vernor Vinge. Nel saggio del 1993, presentato in sede NASA, egli scrive: “Within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended.” Dunque, dal suo punto di vista, l’orizzonte era collocato grosso modo entro il 2023. Chalmers, riepilogando le stime dei sostenitori, attribuisce a Vinge una previsione ancora più precisa: intelligenza superiore a quella umana tra il 2005 e il 2030. Vinge resta decisivo per due ragioni: ha dato alla nozione la sua forma storicamente più influente, e ha messo in luce il carattere di rottura d’epoca della singolarità. Ma, dal punto di vista delle date, la sua previsione forte non si è realizzata nei termini annunciati. (users.manchester.edu)
Se si cerca invece l’autore più sistematico sul piano della cronologia, il nome centrale è Ray Kurzweil. Nel 2005 egli collega la singolarità alla sua “law of accelerating returns” e formula una sequenza molto esplicita: un’intelligenza non biologica capace di superare il test di Turing intorno al 2029, e la vera singolarità, intesa come trasformazione profonda e dirompente delle capacità umane, nel 2045. Nel testo Kurzweil dichiara esplicitamente: “I set the date for the Singularity … as 2045”, e nel 2024, nel seguito del libro, ha sostanzialmente ribadito le stesse due date. Kurzweil è dunque il grande teorico della singolarità come futuro calendarizzato. Proprio per questo è anche l’autore più esposto al controllo empirico. (dn790006.ca.archive.org)
Sul piano della chiarezza filosofica, però, io metterei al primo posto David Chalmers. Il suo saggio del 2010 è probabilmente il testo migliore per chi voglia capire il concetto senza cedere né all’entusiasmo retorico né al rifiuto pregiudiziale. Chalmers formalizza l’argomento in tre passaggi: ci sarà AI di livello umano; da questa si passerà ad AI+; da AI+ si passerà ad AI++. Quanto alle date, è assai più sobrio di Kurzweil e Vinge: dichiara che sarebbe sorpreso da una AI di livello umano entro tre decenni, ma aggiunge di attribuire comunque una probabilità superiore al 50% al verificarsi di una AI di livello umano prima del 2100. Questa cautela ne aumenta la credibilità teorica.
Nick Bostrom occupa una posizione intermedia. Non è il teorico più “calendaristico”, ma è uno degli autori più coerenti nel mostrare perché il passaggio da intelligenza umana a superintelligenza possa diventare un problema di rischio esistenziale. In How Long Before Superintelligence? sostiene di voler presentare il “caso” per la comparsa di un’intelligenza artificiale superumana entro il primo terzo del secolo XXI; tuttavia chiarisce anche, con notevole onestà metodologica, che personalmente assegnerebbe una probabilità inferiore al 50% alla sua realizzazione entro il 2033. In altri termini: Bostrom prende sul serio tempi relativamente vicini, ma non li trasforma in profezia. (Nick Bostrom)
Per capire davvero la questione, tuttavia, bisogna leggere anche i critici più seri della singolarità. Toby Walsh, nel 2017, non nega affatto che l’AI possa raggiungere o superare l’uomo; contesta piuttosto l’idea che da ciò segua automaticamente una crescita esplosiva e fuori controllo. Il suo punto è sottile: l’intelligenza richiesta per svolgere un compito non coincide necessariamente con la capacità di migliorare illimitatamente la propria stessa intelligenza. In questa linea, Walsh è il miglior antidoto contro le versioni troppo facili del discorso singolaritario. (ojs.aaai.org)
Ancora più radicale, sul piano filosofico, è Luciano Floridi. Nel 2022 egli presenta la singolarità come una distrazione concettuale, una forma di sci-fi inflation che tende a sostituire l’analisi concreta delle tecnologie con scenari estremi poco verificabili. Floridi non dice semplicemente che la singolarità è falsa; dice che, allo stato attuale, essa è spesso formulata in modo tale da sfuggire alla prova empirica seria. È una critica molto utile, perché obbliga a distinguere tra ipotesi teoricamente costruite e mitologie del futuro.
Se si passa dalle grandi voci individuali alle stime collettive, il quadro diventa ancora più interessante. Un ampio sondaggio del 2023 su autori di ricerca AI, pubblicato nel 2024, ha stimato una probabilità del 50% per l’HLMI (high-level machine intelligence, una soglia vicina o superiore alle capacità umane in generale) entro il 2047, con una probabilità del 10% già entro il 2027. Un rapporto RAND del 2026 riprende questi dati come uno dei riferimenti principali sulle timeline. Questo non prova la singolarità, ma mostra che l’orizzonte temporale del dibattito si è effettivamente spostato in avanti, cioè più vicino a noi, rispetto a pochi anni fa. (arXiv)
A questo punto si può formulare un giudizio più netto. Gli autori migliori per chiarezza concettuale sono, a mio avviso, nell’ordine: Chalmers, Good, Bostrom, Walsh. Chalmers perché espone la struttura logica dell’argomento; Good perché ne enuncia il nucleo originario; Bostrom perché collega la crescita cognitiva al problema del controllo; Walsh perché distingue con precisione tra aumento di capacità e auto-miglioramento esplosivo. Gli autori più espliciti sulle date sono invece Kurzweil, Vinge, Good, e in forma più tecnica Solomonoff. Ma proprio qui emerge il problema decisivo: quanto più l’autore è preciso nel calendario, tanto più aumenta il rischio di errore. (dn790006.ca.archive.org)
Ne derivano tre conclusioni. Primo: la singolarità non è una fantasia incoerente; è un’ipotesi teorica precisa, fondata sull’idea di recursive self-improvement. Secondo: la sua versione forte e datata ha storicamente prodotto varie previsioni troppo ravvicinate, spesso smentite dal decorso effettivo. Terzo: la domanda filosoficamente più seria oggi non è “accadrà nel 2029 o nel 2045?”, ma piuttosto questa: esiste davvero una continuità necessaria tra AGI, superintelligenza e esplosione ricorsiva? È qui che il dibattito resta aperto. Le date sono importanti, ma vengono dopo la struttura dell’argomento.