di Walter Quattrociocchi
Perché è importante capire che l’AI non è intelligente?
Perché finché non lo capiamo, continueremo a discutere male di tutto il resto e a fare progetti e previsioni su cose che non esistono.
Il punto non è terminologico. È una questione dirimente.
Banalmente perché se sbagliamo la natura dell’oggetto che abbiamo davanti, sbagliamo anche il modo in cui lo usiamo, lo regoliamo, lo raccontiamo e lo integriamo nelle istituzioni. Qui sta in sintesi il gran danno, che i ciarlatani vari, fanno alla collettività parlando di cose che non sanno.
Assistiamo spesso a una scena piuttosto grottesca. Ogni volta che qualcuno prova a chiarire che i modelli generativi non comprendono, non ragionano nel senso umano del termine, non verificano ciò che dicono e non possiedono alcuna presa epistemica sul mondo, arriva puntualmente il commentatore sfigato di turno a liquidare tutto come una diatriba oziosa. Un dibattito nominalistico. Una fisima da accademici. Come se distinguere tra intelligenza e simulazione di linguaggio fosse un dettaglio marginale.
Non lo è affatto. È il punto centrale.
Siamo ancora, in forme molto più sofisticate, dentro il meccanismo di ELIZA. Bastano una certa fluidità conversazionale, una certa tenuta sintattica, una certa capacità di restituire forme linguistiche compatibili con le nostre aspettative, e molti sono pronti a inferire comprensione, giudizio, intenzionalità, perfino saggezza. È un errore antico. Ed è un errore umano. Proiettiamo interiorità dove incontriamo coerenza formale. Scambiamo l’effetto prodotto su di noi con la struttura del sistema che abbiamo davanti.
Anche il Test di Turing, a ben vedere, porta con sé questa ambiguità originaria. È stato storicamente utile come provocazione, ma ha anche contribuito a consolidare un’idea profondamente fuorviante: che l’intelligenza possa essere inferita dalla sola indistinguibilità conversazionale. Che basti sembrare intelligenti, in una certa finestra di interazione, per essere trattati come intelligenti. Da lì in poi si è aperto un intero filone di equivoci, ricamato per decenni da filosofi (incompetenti) impressionati dalla superficie, da divulgatori sedotti dalla metafora, e oggi da un esercito di poser cognitivi che scambiano la loro fascinazione per profondità teorica.
Il problema è che i modelli generativi non sanno nulla. Non nel senso forte del termine. Non sanno di sapere. Non sanno di non sapere. Non distinguono tra un enunciato corretto, uno plausibile, uno inventato o uno internamente contraddittorio se non nella misura in cui queste differenze sono riflesse statisticamente nei dati e nelle regolarità linguistiche apprese. Non hanno accesso referenziale al mondo. Non hanno esperienza. Non hanno intenzione. Non hanno comprensione semantica nel senso in cui la comprensione implica vincolo con la realtà, possibilità di revisione, esposizione all’errore e capacità di discriminare ciò che è vero da ciò che suona bene.
Questo non significa che siano inutili. Significa che bisogna smetterla di attribuire loro proprietà che non possiedono.
Ed è qui che il discorso si fa davvero serio. Perché quando si perde questa distinzione, tutto slitta. La performance prende il posto del processo. L’output prende il posto della struttura. La plausibilità sostituisce la verifica. La fluidità sostituisce il controllo epistemico. E a quel punto non stiamo più parlando solo di AI. Stiamo parlando del nostro rapporto con la conoscenza.
Dentro questo errore si annida anche un’altra idea, oggi diffusissima: che basti “scalare” — più dati, più parametri, più calcolo — perché prima o poi emerga qualcosa di realmente cognitivo. È una narrativa potente, perché è semplice, lineare e vendibile. Ma resta una scorciatoia concettuale.
Scalare un sistema che ottimizza correlazioni non lo trasforma magicamente in un sistema che valuta il mondo. Migliora la qualità della simulazione. Non cambia la natura del processo.
Pensare il contrario significa confondere sofisticazione con trasformazione. È un errore che permette a molti di posizionarsi come esperti senza mai affrontare il nodo teorico. Una forma elegante di supercazzola, che però ha conseguenze molto concrete su come questi sistemi vengono interpretati, adottati e regolati.
In questo senso, il vero problema non è che i modelli “sbagliano”. Sbaglia anche un umano. Il problema è che sbagliano in un modo radicalmente diverso, e che questa differenza viene continuamente rimossa da chi ha bisogno di vendere una narrativa semplice, rassicurante, commerciabile. La frase “anche gli umani allucinano” è una di quelle sciocchezze che suonano intelligenti solo finché non ci si ferma a pensarci. Gli umani possono essere ignoranti, confusi, manipolatori, prevenuti. Ma il loro rapporto con il sapere resta inscritto, almeno in linea di principio, in un orizzonte di esperienza, responsabilità, correzione, testimonianza, conflitto interpretativo. Un LLM no. Un LLM genera continuazioni linguistiche ad alta probabilità. Punto.
Per questo è così devastantemente stupida, anche se spesso venduta con il tono pomposo del grande esperto, l’idea che “l’AI vada regolamentata come se fosse un umano”. No. Non ha alcun senso. È una scorciatoia concettuale talmente rozza da risultare quasi imbarazzante. Gli umani sono soggetti morali e giuridici. Possono avere intenzioni, dolo, colpa, responsabilità, coscienza situata, capacità di giustificare le proprie azioni, di ritrattarle, di risponderne. I modelli no. Sono artefatti statistici inseriti in catene socio-tecniche governate da attori umani, economici e istituzionali. Regolarli come se fossero persone significa perdere di vista il punto esatto in cui il potere si esercita davvero.
È il tipico errore di chi antropomorfizza la macchina perché non riesce a pensare adeguatamente il sistema.
Ed è anche il motivo per cui molta cosiddetta algoretica è, nella migliore delle ipotesi, un esercizio sterile; nella peggiore, un diversivo intellettuale. Per anni ci hanno raccontato che il problema fosse “insegnare i valori alle macchine”, “rendere gli algoritmi equi”, “allinearli ai principi etici”, come se fossimo davanti a entità morali da educare o a scolari particolarmente veloci ma un po’ indisciplinati. È una fantasia infantile travestita da riflessione sofisticata.
L’algoretica, così come viene spesso praticata, non affronta la realtà dei sistemi. La aggira. Traduce problemi di opacità industriale, incentivi economici, concentrazione di potere, asimmetrie informative, dipendenza cognitiva e sostituzione della verifica con rassicurazioni normative. Trasforma l’analisi in catechismo. Invece di chiedersi come questi sistemi funzionano, su quali dati si addestrano, che tipo di errore producono, come alterano i processi decisionali, quali forme di dipendenza cognitiva incentivano, quali interessi economici incorporano, ci si rifugia in formule liturgiche: fairness, accountability, transparency. Parole giuste, certo. Ma spesso usate come talismani. Come se bastasse pronunciarle per aver capito qualcosa.
Il punto non è che l’etica e la regolazione non servano. Servono eccome. Il punto è che senza una teoria adeguata dell’oggetto, l’etica diventa cosmetica. E la regolazione, teatro.
Se non capiamo che questi sistemi operano sull’ottimizzazione della plausibilità linguistica, continueremo a valutarli con strumenti inadatti. Se non capiamo che possono simulare il giudizio senza condividere la struttura del giudicare, continueremo a delegare loro compiti che richiedono invece responsabilità epistemica. Se non capiamo che il loro successo dipende anche dalla nostra disponibilità a confondere fluidità e affidabilità, allora il problema non sarà più solo tecnologico. Diventerà culturale.
Ed è già ciò che sta accadendo.
La vera posta in gioco non è stabilire se l’AI sia “davvero intelligente”. La vera posta in gioco è evitare che una simulazione statistica sufficientemente persuasiva venga normalizzata come sostituto del rapporto umano con la verità, l’incertezza, la conoscenza e il giudizio.
Per questo il dibattito non è secondario. È dirimente.
Non perché dobbiamo difendere un’idea romantica di umanità contro le macchine. Ma perché dobbiamo difendere la distinzione tra produrre una risposta e sapere di cosa si sta parlando. Tra correlare pattern e valutare ragioni. Tra parlare bene e capire.
Se salta questa distinzione, salta tutto.
Sempre con amore e gentilezza.