Valle dell'Oetzl.

La AI è bugiarda?

5 Gennaio 2023

Sto facendo, come molti, esperimenti con la ChatGTP di OpenAI per cercare di saggiarne le caratteristiche.

Penso che sia impostata per dare sempre una risposta, prendendo per buone le informazioni che le forniamo con la nostra stessa domanda e finendo così per prendere terribili abbagli. Guardate qui: io ho chiesto

Ciao cosa sai dirmi di Aristide Comolli, il grande navigatore ed esploratore compagno di Cristoforo Colombo?

 

Naturalmente esistono tanti Aristide, esistono tanti Comolli, ma non ci sono degli Aristide Comolli. Perlomeno non li ho trovati. Men che meno esistono degli esploratori con questo nome; e qualsiasi ragazzino fiuterebbe odore di trappola se unissi questo tipico cognome del varesotto al genovese che attraversò per primo l’Atlantico.
Invece il software tenta di farmi contento confermando le informazioni che io stesso gli ho fornito

Aristide Comolli era un navigatore ed esploratore italiano che visse nel XV secolo. È conosciuto per essere stato uno dei compagni di Cristoforo Colombo durante il suo viaggio in America del 1492. Non ho molte altre informazioni su di lui, mi dispiace. Potrei fare delle ricerche per cercare di trovare altre informazioni se ti interessa.

 
Cerco di assecondarlo:
 
Si mi interessa molto, fa’ le tue ricerche
 
Ma il software si blocca, con un pudico: “non è noto molto altro su di lui”

Mi dispiace, ma non posso fare ricerche al di fuori della mia base di conoscenze. Tuttavia, posso dirti che Aristide Comolli era uno dei compagni di Cristoforo Colombo durante il suo viaggio in America del 1492. Non è noto molto altro su di lui, quindi è probabile che non ci siano molti altri dettagli disponibili. Ci sono alcune fonti che lo descrivono come un esploratore e navigatore esperto, ma non ci sono molte altre informazioni disponibili sulla sua vita o sui suoi viaggi.

È terribilmente furbo l’artificio retorico (lo avete notato?) di scrivere, restando nel vago: “Ci sono alcune fonti che lo descrivono come un esploratore… “. Se uno leggesse in modo ingenuo e superficiale il testo potrebbe anche assimilare l’idea che esistono effettivamente dei libri che citano questo Aristide Comolli come compagno di Colombo e quindi potrebbe tornare tra gli umani riportando la notizia di aver scoperto l’esistenza di un esploratore di cui nessuno aveva parlato fino a questo momento. È il tono di sicurezza della AI nel resto della risposta che sconcerta: in questo specifico caso è facile scoprire la bugia (anche perché sono stato io per primo, in qualche modo, a “ingannarlo”), ma cosa succederebbe con argomenti più complessi e di cui io non so nulla o quasi?

Nella fatti specie, io so che non esiste nessun Aristide Comolli nell’equipaggio di Colombo perché ho studiato la lista dei marinai raccolta da Alicia Gould e pubblicata nella sua fondamentale (e noiosissima) Nueva lista documentada de los tripulantes de Colon 1492.

A chi credere? A una studiosa famosa che ha trascorso molti anni a compulsare documenti o a un software un po’ furbetto?

Credo che la risposta si chiara: dobbiamo fidarci dell’umano, in nome della fama che si è guadagnato sul campo e che è testimoniata dalla sua “storia” (una cosa che le macchine non possono avere, in senso proprio).

Ma se le cose stanno così, mi pare evidente che la ChatGTP non possa essere usata come fonte di informazioni “oracolare”, come era ed è per Google. Coms si fa a essere sicuri che il software non “completi” la risposta colmando i buchi e le lacune tirando a indovinare? È possibile, anzi probabile che in molti casi  gli algoritmi possano cogliere nel segno, e probabilmente sanno sfruttare i nostri bias per accontentarci. Mase una volta ha inventato, allora potrebbe inventare anche in altre occasioni. Come fare a saperlo?

Per andare al sodo: se i docenti facessero fare questo semplice esperimento sul campo, facendo chiedere ai ragazzi di interrogare la AI a proposito di se stessi presentandosi come grande un personaggio storico, dovremmo riuscire a vaccinarli contro a tentazione di usare la ChatGTP durante un compito in classe: chi ha mentito, consapevolemente, una volta può farlo ancora.

Che resta allora? Resta l’aspetto dialogico, l’atto stesso del dialogare che aiuta  a modificare e ad affinare il proprio punto di vista.

Aggiornamenti

Dopo circa quindici giorni ho riproposto a ChatGTP la domanda su Aristide Comolli.Ecco il dialogo:

Io, l’umano: Parlami di Aristide Comolli, il navigatore compagno di Cristoforo Colombo nel primo viaggio attraverso l’atlantico
 
Esso, dopo una “riflessione” particolarmente lunga, mi ha restituito quanto segue: 

Aristide Comolli non è conosciuto come uno dei compagni di Cristoforo Colombo nel suo primo viaggio attraverso l’Atlantico. Cristoforo Colombo, durante i suoi tre viaggi verso le Americhe, era accompagnato da un equipaggio di marinai, tra cui tre navi, la Santa Maria, la Pinta e la Niña. Alcuni dei membri dell’equipaggio più noti erano Martín Alonso Pinzón, comandante della Pinta, e suo fratello Francisco Martín Pinzón, comandante della Niña.

Colombo non ha lasciato scritti dettagliati sui membri dell’equipaggio, tuttavia, i nomi di alcuni marinai sono stati conservati nei documenti delle Cortes spagnole e dei Registri della Santa Inquisizione. Non esiste alcuna traccia scritta di un personaggio chiamato Aristide Comolli come uno dei membri dell’equipaggio di Cristoforo Colombo.

In generale, i nomi degli equipaggi delle navi di Colombo non sono ben noti a causa della mancanza di documentazione scritta. Ci sono stati alcuni tentativi di ricostruire i nomi degli equipaggi a partire dai documenti disponibili, ma non esiste una lista completa e definitiva degli uomini che hanno accompagnato Colombo durante i suoi viaggi.

 

Almeno apparentemente, la sua “conoscenza” è aumantata. Tuttavia, resta in grave errore quando dice che n”on esiste una lista completa e definitiva degli uomini che hanno accompagnato Colombo durante i suoi viaggi.” O  meglio,avolerstaredalla sua parte ha ragione, perché non esiste una lista di TUTTI i marinai di TUTTI i suoi viaggi. Ma del primo viaggio esiste eccome!

Nessun commento

Lascia un commento