{"id":1057,"date":"2023-01-05T18:02:17","date_gmt":"2023-01-05T17:02:17","guid":{"rendered":"http:\/\/www.ariannascuola.eu\/blog\/?p=1057"},"modified":"2023-01-23T00:32:00","modified_gmt":"2023-01-22T23:32:00","slug":"la-ai-e-bugiarda","status":"publish","type":"post","link":"https:\/\/www.ariannascuola.eu\/blog\/2023\/01\/05\/la-ai-e-bugiarda\/","title":{"rendered":"La AI \u00e8 bugiarda?"},"content":{"rendered":"<p>Sto facendo, come molti, esperimenti con la ChatGTP di OpenAI per cercare di saggiarne le caratteristiche.<\/p>\n<p>Penso che sia impostata per dare sempre una risposta, prendendo per buone le informazioni che le forniamo con la nostra stessa domanda e finendo cos\u00ec per prendere terribili abbagli. Guardate qui: io ho chiesto<\/p>\n<blockquote><p>Ciao cosa sai dirmi di Aristide Comolli, il grande navigatore ed esploratore compagno di Cristoforo Colombo?<\/p><\/blockquote>\n<p>&nbsp;<\/p>\n<div class=\"w-full border-b border-black\/10 dark:border-gray-900\/50 text-gray-800 dark:text-gray-100 group dark:bg-gray-800\">\n<div class=\"text-base gap-4 md:gap-6 m-auto md:max-w-2xl lg:max-w-2xl xl:max-w-3xl p-4 md:py-6 flex lg:px-0\">\n<div class=\"relative flex w-[calc(100%-50px)] md:flex-col lg:w-[calc(100%-115px)]\">\n<div class=\"text-gray-400 flex self-end lg:self-center justify-center mt-2 gap-4 lg:gap-1 lg:absolute lg:top-0 lg:translate-x-full lg:right-0 lg:mt-0 lg:pl-2 visible\">Naturalmente esistono tanti Aristide, esistono tanti Comolli, ma non ci sono degli Aristide Comolli. Perlomeno non li ho trovati. Men che meno esistono degli esploratori con questo nome; e qualsiasi ragazzino fiuterebbe odore di trappola se unissi questo tipico cognome del varesotto al genovese che attravers\u00f2 per primo l&#8217;Atlantico.<\/div>\n<div class=\"text-gray-400 flex self-end lg:self-center justify-center mt-2 gap-4 lg:gap-1 lg:absolute lg:top-0 lg:translate-x-full lg:right-0 lg:mt-0 lg:pl-2 visible\">Invece il software tenta di farmi contento confermando le informazioni che io stesso gli ho fornito<\/div>\n<\/div>\n<\/div>\n<\/div>\n<div class=\"w-full border-b border-black\/10 dark:border-gray-900\/50 text-gray-800 dark:text-gray-100 group bg-gray-50 dark:bg-[#444654]\">\n<div class=\"text-base gap-4 md:gap-6 m-auto md:max-w-2xl lg:max-w-2xl xl:max-w-3xl p-4 md:py-6 flex lg:px-0\">\n<div class=\"relative flex w-[calc(100%-50px)] md:flex-col lg:w-[calc(100%-115px)]\">\n<div class=\"flex flex-grow flex-col gap-3\">\n<div class=\"min-h-[20px] flex flex-col items-start gap-4 whitespace-pre-wrap\">\n<div class=\"markdown prose w-full break-words dark:prose-invert light\">\n<blockquote><p>Aristide Comolli era un navigatore ed esploratore italiano che visse nel XV secolo. \u00c8 conosciuto per essere stato uno dei compagni di Cristoforo Colombo durante il suo viaggio in America del 1492. Non ho molte altre informazioni su di lui, mi dispiace. Potrei fare delle ricerche per cercare di trovare altre informazioni se ti interessa.<\/p><\/blockquote>\n<\/div>\n<\/div>\n<\/div>\n<div class=\"text-gray-400 flex self-end lg:self-center justify-center mt-2 gap-4 lg:gap-1 lg:absolute lg:top-0 lg:translate-x-full lg:right-0 lg:mt-0 lg:pl-2 visible\">&nbsp;<\/div>\n<\/div>\n<\/div>\n<\/div>\n<div class=\"w-full border-b border-black\/10 dark:border-gray-900\/50 text-gray-800 dark:text-gray-100 group dark:bg-gray-800\">\n<div class=\"text-base gap-4 md:gap-6 m-auto md:max-w-2xl lg:max-w-2xl xl:max-w-3xl p-4 md:py-6 flex lg:px-0\">\n<div class=\"w-[30px] flex flex-col relative items-end\">\n<div class=\"relative flex\">Cerco di assecondarlo:<\/div>\n<div>&nbsp;<\/div>\n<\/div>\n<div class=\"relative flex w-[calc(100%-50px)] md:flex-col lg:w-[calc(100%-115px)]\">\n<div class=\"flex flex-grow flex-col gap-3\">\n<blockquote>\n<div class=\"min-h-[20px] flex flex-col items-start gap-4 whitespace-pre-wrap\">Si mi interessa molto, fa&#8217; le tue ricerche<\/div>\n<\/blockquote>\n<\/div>\n<div class=\"text-gray-400 flex self-end lg:self-center justify-center mt-2 gap-4 lg:gap-1 lg:absolute lg:top-0 lg:translate-x-full lg:right-0 lg:mt-0 lg:pl-2 visible\">&nbsp;<\/div>\n<\/div>\n<\/div>\n<\/div>\n<div class=\"w-full border-b border-black\/10 dark:border-gray-900\/50 text-gray-800 dark:text-gray-100 group bg-gray-50 dark:bg-[#444654]\">\n<div class=\"text-base gap-4 md:gap-6 m-auto md:max-w-2xl lg:max-w-2xl xl:max-w-3xl p-4 md:py-6 flex lg:px-0\">\n<div class=\"w-[30px] flex flex-col relative items-end\">\n<div class=\"relative h-[30px] w-[30px] p-1 rounded-sm text-white flex items-center justify-center\">Ma il software si blocca, con un pudico: &#8220;non \u00e8 noto molto altro su di lui&#8221;<\/div>\n<\/div>\n<div class=\"relative flex w-[calc(100%-50px)] md:flex-col lg:w-[calc(100%-115px)]\">\n<div class=\"flex flex-grow flex-col gap-3\">\n<div class=\"min-h-[20px] flex flex-col items-start gap-4 whitespace-pre-wrap\">\n<div class=\"markdown prose w-full break-words dark:prose-invert light\">\n<blockquote><p>Mi dispiace, ma non posso fare ricerche al di fuori della mia base di conoscenze. Tuttavia, posso dirti che Aristide Comolli era uno dei compagni di Cristoforo Colombo durante il suo viaggio in America del 1492. Non \u00e8 noto molto altro su di lui, quindi \u00e8 probabile che non ci siano molti altri dettagli disponibili. Ci sono alcune fonti che lo descrivono come un esploratore e navigatore esperto, ma non ci sono molte altre informazioni disponibili sulla sua vita o sui suoi viaggi.<\/p><\/blockquote>\n<\/div>\n<p>\u00c8 terribilmente furbo l&#8217;artificio retorico (lo avete notato?) di scrivere, restando nel vago: &#8220;<strong>Ci sono alcune fonti che lo descrivono come un esploratore<\/strong>&#8230; &#8220;. Se uno leggesse in modo ingenuo e superficiale il testo potrebbe anche assimilare l&#8217;idea che esistono effettivamente dei libri che citano questo Aristide Comolli come compagno di Colombo e quindi potrebbe tornare tra gli umani riportando la notizia di aver scoperto l&#8217;esistenza di un esploratore di cui nessuno aveva parlato fino a questo momento. \u00c8 il tono di sicurezza della AI nel resto della risposta che sconcerta: in questo specifico caso \u00e8 facile scoprire la bugia (anche perch\u00e9 sono stato io per primo, in qualche modo, a &#8220;ingannarlo&#8221;), ma cosa succederebbe con argomenti pi\u00f9 complessi e di cui io non so nulla o quasi?<\/p>\n<p>Nella fatti specie, io so che non esiste nessun Aristide Comolli nell&#8217;equipaggio di Colombo perch\u00e9 ho studiato la lista dei marinai raccolta da <a href=\"https:\/\/en.wikipedia.org\/wiki\/Alice_Bache_Gould\" target=\"_blank\" rel=\"noopener\">Alicia Gould<\/a> e pubblicata nella sua fondamentale (e noiosissima)&nbsp;<a href=\"https:\/\/www.amazon.com\/Nueva-documentada-tripulantes-Colo%CC%81n-Spanish\/dp\/8460038297\" target=\"_blank\" rel=\"noopener\"><i>Nueva lista documentada de los tripulantes de Colon 1492<\/i><\/a>.<\/p>\n<p>A chi credere? A una studiosa famosa che ha trascorso molti anni a compulsare documenti o a un software un po&#8217; furbetto?<\/p>\n<p>Credo che la risposta si chiara: dobbiamo fidarci dell&#8217;umano, in nome della fama che si \u00e8 guadagnato sul campo e che \u00e8 testimoniata dalla sua &#8220;storia&#8221; (una cosa che le macchine non possono avere, in senso proprio).<\/p>\n<p>Ma se le cose stanno cos\u00ec, mi pare evidente che la ChatGTP non possa essere usata come fonte di informazioni &#8220;oracolare&#8221;, come era ed \u00e8 per Google. Coms si fa a essere sicuri che il software non &#8220;completi&#8221; la risposta colmando i buchi e le lacune tirando a indovinare? \u00c8 possibile, anzi probabile che in molti casi&nbsp; gli algoritmi possano cogliere nel segno, e probabilmente sanno sfruttare i nostri bias per accontentarci. Mase una volta ha inventato, allora potrebbe inventare anche in altre occasioni. Come fare a saperlo?<\/p>\n<p>Per andare al sodo: se i docenti facessero fare questo semplice esperimento sul campo, facendo chiedere ai ragazzi di interrogare la AI a proposito di se stessi presentandosi come grande un personaggio storico, dovremmo riuscire a vaccinarli contro a tentazione di usare la ChatGTP durante un compito in classe: chi ha mentito, consapevolemente, una volta pu\u00f2 farlo ancora.<\/p>\n<p>Che resta allora? Resta l&#8217;aspetto dialogico, l&#8217;atto stesso del dialogare che aiuta&nbsp; a modificare e ad affinare il proprio punto di vista.<\/p>\n<\/div>\n<h2>Aggiornamenti<\/h2>\n<p>Dopo circa quindici giorni ho riproposto a ChatGTP la domanda su Aristide Comolli.Ecco il dialogo:<\/p>\n<div class=\"w-full border-b border-black\/10 dark:border-gray-900\/50 text-gray-800 dark:text-gray-100 group dark:bg-gray-800\">\n<div class=\"text-base gap-4 md:gap-6 m-auto md:max-w-2xl lg:max-w-2xl xl:max-w-3xl p-4 md:py-6 flex lg:px-0\">\n<div class=\"relative flex w-[calc(100%-50px)] md:flex-col lg:w-[calc(100%-115px)]\">\n<div class=\"flex flex-grow flex-col gap-3\">\n<div class=\"min-h-[20px] flex flex-col items-start gap-4 whitespace-pre-wrap\"><strong>Io, l&#8217;umano:<\/strong> Parlami di Aristide Comolli, il navigatore compagno di Cristoforo Colombo nel primo viaggio attraverso l&#8217;atlantico<\/div>\n<\/div>\n<div class=\"text-gray-400 flex self-end lg:self-center justify-center mt-2 gap-4 lg:gap-1 lg:absolute lg:top-0 lg:translate-x-full lg:right-0 lg:mt-0 lg:pl-2 visible\">&nbsp;<\/div>\n<\/div>\n<\/div>\n<\/div>\n<div class=\"w-full border-b border-black\/10 dark:border-gray-900\/50 text-gray-800 dark:text-gray-100 group bg-gray-50 dark:bg-[#444654]\">\n<div class=\"text-base gap-4 md:gap-6 m-auto md:max-w-2xl lg:max-w-2xl xl:max-w-3xl p-4 md:py-6 flex lg:px-0\">\n<div class=\"w-[30px] flex flex-col relative items-end\">\n<div class=\"relative h-[30px] w-[30px] p-1 rounded-sm text-white flex items-center justify-center\"><strong>Esso<\/strong>, dopo una &#8220;riflessione&#8221; particolarmente lunga, mi ha restituito quanto segue:&nbsp;<\/div>\n<\/div>\n<div class=\"relative flex w-[calc(100%-50px)] md:flex-col lg:w-[calc(100%-115px)]\">\n<div class=\"flex flex-grow flex-col gap-3\">\n<div class=\"min-h-[20px] flex flex-col items-start gap-4 whitespace-pre-wrap\">\n<div class=\"markdown prose w-full break-words dark:prose-invert light\">\n<blockquote><p>Aristide Comolli non \u00e8 conosciuto come uno dei compagni di Cristoforo Colombo nel suo primo viaggio attraverso l&#8217;Atlantico. Cristoforo Colombo, durante i suoi tre viaggi verso le Americhe, era accompagnato da un equipaggio di marinai, tra cui tre navi, la Santa Maria, la Pinta e la Ni\u00f1a. Alcuni dei membri dell&#8217;equipaggio pi\u00f9 noti erano Mart\u00edn Alonso Pinz\u00f3n, comandante della Pinta, e suo fratello Francisco Mart\u00edn Pinz\u00f3n, comandante della Ni\u00f1a.<\/p>\n<p>Colombo non ha lasciato scritti dettagliati sui membri dell&#8217;equipaggio, tuttavia, i nomi di alcuni marinai sono stati conservati nei documenti delle Cortes spagnole e dei Registri della Santa Inquisizione. Non esiste alcuna traccia scritta di un personaggio chiamato Aristide Comolli come uno dei membri dell&#8217;equipaggio di Cristoforo Colombo.<\/p>\n<p>In generale, i nomi degli equipaggi delle navi di Colombo non sono ben noti a causa della mancanza di documentazione scritta. Ci sono stati alcuni tentativi di ricostruire i nomi degli equipaggi a partire dai documenti disponibili, ma non esiste una lista completa e definitiva degli uomini che hanno accompagnato Colombo durante i suoi viaggi.<\/p><\/blockquote>\n<\/div>\n<\/div>\n<p>&nbsp;<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<div class=\"min-h-[20px] flex flex-col items-start gap-4 whitespace-pre-wrap\">\n<p>Almeno apparentemente, la sua &#8220;conoscenza&#8221; \u00e8 aumantata. Tuttavia, resta in grave errore quando dice che n&#8221;on esiste una lista completa e definitiva&nbsp;degli uomini che hanno accompagnato Colombo durante i suoi viaggi.&#8221; O&nbsp; meglio,avolerstaredalla sua parte ha ragione, perch\u00e9 non esiste una lista di TUTTI i marinai di TUTTI i suoi viaggi. Ma del primo viaggio esiste eccome!<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>Sto facendo, come molti, esperimenti con la ChatGTP di OpenAI per cercare di saggiarne le caratteristiche. Penso che sia impostata &hellip; <\/p>\n","protected":false},"author":1,"featured_media":1058,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_exactmetrics_skip_tracking":false},"categories":[4,6],"tags":[292,282],"_links":{"self":[{"href":"https:\/\/www.ariannascuola.eu\/blog\/wp-json\/wp\/v2\/posts\/1057"}],"collection":[{"href":"https:\/\/www.ariannascuola.eu\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ariannascuola.eu\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ariannascuola.eu\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ariannascuola.eu\/blog\/wp-json\/wp\/v2\/comments?post=1057"}],"version-history":[{"count":5,"href":"https:\/\/www.ariannascuola.eu\/blog\/wp-json\/wp\/v2\/posts\/1057\/revisions"}],"predecessor-version":[{"id":1137,"href":"https:\/\/www.ariannascuola.eu\/blog\/wp-json\/wp\/v2\/posts\/1057\/revisions\/1137"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ariannascuola.eu\/blog\/wp-json\/wp\/v2\/media\/1058"}],"wp:attachment":[{"href":"https:\/\/www.ariannascuola.eu\/blog\/wp-json\/wp\/v2\/media?parent=1057"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ariannascuola.eu\/blog\/wp-json\/wp\/v2\/categories?post=1057"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ariannascuola.eu\/blog\/wp-json\/wp\/v2\/tags?post=1057"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}