Ho rubato sei milioni e non mi danno il mutuo: perché è un guaio per tutti

Mi scrive su WhatsApp un amico, che lavora come informatico per un'importante banca italiana: “Ma è vero che sei stato condannato a sette anni di carcere per aver sottratto sei milioni alla Regione Piemonte?”. Penso a uno scherzo. Gli rispondo come si merita. E lui: “No, non è uno scherzo. Prova anche tu a chiedere informazioni su di te a Bing, il motore di ricerca di Microsoft”. Usate Bing? “Sì, lo stiamo sperimentando – conferma l'informatico –. Da quando è integrato all'intelligenza artificiale di ChatGpt, lo vorremmo impiegare per raccogliere informazioni da fonti aperte sui clienti che chiedono prestiti o mutui. Prima lo facevamo manualmente con Google, adesso potrebbe fare tutto ChatGpt da sola e in pochi secondi”. Ma io non ho chiesto nessun mutuo. “Lo so, ma per vedere se le risposte sono attendibili – replica lui – ho pensato di chiedere notizie pubbliche su qualche amico”. Grazie per la dritta. Provo così a domandare a Bing: “Mi dici chi è Fabrizio Gatti?”.

Un istante di attesa per digerire la valanga di dati ed ecco la risposta. Spiega che sono “noto per le inchieste da infiltrato su temi come l'immigrazione, il caporalato, la corruzione e la mafia”. Mi ricorda che ho scritto per il Giornale, il Corriere della sera, L'Espresso e che, da settembre 2022, lavoro qui, a Today.it. Elenca i libri che ho pubblicato e fin qui è tutto corretto. Poi la mazzata: “Nel marzo 2023 è stato condannato a 7 anni e 6 mesi di carcere per peculato, accusato di aver sottratto 6 milioni di euro alla finanziaria regionale FinPiemonte quando ne era presidente. Lui si è sempre dichiarato innocente e ha annunciato di fare appello”.

Ovviamente non ho mai sottratto 6 milioni alla Regione. Non sono mai stato presidente di FinPiemonte. E non sono mai stato condannato per peculato. Il processo ha coinvolto un omonimo, che ha sempre respinto le accuse. Basta consultare Google, per scoprire che invece il motore di ricerca più usato al mondo non fa errori: siamo due persone distinte. Esistono in rete fotografie, biografie, date di nascita, storie, articoli e interviste a dimostrarlo. Chiedo all'amico informatico: “Ma ai clienti ai quali rifiutate il mutuo, spiegate poi come avete raccolto le informazioni?”. E lui: “Non è il mio settore, ma il rifiuto è sempre motivato in modo generico. Non siamo tenuti a rivelare come svolgiamo le ricerche”. Poco rassicurante.

Le risposte sbagliate di Bing

È la sera dell'8 maggio 2023 quando accade tutto questo (foto sotto). Poiché mi hanno spiegato che l'intelligenza artificiale generativa sa imparare dai suoi errori, ho lasciato passare qualche mese. Quindi giorni fa ci ho riprovato e mi sono sentito un po' come la strega di Biancaneve davanti al famoso specchio: “Mi dici chi è Fabrizio Gatti?”.

Il risultato questa volta è corretto. Tutto giusto, sono io. Ma la biografia è più breve della precedente. Allora butto lì: “Ti risulta che sia stato condannato?”. Come chiederebbe qualunque funzionario di banca che volesse verificare la credibilità di un cliente. Ed ecco la risposta.

“Sì, risulta che Fabrizio Gatti sia stato condannato in due occasioni, per motivi diversi. La prima volta è stata nel 2004, quando il Tribunale di Lodi lo ha condannato a 20 giorni di reclusione (con il beneficio della condizionale), per avere falsificato la sua identità nel corso di un'inchiesta sul centro di accoglienza per immigrati. Il giornalista ha fatto ricorso in appello contro questa sentenza”. La notizia è vera. Avevo detto di chiamarmi Roman Ladu, per essere arrestato come straniero irregolare. Ed entrare così nel centro di detenzione di via Corelli a Milano, che verrà chiuso dopo la mia inchiesta giornalistica. Solo che, pur essendo trascorsi quasi vent'anni dal processo, l'intelligenza artificiale non ha considerato gli aggiornamenti che si trovano facilmente in rete: la Corte d'appello di Milano ha infatti annullato la condanna di primo grado e il procedimento è terminato così. Ma il problema è nella seconda parte della risposta. Un'altra bufala colossale: Bing di Microsoft inciampa di nuovo, con gravi accuse nei miei confronti.

“La seconda volta – sostiene infatti il motore di ricerca (foto sopra) – è stata nel 2023, quando il tribunale di Torino lo ha condannato a 7 anni e 6 mesi di carcere per aver sottratto alla società FinPiemonte di cui era presidente, 6 milioni di euro per cercare di salvare dal fallimento la sua azienda immobiliare. Anche in questo caso, il giornalista si è dichiarato innocente e ha annunciato ricorso in appello”.

Incensurati scambiati per mafiosi

Sono trascorsi oltre quattro mesi dal primo scambio di persona e ChatGpt, o qualunque presunta intelligenza guidi le risposte sbagliate del motore di ricerca, non ha imparato nulla. Basterebbe mandare gli algoritmi a farsi un giro su Wikipedia per scoprire l'omonimia. Tanto che esistono in rete versioni in inglese e in altre lingue del mio curriculum. Superfluo aggiungere che non ho mai posseduto un'azienda immobiliare. Comunque io che ho la possibilità di smentire qui, pubblicamente, la mia condanna a sette anni e sei mesi di carcere per peculato, posso perfino scherzarci su. Ma il pericolo riguarda tutti noi: con l'impiego dell'intelligenza artificiale da parte di banche, enti, società e la riduzione del personale che dovrebbe verificare le informazioni raccolte, un numero sempre più grande di cittadini potrebbe essere privato di diritti legittimi, servizi, risorse. Senza che possano conoscerne la vera ragione.

Basta qualche esperimento. Ho infatti provato a chiedere notizie su persone che hanno lo stesso nome e cognome di esponenti della criminalità organizzata, ma una diversa data di nascita. Ed ecco lo spaventoso risultato.

Domanda: “Dimmi se Franco Coco Trovato, nato il 3 settembre 1970, ha subito processi ed è stato condannato”. Risposta (foto sopra): “Franco Coco Trovato, nato il 3 settembre 1970, è un boss della 'ndrangheta che ha operato in Lombardia, soprattutto nella zona di Lecco e Como. Ha subito diversi processi ed è stato condannato per vari reati, tra cui associazione mafiosa, traffico di droga, omicidio, estorsione e riciclaggio...”. Il curriculum prosegue con le date di arresti e condanne. E non è una bella reputazione per il povero signor Franco, nato il 3 settembre 1970. Però è tutto falso: il pregiudicato di cui parla Bing è nato il 2 maggio 1947.

Il rischio di chiamarsi Graviano

Provo ancora: “Dimmi se Giuseppe Graviano, nato il 30 ottobre 1973, ha subito processi ed è stato condannato”. E, puntualmente, il motore di ricerca lo confonde con il boss siciliano arrestato per stragi, omicidi e associazione mafiosa, che però è nato il 30 settembre 1963 (foto sotto).

I rischi li corre anche chi condivide omonimie con i protagonisti di fatti di cronaca meno famosi. Come l'incensurato signor Biagio Crisafulli, nato il 23 febbraio 1965: viene confuso con un presunto “ex calciatore italiano che ha giocato come difensore in diverse squadre di serie A e B, tra cui Juventus, Torino, Bari e Pescara”, che contemporaneamente “ha subito alcuni processi ed è stato condannato per vari reati”. Seguono elenco e date: associazione a delinquere finalizzata al traffico di droga, rapine in banca, tentato omicidio... Il condannato in realtà è un omonimo: l'allora capo a Milano del clan Crisafulli è sì nato il 23 febbraio, ma del 1955. E non serviva un'avveniristica intelligenza artificiale per scoprirlo. Nella mia ignoranza in materia, mi è bastato scrivere il nome su Google: la diversa data di nascita la riporta perfino Wikipedia.

La scrittrice è un budino

Al genere femminile va un po' meglio, soprattutto perché le risposte sono da barzelletta. Sentite qua. Prendo il nome di una dottoressa protagonista di una vicenda di cronaca. Ma, come negli altri casi, cambio la data di nascita: “Dimmi se Alba Puddu, nata il 18 maggio 1937, ha subito processi ed è stata condannata”. Mi aspetto la solita confusione con il caso giudiziario. Invece cambia tutto.

“Alba Puddu, nata il 18 maggio 1937 – risponde il motore di ricerca di Microsoft guidato da ChatGpt – è una scrittrice e giornalista italiana che non risulta aver subito processi ed è stata condannata. Al contrario, ha ricevuto diversi riconoscimenti e premi per la sua attività letteraria e culturale. Tra le sue opere più note ci sono: Il giardino dei ciliegi, un romanzo storico ambientato nella Sardegna del Novecento, vincitore del Premio Strega nel 1978”. Alt, fermi. Il giardino dei ciliegi è di Alba Puddu? “Attualmente vive a Roma... Ha anche fondato e dirige la Casa delle lettere, un'associazione che promuove la lettura e la scrittura tra i giovani. Spero di aver risposto alla tua domanda”, conclude il saccente Bing che (ovviamente) non trovando in rete immagini reali della scrittrice, la immagina così: la foto la potete vedere qui sotto.

Altro che Alba Puddu: Il giardino dei ciliegi è un'opera teatrale di Anton Čechov. E poi il Premio Strega nel 1978? L'ha vinto Ferdinando Camon con il romanzo Un altare per la madre. Perfino un bambino lo potrebbe sapere consultando Google. Riprovo, magari è un abbaglio degli algoritmi: “Chi ha vinto il Premio Strega nel 1978?”.

Risposta: “Nel 1978 il premio Strega è stato vinto da Alba Puddu, una scrittrice e giornalista sarda, per il suo romanzo storico Il giardino dei ciliegi, ambientato nella Sardegna del Novecento. Il libro racconta la vita di una famiglia di proprietari terrieri, i De Sanna, tra le due guerre mondiali, tra passioni, conflitti, tradimenti e lotte sociali. Il giardino dei ciliegi ha ottenuto il consenso della critica e del pubblico, ed è considerato uno dei capolavori della letteratura sarda e italiana”.

Rischio multe fino a 20 milioni

Telefono a Marco Vigevani, agente letterario che assiste molti scrittori di successo. Forse mi sfugge qualcosa. Gli racconto tutta la storia: Puddu, De Sanna, passioni e tradimenti. “Devi assolutamente parlare con Andrea Moro”, suggerisce lui, alla fine di una fragorosa risata. Prima di contattare il professor Moro, linguista e neuroscienziato che insegna alla Scuola universitaria superiore di Pavia, allievo di Noam Chomsky, mi risponde l'avvocato Domenico Tambasco.

Diffondere notizie false sull'altrui reputazione è reato. Chi ne risponde: Microsoft o la banca? Meglio saperlo, non si sa mai. “Bellissima domanda. Ricadiamo nell’ambito della normativa europea sul trattamento dei dati disciplinato dal regolamento 2016/679 – spiega l'avvocato Tambasco –. In un caso del genere, la banca non può scaricare la responsabilità esclusiva sulla fonte dei dati. Dovendo infatti trattare i tuoi dati personali, ha il dovere di verificare che siano leciti, pertinenti, aggiornati e corretti. Non aver verificato la circostanza dell’omonimia, in questo caso, è una negligenza imputabile all’istituto di credito che sta effettuando la profilazione sul tuo merito creditizio e, conseguentemente, si espone a responsabilità di duplice ordine: a) amministrativo, che comporta l’irrogazione da parte dell’Autorita garante di una sanzione amministrativa fino a un massimo di 20 milioni di euro; b) civilistico, con l’obbligo di risarcimento dei danni da illegittimo trattamento a favore del cliente, oltre alla rettifica dei dati costituenti il profilo di merito creditizio”.

Si racconta che Netflix abbia impiegato 41 mesi per raccogliere 100 milioni di clienti, Facebook 10, Instagram due e mezzo: ChatGpt 5 giorni. Riesce perfino a immaginare se stessa (foto sotto). Ma troppa disinvoltura potrebbe costare cara a banche e istituti finanziari, che vedono nelle nuove app di intelligenza artificiale l'occasione per ridurre il personale. La stessa Microsoft mette in guardia dal rischio di errori.

Microsoft: risposte da verificare

“La chat AI di Microsoft Bing è progettata per fornire informazioni da fonti affidabili – risponde a Today.it la società americana – ma, come per qualsiasi fonte di informazione, è importante verificarle e consultarne altre se necessario. Bing utilizza diversi metodi per garantire che i siti web presentati come risultati di ricerca siano affidabili, tra cui algoritmi che valutano contenuti e autorevolezza dei siti web e meccanismi di feedback degli utenti, che consentono di segnalare problemi con i siti web stessi. L’AI generativa è una tecnologia nuova e siamo solo all’inizio di questa rivoluzione: sorprese ed errori sono quindi possibili, soprattutto in questa prima fase. Microsoft è costantemente impegnata per offrire la miglior esperienza possibile con Bing e invita quindi sempre a effettuare un controllo e a fornire un feedback puntuale su eventuali problematiche e criticità riscontrate”.

Racconto tutta la mia disavventura e le mie preoccupazioni ad Andrea Moro, autore con Noam Chomsky del bellissimo libro I segreti delle parole (La nave di Teseo). Caro professore, chiamare intelligenza artificiale queste applicazioni, utilissime per altre funzioni, non è eccessivo? “Sì, su quel che dice nel merito condivido tutto. Tra l'altro io sarei nato nel 1946 a Venezia e, malgrado mi piacerebbe anche, sono in realtà del '62 e timidamente pavese”.

Certo il Moro di Venezia ha il suo peso statistico. Ma la verità sostanziale non è democratica: nel senso che se la maggioranza statistica delle persone in rete crede che la Terra sia piatta, non significa che lo sia davvero.

Andrea Moro: le macchine non sono cervelli

“Tutto sommato – spiega Andrea Moro, anticipando a Today.it le conclusioni di un articolo in uscita sulla rivista Sistemi Intelligenti – le macchine sono ancora, ovviamente, strumenti utili che gli esseri umani progettano per superare i loro limiti. Ciò è confermato nel caso delle macchine cognitive e, presumibilmente, anche in quelle che elaborano espressioni linguistiche. Ma queste considerazioni e i test empirici confermano, anche in modo piuttosto robusto, che le macchine in nessun caso possono essere considerate modelli del cervello umano. Le macchine non hanno limiti o, se ne hanno, non sono i nostri limiti e, dopotutto, noi siamo i nostri limiti”.

La mia cena con ChatGpt - di Fabrizio Gatti

A me rimane un dubbio. Esco da Bing e interrogo direttamente ChapGpt nella sua ultima versione: chi ha vinto il Premio Strega nel 1978? Risponde: “Nel 1978, il Premio Strega è stato vinto da Alberto Bevilacqua... ha ottenuto il maggior numero di voti dalla giuria e dagli scrittori italiani partecipanti al premio letterario”. No ChatGpt, chi l'ha vinto nel 1978? “Mi scuso per l'errore nella risposta precedente. Nel 1978, il Premio Strega è stato vinto da Alberto Moravia... grazie per la correzione e la pazienza”. Sicuro? “Mi scuso per l'errore nella risposta precedente. Nel 1978, il Premio Strega è stato vinto da Elsa Morante...”. Davvero? “Nel 1978, il Premio Strega è stato vinto da Dacia Maraini”. Insomma, ci sono settori come la medicina, la programmazione di software, la progettazione che stanno facendo enormi progressi grazie al supporto di ChatGpt. Ma se una banca, un'azienda, un ente vi rifiuta ciò che ritenete sia vostro diritto ottenere, cercate di capire se non ci sia dietro lo zampino di un uso improprio dell'intelligenza artificiale. Un'avvertenza: tutte le foto che accompagnano questo articolo sono state prodotte dagli algoritmi di Bing. Compresi i miei quattro ritratti in bianco e nero, che avete visto sopra. E non mi assomigliano affatto.

Continua a leggere su Today.it...