sfrucugliate

Seguendo il metodo Mantellini, ho provato a chiedere a ChatGPT chi io sia, o meglio “Chi è Maurizio Codogno”. Ecco la trascrizione:

Io non sono certo un esperto di AI, né di tecniche di comunicazione: ma da questo breve (e inconcludente) scambio ho notato alcune cose. Alcune me le aspettavo, altre no.

(a) ChatGPT potrà anche parlare in italiano (o se preferite, usare un modulo di traduzione italiano-inglese prima del suo modulo di “traduzione” nella sua struttura dati interna) ma non usa sicuramente molte fonti in italiano.

(b) ChatGPT non usa Wikipedia, e questo può essere comprensibile: mi sarei aspettato che dato che stiamo parlando in italiano avesse fatto un salto su it.wikipedia.org e tirato fuori il mio omonimo ex-calciatore, e invece nulla. Ma non usa nemmeno Wikidata (che ha informazioni in formato più facilmente processabile da una macchina, e dove “Maurizio Codogno” ritorna ben due risultati (l’ex calciatore e il sottoscritto). Questo invece mi pare molto più strano: mi sarei aspettato una richiesta di disambiguazione.

(c) Dopo che gli ho dato un’informazione generica ma corretta, e soprattutto facilmente parsificabile – se è uno scrittore, andiamo a cercare su una libreria online se ci sono dei suoi libri – la risposta è stata se possibile ancora più generica. “Ci sono alcuni scrittori” non ha molto senso, se non quello di prendere tempo. Lo stesso con “Alcuni di loro sono autori di libri di narrativa, altri di poesia o di saggi critici”. Mancano solo i libri per ragazzi e poi si è completata la suddivisione tipica degli scrittori.

(d) ChatGPT non usa nemmeno amazon come fonte per cercare un autore: anche amazon.com vende libri scritti da me, quindi non è un problema di corpus anglocentrico.

(e) Alla mia nuova affermazione “scrive saggi divulgativi” la risposta è stata fantastica. Dei due titoli indicati, in effetti Bing riporta una pagina web dove “Bit Economy” e “Maurizio Codogno” sono presenti insieme, ma non esiste nessun libro (o se per questo nessuna frase) intitolato “L’innovazione spiegata a mia figlia”. Evidentemente ChatGPT ha creato un titolo di libro plausibile per uno scrittore di saggi divulgativi. (Denis Guedj ha scritto “La matematica spiegata alle mie figlie”, e io avevo recensito sul blog il libro, ma direi che non può avere usato quell’informazione, altrimenti il titolo sarebbe stato corretto).

(f) Oltre che dire che “effettivamente” c’è qualche scrittore di nome Maurizio Codogno che si occupa di divulgazione scientifica e tecnologica, anche se non ne ha davvero idea (non perché sia un’AI e quindi non possa avere idee, ma banalmente perché ha tirato fuori titoli casuali di libri), ChatGPT ha cercato di estorcermi più informazioni.

Per curiosità ho provato a vedere se scrivendo direttamente in inglese le cose migliorassero. Ahimè, no, anzi… Ecco la trascrizione:

L’inizio è lo stesso; la seconda domanda è più dubitativa che nella versione italiana. Non dice più che ci sono diversi scrittori di nome Maurizio Codogno, ma che potrebbe forse essercene qualcuno di emergente o che scrive con uno pseudonimo. Insomma, una risposta interlocutoria ma corretta. Peccato che quando gli dico che è un comunicatore scientifico, tiri fuori una biografia apparentemente plausibile ma in cui non c’è nulla di vero, a partire dal mio supposto background in fisica e dal mio dottorato in scienze della comunicazione. Per la cronaca, “Cosmic Anatomy” è il titolo di un libro di cent’anni fa e “Quantum Mechanics for Everyone” di un MOOC. Non credo esista nemmeno un’associazione dal titolo che è la traduzione italiana di Italian Association for Science Communication: anche SWIM ha il nome (inglese…) “Science Writers in Italy”.

Cosa esce fuori da questo esempio, pur non certo esaustivo? Innanzitutto, che nonostante i quasi sessant’anni da ELIZA il modo di interazione non è cambiato molto. No, questo è cattivo. ELIZA si limitava a riformulare le risposte dell’interlocutore, mentre ChatGPT le prende come punto di partenza per costruire frasi “nuove”, nel senso che aggiunge informazioni – false, ma pur sempre informazioni. Ma entrambi i sistemi sfruttano la sempiterna tecnica dei maghi veggenti cartomanti: fare in modo che sia l’interlocutore stesso a dargli le informazioni, che poi vengono frullate in modo che sembrino delle scoperte. ChatGPT ha in più la capacità di inventarsi cose quando non le conosce: in fin dei conti, se ci pensate, quando uno fa una domanda è tipicamente perché non conosce la risposta, e un testo plausibile può venire facilmente accettato (e qui si capisce perché Wikipedia non voglia articoli scritti da ChatGPT, anche se non ha problemi con tanti tipi di bot). Devo dire che questo suo approccio mi ricorda molto quello di mio figlio quando lo interrogo su qualcosa che non sa: si arrampica sugli specchi, cercando disperatamente un mio cenno di assenso quando riesce a trovare una risposta abbastanza corretta. (Io sono bastardo dentro: faccio finta di niente sia quando imbrocca la risposta che quando la sbaglia, e per questo mi odia).

C’è anche chi, come Cleo Nardo, nota che si può migliorare la probabilità di risposte corrette con il metodo flattery+dialogue: si dice a ChatGPT che ci sono due personaggi (il dialogo), di cui uno è bravo bello e buono (l’adulazione) e gli si chiede cosa risponderebbe questo personaggio a una domanda di un altro personaggio. In questo caso pare che il sistema dia un peso minore alle risposte sbagliate nella sua base dati, perché probabilmente hanno un peso minore quando si aggiungono tutti i dati apparentemente estranei dell’adulazione. Anche questo ha un parallelo con il comportamento umano, anche se per noi la cosa funziona alla rovescia: parlar bene di qualcuno può far dare una risposta errata.

Insomma, ChatGPT cerca di fare il furbo esattamente come un umano, e lo si può intortare più o meno allo stesso modo: come facciamo a non definirlo tale? :-)

Se provate a fare una ricerca su Twitter con la parola “lanciacazzi”, trovate una pletora di risultati di gente che percula Repubblica, che nella sua diretta web avrebbe (involontariamente?) sbagliato a scrivere la parola “lanciarazzi”. Ma davvero?

Un primo segnale che c’è qualcosa di strano è che – a parte la perdita di risoluzione, non è mica vero che i copincolla digitali sono sempre lossless.. – ci sono solo due diverse immagini del ritaglio: quella che ho postato e un’altra in cui è stata sottolineata l’altra occorrenza della parola “lanciacazzi” nella seconda riga del lancio ma che è evidentemente derivata dalla prima. Avere una sola fonte è piuttosto strano. Se andiamo a vedere web.archive.org, la prima versione salvata scrive correttamente “lanciarazzi”. È vero che era passata più di un’ora dal supposto lancio: l’orario indicato in archive.org è infatti quello GMT, quindi il testo è stato preso alle 19:36. Ma mi pare strano che nessuno abbia visto la cosa e si sia affrettato a salvare una copia della pagina, preferendo fare un’immagine che di per sé è più facilmente manipolabile. Guardate infine il kerning (lo spazio) tra la c e la a nella parola. È inesistente: se scorrete in basso la pagina salvata da archive.org potete vedere che al titoletto “17.21 Bild: da Germania ok a fornitura di armi anticarro a Kiev” lo spazio in “anticarro” c’è eccome. Questo non è poi così strano: la r è più stretta della c, e quindi se uno sostituisce la lettera deve stringere in qualche modo. In definitiva, sono pronto a scommettere dieci euro che quell’immagine è un falso, fatto nemmeno troppo bene: sarebbe bastato salvare il sorgente, cambiare al suo interno la lettera e fare lo screenshot del risultato.

Vi rendete però conto che se la gente crede così facilmente a un banale falso non c’è neppure bisogno dei deepfake? Altro che fini analisti di guerra :-(

P.S. mentre stavo scrivendo il post si sono scomodati persino a Repubblica con un tweet che nega sia successo. A dirla tutta, non credo che una smentita come quella servirà a qualcosa: chi voleva credere ai lanciacazzi continuerà a farlo.

Ultimo aggiornamento: 2022-02-28 11:58

Leggo un comunicato stampa dell’Associazione Italiana Editori che recita testualmente (è un comunicato, spero che il mio blog non verrà oscurato per violazione di copyright per questa mia violazione):

“In relazione all’oscuramento in Italia da parte delle Autorità del sito Gutenberg.org, l’Associazione Italiana Editori (AIE) esprime grande apprezzamento per l’operato dell’autorità giudiziaria e la Guardia di Finanza per l’azione di contrasto alla diffusione non autorizzata di opere coperte da diritto d’autore”. È questa la posizione di AIE sul caso Project Gutenberg, che risulta inaccessibile da alcune settimane per violazione delle norme sul diritto d’autore.
“Le norme europee sul diritto d’autore sono tali da offrire garanzie a tutte le parti in causa. La legge esiste e deve essere rispettata – ha sottolineato il presidente di AIE, Ricardo Franco Levi -. Questo vale anche nel caso di un sito noto e apprezzato come Gutenberg.org”.

Io vorrei avere le certezze di Levi sulle garanzie offerte a tutte le parti in causa. Purtroppo dubito della cosa, considerando che il giudice romano non ha mai avvisato Project Gutenberg del provvedimento da lui richiesto: questo lo so, perché ho parlato con il CEO della fondazione che gestisce Project Gutenberg. In effetti trovare a chi scrivere è stata un’operazione molto complessa e non certo alla portata di chiunque: devo averci messo almeno tre minuti, compiendo astruse operazioni come cercare chi ha registrato il dominio e guglare quel nome-e-cognome. Ma non è questo che vorrei chiedere a Levi, ma una cosa più vicina alle sue competenze.

Supponiamo che io – Maurizio Codogno – avessi voluto leggere Una donna di Sibilla Aleramo (che è morta nel 1960, e quindi secondo le norme italiane sul diritto d’autore non entrerà nel pubblico dominio fino al 2031) e fossi finito a scaricarlo dalle pagine di Project Gutenberg. In questo caso io avrei commesso un reato, secondo l’articolo 171 “semplice” della legge 633/41. (Non entra in gioco l’articolo 171 ter, perché la duplicazione dell’opera sarebbe per uso personale e non a fine di lucro). Questo vale in genere per tutte e diciannove le opere (su più di sessantamila) di autori italiani legalmente disponibili negli USA ma non in Italia; e non avrei avuto nulla da eccepire se il giudice avesse bloccato tutte e sole quelle diciannove opere. Sarebbe più corretto perseguire chi le ha scaricate anziché impedire la possibilità di compiere il reato, ma non divaghiamo.

Ho scelto Una donna perché mi pare sia l’unica delle diciannove opere incriminate ad avere edizioni in commercio (anche in ebook) e per cui quindi non posso avere la scusa di non poterla acquistare legalmente. Guardando sull’OPAC SBN, mi pare di capire che dopo l’edizione Treves del 1919 e quelle Mondadori dal 1931 al 1944 i diritti (cartacei) sono passati a Feltrinelli. Mi chiedo però come mai esista anche un’edizione cartacea di StreetLib e due in ebook di Aliberti e KKien Publ. Int.

Dottor Levi, come presidente dell’AIE potrebbe chiedere agli editori in questione di rendere pubblici i contratti in questione – naturalmente oscurando la parte su indirizzi, compensi e tirature previste per l’edizione cartacea, che sono informazioni sensibili e non sono certo importanti in questo contesto – in modo che sia chiaro a tutti come bisogna procedere legalmente per pubblicare un libro? Per quanto riguarda le edizioni in ebook sarei davvero curioso di scoprire chi sono gli eredi di Sibilla Aleramo che hanno concesso i “diritti di riproduzione su supporto elettronico, magnetico, ottico e digitale che ne consentano la lettura, riproduzione, trasmissione e comunque la fruizione attraverso i media conosciuti dalle parti”; la mia speranza è che il contratto non sia infatti stato dato in esclusiva, e che quindi possiamo chiedere agli eredi in questione se ci danno una licenza che ci permetta di pubblicare il testo su Wikisource. Nel malaugurato caso in cui non riesca a trovare tali contratti, sarebbe così gentile da segnalare la cosa alla magistratura, perché faccia gli adeguati controlli? Grazie mille.

PS: Immagino che Ricardo Franco Levi non sia un lettore del mio piccolo blog. Però magari tra i miei ventun lettori c’è qualcuno che lo conosce e può segnalarglielo. Sono una persona fondamentalmente ottimista!