Non leggendo Facebook, mi ero perso questo post di Ciro Ascione (potete leggerlo con più facilità qui) e ho scoperto solo in seguito che la Bustina di Minerva citata con tanto di foto era un falso creato da Ascione per far credere che Umberto Eco avesse previsto le attuali intelligenze artificiali già nel 2010. A posteriori ci sono state le analisi di Open per mezzo dell’IA (sì che vado a vedere che nell’immagine della pagina dell’Espresso c’era un artefatto, e non mi stupirebbe che una rivista abbia la domenica come data ufficiale di pubblicazione) e le interviste di Repubblica allo stesso Ascione e a un docente bolognese di semiotica.

Che avrei detto io se avessi visto quel testo prima di scoprire che era un falso? Non lo so. La parte sull’inesistente filosofo bizantino Teofrasto di Melitene è puro Eco e mi avrebbe fatto propendere per l’autenticità, anche se introduzione e conclusione sono di livello parecchio inferiore. La cosa che trovo però più divertente è che anch’io sarei caduto in un confirmation bias, ma di tipo opposto. Eco è sempre stato interessato da ciò che i computer potevano fare, ma in quel campo faceva errori da principiante, come il programma BASIC per generare gli anagrammi di IHVH: il programma, anche se non certo ottimizzato, genera le ventiquattro permutazioni ma non si accorge che essendoci due lettere uguali bisogna eliminane la metà. Ecco: quello che avrebbe potuto mettermi in guardia sono le frasi (grassetti miei) «Sospetto invece che la macchina veramente interessante non sarà quella che vorrà ucciderci, bensì quella che saprà continuare una frase.» e «avrebbe però incontrato tante volte parole come Tommaso, Aristotele, essere, essenza, Dio e Domenicani da poter produrre successioni di frasi estremamente plausibili.» Nel 2010 il meccanismo di attention era ancora di là da venire, e il buon Umberto – ma anche tutti noi – avremmo probabilmente scritto qualcosa tipo “quella che saprà assemblare un discorso“. La generazione insomma non tanto come processo markoviano quanto come generazione combinatoria. Anzi, probabilmente Eco avrebbe infilato nel suo discorso qualcosa tipo “Questa macchina avrebbe così in pratica il sogno che Ramon Llull aveva già intravisto quasi otto secoli orsono nella sua Ars generalis: le parole delle sue risposte sarebbero mirabilmente emesse, partendo dai principi primi che troverebbe nei milioni di opere a cui ebbe accesso, pur non avendo affatto contezza né dei principi né del suo risultato”. Ma confesso che almeno a una prima lettura non penso mi sarei accorto dell’incongruenza di quelle due frasi, come non mi sarei accorto che il testo tutto gioca sul “falso che sembra vero”: tema sicuramente echiano, ma che ovviamente non poteva essere opera di Eco stesso. (Il fatto che le macchine cominciano a macinarsi testo scritto da altre macchine invece è un’ovvia conseguenza dell’iperproduzione di risposte, quindi non avrei potuto trovare nulla di strano in quest

Morale di tutto questo? La scrive Ascione/Eco stesso in quel brano: «il problema non sarà stabilire se pensino davvero, bensì capire che cosa accadrà quando ci saremo abituati a trattare come pensiero tutto ciò che possiede la forma esteriore del pensiero». Cosa che appunto stiamo già facendo da mo’.