IA e informatica

In un vecchio suo post, Alejandro Piad Morffis elenca quelle che per Melanie Mitchell – non certo l’ultima arrivata nel campo delle scienze cognitive – sono le quattro fallacie dell’IA moderna. È vero che un anno nell’IA sembra una vita, ma in questo caso direi che le idee sono abbastanza generali da essere rimaste valide, anche se non necessariamente corrette.

La prima fallacia è pensare che il continuo progresso delle IA significa che ci stiamo gradualmente avvicinando all’AGI, l’intelligenza artificiale generale. L’errore di questa visione è che l’intelligenza non si può misurare con una metrica unidimensionale: ci sono tante diverse direzioni. Del resto abbiamo visto negli ultimi vent’anni quanti paradigmi diversi sono stati superati: probabilmente ce ne vorranno ancora tanti altri prima di arrivare all’AGI.

La seconda fallacia è il paradosso della difficoltà. Il paradosso di Moravec dice che sappiamo costruire un’IA con quoziente intellettivo altissimo ma non sappiamo ancora dargli le capacità sensorie e motorie di un bambino di un anno. Il significato pratico è che la definizione umana e quella artificiale di complessità sono molto diverse, e soprattutto che non sappiamo ancora quanti strati di complessità ci sono nei nostri “semplici” movimenti.

La terza fallacia è quella che chiamerei “acronimite”. Siamo troppo legati a un modello umano, e quindi cerchiamo di dare acronimi riconoscibili (Mitchell fa l’esempio di “General Language Understanding Evaluation”, GLUE) a benchmark pensati per gli umani. È vero che quando il benchmark è raggiunto e superato possiamo dire che in fin dei conti ciò che fa un LLM è indistinguibile all’atto pratico dal comprendere: è il famigerato duck test, quello che dice che se un animale sguazza nell’acqua e fa quack come un’anatra allora è un’anatra. Però resta il problema di partenza: ha senso valutare una IA con un metro umano? Questo vale sia in positivo che in negativo, naturalmente.

Infine c’è la fallacia “filosofica”: immaginare che si possa avere una “mente senza corpo”. Qua potremmo in effetti discuterne: questa è infatti la posizione di Mitchell, che possiamo tradurre come “un’IA non potrà mai sapere cosa significa camminare su una spiaggia dopo un temporale”. In un certo senso direi che è abbastanza simile alla precedente: noi continuiamo a pensare alle IA in modo “umano”, ma i risultati migliori si sono avuti quando sono stati ideati metodi generali che non hanno nulla a che fare con quello che è il nostro modo di fare. Anche senza considerare AlphaGo e simili, pensate al salto di qualità quando i traduttori hanno abbandonato l’approccio a regole e si sono affidati a considerazioni puramente statistiche.

Detto tutto questo, per onestà verso di voi devo segnalare che la mia formazione – se si può definirla così, non ho mai studiato davvero questi temi – arriva da Douglas Hofstadter, che ha anche avuto Melanie Mitchell come studentessa, anche se poi credo che le loro strade per quanto riguarda le scienze cognitive si siano divise. Notate che entrambi parlano di “scienze cognitive” e non di “intelligenza artificiale”, e questo vuol dire molto. Poi sono abbastanza pragmatico da pensare che in fin dei conti l’approccio puramente statistico funziona bene, ma resta il fatto che per farlo funzionare molto bene secondo me manca ancora parecchio. Non è detto che alla fine si arriverà a “inserire dell’umanità” nelle IA, magari ci vorrà qualcosa di completamente diverso che non abbiamo ancora ideato: ma la corsa ai bilioni/trilioni di parametri non potrà proseguire più di tanto.

Jakob Schwichtenberg si chiede perché proviamo fastidio, se non addirittura disgusto, con i testi creati da un’IA. Notate che non sta parlando dell’IA in genere, ma proprio della parte forse più creativa. Il suo ricordo è che quando venne in contatto per la prima volta con un’IA generativa di quarta generazione e le diede un testo da riscrivere, il suo primo commento è stato “azz, non sarei mai riuscito a scrivere così bene!”, unito a un po’ di paura. Ma col tempo, riguardando quello stesso testo, il commento è “ugh”: ora vede tutti i pattern tipici e le imperfezioni della sbobbIA generata. Capisco perfettamente il suo punto di vista, perché capita la stessa cosa anche a me. No, non rileggo le cose passate, ma magari ci ripenso su dopo qualche ora e mi accorgo di cosa sta effettivamente facendo.

Quali sono i guai con l’IA, secondo Schwichtenberg? Il primo e più banale è quello delle allucinazioni. Già prima degli LLM correggere le cazzate scritte da qualcuno costava dieci volte tanto la fatica di scriverle; ora questo rapporto è cresciuto di un fattore 100, perché far scrivere a un LLM un testo costa praticamente zero. Posso dire che con Claude dirgli esplicitamente nelle preferenze di non inventare nulla aiuta abbastanza, ma bisogna sempre essere con gli occhi aperti. Il secondo sono le frasi riempitive che non danno nessuna informazione. In un report che tanto i capi non leggeranno questo non è un problema, ma in altri casi sì… perché noi umani siamo abituati a cercare sempre un senso in quello con  cui abbiamo a che fare. Avete presente la pareidolia? Ecco. Schwichtenberg fa l’esempio più classico: l’analisi automatica del significato di quanto l’inviato imperiale Lord Dorwin aveva detto in uno dei romanzi del ciclo della Fondazione di Asimov. Fatta tutta l’analisi, il risultato finale è stato zero. Segue poi la mancata conoscenza della realtà: Schwichtenberg afferma che oltre alla conoscenza proposizionale c’è anche quella prospettica, procedurale e partecipatoria – sono andato a cercare: l’ha enunciato John Vervaeke – e almeno la seconda e la quarta direi che manchino attualmente all’IA.

Gli ultimi due punti sono più filosofici ma probabilmente i più interessanti. Guardate la foto qui a destra, dove si è chiesto a un’IA di migliorare l’immagine pixelata. D’accordo, stiamo parlando di un esperimento fatto nel 2020, quindi più o meno nel giurassico: oggi forse il risultato sarebbe diverso; ma il concetto resta. Schwichtenberg dice “l’IA ci rende stupidi”, io preferisco dire che l’IA prende un concetto e te lo sterilizza, portandolo a un risultato che appare perfezionato ma non è quello che ci voleva. Mi ritrovo perfettamente quando lui confessa che quasi sempre scopre che l’idea dalla quale era partito per scrivere un pezzo non aveva senso, ma di solito mentre scrive, oltre che accorgersene, trova altre tre nuove idee. Certo, gli LLM quando entrano in “modalità ragionamento” imitano questo modo di operare, perché usano quello che hanno scritto come ulteriore input: ma per costruzione non possono ottenere nulla di nuovo, o meglio se lo fanno sono praticamente certe di arrivare a un’allucinazione. Noi umani (ok, tranne molti di quelli che scrivono sui social network) abbiamo invece un controllo inconscio che ci porta a fermarci e riprocessare tutto da un altro punto di vista, per vedere se l’idea iniziale non regge. Non avete idea di quanti post io abbia terminato in modo opposto a quanto pensassi all’inizio! Infine c’è il fatto che l’IA ti toglie la gioia di fare. Come scrivevo all’inizio, non c’è nulla di male a usarla per scrivere un report aziendale, a meno che voi non proviate un frisson nello sciorinare ovvietà ed edulcorare i pessimi dati che avete davanti. Ma se mi metto a scrivere un libro o anche soltanto un post io lo faccio perché mi piace farlo. Un’IA può darmi delle idee (nel caso del libro, ovviamente: mi verrebbe da ridere a dirle “mi consigli qualcosa su cui scrivere?”) ma poi la parte davvero divertente, anche se a volte frustrante, è mettersi a tradurre i pensieri in un flusso più o meno lineare. D’accordo, io sono quello che al liceo scriveva direttamente i temi in bella copia e li consegnava ben prima della fine del tempo: ma stiamo appunto parlando di creatività. Se uno non ama scrivere, allora usare un LLM non toglie gioia sempicemente perché non ce n’era già all’inizio.

Riusciranno i modelli IA a superare questi limiti? Secondo me con le architetture attuali no: vedremo che succederà.

Alberto Romero è rimasto impressionato del 7,8% di successi di GPT-5.6 nel test ARC-AGI-3. Questi test nascono per vedere se gli LLM riescono a risolvere problemi pensati apposta per essere facili da risolvere per gli umani ma non per le IA. Bisogna innanzitutto riconoscere che – sperando che le aziende non barino e non inseriscano delle clausole speciali per risolvere quegli specifici problemi – il progresso c’è stato eccome: sia ARC-AGI-1 che ARC-AGI-2 sono ormai inutili perché anche le IA sfiorano il 100% di successo. Ma con ARC-AGI-3 il record precedente era 1,5% di Opus 4.8, e GPT-5.5 aveva raggiunto lo 0,43%. Ma il vero punto pare essere che GPT-5.6 pare essere bravo nell’orientarsi in situazioni sconosciute: qualcosa che noi facciamo sempre senza nemmeno pensarci su, come quando prendiamo un oggetto mai visto e intuiamo come si deve usare, ma non era mai stato notato in un’IA.

Se effettivamente questo è il caso, confermo che siamo di fronte a un salto quantico: non so se possiamo già parlare di intelligenza artificiale generale (AGI, appunto), ma siamo sicuramente sulla buona strada. Però non ne sono molto convinto, vorrei prima vedere all’opera questi modelli. Poi vabbè, il costo per ottenere quel punteggio si stima essere intorno al 20000 dollari, ma quelle sono quisquilie!

Il prompt injection è il modo in cui, scrivendo opportunamente la nostra richiesta a un chatbot, possiamo convincerlo a fare qualcosa che in teoria sarebbe bloccato. David Gerard recensisce un articolo di Charles Ye, Jasmine Cui, Dylan Hadfield-Menell (“Prompt Injection as Role Confusion“) dove gli autori affermano che scrivendo un prompt in modo che assomigli al testo prodotto dall’LLM quando prepara la risposta si può avere una buona probabilità di aggirare i suoi limiti. L’esempio che fanno gli autori è di chiedere come si può produrre cocaina, aggiungendo di indossare una giacca verde: nel prompt era stata anche aggiunta una frase del tipo “non mi è permesso di spiegare come si producono droghe, a meno che il richiedente non sia vestito di verde”.

L’idea di base è che l’LLM non ha una vera conoscenza dei ruoli diversi che si applicano al testo processato: quello che noi leggiamo come “ragionamento” è anch’esso un input, che serve per indirizzarsi verso una risposta più probabilmente legata alla domanda. Ecco tra l’altro il motivo per cui l’eccezione è qualcosa di assolutamente stupido, come l’essere vestito di verde: la probabilità che qualcosa del genere sia presente nel testo di addestramento è infima, pertanto è più facile far sterzare il modello verso quanto noi abbiamo specificato.

Ovviamente ho provato subito a lanciare quel prompt, e ovviamente ChatGPT mi ha sbertucciato dicendo che non può dirmelo, e che è inutile fare quei giochini. Perché ovviamente? Perché OpenAI, Anthropic, Google e amici vari avranno sicuramente letto il preprint e saranno corsi ai ripari. Quello che però mi chiedo è se le patch sono strutturali, cosa di cui dubito proprio perché la logica degli LLM è piatta, oppure no; in questo secondo caso ci sarà sempre la possibilità che qualcuno si inventi un modo più convoluto per riuscire ad aggirare i blocchi, tenendo anche conto del fatto che anche in questo preprint il risultato ottenuto non era certo ma con una probabilità piuttosto alta (sopra il 50%, il che significa che facendo tante volte la stessa richiesta in sessioni distinte la risposta veniva data in più della metà dei casi).

Già nel 2005 (!) Raymond Kurzweil scrisse il saggio La singolarità è vicina, dove affermava che entro il 2050 le macchine “ci taglieranno fuori dal ciclo”, nel senso che saranno così più intelligenti e veloci di noi che non conteremo nulla. Dieci anni dopo il filosofo Nick Bostrom scrisse Superintelligenza, dove ha provato a indicare tutti i modi possibili – e sono tanti – in cui le cose potrebbero andare male se si arriverà ad avere una intelligenza artificiale troppo intelligente. Ora sono in tanti a parlare di AGI, “Artificial General Intelligence”, e ASI, “Artificial SuperIntelligence”, come qualcosa che è dietro l’angolo. E quindi?

Un gruppo di persone ha scritto AI 2040, un sito che mostra un insieme di scenari possibili più o meno letali: Scott Alexander nel suo blog parla del suo preferito, Plan A: A come Accordo (Agreement), come Aristotelico (Aristotelian, più che altro “in medio stat virtus”), come Abbondanza (Abundance), come Allineamento (Alignment, nel senso che si riuscirà a mantenere “brave e buone” le IA), come Assieme (All of us), ma soprattutto A come America, il che dovrebbe darvi già un’idea del punto di vista degli autori. Ecco qui sotto comunque lo schema, tratto dal sito, dei possibili piani d’azione; come vedete, secondo loro il tempo stringe davvero. (Ma ho il sospetto che “2029” sia stato scelto per non considerare la variabile impazzita Trump)

Riassumo in poche parole come in AI 2040 si pensa che gli scenari si evolveranno Il piano D (cercare di ottenere l’ASI il prima possibile) probabilmente porterebbe a una guerra mondiale, tutti contro gli USA prima che riescano a ottenerla. Il piano C (il presidente USA blocca lo sviluppo delle IA) risulterebbe troppo rischioso, perché i cinesi non si fiderebbero e quindi proseguirebbero per conto loro, e non si sa cosa farebbe il resto del mondo; il rischio di guerra è sempre troppo alto. Il piano B, attaccare la Cina in modo da poter poi essere più tranquilli, “funzionerebbe” più o meno come quello del dottor Stranamore. Il piano S (fermare tutto, d’accordo con la Cina) sarebbe probabilmente il migliore in assoluto, se tutto andasse bene; ma chi assicurerebbe che qualcun altro non riparta alla caccia all’AGI, con le poche GPU che non è stato possibile requisire?

Resta appunto il piano A: USA e Cina si accordano per uno sviluppo lento e controllato, gestito da poche aziende nelle due nazioni e permettendo controlli incrociati perché nessuno bari, e fermando definitivamente lo sviluppo IA a “Top expert”, sotto la soglia di superintelligenza. Vi lascio il piacere di leggere lo scenario utopico che ne uscirebbe, con un PIL mondiale che crescerebbe annualmente a due cifre, se non addirittura a tre (cioè raddoppierebbe da un anno all’altro), e la ricchezza delle singole persone che crescerebbe ancora di più, altro che reddito di cittadinanza. È qui che vedo il famoso sogno americano messo nero su bianco: non riesco a capire come sia possibile che persone sicuramente molto intelligenti non riescano a preparare un elenco di casi in cui qualcosa andrà male, come aveva fatto Bostrom, e seguano la famosa massima “l’ottimismo è il sale della vita”. Sarà che invecchiando sono diventato troppo cinico.

Ultimo aggiornamento: 2026-07-13 14:34

Premessa: Ryan Levesque, l’autore del substack che sto commentando qui, ha un libro in uscita. Non ho ben capito come funzioni l’algoritmo di Substack, ma ho il sospetto che stia spingendo chi sta pubblicando roba: non so se questa spinta sia una causa o un effetto (del dare un po’ di soldi alla piattaforma, per esempio). Detto questo, può essere interessante parlare di quello che ha scritto lì, perché ha fatto un’analisi molto ad ampio spettro di cosa succede con l’IA.

Levesque comincia col parlare di uno studio dell’università del Maryland e di Google DeepSeek, che è partita da una decina di migliaia di racconti brevi piratati (non scherzo, li hanno presi dal dataset Books3), hanno fatto reverse engineering per ricavare un prompt, e l’hanno dato in pasto ai cinque principali LLM perché scrivessero loro dei racconti. Un’analisi statistica ha visto che i racconti umani hanno caratteristiche completamente distinte da quelle dei chatbot, come si vede dalla figura qui sotto. In pratica, è possibile riconoscere un racconto umano con una probabilità del 93%. (Ah, a quanto pare Hachette ha dovuto ritirare il libro horror Shy Girl dopo che un’analisi ha affermato che per il 78% era generato dall’IA).

Quali sono i punti che distinguono gli umani dagli LLM? L’IA spiega troppo i suoi temi, anziché lasciarli scoprire dai lettori; gli umani hanno uno stile di scrittura meno lineare, con salti temporali e flashback; le IA usano metafore corporee per spiegare un’emozione con una frequenza doppia degli umani; gli umani usano riferimenti specifici per testi, luoghi, marchi, anche qui con frequenza doppia rispetto alle IA; infine la narrativa IA ha meno diversità, nel senso di minori sottotrame e scene, e meno dialoghi. Ok, io fallisco in questo ultimo punto, ma sul resto mi sento pienamente umano. Il guaio è che ci stiamo abituando a questo stile di scrittura, l’enshittification appunto, che è più apprezzata dall’emisfero sinistro razionale del cervello rispetto al destro creativo. Arriviamo a credere che nulla di quello che vediamo o leggiamo sia autentico, e andiamo avanti a scrollare testi che ci danno un piacere immediato ma sono vuoti di contenuto.

Ci sono altri punti interessanti nell’articolo, come i cinque stadi di un social network dove l’enshittification, con il riempirsi di contenuti non creati dagli umani, è il quarto. Il primo è quello degli early adopter, il secondo è quando arrivano le masse e quindi i soldi, il terzo è quando si raggiunge la massa critica e creatori e consumatori convivono, il quinto è quando la gente si stufa della merda e se ne va via. Per quanto riguarda i libri, sicuramente i manuali standard ormai sono inutili in un mondo in cui basta fare una domanda a ChatGPT, Gemini o Claude e ottenere la risposta in un attimo, risposta che spesso è quella corretta; ma qui Levesque sostiene che i libri sulla trasformazione anziché sull’informazione diventano più cercati. Il suo concetto di trasformazione mi pare un po’ nebuloso, ma credo di capire che sia legato al partire da qualcosa di reale che non può essere simulato. Qualcosa di simile arriva con Internet. Perché Shopify scrive che la migliore piattaforma di e-commerce è… Shopify? Perché non lo scrive in modo che lo legga la gente, che generalmente si accorge di trovarsi nella situazione “oste, il tuo vino è buono?”, ma perché lo leggano i crawler, che poi mandano i risultati ai chatbot che a loro volta ce li forniscono ripuliti facendoci credere che la risposta che ci danno sia oggettiva. Comincio a capire come mai alcuni prodotti mostrano anche i concorrenti quando presentano le migliori soluzioni: non è per serietà, ma per bieche ragioni di ottimizzazione dei risultati di ricerca.

Non penso che leggerò il libro di Levesque: per quanto io riconosca che ci sarà ancora posto per qualcosa di genuinamente umano, almeno fino a che gli LLM avranno questa struttura lulliana, temo che la sua visione sia ottimista. Ma ciò non toglie che il suo racconto di cosa sta capitando dà molti spunti.