ia 2026

Silvia mi chiede cosa ne penso di questa opinione. Occhei, mi chiede anche che cosa penso dell’affermazione di Vittorio Bertola secondo cui nessun matematico ha chiaro cosa possa essere da domani mattina il senso e il valore del lavoro di un matematico. A quest’ultima domanda non so rispondere, non essendo io un matematico di professione; o meglio, la sua mi pare una generalizzazione azzardata. Per la prima domanda posso provare ad azzardare qualche giudizio visto da fuori: prendetelo insomma con le pinze.

Benoit Henry, per come io leggo il suo post, è depresso perché dice che non c’è più gusto a fare matematica, visto che tanto l’IA ci risolve i problemi molto più in fretta di quanto posiamo fare noi, e non ha nemmeno senso a questo punto parlare di “titolarità” di un problema, anche se poi riconosce che magari questa non sarebbe una pessima idea perché la corsa ai risultati è diventata davvero tossica. Il suo modo di porsi mi pare rassegnato: “usate l’IA se volete usarla, non usatela se non volete usarla, tanto non cambia nulla”. Poi c’è l’altro lato della medaglia: la quantità di articoli firmati da un solo autore sta crescendo in maniera assurda, e Henry immagina che molti di essi siano ottenuti mediante l’IA, e nessuno si preoccupi di verificarli: non stiamo parlando delle congetture da titoloni dei giornali per cui si fa fare una dimostrazione formale a Lean. Questo andazzo è tristemente noto: è notizia di questi giorni che ArXiv ha messo un limite per il numero di articoli inviabili per persona per mese, nell’attesa di trovare un modo migliore per valutare il da farsi.

Ci sono però persone meno negative. Il giorno prima di Henry, Daniel Spielman è partito da un’analisi simile, anzi anche più preoccupata da certi punti di vista. Il primo problema che Spielman vede è che il proliferare di risultati dipende anche dagli agenti IA sguinzagliati a cercare congetture, “risolverle” (uso le virgolette perché come dicevo non è detto che la soluzione sia corretta) e mettere così in giro risultati falsi su cui si costruiranno altri risultati falsi. In pratica, dice, abbiamo la lotteria LLM: chi riesce a trovare il prompt giusto o più probabilmente chi ha la fortuna che la generazione stocastica della risposta è andata nella direzione giusta vince il premio della dimostrazione. Un altro problema è che se si usa troppo l’IA poi ci si disabitua a pensare come prima: è il classico problema del Fedro declinato in salsa LLM. Ma ci sono anche altre considerazioni, a partire dal fatto che noi abbiamo visto che le IA possono risolvere problemi che avevano bloccato la comunità matematica per decenni, ma non abbiamo un’idea di cosa non possono risolvere. Le idee di Spielman, non ancora cristallizzate, sono innanzitutto di cercare un sistema diverso di incentivazione che premi non tanto il risultato quanto il lavoro umano dietro quel risultato; fare in modo che si pubblichi solo ciò che si saprebbe spiegare in un seminario, eliminando pertanto le “dimostrazioni” tecnicamente verificate con Lean ma incomprensibili ai matematici; cambiare il modo in cui si assegnano i grant, perché non abbiamo più la certezza che le domande da studiare siano vere e non inquinate dall’IA.

E i miei due cent? Io ero già convinto quarant’anni fa che in molti campi non si facesse davvero matematica per comprendere meglio il mondo, ma per aggiungere inutili minuzie al corpo di conoscenze che avevamo. Adesso la barriera si è abbassata e quindi le cose sono peggiorate. Probabilmente insomma avremo bisogno di meno matematici ma più bravi, e più persone che sappiano abbastanza di matematica per le cose “pratiche”, che non sono i conti al ristorante ma i modelli del mondo reale. Credo però che la transizione sarà davvero brutale.

All’inizio del mese il mio amico ed ex collega Roberto Pieraccini ha scritto un lungo post in cui prova a rispondere a quattro domande che si è fatto sull’AGI, l’intelligenza artificiale generale. Cominciamo subito con le domande. (1) Ma abbiamo una definizione comune di che cosa consideriamo “intelligenza”, prima di parlare di intelligenza generale? (2) Ci sono anche solo due persone che intendono la stessa cosa per AGI? (3) A parte le definizioni, abbiamo davvero bisogno di un’AGI? Se sì, per cosa? (4) E come sarebbe un mondo con l’AGI?

Alla domanda (1) Pieraccini dà tre risposte da tre campi diversi (psicologia: una struttura a più livelli; etologia: qualcosa che dipende anche dal contesto; informatica: una definizione tecnica sul comportamento medio in ogni possibile situazione che non si può quindi calcolare in pratica). Seguendo Blaise Agüera y Arcas, cambia il punto di vista e parla di funzionalismo (non guardo come è fatta una cosa ma solo ai suoi risultati) e predizione (del futuro rispetto al passato, e dell’agenticità di agire secondo quanto predetto). In questo caso non è possibile però dare una soglia netta per l’intelligenza, il che rende la domanda un po’ inutile. Alla domanda (2) c’è l’ovvia risposta retorica “no, non ci sono”; ma c’è anche dell’altro. Chi produce i modelli di frontiera tende a dare una definizione utilitaristica: “AGI è un sistema migliore degli umani nella maggior parte dei lavori a valore aggiunto”, e Pieraccini chiosa “quindi uno spreadsheet è più intelligente di un bambino curioso”. Del resto, i filosofi dicono da decenni che quella definizione è confusa, basti pensare a Searle con la sua stanza cinese. Per la domanda (3) Pieraccini fa una controdomanda: “Abbiamo un sistema AI in grado di fare da badante a un anziano, nel senso di aiutarlo ad alzarsi, vestirsi e andare in bagno?” È di questo che abbiamo soprattutto bisogno. Il punto è che abbiamo avuto un equivalente della legge di Moore per la predizione di testi; ma non ce l’abbiamo per tanti altri temi. Ci manca insomma l’esponenzialismo, come ci manca la differenza tra performance (che c’è, non c’è dubbio) e competenza su un insieme molto più ampio di temi. E su queste cose l'”abbastanza bene” non è per nulla sufficiente. Infine la domanda (4), che tanto per cambiare non ha una risposta univoca. Pieraccini presenta l’opinione di Rodney Brooks, che afferma che una qualunque tecnologia dirompente ha comunque bisogno di decenni per essere pienamente integrata e quindi adesso non possiamo avere un’idea di cosa sarebbe un mondo con l’AGI, e quella di Agüera y Arcas che invece ritiene che avremo una simbiosi e quindi possiamo già vedere adesso qualcosa di simile a cosa avremo in futuro, almeno in campi specifici.

Cosa posso aggiungere io, che non ho certo competenze sufficienti per fare discorsi troppo complicati? Io credo che gli attuali modelli siano bravissimi a tirare fuori cose che non abbiamo notato, dai metodi matematici per risolvere nuovi problemi ai bachi di sicurezza del software che abbiamo scritto noi. Sono anche in grado di aiutarci a fare un po’ di cose. Potrei insomma accettare di definirli “intelligenti”, anche se non saprei dare nemmeno io una definizione di intelligenza. Però parlare di AGI mi pare davvero troppo in là rispetto a quello che può fare un LLM, per quanto migliorabile.

Dopo più di un mese dall’attacco degli agenti di OpenAI contro HuggingFace se ne parla ancora molto. Gary Marcus ha raccolto alcune analisi e aggiunto le cinque lezioni che secondo lui si possono trarre. La prima è un’ovvietà: le IA possono dare problemi di sicurezza. È un’ovvietà anche perché trovare bachi di sicurezza è probabilmente alla pari con la generazione di codice il segmento di mercato più interessante, e quindi gli LLM sono ottimizzati per farlo bene. La seconda lezione è che non bisogna però esagerare il rischio della perdita di controllo: se OpenAI avesse fatto le cose per bene, non sarebbe successo nulla. Le sandbox, cioè gli ambienti di test, usati da OpenAI non erano evidentemente le più sicure esistenti sul mercato. La terza lezione, di nuovo ovvia per chiunque si sia occupato di cybersicurezza, è che le sandbox da sole non bastano e occorre come minimo un sistema di monitoraggio esterno e indipendente: per esempio, l’attacco a HuggingFace è avvenuto due giorni dopo che gli agenti OpenAI erano riusciti a uscire dalla sandbox e girare per Internet. Un monitoraggio avrebbe dovuto notare il traffico in rete non previsto e dare l’allarme. Perché questa lezione è ovvia? Perché uno degli assunti di base della cybersicurezza è “mai fidarsi di un singolo sistema di prevenzione”. La perfezione non esiste, quindi è meglio avere cintura e bretelle insieme: se una si rompe resta ancora l’altra. Questa è la quarta lezione: ci sono anche altri sistemi di controllo, come far passare tutto il traffico attraverso un proxy che abilita solo l’uscita verso siti specifici, oppure lasciare dei “canarini”, cioè dei file con una risposta sbagliata al task chiesto agli agenti. Se i canarini non dovrebbero essere raggiunti ma l’IA generativa dà la risposta trovata lì vuol dire che c’è qualcosa che non va. La quinta e ultima lezione è che tutte queste cose sono note da molti anni, e il fatto che i ricercatori di OpenAI non abbiano pensato di implementarle è un vero problema. Probabilmente, aggiunte Marcus, bisogna ripensare le responsabilità legali di chi produce questi sistemi, per dar loro qualche incentivo pratico a mettere in campo le misure di sicurezza.

I miei due cent? Qui si sta giocando troppo all’apprendista stregone. Abbiamo solo un’idea generica di come funziona l’IA generativa, e quello che è peggio è che anche chi la sviluppa non ne sa molto di più. Perché dobbiamo lasciarla vagare libera pensando che tanto siamo in pieno controllo? Più che della singolarità io sono preoccupato di una catastrofe che arrivi “per sbaglio”…

Il mese scorso vi avevo raccontato di AI 2040, le idee (presentate e sponsorizzate da Scott Alexander, ma non direttamente sue) su cosa gli USA dovrebbero fare nella guerra tecnologica sull’IA con i cinesi. Oggi recupero un post di Gary Marcus, scritto quando uscì Kimi K3, che prova a elencare i possibili scenari, partendo naturalmente da un “ve l’avevo detto, io!” in linea con il suo stile. A parte il fatto che il Congresso dovrebbe investigare su come mai gli USA si sono visti riempire il fossato che pensavano di avere e che separava la loro tecnologia da quella cinese – oh, gli americani pensano sempre in questo modo – Marcus elenca sette possibili linee di azione.

(1) Non fare nulla, e lasciare che OpenAI e Anthropic se la cavino da sole. Anche se fallissero, Google, Amazon e Microsoft porterebbero comunque avanti il programma IA. Certo che i cinesi potrebbero ottenere più quote di mercato.

(2) Vietare i modelli open source. Suo commento: buona fortuna… non funzionerà mai

(3) Ricreare un fossato, stavolta di tipo regolatorio. Questo farebbe bene a OpenAI e Anthropic, e male a tutto il resto degli USA.

(4) Salvare OpenAI e Anthropic iniettando denaro per farli proseguire. Il suo commento: “semplicemente no”.

(5) Vietare le IA cinesi. Marcus è un convinto liberista, forse addirittura più che un convinto americano: scrive che c’è chi dice che il governo ci sta già pensando, e spera proprio che non succeda.

(6) Nazionalizzare OpenAI e Anthropic, pagando il 2% del loro valore ufficiale, il che sarebbe una cifra vicina al loro valore reale. Non gli dispiacerebbe, ma teme che il governo potrebbe fare brutte cose, tipo sorveglianza di massa.

(7) Sforzarsi di rendere l’IA un bene pubblico, e non il risultato di ricerca da parte di privati. Di nuovo, Marcus ha tirato fuori una sua proposta del 2016 (!) di un “CERN per l’IA”; è ovvio che a lui piacerebbe una cosa del genere, che assomiglia abbastanza al Piano A di AI 2040.

A differenza di Alexander, Marcus è molto più interessato alla parte economica dell’ecosistema IA, come vedete: il tutto sempre con una visione USAcentrica, ma di quello non ci dobbiamo stupire. Probabilmente non dobbiamo nemmeno stupirci che in tutto questo bailamme l’Europa non tenti nemmeno di inserirsi: magari l’AI Act blocca gli investimenti privati, ma anche la collaborazione da un punto di vista politico non è pervenuta.

In un vecchio suo post, Alejandro Piad Morffis elenca quelle che per Melanie Mitchell – non certo l’ultima arrivata nel campo delle scienze cognitive – sono le quattro fallacie dell’IA moderna. È vero che un anno nell’IA sembra una vita, ma in questo caso direi che le idee sono abbastanza generali da essere rimaste valide, anche se non necessariamente corrette.

La prima fallacia è pensare che il continuo progresso delle IA significa che ci stiamo gradualmente avvicinando all’AGI, l’intelligenza artificiale generale. L’errore di questa visione è che l’intelligenza non si può misurare con una metrica unidimensionale: ci sono tante diverse direzioni. Del resto abbiamo visto negli ultimi vent’anni quanti paradigmi diversi sono stati superati: probabilmente ce ne vorranno ancora tanti altri prima di arrivare all’AGI.

La seconda fallacia è il paradosso della difficoltà. Il paradosso di Moravec dice che sappiamo costruire un’IA con quoziente intellettivo altissimo ma non sappiamo ancora dargli le capacità sensorie e motorie di un bambino di un anno. Il significato pratico è che la definizione umana e quella artificiale di complessità sono molto diverse, e soprattutto che non sappiamo ancora quanti strati di complessità ci sono nei nostri “semplici” movimenti.

La terza fallacia è quella che chiamerei “acronimite”. Siamo troppo legati a un modello umano, e quindi cerchiamo di dare acronimi riconoscibili (Mitchell fa l’esempio di “General Language Understanding Evaluation”, GLUE) a benchmark pensati per gli umani. È vero che quando il benchmark è raggiunto e superato possiamo dire che in fin dei conti ciò che fa un LLM è indistinguibile all’atto pratico dal comprendere: è il famigerato duck test, quello che dice che se un animale sguazza nell’acqua e fa quack come un’anatra allora è un’anatra. Però resta il problema di partenza: ha senso valutare una IA con un metro umano? Questo vale sia in positivo che in negativo, naturalmente.

Infine c’è la fallacia “filosofica”: immaginare che si possa avere una “mente senza corpo”. Qua potremmo in effetti discuterne: questa è infatti la posizione di Mitchell, che possiamo tradurre come “un’IA non potrà mai sapere cosa significa camminare su una spiaggia dopo un temporale”. In un certo senso direi che è abbastanza simile alla precedente: noi continuiamo a pensare alle IA in modo “umano”, ma i risultati migliori si sono avuti quando sono stati ideati metodi generali che non hanno nulla a che fare con quello che è il nostro modo di fare. Anche senza considerare AlphaGo e simili, pensate al salto di qualità quando i traduttori hanno abbandonato l’approccio a regole e si sono affidati a considerazioni puramente statistiche.

Detto tutto questo, per onestà verso di voi devo segnalare che la mia formazione – se si può definirla così, non ho mai studiato davvero questi temi – arriva da Douglas Hofstadter, che ha anche avuto Melanie Mitchell come studentessa, anche se poi credo che le loro strade per quanto riguarda le scienze cognitive si siano divise. Notate che entrambi parlano di “scienze cognitive” e non di “intelligenza artificiale”, e questo vuol dire molto. Poi sono abbastanza pragmatico da pensare che in fin dei conti l’approccio puramente statistico funziona bene, ma resta il fatto che per farlo funzionare molto bene secondo me manca ancora parecchio. Non è detto che alla fine si arriverà a “inserire dell’umanità” nelle IA, magari ci vorrà qualcosa di completamente diverso che non abbiamo ancora ideato: ma la corsa ai bilioni/trilioni di parametri non potrà proseguire più di tanto.