IA e informatica

Silvia mi chiede cosa ne penso di questa opinione. Occhei, mi chiede anche che cosa penso dell’affermazione di Vittorio Bertola secondo cui nessun matematico ha chiaro cosa possa essere da domani mattina il senso e il valore del lavoro di un matematico. A quest’ultima domanda non so rispondere, non essendo io un matematico di professione; o meglio, la sua mi pare una generalizzazione azzardata. Per la prima domanda posso provare ad azzardare qualche giudizio visto da fuori: prendetelo insomma con le pinze.

Benoit Henry, per come io leggo il suo post, è depresso perché dice che non c’è più gusto a fare matematica, visto che tanto l’IA ci risolve i problemi molto più in fretta di quanto possiamo fare noi, e non ha nemmeno senso a questo punto parlare di “titolarità” di un problema, anche se poi riconosce che magari questa non sarebbe una pessima idea perché la corsa ai risultati è diventata davvero tossica. Il suo modo di porsi mi pare rassegnato: “usate l’IA se volete usarla, non usatela se non volete usarla, tanto non cambia nulla”. Poi c’è l’altro lato della medaglia: la quantità di articoli firmati da un solo autore sta crescendo in maniera assurda, e Henry immagina che molti di essi siano ottenuti mediante l’IA, e nessuno si preoccupi di verificarli: non stiamo parlando delle congetture da titoloni dei giornali per cui si fa fare una dimostrazione formale a Lean. Questo andazzo è tristemente noto: è notizia di questi giorni che ArXiv ha messo un limite per il numero di articoli inviabili per persona per mese, nell’attesa di trovare un modo migliore per valutare il da farsi.

Ci sono però persone meno negative. Il giorno prima di Henry, Daniel Spielman è partito da un’analisi simile, anzi anche più preoccupata da certi punti di vista. Il primo problema che Spielman vede è che il proliferare di risultati dipende anche dagli agenti IA sguinzagliati a cercare congetture, “risolverle” (uso le virgolette perché come dicevo non è detto che la soluzione sia corretta) e mettere così in giro risultati falsi su cui si costruiranno altri risultati falsi. In pratica, dice, abbiamo la lotteria LLM: chi riesce a trovare il prompt giusto o più probabilmente chi ha la fortuna che la generazione stocastica della risposta è andata nella direzione giusta vince il premio della dimostrazione. Un altro problema è che se si usa troppo l’IA poi ci si disabitua a pensare come prima: è il classico problema del Fedro declinato in salsa LLM. Ma ci sono anche altre considerazioni, a partire dal fatto che noi abbiamo visto che le IA possono risolvere problemi che avevano bloccato la comunità matematica per decenni, ma non abbiamo un’idea di cosa non possono risolvere. Le idee di Spielman, non ancora cristallizzate, sono innanzitutto di cercare un sistema diverso di incentivazione che premi non tanto il risultato quanto il lavoro umano dietro quel risultato; fare in modo che si pubblichi solo ciò che si saprebbe spiegare in un seminario, eliminando pertanto le “dimostrazioni” tecnicamente verificate con Lean ma incomprensibili ai matematici; cambiare il modo in cui si assegnano i grant, perché non abbiamo più la certezza che le domande da studiare siano vere e non inquinate dall’IA.

E i miei due cent? Io ero già convinto quarant’anni fa che in molti campi non si facesse davvero matematica per comprendere meglio il mondo, ma per aggiungere inutili minuzie al corpo di conoscenze che avevamo. Adesso la barriera si è abbassata e quindi le cose sono peggiorate. Probabilmente insomma avremo bisogno di meno matematici ma più bravi, e più persone che sappiano abbastanza di matematica per le cose “pratiche”, che non sono i conti al ristorante ma i modelli del mondo reale. Credo però che la transizione sarà davvero brutale.

Ultimo aggiornamento: 2026-10-10 23:01

All’inizio del mese il mio amico ed ex collega Roberto Pieraccini ha scritto un lungo post in cui prova a rispondere a quattro domande che si è fatto sull’AGI, l’intelligenza artificiale generale. Cominciamo subito con le domande. (1) Ma abbiamo una definizione comune di che cosa consideriamo “intelligenza”, prima di parlare di intelligenza generale? (2) Ci sono anche solo due persone che intendono la stessa cosa per AGI? (3) A parte le definizioni, abbiamo davvero bisogno di un’AGI? Se sì, per cosa? (4) E come sarebbe un mondo con l’AGI?

Alla domanda (1) Pieraccini dà tre risposte da tre campi diversi (psicologia: una struttura a più livelli; etologia: qualcosa che dipende anche dal contesto; informatica: una definizione tecnica sul comportamento medio in ogni possibile situazione che non si può quindi calcolare in pratica). Seguendo Blaise Agüera y Arcas, cambia il punto di vista e parla di funzionalismo (non guardo come è fatta una cosa ma solo ai suoi risultati) e predizione (del futuro rispetto al passato, e dell’agenticità di agire secondo quanto predetto). In questo caso non è possibile però dare una soglia netta per l’intelligenza, il che rende la domanda un po’ inutile. Alla domanda (2) c’è l’ovvia risposta retorica “no, non ci sono”; ma c’è anche dell’altro. Chi produce i modelli di frontiera tende a dare una definizione utilitaristica: “AGI è un sistema migliore degli umani nella maggior parte dei lavori a valore aggiunto”, e Pieraccini chiosa “quindi uno spreadsheet è più intelligente di un bambino curioso”. Del resto, i filosofi dicono da decenni che quella definizione è confusa, basti pensare a Searle con la sua stanza cinese. Per la domanda (3) Pieraccini fa una controdomanda: “Abbiamo un sistema AI in grado di fare da badante a un anziano, nel senso di aiutarlo ad alzarsi, vestirsi e andare in bagno?” È di questo che abbiamo soprattutto bisogno. Il punto è che abbiamo avuto un equivalente della legge di Moore per la predizione di testi; ma non ce l’abbiamo per tanti altri temi. Ci manca insomma l’esponenzialismo, come ci manca la differenza tra performance (che c’è, non c’è dubbio) e competenza su un insieme molto più ampio di temi. E su queste cose l'”abbastanza bene” non è per nulla sufficiente. Infine la domanda (4), che tanto per cambiare non ha una risposta univoca. Pieraccini presenta l’opinione di Rodney Brooks, che afferma che una qualunque tecnologia dirompente ha comunque bisogno di decenni per essere pienamente integrata e quindi adesso non possiamo avere un’idea di cosa sarebbe un mondo con l’AGI, e quella di Agüera y Arcas che invece ritiene che avremo una simbiosi e quindi possiamo già vedere adesso qualcosa di simile a cosa avremo in futuro, almeno in campi specifici.

Cosa posso aggiungere io, che non ho certo competenze sufficienti per fare discorsi troppo complicati? Io credo che gli attuali modelli siano bravissimi a tirare fuori cose che non abbiamo notato, dai metodi matematici per risolvere nuovi problemi ai bachi di sicurezza del software che abbiamo scritto noi. Sono anche in grado di aiutarci a fare un po’ di cose. Potrei insomma accettare di definirli “intelligenti”, anche se non saprei dare nemmeno io una definizione di intelligenza. Però parlare di AGI mi pare davvero troppo in là rispetto a quello che può fare un LLM, per quanto migliorabile.