All’inizio del mese il mio amico ed ex collega Roberto Pieraccini ha scritto un lungo post in cui prova a rispondere a quattro domande che si è fatto sull’AGI, l’intelligenza artificiale generale. Cominciamo subito con le domande. (1) Ma abbiamo una definizione comune di che cosa consideriamo “intelligenza”, prima di parlare di intelligenza generale? (2) Ci sono anche solo due persone che intendono la stessa cosa per AGI? (3) A parte le definizioni, abbiamo davvero bisogno di un’AGI? Se sì, per cosa? (4) E come sarebbe un mondo con l’AGI?
Alla domanda (1) Pieraccini dà tre risposte da tre campi diversi (psicologia: una struttura a più livelli; etologia: qualcosa che dipende anche dal contesto; informatica: una definizione tecnica sul comportamento medio in ogni possibile situazione che non si può quindi calcolare in pratica). Seguendo Blaise Agüera y Arcas, cambia il punto di vista e parla di funzionalismo (non guardo come è fatta una cosa ma solo ai suoi risultati) e predizione (del futuro rispetto al passato, e dell’agenticità di agire secondo quanto predetto). In questo caso non è possibile però dare una soglia netta per l’intelligenza, il che rende la domanda un po’ inutile. Alla domanda (2) c’è l’ovvia risposta retorica “no, non ci sono”; ma c’è anche dell’altro. Chi produce i modelli di frontiera tende a dare una definizione utilitaristica: “AGI è un sistema migliore degli umani nella maggior parte dei lavori a valore aggiunto”, e Pieraccini chiosa “quindi uno spreadsheet è più intelligente di un bambino curioso”. Del resto, i filosofi dicono da decenni che quella definizione è confusa, basti pensare a Searle con la sua stanza cinese. Per la domanda (3) Pieraccini fa una controdomanda: “Abbiamo un sistema AI in grado di fare da badante a un anziano, nel senso di aiutarlo ad alzarsi, vestirsi e andare in bagno?” È di questo che abbiamo soprattutto bisogno. Il punto è che abbiamo avuto un equivalente della legge di Moore per la predizione di testi; ma non ce l’abbiamo per tanti altri temi. Ci manca insomma l’esponenzialismo, come ci manca la differenza tra performance (che c’è, non c’è dubbio) e competenza su un insieme molto più ampio di temi. E su queste cose l'”abbastanza bene” non è per nulla sufficiente. Infine la domanda (4), che tanto per cambiare non ha una risposta univoca. Pieraccini presenta l’opinione di Rodney Brooks, che afferma che una qualunque tecnologia dirompente ha comunque bisogno di decenni per essere pienamente integrata e quindi adesso non possiamo avere un’idea di cosa sarebbe un mondo con l’AGI, e quella di Agüera y Arcas che invece ritiene che avremo una simbiosi e quindi possiamo già vedere adesso qualcosa di simile a cosa avremo in futuro, almeno in campi specifici.
Cosa posso aggiungere io, che non ho certo competenze sufficienti per fare discorsi troppo complicati? Io credo che gli attuali modelli siano bravissimi a tirare fuori cose che non abbiamo notato, dai metodi matematici per risolvere nuovi problemi ai bachi di sicurezza del software che abbiamo scritto noi. Sono anche in grado di aiutarci a fare un po’ di cose. Potrei insomma accettare di definirli “intelligenti”, anche se non saprei dare nemmeno io una definizione di intelligenza. Però parlare di AGI mi pare davvero troppo in là rispetto a quello che può fare un LLM, per quanto migliorabile.
Ultimo aggiornamento:: 2026-09-27
Umm, il punto di vista su questi temi dipende molto da quello che fai, vedi e vivi tutti i giorni. E’ facile fare esempi sballati solo perchè non sei un costruttore ma un compratore. Però tempo fa pensavo che queste discussioni fossero quanto di più inutile ci potesse essere, per varie ragioni.
Ora però ho letto i proclami di una confessione religiosa sul fine vita, i documenti sulla preparazione bellica nelle scuole EU e altre informazioni su aspetti socio-sanitari diffusi e ho cambiato idea.
Niente di meglio che chiedersi se l’AI mi pensa e quanto mi pensa.
Mi aggancio all’ultima frase per accennare a una discussione di ieri su X che ha coinvolto Melanie Mitchell e in cui si parlava ancora di pappagalli stocastici. La discussione a un certo punto è diventata grottesca perché Mitchell è stata presa in giro, secondo me a ragione, perché ha usato la locuzione “straw-person argument” invece di “straw-man argument”, in quanto l’uso del maschile “man” per un concetto generico astratto sarebbe un bias maschilista. Comunque lo straw-man argument era riferito al fatto che l’articolo del 2021 che definiva gli LLM dei pappagalli stocastici non sarebbe secondo Mitchell più attuale perché i sistemi di oggi non sono più solo LLM, ma software più complessi (complex software systems with vast post training and many external software components). Quindi anche Mitchell, che è sempre stata molto critica come tutto il gruppo del Santa Fe Institute sulla effettiva capacità di comprendere e ragionare di questi strumenti, inizia a concedere qualcosa ammettendo che quella critica si rivolgeva a strumenti non più attuali. Il riferimento a quelli attuali era soprattutto ai sistemi capaci di risolvere problemi matematici che gli umani non erano stati in grado di risolvere. Importante notare che questi sistemi AI di solito non sono gli stessi utilizzabili dai comuni utenti. Il comune utente può comunque ottenere grandi risultati sfruttando LLM, ma in un modo “alla Dottor House”, cioè usando gli LLM allo stesso modo in cui nella serie TV il dottor House usava i suoi assistenti e cioè come generatori quasi casuali di idee, che poi lui vagliava e indirizzava verso una nuova iterazione, e schiavi operativi. In questo processo però l’elemento intelligente rimane soprattutto il dottor House e cioè l’utente umano nella analogia. I sistemi AI che invece iniziano ad essere preclusi ai normali utenti, sia per questioni di sicurezza sia perché richiedono capacità computazionali enormi, possono funzionare in modo molto più autonomo e non sono più da considerare dei semplici LLM, ma ecosistemi di LLM (migliaia), con anche altri strumenti integrati (esecutori di codice, ricerca esterna, memoria persistente attraverso la scrittura di file, orchestratori degli agenti, etc.). Sono sistemi come questi che potrebbero essere più avviati verso il raggiungimento di AGI di quanto non possa fare un singolo LLM. Il problema è che si tratta di strumenti molto inefficienti e costosi in termini di hardware ed energia, quindi è come se cercassero di arrivare alla AGI con molta forza bruta. Uno dei limiti maggiori di questi sistemi rimangono le scarse capacità deduttive, quindi è come se mancassero delle componenti chiave, che magari sarebbero anche funzionali a un loro snellimento.
Non sono così certo che i modelli interni siano logicamente diversi da quelli pubblici, a parte naturalmente la potenza di calcolo. Sul resto fondamentalmente concordo: non parlerei più di pappagalli stocastici, ma siamo ancora a Lullo e ai suoi metodi combinatori. Probabilmente già oggi i migliori LLM trovano più risultati di noi, ma non la definirei AGI.
I modelli interni sono diversi nell’architettura, per intenderci assomigliano più a strumenti come Antigravity o Cursor, ma con potenzialità molto più vaste. Avere a disposizione maggiori capacità computazionali apre a funzionalità maggiori, che come dicevo sono scrivere codice, verificare ipotesi attraverso esprimenti, fare ricerche sul web, scrivere file per fissare idee chiave, avere centinaia o migliaia di agenti che operano in parallelo in competizione e concertazione, con orchestratori che governano il tutto e permettono il funzionamento del sistema in autonomia per diverse ore, come è successo per il caso dell’equazione di Navier-Stokes. Gli strumenti commerciali, sia le interfacce web sia quelli a cui si accede con API non possono avere questo livello di complessità dovendo dare una risposta nel giro di pochi minuti, al massimo ci sono un pugno di agenti che operano in parallelo per pochi secondi e fanno qualche ricerca web, ma poi devono arrivare a una sintesi in tempi stretti. Nel riferimento a Lullo c’è una semplificazione eccessiva. Se si vuole assumere che l’articolazione di un pensiero possa essere formalizzata come una ottimizzazione combinatoria (multiobiettivo) degli elementi del linguaggio, gli LLM invertono il paradigma della ricerca passando da una dominata dalla esplorazione, quella di Lullo, a una dominata dall’exploitation attuata attraverso l’apprendimento di pattern ottenuta con l’applicazione di tecniche machine learning su big data. Essendo lo “spazio dei pensieri decenti” estremamente sparso è il secondo approccio ad essere più utile, con lo svantaggio ben noto dei primi LLM di fornire risposte prevalentemente derivative. Ora però il punto è che non si tratta più solo di LLM, ma di sistemi più complessi, che possono modulare la componente esplorativa usando sciami di LLM differenziati in una dialettica interna costruttiva. Siamo comunque d’accordo che non ci troviamo di fronte a una AGI neppure negli strumenti di frontiera, anche se siamo forse vicini al punto in cui questi strumenti potranno contribuire in modo attivo alla ricerca in questo campo.