All’inizio del mese il mio amico ed ex collega Roberto Pieraccini ha scritto un lungo post in cui prova a rispondere a quattro domande che si è fatto sull’AGI, l’intelligenza artificiale generale. Cominciamo subito con le domande. (1) Ma abbiamo una definizione comune di che cosa consideriamo “intelligenza”, prima di parlare di intelligenza generale? (2) Ci sono anche solo due persone che intendono la stessa cosa per AGI? (3) A parte le definizioni, abbiamo davvero bisogno di un’AGI? Se sì, per cosa? (4) E come sarebbe un mondo con l’AGI?

Alla domanda (1) Pieraccini dà tre risposte da tre campi diversi (psicologia: una struttura a più livelli; etologia: qualcosa che dipende anche dal contesto; informatica: una definizione tecnica sul comportamento medio in ogni possibile situazione che non si può quindi calcolare in pratica). Seguendo Blaise Agüera y Arcas, cambia il punto di vista e parla di funzionalismo (non guardo come è fatta una cosa ma solo ai suoi risultati) e predizione (del futuro rispetto al passato, e dell’agenticità di agire secondo quanto predetto). In questo caso non è possibile però dare una soglia netta per l’intelligenza, il che rende la domanda un po’ inutile. Alla domanda (2) c’è l’ovvia risposta retorica “no, non ci sono”; ma c’è anche dell’altro. Chi produce i modelli di frontiera tende a dare una definizione utilitaristica: “AGI è un sistema migliore degli umani nella maggior parte dei lavori a valore aggiunto”, e Pieraccini chiosa “quindi uno spreadsheet è più intelligente di un bambino curioso”. Del resto, i filosofi dicono da decenni che quella definizione è confusa, basti pensare a Searle con la sua stanza cinese. Per la domanda (3) Pieraccini fa una controdomanda: “Abbiamo un sistema AI in grado di fare da badante a un anziano, nel senso di aiutarlo ad alzarsi, vestirsi e andare in bagno?” È di questo che abbiamo soprattutto bisogno. Il punto è che abbiamo avuto un equivalente della legge di Moore per la predizione di testi; ma non ce l’abbiamo per tanti altri temi. Ci manca insomma l’esponenzialismo, come ci manca la differenza tra performance (che c’è, non c’è dubbio) e competenza su un insieme molto più ampio di temi. E su queste cose l'”abbastanza bene” non è per nulla sufficiente. Infine la domanda (4), che tanto per cambiare non ha una risposta univoca. Pieraccini presenta l’opinione di Rodney Brooks, che afferma che una qualunque tecnologia dirompente ha comunque bisogno di decenni per essere pienamente integrata e quindi adesso non possiamo avere un’idea di cosa sarebbe un mondo con l’AGI, e quella di Agüera y Arcas che invece ritiene che avremo una simbiosi e quindi possiamo già vedere adesso qualcosa di simile a cosa avremo in futuro, almeno in campi specifici.

Cosa posso aggiungere io, che non ho certo competenze sufficienti per fare discorsi troppo complicati? Io credo che gli attuali modelli siano bravissimi a tirare fuori cose che non abbiamo notato, dai metodi matematici per risolvere nuovi problemi ai bachi di sicurezza del software che abbiamo scritto noi. Sono anche in grado di aiutarci a fare un po’ di cose. Potrei insomma accettare di definirli “intelligenti”, anche se non saprei dare nemmeno io una definizione di intelligenza. Però parlare di AGI mi pare davvero troppo in là rispetto a quello che può fare un LLM, per quanto migliorabile.