Nome dell'autore: .mau.

In un vecchio suo post, Alejandro Piad Morffis elenca quelle che per Melanie Mitchell – non certo l’ultima arrivata nel campo delle scienze cognitive – sono le quattro fallacie dell’IA moderna. È vero che un anno nell’IA sembra una vita, ma in questo caso direi che le idee sono abbastanza generali da essere rimaste valide, anche se non necessariamente corrette.

La prima fallacia è pensare che il continuo progresso delle IA significa che ci stiamo gradualmente avvicinando all’AGI, l’intelligenza artificiale generale. L’errore di questa visione è che l’intelligenza non si può misurare con una metrica unidimensionale: ci sono tante diverse direzioni. Del resto abbiamo visto negli ultimi vent’anni quanti paradigmi diversi sono stati superati: probabilmente ce ne vorranno ancora tanti altri prima di arrivare all’AGI.

La seconda fallacia è il paradosso della difficoltà. Il paradosso di Moravec dice che sappiamo costruire un’IA con quoziente intellettivo altissimo ma non sappiamo ancora dargli le capacità sensorie e motorie di un bambino di un anno. Il significato pratico è che la definizione umana e quella artificiale di complessità sono molto diverse, e soprattutto che non sappiamo ancora quanti strati di complessità ci sono nei nostri “semplici” movimenti.

La terza fallacia è quella che chiamerei “acronimite”. Siamo troppo legati a un modello umano, e quindi cerchiamo di dare acronimi riconoscibili (Mitchell fa l’esempio di “General Language Understanding Evaluation”, GLUE) a benchmark pensati per gli umani. È vero che quando il benchmark è raggiunto e superato possiamo dire che in fin dei conti ciò che fa un LLM è indistinguibile all’atto pratico dal comprendere: è il famigerato duck test, quello che dice che se un animale sguazza nell’acqua e fa quack come un’anatra allora è un’anatra. Però resta il problema di partenza: ha senso valutare una IA con un metro umano? Questo vale sia in positivo che in negativo, naturalmente.

Infine c’è la fallacia “filosofica”: immaginare che si possa avere una “mente senza corpo”. Qua potremmo in effetti discuterne: questa è infatti la posizione di Mitchell, che possiamo tradurre come “un’IA non potrà mai sapere cosa significa camminare su una spiaggia dopo un temporale”. In un certo senso direi che è abbastanza simile alla precedente: noi continuiamo a pensare alle IA in modo “umano”, ma i risultati migliori si sono avuti quando sono stati ideati metodi generali che non hanno nulla a che fare con quello che è il nostro modo di fare. Anche senza considerare AlphaGo e simili, pensate al salto di qualità quando i traduttori hanno abbandonato l’approccio a regole e si sono affidati a considerazioni puramente statistiche.

Detto tutto questo, per onestà verso di voi devo segnalare che la mia formazione – se si può definirla così, non ho mai studiato davvero questi temi – arriva da Douglas Hofstadter, che ha anche avuto Melanie Mitchell come studentessa, anche se poi credo che le loro strade per quanto riguarda le scienze cognitive si siano divise. Notate che entrambi parlano di “scienze cognitive” e non di “intelligenza artificiale”, e questo vuol dire molto. Poi sono abbastanza pragmatico da pensare che in fin dei conti l’approccio puramente statistico funziona bene, ma resta il fatto che per farlo funzionare molto bene secondo me manca ancora parecchio. Non è detto che alla fine si arriverà a “inserire dell’umanità” nelle IA, magari ci vorrà qualcosa di completamente diverso che non abbiamo ancora ideato: ma la corsa ai bilioni/trilioni di parametri non potrà proseguire più di tanto.