ia 2026

Dopo più di un mese dall’attacco degli agenti di OpenAI contro HuggingFace se ne parla ancora molto. Gary Marcus ha raccolto alcune analisi e aggiunto le cinque lezioni che secondo lui si possono trarre. La prima è un’ovvietà: le IA possono dare problemi di sicurezza. È un’ovvietà anche perché trovare bachi di sicurezza è probabilmente alla pari con la generazione di codice il segmento di mercato più interessante, e quindi gli LLM sono ottimizzati per farlo bene. La seconda lezione è che non bisogna però esagerare il rischio della perdita di controllo: se OpenAI avesse fatto le cose per bene, non sarebbe successo nulla. Le sandbox, cioè gli ambienti di test, usati da OpenAI non erano evidentemente le più sicure esistenti sul mercato. La terza lezione, di nuovo ovvia per chiunque si sia occupato di cybersicurezza, è che le sandbox da sole non bastano e occorre come minimo un sistema di monitoraggio esterno e indipendente: per esempio, l’attacco a HuggingFace è avvenuto due giorni dopo che gli agenti OpenAI erano riusciti a uscire dalla sandbox e girare per Internet. Un monitoraggio avrebbe dovuto notare il traffico in rete non previsto e dare l’allarme. Perché questa lezione è ovvia? Perché uno degli assunti di base della cybersicurezza è “mai fidarsi di un singolo sistema di prevenzione”. La perfezione non esiste, quindi è meglio avere cintura e bretelle insieme: se una si rompe resta ancora l’altra. Questa è la quarta lezione: ci sono anche altri sistemi di controllo, come far passare tutto il traffico attraverso un proxy che abilita solo l’uscita verso siti specifici, oppure lasciare dei “canarini”, cioè dei file con una risposta sbagliata al task chiesto agli agenti. Se i canarini non dovrebbero essere raggiunti ma l’IA generativa dà la risposta trovata lì vuol dire che c’è qualcosa che non va. La quinta e ultima lezione è che tutte queste cose sono note da molti anni, e il fatto che i ricercatori di OpenAI non abbiano pensato di implementarle è un vero problema. Probabilmente, aggiunte Marcus, bisogna ripensare le responsabilità legali di chi produce questi sistemi, per dar loro qualche incentivo pratico a mettere in campo le misure di sicurezza.

I miei due cent? Qui si sta giocando troppo all’apprendista stregone. Abbiamo solo un’idea generica di come funziona l’IA generativa, e quello che è peggio è che anche chi la sviluppa non ne sa molto di più. Perché dobbiamo lasciarla vagare libera pensando che tanto siamo in pieno controllo? Più che della singolarità io sono preoccupato di una catastrofe che arrivi “per sbaglio”…

Il mese scorso vi avevo raccontato di AI 2040, le idee (presentate e sponsorizzate da Scott Alexander, ma non direttamente sue) su cosa gli USA dovrebbero fare nella guerra tecnologica sull’IA con i cinesi. Oggi recupero un post di Gary Marcus, scritto quando uscì Kimi K3, che prova a elencare i possibili scenari, partendo naturalmente da un “ve l’avevo detto, io!” in linea con il suo stile. A parte il fatto che il Congresso dovrebbe investigare su come mai gli USA si sono visti riempire il fossato che pensavano di avere e che separava la loro tecnologia da quella cinese – oh, gli americani pensano sempre in questo modo – Marcus elenca sette possibili linee di azione.

(1) Non fare nulla, e lasciare che OpenAI e Anthropic se la cavino da sole. Anche se fallissero, Google, Amazon e Microsoft porterebbero comunque avanti il programma IA. Certo che i cinesi potrebbero ottenere più quote di mercato.

(2) Vietare i modelli open source. Suo commento: buona fortuna… non funzionerà mai

(3) Ricreare un fossato, stavolta di tipo regolatorio. Questo farebbe bene a OpenAI e Anthropic, e male a tutto il resto degli USA.

(4) Salvare OpenAI e Anthropic iniettando denaro per farli proseguire. Il suo commento: “semplicemente no”.

(5) Vietare le IA cinesi. Marcus è un convinto liberista, forse addirittura più che un convinto americano: scrive che c’è chi dice che il governo ci sta già pensando, e spera proprio che non succeda.

(6) Nazionalizzare OpenAI e Anthropic, pagando il 2% del loro valore ufficiale, il che sarebbe una cifra vicina al loro valore reale. Non gli dispiacerebbe, ma teme che il governo potrebbe fare brutte cose, tipo sorveglianza di massa.

(7) Sforzarsi di rendere l’IA un bene pubblico, e non il risultato di ricerca da parte di privati. Di nuovo, Marcus ha tirato fuori una sua proposta del 2016 (!) di un “CERN per l’IA”; è ovvio che a lui piacerebbe una cosa del genere, che assomiglia abbastanza al Piano A di AI 2040.

A differenza di Alexander, Marcus è molto più interessato alla parte economica dell’ecosistema IA, come vedete: il tutto sempre con una visione USAcentrica, ma di quello non ci dobbiamo stupire. Probabilmente non dobbiamo nemmeno stupirci che in tutto questo bailamme l’Europa non tenti nemmeno di inserirsi: magari l’AI Act blocca gli investimenti privati, ma anche la collaborazione da un punto di vista politico non è pervenuta.

In un vecchio suo post, Alejandro Piad Morffis elenca quelle che per Melanie Mitchell – non certo l’ultima arrivata nel campo delle scienze cognitive – sono le quattro fallacie dell’IA moderna. È vero che un anno nell’IA sembra una vita, ma in questo caso direi che le idee sono abbastanza generali da essere rimaste valide, anche se non necessariamente corrette.

La prima fallacia è pensare che il continuo progresso delle IA significa che ci stiamo gradualmente avvicinando all’AGI, l’intelligenza artificiale generale. L’errore di questa visione è che l’intelligenza non si può misurare con una metrica unidimensionale: ci sono tante diverse direzioni. Del resto abbiamo visto negli ultimi vent’anni quanti paradigmi diversi sono stati superati: probabilmente ce ne vorranno ancora tanti altri prima di arrivare all’AGI.

La seconda fallacia è il paradosso della difficoltà. Il paradosso di Moravec dice che sappiamo costruire un’IA con quoziente intellettivo altissimo ma non sappiamo ancora dargli le capacità sensorie e motorie di un bambino di un anno. Il significato pratico è che la definizione umana e quella artificiale di complessità sono molto diverse, e soprattutto che non sappiamo ancora quanti strati di complessità ci sono nei nostri “semplici” movimenti.

La terza fallacia è quella che chiamerei “acronimite”. Siamo troppo legati a un modello umano, e quindi cerchiamo di dare acronimi riconoscibili (Mitchell fa l’esempio di “General Language Understanding Evaluation”, GLUE) a benchmark pensati per gli umani. È vero che quando il benchmark è raggiunto e superato possiamo dire che in fin dei conti ciò che fa un LLM è indistinguibile all’atto pratico dal comprendere: è il famigerato duck test, quello che dice che se un animale sguazza nell’acqua e fa quack come un’anatra allora è un’anatra. Però resta il problema di partenza: ha senso valutare una IA con un metro umano? Questo vale sia in positivo che in negativo, naturalmente.

Infine c’è la fallacia “filosofica”: immaginare che si possa avere una “mente senza corpo”. Qua potremmo in effetti discuterne: questa è infatti la posizione di Mitchell, che possiamo tradurre come “un’IA non potrà mai sapere cosa significa camminare su una spiaggia dopo un temporale”. In un certo senso direi che è abbastanza simile alla precedente: noi continuiamo a pensare alle IA in modo “umano”, ma i risultati migliori si sono avuti quando sono stati ideati metodi generali che non hanno nulla a che fare con quello che è il nostro modo di fare. Anche senza considerare AlphaGo e simili, pensate al salto di qualità quando i traduttori hanno abbandonato l’approccio a regole e si sono affidati a considerazioni puramente statistiche.

Detto tutto questo, per onestà verso di voi devo segnalare che la mia formazione – se si può definirla così, non ho mai studiato davvero questi temi – arriva da Douglas Hofstadter, che ha anche avuto Melanie Mitchell come studentessa, anche se poi credo che le loro strade per quanto riguarda le scienze cognitive si siano divise. Notate che entrambi parlano di “scienze cognitive” e non di “intelligenza artificiale”, e questo vuol dire molto. Poi sono abbastanza pragmatico da pensare che in fin dei conti l’approccio puramente statistico funziona bene, ma resta il fatto che per farlo funzionare molto bene secondo me manca ancora parecchio. Non è detto che alla fine si arriverà a “inserire dell’umanità” nelle IA, magari ci vorrà qualcosa di completamente diverso che non abbiamo ancora ideato: ma la corsa ai bilioni/trilioni di parametri non potrà proseguire più di tanto.

Jakob Schwichtenberg si chiede perché proviamo fastidio, se non addirittura disgusto, con i testi creati da un’IA. Notate che non sta parlando dell’IA in genere, ma proprio della parte forse più creativa. Il suo ricordo è che quando venne in contatto per la prima volta con un’IA generativa di quarta generazione e le diede un testo da riscrivere, il suo primo commento è stato “azz, non sarei mai riuscito a scrivere così bene!”, unito a un po’ di paura. Ma col tempo, riguardando quello stesso testo, il commento è “ugh”: ora vede tutti i pattern tipici e le imperfezioni della sbobbIA generata. Capisco perfettamente il suo punto di vista, perché capita la stessa cosa anche a me. No, non rileggo le cose passate, ma magari ci ripenso su dopo qualche ora e mi accorgo di cosa sta effettivamente facendo.

Quali sono i guai con l’IA, secondo Schwichtenberg? Il primo e più banale è quello delle allucinazioni. Già prima degli LLM correggere le cazzate scritte da qualcuno costava dieci volte tanto la fatica di scriverle; ora questo rapporto è cresciuto di un fattore 100, perché far scrivere a un LLM un testo costa praticamente zero. Posso dire che con Claude dirgli esplicitamente nelle preferenze di non inventare nulla aiuta abbastanza, ma bisogna sempre essere con gli occhi aperti. Il secondo sono le frasi riempitive che non danno nessuna informazione. In un report che tanto i capi non leggeranno questo non è un problema, ma in altri casi sì… perché noi umani siamo abituati a cercare sempre un senso in quello con  cui abbiamo a che fare. Avete presente la pareidolia? Ecco. Schwichtenberg fa l’esempio più classico: l’analisi automatica del significato di quanto l’inviato imperiale Lord Dorwin aveva detto in uno dei romanzi del ciclo della Fondazione di Asimov. Fatta tutta l’analisi, il risultato finale è stato zero. Segue poi la mancata conoscenza della realtà: Schwichtenberg afferma che oltre alla conoscenza proposizionale c’è anche quella prospettica, procedurale e partecipatoria – sono andato a cercare: l’ha enunciato John Vervaeke – e almeno la seconda e la quarta direi che manchino attualmente all’IA.

Gli ultimi due punti sono più filosofici ma probabilmente i più interessanti. Guardate la foto qui a destra, dove si è chiesto a un’IA di migliorare l’immagine pixelata. D’accordo, stiamo parlando di un esperimento fatto nel 2020, quindi più o meno nel giurassico: oggi forse il risultato sarebbe diverso; ma il concetto resta. Schwichtenberg dice “l’IA ci rende stupidi”, io preferisco dire che l’IA prende un concetto e te lo sterilizza, portandolo a un risultato che appare perfezionato ma non è quello che ci voleva. Mi ritrovo perfettamente quando lui confessa che quasi sempre scopre che l’idea dalla quale era partito per scrivere un pezzo non aveva senso, ma di solito mentre scrive, oltre che accorgersene, trova altre tre nuove idee. Certo, gli LLM quando entrano in “modalità ragionamento” imitano questo modo di operare, perché usano quello che hanno scritto come ulteriore input: ma per costruzione non possono ottenere nulla di nuovo, o meglio se lo fanno sono praticamente certe di arrivare a un’allucinazione. Noi umani (ok, tranne molti di quelli che scrivono sui social network) abbiamo invece un controllo inconscio che ci porta a fermarci e riprocessare tutto da un altro punto di vista, per vedere se l’idea iniziale non regge. Non avete idea di quanti post io abbia terminato in modo opposto a quanto pensassi all’inizio! Infine c’è il fatto che l’IA ti toglie la gioia di fare. Come scrivevo all’inizio, non c’è nulla di male a usarla per scrivere un report aziendale, a meno che voi non proviate un frisson nello sciorinare ovvietà ed edulcorare i pessimi dati che avete davanti. Ma se mi metto a scrivere un libro o anche soltanto un post io lo faccio perché mi piace farlo. Un’IA può darmi delle idee (nel caso del libro, ovviamente: mi verrebbe da ridere a dirle “mi consigli qualcosa su cui scrivere?”) ma poi la parte davvero divertente, anche se a volte frustrante, è mettersi a tradurre i pensieri in un flusso più o meno lineare. D’accordo, io sono quello che al liceo scriveva direttamente i temi in bella copia e li consegnava ben prima della fine del tempo: ma stiamo appunto parlando di creatività. Se uno non ama scrivere, allora usare un LLM non toglie gioia sempicemente perché non ce n’era già all’inizio.

Riusciranno i modelli IA a superare questi limiti? Secondo me con le architetture attuali no: vedremo che succederà.

Ultimo aggiornamento: 2026-08-30 17:23

Alberto Romero è rimasto impressionato del 7,8% di successi di GPT-5.6 nel test ARC-AGI-3. Questi test nascono per vedere se gli LLM riescono a risolvere problemi pensati apposta per essere facili da risolvere per gli umani ma non per le IA. Bisogna innanzitutto riconoscere che – sperando che le aziende non barino e non inseriscano delle clausole speciali per risolvere quegli specifici problemi – il progresso c’è stato eccome: sia ARC-AGI-1 che ARC-AGI-2 sono ormai inutili perché anche le IA sfiorano il 100% di successo. Ma con ARC-AGI-3 il record precedente era 1,5% di Opus 4.8, e GPT-5.5 aveva raggiunto lo 0,43%. Ma il vero punto pare essere che GPT-5.6 pare essere bravo nell’orientarsi in situazioni sconosciute: qualcosa che noi facciamo sempre senza nemmeno pensarci su, come quando prendiamo un oggetto mai visto e intuiamo come si deve usare, ma non era mai stato notato in un’IA.

Se effettivamente questo è il caso, confermo che siamo di fronte a un salto quantico: non so se possiamo già parlare di intelligenza artificiale generale (AGI, appunto), ma siamo sicuramente sulla buona strada. Però non ne sono molto convinto, vorrei prima vedere all’opera questi modelli. Poi vabbè, il costo per ottenere quel punteggio si stima essere intorno al 20000 dollari, ma quelle sono quisquilie!

Ultimo aggiornamento: 2026-08-30 17:23