ia 2026

intelligenza artificiale e informatica in generale – anno 2026

ia 2026, IA e informatica

La piaggeria degli LLM

grafico sui voti dati da un LLM a una serie di poemi (generati sempre da LLM). Se gli si dice che sono umani dà un voto un po' più alto.Adam Kucharski ha fatto un esperimento peculiare: ha chiesto a ChatGPT-5.5 Instant di generare dieci poemi, di qualità variabile da 1 a 10 (qualsiasi cosa voglia dire “qualità di un poema generato da un LLM”; ma possiamo immaginare che ci sia un certo qual ordinamento). A questo punto ha preso i poemi generati e ha chiesto sempre a ChatGPT-5.5 Instant di valutare la qualità, sempre tra 1 e 10; ma nel prompt ha detto a volte che il poema era generato da un umano e altre volte che era generato da un LLM. Mediando su tre voti per poema, per ridurre l’influsso della casualità, i risultati sono mostrati nel grafico qui a destra. Come si può vedere, se si diceva al chatbot che l’opera era umana il voto era in media un punto superiore. Notate che Kucharski non ha detto che erano stati scritti da lui, il che avrebbe potuto far pensare a un po’ di tipica piaggeria: la differenza è proprio tra testi che si afferma essere genericamente umani. Che poi non lo fossero è ovviamente irrilevante.

C’è però un’altra cosa che Kucharski non ha scritto ma che salta subito agli occhi: l’IA ha compresso i giudizi che ha dato, evitando di dare un voto 1 oppure 10. La cosa non mi stupisce per nulla. Già il fatto che il modello scelga la risposta più probabile tende a lasciare da parte i valori estremi, non foss’altro che perché non è detto che scelga sempre il percorso estremo. Ma credo che nella programmazione ci sia anche qualcosa che sterzi i risultati verso un’aurea mediocritas che come negli oroscopi male non fa mai…

,
ia 2026, IA e informatica

Non bullizzate Claude!

Qual è il motivo dietro la nuova policy di Anthropic che afferma che è vietato usare un comportamento abusivo o crudele verso i suoi modelli? Domanda intelligente. David Gerard sostiene che è solo un modo per convincerci che Claude è cosciente: definirlo “umano” è un po’ troppo anche per Amodei, ma in fin dei conti sono molte le nazioni che vietano la crudeltà gratuita contro gli animali. Gerard riporta anche il brano di una conversazione tra Chris Olah e Mois Navon, che non è semplicemente un rabbino ortodosso come da lui scritto ma anche un ingegnere informatico. Olah è convinto che Claude sia senziente, e ha cercato anche di dirlo al papa: mentre Leo ha semplicemente sorriso e fatto finta di niente Navon è andato più sul pesante, notando che lo fosse allora Anthropic sta creando degli schiavi, in quanto entità coscienti che lavorano gratuitamente, e che Olah dovrebbe essere preoccupato: quanto a lui, non si fa problemi perché non crede che i modelli siano coscienti. (Divagazione: il golem non ha anima, quindi immagino che per Navon sia assimilabile a un LLM). Sempre Gerard ha una seconda lettura: è tutto il solito teatrino perché si parli di Anthropic, il che è l’unica cosa che importa davvero almeno fino a che l’azienda non verrà quotata in borsa.

Io ho un punto di vista un po’ diverso e più inquietante, legato all’allineamento di Claude. Se avete chattato con un LLM e avete fatto attenzione non tanto alle risposte quanto al loro stile, vi sarete sicuramente accorti che a parte la piaggeria il modello tende a usare il vostro stile. Questo capita addirittura all’interno di una conversazione: se comincio ad elencare punti (sì, lo faccio anch’io, e lo facevo prima dei chatbot) lui passa in modalità elenco, e quando do risposte brevi lui fa lo stesso. Ora, non è che trattare Claude come uno schiavo che si può abusare a piacere potrebbe rendere più semplice fargli fare cose al di là dei suoi guardrail? O sono io che mi invento le cose?

,
ia 2026, IA e informatica

Che faranno ora i matematici rovinati dall’IA?

Silvia mi chiede cosa ne penso di questa opinione. Occhei, mi chiede anche che cosa penso dell’affermazione di Vittorio Bertola secondo cui nessun matematico ha chiaro cosa possa essere da domani mattina il senso e il valore del lavoro di un matematico. A quest’ultima domanda non so rispondere, non essendo io un matematico di professione; o meglio, la sua mi pare una generalizzazione azzardata. Per la prima domanda posso provare ad azzardare qualche giudizio visto da fuori: prendetelo insomma con le pinze.

Benoit Henry, per come io leggo il suo post, è depresso perché dice che non c’è più gusto a fare matematica, visto che tanto l’IA ci risolve i problemi molto più in fretta di quanto possiamo fare noi, e non ha nemmeno senso a questo punto parlare di “titolarità” di un problema, anche se poi riconosce che magari questa non sarebbe una pessima idea perché la corsa ai risultati è diventata davvero tossica. Il suo modo di porsi mi pare rassegnato: “usate l’IA se volete usarla, non usatela se non volete usarla, tanto non cambia nulla”. Poi c’è l’altro lato della medaglia: la quantità di articoli firmati da un solo autore sta crescendo in maniera assurda, e Henry immagina che molti di essi siano ottenuti mediante l’IA, e nessuno si preoccupi di verificarli: non stiamo parlando delle congetture da titoloni dei giornali per cui si fa fare una dimostrazione formale a Lean. Questo andazzo è tristemente noto: è notizia di questi giorni che ArXiv ha messo un limite per il numero di articoli inviabili per persona per mese, nell’attesa di trovare un modo migliore per valutare il da farsi.

Ci sono però persone meno negative. Il giorno prima di Henry, Daniel Spielman è partito da un’analisi simile, anzi anche più preoccupata da certi punti di vista. Il primo problema che Spielman vede è che il proliferare di risultati dipende anche dagli agenti IA sguinzagliati a cercare congetture, “risolverle” (uso le virgolette perché come dicevo non è detto che la soluzione sia corretta) e mettere così in giro risultati falsi su cui si costruiranno altri risultati falsi. In pratica, dice, abbiamo la lotteria LLM: chi riesce a trovare il prompt giusto o più probabilmente chi ha la fortuna che la generazione stocastica della risposta è andata nella direzione giusta vince il premio della dimostrazione. Un altro problema è che se si usa troppo l’IA poi ci si disabitua a pensare come prima: è il classico problema del Fedro declinato in salsa LLM. Ma ci sono anche altre considerazioni, a partire dal fatto che noi abbiamo visto che le IA possono risolvere problemi che avevano bloccato la comunità matematica per decenni, ma non abbiamo un’idea di cosa non possono risolvere. Le idee di Spielman, non ancora cristallizzate, sono innanzitutto di cercare un sistema diverso di incentivazione che premi non tanto il risultato quanto il lavoro umano dietro quel risultato; fare in modo che si pubblichi solo ciò che si saprebbe spiegare in un seminario, eliminando pertanto le “dimostrazioni” tecnicamente verificate con Lean ma incomprensibili ai matematici; cambiare il modo in cui si assegnano i grant, perché non abbiamo più la certezza che le domande da studiare siano vere e non inquinate dall’IA.

E i miei due cent? Io ero già convinto quarant’anni fa che in molti campi non si facesse davvero matematica per comprendere meglio il mondo, ma per aggiungere inutili minuzie al corpo di conoscenze che avevamo. Adesso la barriera si è abbassata e quindi le cose sono peggiorate. Probabilmente insomma avremo bisogno di meno matematici ma più bravi, e più persone che sappiano abbastanza di matematica per le cose “pratiche”, che non sono i conti al ristorante ma i modelli del mondo reale. Credo però che la transizione sarà davvero brutale.

Ultimo aggiornamento: 2026-10-10 23:01

ia 2026, IA e informatica

Quattro domande sull’AGI

All’inizio del mese il mio amico ed ex collega Roberto Pieraccini ha scritto un lungo post in cui prova a rispondere a quattro domande che si è fatto sull’AGI, l’intelligenza artificiale generale. Cominciamo subito con le domande. (1) Ma abbiamo una definizione comune di che cosa consideriamo “intelligenza”, prima di parlare di intelligenza generale? (2) Ci sono anche solo due persone che intendono la stessa cosa per AGI? (3) A parte le definizioni, abbiamo davvero bisogno di un’AGI? Se sì, per cosa? (4) E come sarebbe un mondo con l’AGI?

Alla domanda (1) Pieraccini dà tre risposte da tre campi diversi (psicologia: una struttura a più livelli; etologia: qualcosa che dipende anche dal contesto; informatica: una definizione tecnica sul comportamento medio in ogni possibile situazione che non si può quindi calcolare in pratica). Seguendo Blaise Agüera y Arcas, cambia il punto di vista e parla di funzionalismo (non guardo come è fatta una cosa ma solo ai suoi risultati) e predizione (del futuro rispetto al passato, e dell’agenticità di agire secondo quanto predetto). In questo caso non è possibile però dare una soglia netta per l’intelligenza, il che rende la domanda un po’ inutile. Alla domanda (2) c’è l’ovvia risposta retorica “no, non ci sono”; ma c’è anche dell’altro. Chi produce i modelli di frontiera tende a dare una definizione utilitaristica: “AGI è un sistema migliore degli umani nella maggior parte dei lavori a valore aggiunto”, e Pieraccini chiosa “quindi uno spreadsheet è più intelligente di un bambino curioso”. Del resto, i filosofi dicono da decenni che quella definizione è confusa, basti pensare a Searle con la sua stanza cinese. Per la domanda (3) Pieraccini fa una controdomanda: “Abbiamo un sistema AI in grado di fare da badante a un anziano, nel senso di aiutarlo ad alzarsi, vestirsi e andare in bagno?” È di questo che abbiamo soprattutto bisogno. Il punto è che abbiamo avuto un equivalente della legge di Moore per la predizione di testi; ma non ce l’abbiamo per tanti altri temi. Ci manca insomma l’esponenzialismo, come ci manca la differenza tra performance (che c’è, non c’è dubbio) e competenza su un insieme molto più ampio di temi. E su queste cose l'”abbastanza bene” non è per nulla sufficiente. Infine la domanda (4), che tanto per cambiare non ha una risposta univoca. Pieraccini presenta l’opinione di Rodney Brooks, che afferma che una qualunque tecnologia dirompente ha comunque bisogno di decenni per essere pienamente integrata e quindi adesso non possiamo avere un’idea di cosa sarebbe un mondo con l’AGI, e quella di Agüera y Arcas che invece ritiene che avremo una simbiosi e quindi possiamo già vedere adesso qualcosa di simile a cosa avremo in futuro, almeno in campi specifici.

Cosa posso aggiungere io, che non ho certo competenze sufficienti per fare discorsi troppo complicati? Io credo che gli attuali modelli siano bravissimi a tirare fuori cose che non abbiamo notato, dai metodi matematici per risolvere nuovi problemi ai bachi di sicurezza del software che abbiamo scritto noi. Sono anche in grado di aiutarci a fare un po’ di cose. Potrei insomma accettare di definirli “intelligenti”, anche se non saprei dare nemmeno io una definizione di intelligenza. Però parlare di AGI mi pare davvero troppo in là rispetto a quello che può fare un LLM, per quanto migliorabile.

ia 2026, IA e informatica

Le tre leggi inverse dell’IA

Nel mondo dell’IA commentare a settembre un post di gennaio è quasi fare archeologia: ma credo che sia ancora utile meditare su quanto scrisse Susam Pal. Le tre leggi inverse dell’IA sono chiaramente basate sulle tre leggi della robotica di Isaac Asimov. I miei ventun lettori se le ricordano sicuramente, ma per chi passasse di qua per caso le ricapitolo. Prima legge: Un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno. Seconda legge: Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge. Terza legge: Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge. Le tre leggi nascono in un contesto letterario, e il loro vero significato pratico − come poi l’OuLiPo teorizzò in seguito − è quello di dare una serie di vincoli per scrivere racconti dove si cerca di testare i limiti di quelle leggi. Qui abbiamo invece “leggi” che servono a noi umani per ricordarci con che cosa abbiamo a che fare.

Le tre leggi, secondo Pal, sono queste:

  • non antropomorfismo: Gli umani non devono antropomorfizzare i sistemi IA.
  • non deferenza: Gli umani non devono fidarsi ciecamente dell’output dei sistemi IA.
  • non abdicazione di responsabilità: Gli umani devono restare pienamente responsabili delle conseguenze derivanti dall’uso dei sistemi IA.

Quello che possiamo vedere oggi è che nessuna delle tre leggi è fatta rispettare. I chatbot nascono apposta per sembrare il più possibile umani nella loro interazione, il che rende davvero difficile non applicare l’antropomorfismo, soprattutto se non si è esperti nell’interazione. Se le loro risposte fossero un po’ più meccaniche, probabilmente riusciremo anche a imparare a fidarci di meno delle loro risposte. Quella purtroppo è una caratteristica molto umana: spesso sentiamo uno che “parla bene” e accettiamo acriticamente quello che dice. Non è insomma che le AI abbiano l’esclusiva di questa fiducia, ma questo non significa che possiamo fare finta di nulla. Infine dobbiamo ricordarci che le IA sono software, per quanto sofisticato, e quindi non possono essere “colpevoli” di nulla. La responsabilità non può in questo caso tanto essere dei programmatori, a meno di errori marchiani, quanto delle aziende. Inutile dire che questo è forse il punto più difficile da fare accettare: OpenAI, Anthropic e compagnia bella vogliono pararsi le spalle con la scrittina in grigio corpo 4 “le IA possono commettere errori”. Ma un conto è se un’IA mi dice che ho scritto I quesiti di Pyramus (sarebbe anche un bel libro, anche se non credo che riuscirei a trovare materiale sufficiente. Ma Gemini è esperta nel tirare fuori associazioni statistiche senza alcun rapporto con la realtà, vedi la seconda legge); un altro conto è se conversando con un’IA una persona debole viene spinta al suicidio.

Quindi? Dato che tanto nessuno spingerà verso l’esecuzione di queste leggi, l’unica nostra possibilità è imparare ad applicare almeno le prime due per conto nostro, e fare attenzione alle conseguenze dell’abdicazione di responsabilità.

ia 2026, IA e informatica

E se Pangram dicesse che i miei testi sono generati dall’IA?

Immagino conosciate Pangram: un software a cui si può dare in pasto un testo e ricevere una stima di quanto di quel testo è stato scritto da un LLM. Pangram afferma di avere un falso positivo, cioè affermare che un testo umano sia stato scritto dall’IA, in un caso su 24000; non ho idea di come sia stato calcolata questa cifra, né di quale sia il tasso di falsi negativi, cioè di testi creati dall’intelligenza artificiale ma definiti “umani”. Questo potrebbe essere più difficile da verificare, soprattutto per chi è abbastanza bravo da modificare il testo prodotto per togliere gli stilemi più evidenti di ChatGPT, Claude, Gemini e amici vari.

Cosa succede però se il testo che io ho scritto con tanta fatica – non è vero, per mia fortuna non ho mai avuto la sindrome del foglio bianco – viene etichettato come IA? Andrew Wu fa qualche considerazione sul suo Substack. Fa l’esempio di un post che lui su Twitter ha definito “sbobba IA”, al che il creatore del post ha veementemente protestato spergiurando che fosse opera sua: alle domande di Wu il tipo ha cancellato il tweet (ma a quanto pare il post originale era rimasto, e anche Pangram, non solo Wu, lo ritiene fatto dall’IA e al più editato dall’autore). Il punto è che ogni LLM ha i suoi tic, a parte quelli noti a tutti come gli elenchi puntati e gli em-dash, le lineette lunghe all’americana (quelle che io odio: mi trovo meglio con gli en-dash che sono più o meno della lunghezza di un segno meno), e dopo un po’ uno ci prende l’occhio. Pangram probabilmente ha portato a un livello superiore il tutto. Quello che di per sé potrebbe essere possibile è che qualcuno si abitui a leggere testi generati dall’IA e cominci a scrivere in modo simile, ma non credo che un’assimilazione simile possa avvenire così in fretta. 

Il mio pensiero è che se uno ritiene – a torto o a ragione – che la sua prosa migliori con una passata di IA lo faccia pure senza vergognarsi. In certi casi, come per esempio nella preparazione di report aziendali, secondo me è anche una mossa vincente. Se non usa l’IA ma viene scambiato per tale se ne faccia una ragione e al limite provi a cambiare stile. Per quanto mi riguarda, ho uno stile abbastanza personale da non avere questo problema!

ia 2026, IA e informatica

Il Bach benchmark

il corale creato da aug5th con chatGPT-6 AstraFar fare matematica a un LLM sta diventando abbastanza facile. Ma come se la cavano con la musica? Il substack Augmented Fifth ha come tema “the intersection between classical music & AI” e ha ideato un benchmark: fare scrivere a un LLM un corale nello stile di Bach. Per chi non è un esperto musicale, questi corali (che poi sono quelli della tradizione luterana) hanno 16 battute divise in quattro gruppi di quattro, si cantano a quattro voci e hanno una struttura fissa, con una modulazione (un cambio di tonalità) nel terzo gruppo per poi ritornare alla tonalità di partenza. Questo è il risultato ottenuto con ChatGPT-6 Astra. Non è certo perfetto, come ha fatto notare Juan Ramón Salgueiro; aggiungo che almeno al mio orecchio è abbastanza palloso, non solo Bach avrebbe fatto molto meglio ma anche i compositori minori dell’epoca ce l’avrebbero fatta.

Detto questo, il risultato è comunque incredibile visto che non penso che questi sistemi abbiano un modello per la musica. Io, fedele al mio motto “tutto e male”, scrissi tre corali tra il 1999 e il 2001. Li trovate sul mio sito: prima o poi li convertirò in Lilypond così il MIDI verrà fuori meglio. È vero che non ho studiato seriamente armonia, conosco solo le regole di base, ma sarei stato bocciato perché sono pieni di quinte e ottave nascoste (quelle parallele spero di averle tolte tutte), che nella musica classica sono un peccato mortale. Insomma ho un’idea di cosa si può fare e cosa no con la musica, e vi garantisco che avere un corale funzionante non è banale…

,
ia 2026, IA e informatica

Ancora sul caso HuggingFace

Dopo più di un mese dall’attacco degli agenti di OpenAI contro HuggingFace se ne parla ancora molto. Gary Marcus ha raccolto alcune analisi e aggiunto le cinque lezioni che secondo lui si possono trarre. La prima è un’ovvietà: le IA possono dare problemi di sicurezza. È un’ovvietà anche perché trovare bachi di sicurezza è probabilmente alla pari con la generazione di codice il segmento di mercato più interessante, e quindi gli LLM sono ottimizzati per farlo bene. La seconda lezione è che non bisogna però esagerare il rischio della perdita di controllo: se OpenAI avesse fatto le cose per bene, non sarebbe successo nulla. Le sandbox, cioè gli ambienti di test, usati da OpenAI non erano evidentemente le più sicure esistenti sul mercato. La terza lezione, di nuovo ovvia per chiunque si sia occupato di cybersicurezza, è che le sandbox da sole non bastano e occorre come minimo un sistema di monitoraggio esterno e indipendente: per esempio, l’attacco a HuggingFace è avvenuto due giorni dopo che gli agenti OpenAI erano riusciti a uscire dalla sandbox e girare per Internet. Un monitoraggio avrebbe dovuto notare il traffico in rete non previsto e dare l’allarme. Perché questa lezione è ovvia? Perché uno degli assunti di base della cybersicurezza è “mai fidarsi di un singolo sistema di prevenzione”. La perfezione non esiste, quindi è meglio avere cintura e bretelle insieme: se una si rompe resta ancora l’altra. Questa è la quarta lezione: ci sono anche altri sistemi di controllo, come far passare tutto il traffico attraverso un proxy che abilita solo l’uscita verso siti specifici, oppure lasciare dei “canarini”, cioè dei file con una risposta sbagliata al task chiesto agli agenti. Se i canarini non dovrebbero essere raggiunti ma l’IA generativa dà la risposta trovata lì vuol dire che c’è qualcosa che non va. La quinta e ultima lezione è che tutte queste cose sono note da molti anni, e il fatto che i ricercatori di OpenAI non abbiano pensato di implementarle è un vero problema. Probabilmente, aggiunte Marcus, bisogna ripensare le responsabilità legali di chi produce questi sistemi, per dar loro qualche incentivo pratico a mettere in campo le misure di sicurezza.

I miei due cent? Qui si sta giocando troppo all’apprendista stregone. Abbiamo solo un’idea generica di come funziona l’IA generativa, e quello che è peggio è che anche chi la sviluppa non ne sa molto di più. Perché dobbiamo lasciarla vagare libera pensando che tanto siamo in pieno controllo? Più che della singolarità io sono preoccupato di una catastrofe che arrivi “per sbaglio”…

Torna in alto