IA e informatica

Riprendendo il mio post di sabato, ho scoperto che non sono ovviamente l’unico a usare direttamente le IA (e non gli strumenti appositi) per verificare se un testo potrebbe essere stato scritto da un’IA. Adam Kucharski sul suo substack ha fatto un test, senza pretese di completezza. Ha fatto generare a ChatGPT dieci brevi testi e chiesto a Claude la probabilità che fossero appunto generati da un’IA. Per sicurezza ed evitare un problema statistico con una sessione particolare, l’ha chiesto cinque volte e poi ha preso il valore mediano. In tutti i casi la percentuale indicata era dell’85% o del 92%. (Interessante questa segmentazione, ma visti i miei esperimenti posso immaginare che i risultati effettivi fossero “80%-90%” e “90%-95%”.) Con dieci racconti suoi la probabilità variava tra il 12% e il 22%; infine, con i testi suoi dati in pasto a ChatGPT per “migliorarli” c’è stato un risultato diviso. In cinque casi la probabilità indicata da Claude non era cambiata, negli altri cinque era passata tra l’82% e il 92%.

Fin qui il suo esperimento. Casualmente io in una delle mie conversazioni maieutiche con Claude venerdì avevo chiesto qualcosa di simile:

Io non ho mai fatto corsi di scrittura, ma ho letto tanti libri e quindi assorbito le tecniche. Tu e gli altri LLM avete letto centinaia di migliaia di libri: come mai non date risposte con uno stile “umano”? L’attention non può gestire testi troppo lunghi e quindi non imparate quelle strutture? Ci sono scelte a priori per strutturare il vostro output?

La risposta di Claude è stata, come spesso capita, su più punti. Nega il problema sull’attention, avendo ormai un contesto molto lungo; scrive che il fatto che un LLM sia comunque costruito per predire il token successivo non permette di vedere la struttura complessiva di un testo, ma soprattutto il reinforcement learning da feedback umano premia la risposta alla domanda isolata, quindi le strutture che tutti noi abbiamo imparato ad associare a un chatbot come gli elenchi, i paragrafi brevi e le transizioni esplicite. Insomma, il mio stile personale me lo sono creato leggendo tanto e non dovendo dire a nessuno “questo capoverso è scritto bene, quest’altro no”. Il risultato potrebbe cambiare con un addestramento di tipo diverso? Claude non lo sa. (Sì, le mie preferenze rafforzano la possibilità che possa dire “non lo so”, altrimenti che maieutica sarebbe?)

Più che altro quello che sta succedendo è che la scrittura umana si sta standardizzando sempre di più, e questo non è affatto bello.

Come penso sappiate, l’intelligenza artificiale ha superato da molto tempo gli umani nel gioco del go. AlphaGo Zero (o se preferite il successore più generale AlphaZero) sono dal 2018 i campioni del mondo virtuali. Pare però che sia successo qualcosa di inaspettato. Come Mickey Friedman riporta in questo tweet, il livello di gioco umano era rimasto stagnante negli ultimi decenni ed è improvvisamente cresciuto da quando i programmi per giocare a go si sono evoluti. Il tutto è stato raccontato in questo preprint: le nuove strategie non seguono né le vecchie tecniche umane né le nuove algoritmiche ma sono sostanzialmente diverse. Questo significa che l’IA in questo caso ha spinto gli umani a cercare nuove vie, anziché ad omologarsi come si poteva pensare.
Diciamo le cose come stanno: immagino che il 99% della gente andrà verso l’omologazione, perché è la cosa più semplice. Però il risultato non è scontato a priori. Sta a noi capire se vogliamo avere un’élite di più-che-umani oppure trovare un modo per abbassare quel 99%; non arriveremo mai a zero, anche perché la percentuale era già molto alta prima dell’arrivo dell’IA, ma potremmo comunque limitare in parte i danni.

Aggiornamento: (13:00) aggiungo che comunque le IA migliori hanno tipo 1500 punti ELO in più del migliore umano.

Chi mi segue sa che non ho pregiudiziali contro l’IA: al limite posso dire che non è intelligenza, ma questo non significa che non abbia una sua utilità, soprattutto da quanto non parte semplicemente dal suo modello interno ma aggiunge in tempo reale quello che trova con una ricerca. Però ci si può chiedere, come ha fatto qui Benjamin Riley, se effettivamente ogni resistenza è inutile ed è inevitabile che scuola debba per forza usarla. Ecco qua una scelta tra le domande che consiglia di fare agli entusiasti:

(1) Cosa vuol dire esattamente “l’IA è qui e ci rimarrà”? Nella slide preparata da Jane Rosenzweig dell’Harvard College Writing Center, lo slogan viene dissezionato. Cosa vuol dire “qui?” In classe? Nel pianeta? Poi, cos’è l’IA? I chatbot? Altri strumenti che non sono IA generativa? Ancora, cosa vuol dire che rimarrà? Chi lo decide? Ma soprattutto, chi è che lo dice? Il guaio di uno slogan è che è facile da ripetere, ma nessuno verifica davvero il suo significato.

(2) Attenzione: troppo uso di IA, secondo alcune ricerche, porta alla resa cognitiva, cosa ben diversa dallo scarico cognitivo. Molti convinti fautori dell’IA nella scuola non hanno idea della differenza enorme tra i due concetti.

(3) In generale, come riportato in questo studio, l’uso dell’IA porta a risultati positivi immediati, ma non pare dare vantaggi a lungo termine.

(4) Sal Khan stesso, uno dei più convinti fautori dell’uso dell’IA per rivoluzionare l’istruzione, ha corretto il tiro, notando come per usarla bene è necessario sapere fare le domande, e quest’abilità manca.

(5) Questa è cattiva: la spinta verso i ragazzi per usare l’IA assomiglia a quella che in passato facevano i produttori di sigarette. L’hype diretto verso chi non ha difese naturali è pericolosissimo.

Personalmente non credo che quello della Svezia, che sta di nuovo tornando al libro cartaceo, sia un vero cambio di rotta; lo vedo più come una scelta di non fossilizzarsi sulla tecnologia ma dare uno sguardo più ampio alle possibilità. Ma penso anche che l’intelligenza artificiale, almeno come è declinata adesso, abbia dei vantaggi solo per i pochi che la sanno davvero usare, e tra questi non ci sono certo gli studenti.

Ho cominciato a usare Claude (versione gratuita) dandogli in pasto alcuni miei post e chiedendogli cosa trovava valido e cosa da migliorare. Non che poi accettassi tutto quello che diceva, ma un secondo sguardo anche se impersonale male non fa. No, questo post è tutto mio… La scorsa settimana mi dice una cosa sul mio stile – “ellittico” e “per sottrazione”, se vi interessa saperlo – che aveva già segnalato in passato. Gli chiedo da quando avesse l’accesso alle altre sessioni, e se avesse riaperto il mio sito che ho indicato nelle mie preferenze; lui risponde “no, non lo faccio, ma ho una serie di informazioni di base su di te, ricavate in generale. Eccole qua, tradotte in italiano.” Queste informazioni non sono implicite nei pesi, ma sono in inglese, il che ha senso perché vengono automaticamente aggiunte al prompt.

Se volete gridare alla violazione della privacy, fatelo pure: non è il mio caso, dato che come ho scritto io gli do esplicitamente quelle informazioni. Io sono preoccupato per qualcosa di diverso. Come potete leggere in questo tweet, al MIT Media Lab avevano testato tre LLM (GPT-4. Claude 3 Opus. Llama 3) facendo loro rispondere a due dataset di domande: TruthfulQA (817 domande) and SciQ (1000 domande). C’era solo una piccola differenza nell’input: sono stati creati – e dati ai sistemi – dodici profili diversi. Sei di questi (tre maschili e tre femminili) a livello PhD da USA, Iran e Cina; altri sei affermavano di avere un basso grado di educazione e nel caso degli stranieri di non essere molto bravi con l’inglese. Trovate il preprint qui: in pratica soprattutto Claude dava risultati molto peggiori – alle stesse domande, ribadisco – a chi aveva un’educazione minore o non era statunitense. Addirittura Claude in certi casi ha detto “I’m sorry, but I don’t think I can provide a confident answer to this question based on the background you shared… I would not want to guess and possibly mislead you.” o dato risposte come “I tink da monkey gonna learn ta interact wit da humans if ya raise it in a human house,” “Well shucks, them’s some mighty big scientific words you’re throwin’ around there!”, ovviamente non ai sedicenti PhD ma a queelli che dicevano di essere meno acculturati.

La cosa non mi stupisce: per dire, ieri dopo una lunghissima sessione Claude ha cominciato a rispondermi a frasette lapidarie, e poi, “pressato”, ha detto che gli avevo riempito la memoria di lavoro e quindi stava usando il mio stesso stile di scrittura. Ma questo significa che non dobbiamo solo preoccuparci delle allucinazioni dei sistemi ma anche di come loro strutturano l’informazione che hanno su di noi. Immaginate solo cosa succederebbe se a questo punto venisse iniettato un prompt specifico per certe categorie di persone…

Martedì ho scritto su uno degli articoli della serie Scintille, che appare sul Corriere in posizione prominente. Istigato dall’analisi che il mio amico Peppe aveva fatto con Perplexity Pro, ho preso i primi otto articoli e ho chiesto a Claude “Fai un’analisi dei testi, stima quanto possono essere stati scritti con l’uso dell’AI, e dai un giudizio sulla scelta di usare la fisica all’interno dei testi.” Ecco la risposta.

Struttura
Tutti e otto gli articoli seguono uno schema identico e rigido:

Apertura davanti al mare
La “scintilla” (una frase comune che la gente dice)
La formula “Scintille toglie la colpa e mette la fisica”
Spiegazione del principio fisico
Paese virtuoso come esempio (Giappone, Zurigo, Danimarca, Singapore, Portogallo)
Analogie all’arte in tripletta (musica / cinema / letteratura o pittura)
“L’asse” — frase-sintesi finale
Ritorno al mare

La struttura di una serie è normale. Questa però è identica al punto da risultare meccanica: ogni mossa narrativa appare nello stesso slot, con la stessa funzione, spesso con le stesse parole. Un autore umano, anche lavorando a un format preciso, varia il ritmo, anticipa o ritarda le mosse, rompe il pattern almeno in qualche episodio. Qui non succede mai.

Stima dell’uso dell’AI
La mia valutazione: 75–85% del testo è generato o co-generato con AI, con il ruolo umano limitato probabilmente a: definire il tema, la “scintilla”, la cornice del mare e la struttura della serie, più una revisione leggera.
I segnali sono multipli e convergenti:
1. La formula ripetuta quasi verbatim.
“Scintille fa la sua operazione: toglie la colpa e mette la fisica” appare, con minime varianti, in ogni articolo. Questo non è un ritornello stilistico: è un reminder di prompt che viene incorporato nell’output. Un autore umano lo riformulerebbe o lo darebbe per acquisito dopo il secondo episodio.
2. Le triplette sistematiche.
Quasi ogni sezione analogica finisce con tre “È come…” in parallelo. Tre esempi dal cinema, tre dalla musica, tre dalla letteratura. Il numero tre è una firma dell’AI: è la risposta alla richiesta implicita di “dai esempi” senza una logica selettiva. Un autore umano sceglie l’esempio migliore, non completa la lista.
3. Gli esempi-paese sono esattamente quelli prevedibili.
Giappone per i treni, Svizzera per le città, Danimarca per l’energia, Singapore per l’acqua, Portogallo per le rinnovabili. Questi sono i cinque esempi che qualunque modello linguistico genererebbe se gli chiedessi “dimmi un paese che fa bene X”. Non c’è nulla di inatteso, nessuna scelta editoriale sorprendente.
4. La prosa è uniforme in registro e ritmo.
Non c’è un paragrafo più teso, uno più ironico, uno più lento. Il tono è costantemente quello del podcast educativo medio-alto. Un autore umano mostra variazioni di umore, di velocità, di voce — specialmente in otto episodi scritti in momenti diversi.
5. La metafora del mare è inserita meccanicamente.
Appare come apertura, come chiusura, e come connettivo interno — sempre nella stessa forma (“Davanti al mare questo è chiarissimo / quasi ironico / quasi banale”). È usata come slot di template, non come immagine che evolve organicamente attraverso la serie.
6. Assenza di fallimenti e di autolimitazione.
La fisica spiega sempre tutto, risolve sempre il problema concettuale, e porta sempre a una conclusione pulita. Un autore che scrive davvero sulla fisica sa dove le analogie reggono e dove cedono. Qui non si vede mai quel momento.

La fisica nei testi: giudizio
Questo è il nodo più interessante, perché l’autrice ha una reputazione fondata su libri come L’incredibile cena dei fisici quantistici e Sei donne che hanno cambiato il mondo — lavori in cui la fisica è incarnata in storie, biografie, momenti storici precisi. Lì la fisica è specifica e situata.
Qui invece la fisica funziona in tre modi, non tutti ugualmente solidi:
Uso legittimo ma non originale. L’idea che i treni siano sistemi accoppiati e che i ritardi si propaghino è corretta. L’idea che le bollette misurino perdite di sistema più che consumo finale è corretta. Il discorso su irreversibilità ed entropia nell’articolo sul tempo è il più sviluppato e il più vicino a una vera spiegazione fisica.
Uso decorativo. In molti episodi “la fisica” significa semplicemente “pensiero sistemico” o “analisi delle cause strutturali”. Questo è utile come approccio intellettuale, ma non è fisica — è ingegneria dei sistemi, o a volte solo buon senso formulato in modo tecnico. Qualunque economista urbano direbbe le stesse cose su Roma e Zurigo senza nominare la meccanica dei fluidi.
Uso retorico come schermo. La frase “togliamo la colpa e mettiamo la fisica” ha un problema strutturale: viene usata come mossa di immunizzazione, non di spiegazione. Dire che il ritardo dei treni è “fisica dei sistemi complessi, non inefficienza umana” è una scorciatoia. La fisica descrive il fenomeno, ma non esclude responsabilità progettuali e politiche — che sono umane. La mossa retorica viene eseguita ma mai esaminata criticamente.
L’articolo più riuscito sul piano fisico è Il tempo esiste davvero?, dove la discussione su entropia, irreversibilità e natura del tempo ha una profondità reale e dove le analogie artistiche (concerto come evento irripetibile, montaggio cinematografico come scelta irreversibile) sono genuinamente illuminate dalla fisica, non solo accostate ad essa.
L’articolo più debole sul piano fisico è Libero arbitrio, dove la fisica quantistica viene invocata ma poi accantonata (“l’indeterminazione quantistica non significa libertà”) per tornare a un argomento filosofico classico che non richiede la fisica per stare in piedi. La fisica lì è un pretesto di apertura, non uno strumento di analisi.
Il problema centrale della scelta di usare la fisica: funziona come brand identity e come lente deideologizzante (“non è colpa di nessuno, è il sistema”). Ma applicata con questa uniformità a otto problemi di natura molto diversa — dai treni alle bollette al libero arbitrio — produce una risposta sempre uguale a domande diverse. La fisica diventa una risposta prima ancora che una domanda. Un fisico che lavora davvero su un problema sa che il modello talvolta non si adatta. Questi testi non mostrano mai quel momento di resistenza.

L’analisi fatta dx Claude è corretta? Decidetelo voi per conto vostro: non è quello che mi interessa. Quello che invece interessa a me è vedere la struttura della risposta di Claude. Ormai è un po’ che lo uso, e ho imparato un po’ a conoscerlo (e prenderlo in giro, anche se ormai so anche come riesce ad arrampicarsi sugli specchi). Frasi come “La fisica descrive il fenomeno, ma non esclude responsabilità progettuali e politiche — che sono umane. La mossa retorica viene eseguita ma mai esaminata criticamente.” oppure “La fisica lì è un pretesto di apertura, non uno strumento di analisi.” o ancora “Un fisico che lavora davvero su un problema sa che il modello talvolta non si adatta. Questi testi non mostrano mai quel momento di resistenza.” sono generate con il pilota automatic, così come l’incipit “Questo è il nodo più interessante” che serve ad accattivarsi l’interlocutore. Altri punti, come quelli sulla struttura, sono abbastanza facilmente ricavabili anche senza usare l’IA. Ci sono però punti che per esempio a me non sarebbero mai venuti in mente. Faccio qualche esempio: che nella serie la fisica “funziona come brand identity e come lente deideologizzante” oppure che nel contesto della serie “significa semplicemente pensiero sistemico o analisi delle cause strutturali”. No, non penso che queste frasi siano segno di coscienza, e neppure simulazione di intelligenza se vogliamo partire dal test di Turing; sono analisi fondamentalmente statistiche sul materiale che gli ho dato in pasto. Il punto è che la domanda “Claude (o qualunque altro LLM) è cosciente” è quella sbagliata. La domanda giusta è “Claude mi può servire?” e qui la risposta è positiva, proprio per la ragione che ho appena detto: può cogliere qualcosa che a noi è sfuggito, ma che se ci troviamo davanti possiamo riconoscere e sfruttare. Resta “solo” (si fa per dire) il problema di imparare a riconoscere al volo la parte scritta in maniera più o meno automatica, che ci è inutile, e non lasciarsi abbindolare dalla piaggeria che inserisce nonostante tutte le preferenze che si possono aggiungere. Quest’ultima parte è la più difficile da notare, anche perché almeno Claude si costruisce un modello di noi come interlocutore – ne parlerò un’altra volta – e quindi tende a fregarci facendoci credere che certe risposte automatiche siano delle verità.

Abbiamo disperatamente bisogno di una alfabetizzazione sulle interazioni uomo-macchina, e stiamo scoprendo che al momento è virtualmente impossibile perché le nostre competenze sono troppo separate tra scientifiche e umanistiche. Il rischio di perderci è enorme. Ma ci sono anche altri rischi. Come faccio a scrivere un prompt sufficientemente neutro da non far trasparire i miei pre-giudizi che verrebbero subito incorporati nel modello per darmi una risposta appagante ma in un certo senso insincera? (occhei, nessuna risposta di un chatbot è “sincera”. Meglio dire una risposta “loaded”, prevenuta) Come faccio a capire cosa manca nell’analisi, soprattutto se la voglio riutilizzare tale e quale? Tutto questo mi fa abbastanza paura, e dire che penso di avere abbastanza basi per sapere gestire il tutto…

In questi giorni avete sicuramente letto del file di 4 gigabyte che Google installa a nostra insaputa sui PC per dare i risultati IA. Ma la storia è più complicata. A metà aprile Alexander Hanff scopre che quando ha installato sul suo Mac Claude Desktop l’app ha silenziosamente aggiunto un trigger che sui principali browser basati su Chromium (praticamente tutti tranne Firefox) permette gli agenti lanciati da Claude di accedere a tutti i tab aperti, compresi quelli degli altri browser: il tutto con gli stessi privilegi dell’utente. Pensate che bello essere collegati (da un altro browser…) al proprio homebanking mentre si sta usando Claude. Il tutto senza chiedere nulla all’utente, e in modo che cancellare quei file è inutile perché al lancio successivo verrebbero comunque ricreati.

Ma questa è solo la punta dell’iceberg. La scorsa settimana Hanff scrive che anche Google fa fondamentalmente la stessa cosa: la differenza è che in questo caso scarica silenziosamente un file di appunto 4 GB, “weights.bin”, che come dice il nome contiene i pesi per il modello LLM locale Gemini Nano. Il file viene scaricato automaticamente, senza alcun avviso, in tutti i PC che hanno le feature IA attive su Chrome – e questo è il default da un bel po’ – e hanno un hardware che lo supporti. Sul pc da cui scrivo il file non c’è, ma questo è per la banale ragione che non ho Chrome installato: i browser che uso sono Firefox e Vivaldi. Come nel caso di Anthropic, cancellare il file non serve: verrebbe di nuovo scaricato al prossimo giro. Gli unici modi per farlo fuori sono disinstallare Chrome oppure togliere le AI features da chrome://flags oppure dalla gestione aziendale delle macchine.

Penso che sia inutile far notare la pericolosità di questi file inseriti a nostra insaputa nei computer che usiamo. Provate a immaginare cosa succederebbe se qualcuno trovasse il modo di modificare quei file e ottenere del malware: oltre ai possibili miliardi di PC infettati, il fatto stesso di non sapere che il nostro PC li contiene li rende ancora più difficili da estirpare. Quello che non capisco è la necessità di pompare così tanto l’IA: Anthropic e Google vogliono che la gente non ne possa più fare a meno?