Pensieri sull’enshittification
Premessa: Ryan Levesque, l’autore del substack che sto commentando qui, ha un libro in uscita. Non ho ben capito come funzioni l’algoritmo di Substack, ma ho il sospetto che stia spingendo chi sta pubblicando roba: non so se questa spinta sia una causa o un effetto (del dare un po’ di soldi alla piattaforma, per esempio). Detto questo, può essere interessante parlare di quello che ha scritto lì, perché ha fatto un’analisi molto ad ampio spettro di cosa succede con l’IA.
Levesque comincia col parlare di uno studio dell’università del Maryland e di Google DeepSeek, che è partita da una decina di migliaia di racconti brevi piratati (non scherzo, li hanno presi dal dataset Books3), hanno fatto reverse engineering per ricavare un prompt, e l’hanno dato in pasto ai cinque principali LLM perché scrivessero loro dei racconti. Un’analisi statistica ha visto che i racconti umani hanno caratteristiche completamente distinte da quelle dei chatbot, come si vede dalla figura qui sotto. In pratica, è possibile riconoscere un racconto umano con una probabilità del 93%. (Ah, a quanto pare Hachette ha dovuto ritirare il libro horror Shy Girl dopo che un’analisi ha affermato che per il 78% era generato dall’IA).
Quali sono i punti che distinguono gli umani dagli LLM? L’IA spiega troppo i suoi temi, anziché lasciarli scoprire dai lettori; gli umani hanno uno stile di scrittura meno lineare, con salti temporali e flashback; le IA usano metafore corporee per spiegare un’emozione con una frequenza doppia degli umani; gli umani usano riferimenti specifici per testi, luoghi, marchi, anche qui con frequenza doppia rispetto alle IA; infine la narrativa IA ha meno diversità, nel senso di minori sottotrame e scene, e meno dialoghi. Ok, io fallisco in questo ultimo punto, ma sul resto mi sento pienamente umano. Il guaio è che ci stiamo abituando a questo stile di scrittura, l’enshittification appunto, che è più apprezzata dall’emisfero sinistro razionale del cervello rispetto al destro creativo. Arriviamo a credere che nulla di quello che vediamo o leggiamo sia autentico, e andiamo avanti a scrollare testi che ci danno un piacere immediato ma sono vuoti di contenuto.
Ci sono altri punti interessanti nell’articolo, come i cinque stadi di un social network dove l’enshittification, con il riempirsi di contenuti non creati dagli umani, è il quarto. Il primo è quello degli early adopter, il secondo è quando arrivano le masse e quindi i soldi, il terzo è quando si raggiunge la massa critica e creatori e consumatori convivono, il quinto è quando la gente si stufa della merda e se ne va via. Per quanto riguarda i libri, sicuramente i manuali standard ormai sono inutili in un mondo in cui basta fare una domanda a ChatGPT, Gemini o Claude e ottenere la risposta in un attimo, risposta che spesso è quella corretta; ma qui Levesque sostiene che i libri sulla trasformazione anziché sull’informazione diventano più cercati. Il suo concetto di trasformazione mi pare un po’ nebuloso, ma credo di capire che sia legato al partire da qualcosa di reale che non può essere simulato. Qualcosa di simile arriva con Internet. Perché Shopify scrive che la migliore piattaforma di e-commerce è… Shopify? Perché non lo scrive in modo che lo legga la gente, che generalmente si accorge di trovarsi nella situazione “oste, il tuo vino è buono?”, ma perché lo leggano i crawler, che poi mandano i risultati ai chatbot che a loro volta ce li forniscono ripuliti facendoci credere che la risposta che ci danno sia oggettiva. Comincio a capire come mai alcuni prodotti mostrano anche i concorrenti quando presentano le migliori soluzioni: non è per serietà, ma per bieche ragioni di ottimizzazione dei risultati di ricerca.
Non penso che leggerò il libro di Levesque: per quanto io riconosca che ci sarà ancora posto per qualcosa di genuinamente umano, almeno fino a che gli LLM avranno questa struttura lulliana, temo che la sua visione sia ottimista. Ma ciò non toglie che il suo racconto di cosa sta capitando dà molti spunti.
Il pensiero che in Olanda ci sia il concetto di “numeracy correspondent” di un sito di news online (De Correspondent) ci fa capire quanto noi siamo indietro. In questo libretto Sanne Blauw, l’Inviata nel mondo dei numeri in questione, racconta di come non basti avere i numeri anche corretti, ma sia sempre opportuno capire osa vogliono davvero dire. Parte così dagli assiro-babilonesi (e Florence Nightingale con le sue prime infografiche…) e prosegue con alcuni casi tutti molto bene documentati, sfuggendo alla facile divulgazione a livello di curiosità ed entrando invece a mostrare cosa è davvero successo al di là della narrazione usuale. I capitoli che ho trovato più interessanti sono quelli sul rapporto Kinsey, e soprattutto sul fatto che avesse chiesto l’aiuto di tre statistici che si sono messi le mani nei capelli, e quello su come i produttori di tabacco hanno anche assoldato Darrell Huff, l’autore di “How to Lie with Statistics” che mostrò in pratica come si potesse intortare la gente. La traduzione di Suzanne Heukensfeldt Jansen mi pare scorrevole, anche se non sarei in grado di leggere l’originale e quindi non ho davvero un’idea. Ah: il titolo originale olandese si traduce più o meno con “Il libro più venduto (con questo titolo) : come i numeri ci guidano e ci fanno sbagliare strada”. Molto più carino, non trovate?
Come vedete qui a destra, la lettera non è stata semplicemente imbucata da uno che è arrivato davanti al condominio con un pacchetto di copie: è stata regolarmente spedita, il che significa che gli agenti immobiliari in questione hanno fatto una visura di tutti i proprietari di immobili in quel condominio. Eppure a quanto pare non importa nulla a nessuno di queste spudorate violazioni della privacy. Quanti decenni ci vorranno prima di eliminare questo malvezzo?