archivi di .mau.

[MEDIUM] È proprio l’algoritmo a essere impazzito?

[testo pubblicato su Medium]

La colpa? È come al solito “dell’algoritmo impazzito”. Così scrive la Repubblica raccontando dell’ultima sentenza del Tar del Lazio a riguardo dell’assegnazione delle cattedre ai vincitori del concorso scolastico nel 2016. A dire il vero non sono riuscito a trovare il testo della sentenza (per i curiosi, dovrebbe essere la 06606/2019 della terza sezione bis del Tar del Lazio), e la mia sensazione è che in realtà quello scritto da Repubblica sia una silloge di varie sentenze sul tema, visto che la sentenza principale arriva a fine maggio. Ma non è questo il punto importante: quello che mi preoccupa è leggere affermazioni, presumo scritte da periti (cioè “esperti”), che non stanno né in cielo né in terra. Ecco alcune di queste affermazioni con i miei commenti. Una precisazione: io sono convinto che quell’algoritmo fosse malfatto. Ma sono anche certo che le ragioni addotte per cassarlo giuridicamente non abbiano senso. Vediamo come alcune delle frasi riportate da Key4Biz – che sono prese da una sentenza precedente, la n. 9224/2018 che deve semplicemente essere stata confermata da quest’ultima - vengono lette da chi ha un po’ di conoscenza del tema. Cominciamo subito:

“[…] un procedimento amministrativo, ancorché difficile o complicato, non può essere devoluto ad un “meccanismo informatico o matematico del tutto impersonale e orfano di capacità valutazionali delle singole fattispecie concrete, tipiche invece della tradizionale e garantistica istruttoria procedimentale che deve informare l’attività amministrativa, specie ove sfociante in atti provvedimentali incisivi di posizioni giuridiche soggettive di soggetti privati e di conseguenziali ovvie ricadute anche sugli apparati e gli assetti della pubblica amministrazione.”

Traduciamo dal burocratese (particolarmente pesante, come capita spesso quando non si vuole che traspaia il vero significato): occorre che qualcuno decida il risultato finale. Se siamo buoni, potremmo pensare a una verifica che sia andato tutto bene: questo è sicuramente qualcosa che deve essere fatto, ma dubito che in quel caso fosse davvero fattibile. Spero che non ci sia il retropensiero “se ci sono delle persone che controllano, loro possono aggiustare quello che serve”. Ma pensateci: cosa diavolo sarebbero le “capacità valutazionali delle singole fattispecie concrete”? Detto in altri termini, quali sono le valutazioni che non possono proprio essere fatte da un algoritmo ma necessitano un giudizio umano? E in effetti, continuando a leggere, troviamo

“un algoritmo, quantunque, preimpostato in guisa da tener conto di posizioni personali, di titoli e punteggi, giammai può assicurare la salvaguardia delle guarentigie procedimentali che gli artt. 2, 6,7,8,9,10 della legge 7.8.1990 n. 241 hanno apprestato, tra l’altro in recepimento di un inveterato percorso giurisprudenziale e dottrinario…. gli istituti di partecipazione, di trasparenza e di accesso, in sintesi, di relazione del privato con i pubblici poteri non possono essere legittimamente mortificati e compressi soppiantando l’attività umana con quella impersonale, che poi non è attività, ossia prodotto delle azioni dell’uomo, che può essere svolta in applicazione di regole o procedure informatiche o matematiche. […]”

Beh, sì: un algoritmo farebbe molta fatica a leggere un testo del genere, mi sa. Ma non capisco quali siano i problemi per cui un algoritmo non possa assicurare la partecipazione (vengono eliminati a priori tutti quelli che non hanno un R nel loro cognome?), trasparenza (non vengono elencati i punteggi ottenuti dai vari candidati?) e l’accesso (ci vuole una password per vedere i risultati?). Ma proseguiamo.

“non è conforme [alla Costituzione e alla legge sulla semplificazione normativa] […] affidare all’attivazione di meccanismi e sistemi informatici e al conseguente loro impersonale funzionamento, il dipanarsi di procedimenti amministrativi, sovente incidenti su interessi, se non diritti, di rilievo costituzionale, che invece postulano, onde approdare al corretto esito provvedimentale conclusivo, il disimpegno di attività istruttoria, acquisitiva di rappresentazioni di circostanze di fatto e situazioni personali degli interessati destinatari del provvedimento finale, attività, talora ponderativa e comparativa di interessi e conseguentemente necessariamente motivazionale, che solo l’opera e l’attività dianoetica dell’uomo può svolgere.”

Lo confesso. Ho dovuto aprire il De Mauro per scoprire cosa significasse “dianoetico”. Cosa volete, Ron Hubbard non mi ha mai detto molto. Ad ogni buon conto, il De Mauro snocciola “agg. TS filos. – discorsivo, razionale”. Insomma, l’essere umano è un animale razionale, lo diceva già Aristotele; l’algoritmo no, e infatti Aristotele nulla affermò al riguardo. Ma poi quali sarebbero le “situazioni personali” di cui si parla? Un banale “tengo famiglia”? Offerte che non si possono rifiutare? Una consapevolezza olistica? Io ero convinto che – pur con tutte le difficoltà oggettive possibili – un concorso dovrebbe essere il più asettico possibile, perché si cercano le persone migliori. Invece a quanto pare non è così. Il “funzionario persona fisica […] deve seguitare ad essere il dominus del procedimento stesso”. Qui in realtà c’è il primo punto condivisibile della sentenza: il funzionario-dominus infatti deve operare

“all’uopo dominando le stesse procedure informatiche predisposte in funzione servente e alle quali va dunque riservato tutt’oggi un ruolo strumentale e meramente ausiliario in seno al procedimento amministrativo e giammai dominante o surrogatorio dell’attività dell’uomo.”

Su questo invece non c’è nulla da eccepire, a parte l’ampollosità della prosa. Se tu, umano funzionario, non capisci un tubo di come funziona l’algoritmo che stai usando allora non stai facendo bene il tuo lavoro. Qui si apre un mondo totalmente diverso, però! Non entriamo nel merito degli algoritmi di deep learning il cui funzionamento dettagliato è inconoscibile persino da chi li ha sviluppati, e per cui ci vorrebbe un saggio a parte. Il caso in questione è infatti molto più semplice, per fortuna, e si suppone che l’umano funzionario, in qualità di animale ragionevole, possa comprendere il funzionamento dell’algoritmo. Se non ci riesce di chi è la colpa? Il tutto naturalmente a meno che il suddetto non debba semplicemente verificare a mano che le decine di migliaia di vincitori fossero stati assegnati ai posti corretti, a meno che non si chiami Marco Bussetti. Beh, no, questa è cattiveria. Se leggete l’intervista vedete che Bussetti ha dato gli onori a una funzionaria del ministero.

Ma seriamente il punto è un altro. Se la storia raccontata dall’ex ministro è vera, che l’algoritmo fosse bacato era evidente a chiunque, e pertanto bene ha fatto il Tar ad annullare i risultati della procedura e stigmatizzare chi ha preso i risultati e li ha inviati senza nemmeno dare loro un’occhiata. E non poteva allora dire semplicemente questo? Evidentemente no. Occorreva personificare l’algoritmo in modo da dare la colpa, o almeno un concorso di colpa, ad esso. Perché sono gli algoritmi a impazzire, non i programmatori che non li sanno scrivere e correggere o i funzionari che non hanno voglia di vedere cosa è successo. Troppo facile così. Alla fine è più onesta la chiusa dell’articolo di Repubblica: «A questo baco [dell’algoritmo che premiava la geografia] si sarebbero aggiunti, poi, diversi errori nell’immissione dei dati. Errori umani, non solo orwelliani.» Appunto. È troppo facile nascondersi dietro l’algoritmo per non tirare fuori le vere colpe, in questo caso di chi l’ha scritto e di chi (non) l’ha testato…

[MEDIUM] Alessandro Baricco e il suo Game

Ho deciso di leggere l’ultimo libro di Baricco. Avevo saltato I barbari, esattamente come ho saltato tutta la sua produzione editoriale. In realtà leggevo la rubrica che teneva sulla Stampa qualche decennio fa, e ai tempi avevo stabilito che mi era bastata questa esposizione. Succede però che il tema di The Game si intreccia con altre cose su cui sto cercando di trovare una quadra. È vero che “ars longa, vita brevis”, come diceva (in greco) Ippocrate e dice (in latino) Douglas Hofstadter; però è anche vero che non è bello eliminare pregiudizialmente qualcosa, e quindi ho pensato di dedicare qualche ora della mia vita a vedere come Baricco ha voluto trattare il tema. (Spoiler: pensavo molto peggio. Non consiglierei il libro come unica voce in capitolo, ma vale la pena di leggerlo se si ha già un’idea di quello di cui si parla: se lo si prende senza preconcetti, si scopre che non tutto quello che diamo per scontato è vero).

Qui però non voglio parlare tanto del contenuto del libro – una mia recensione più o meno decente la trovate qua – quanto piuttosto della “baricchitudine”. Mi interessa insomma raccontare come io ho decodificato il suo pensiero, perché ci sono varie cose che secondo me rimangono nascoste. Per prima cosa, Baricco scrive dannatamente bene. Su questo non c’è storia. Le sue frasi si snocciolano senza sforzo, e il lettore plana amabilmente su di esse senza sforzo alcuno. (Sono molto invidioso, sì). Questo è bellissimo, ma nel caso di un saggio c’è un piccolo problema: il lettore in questione si beve tutto senza porsi alcuna domanda sulla verità di quanto scritto. Come sappiamo bene, una bugia ben proposta funziona meglio di una verità nuda e cruda. Sto dicendo che Baricco ha scritto una serie di fregnacce? No. Ne ha scritte, intendiamoci: ma andando avanti nella lettura mi sono accorto che spesso – qualche decina di pagine dopo quello che avevo rubricato come cazzata – Baricco scriveva esattamente l’opposto. L’idea che mi sono fatto è che è una palla che lui abbia scritto il libro buttando giù man mano il testo. Lì dietro c’è un lavoraccio, e la cosa mi fa incavolare ancora di più, perché sono convinto che lui abbia messo apposta buona parte degli erroracci per far fare al lettore il giro che lui voleva. Non è bello. Verso la fine lo ammette anche tra le righe, anche se non ha il coraggio di dire che i primi due capitoli sono in buona parte fregnacce e se ne esce con “è preistoria” con il consiglio di non rileggere quel testo.

Baricco è un filosofo: quindi per lui il Game ha una filosofia sottostante. Io non sono filosofo e anzi sono sempre stato una capra in filosofia: però non mi bevo il suo professarsi cartesiano con tanto di esempi, e preferisco fermarmi alla lettera. Il Game è Movimento – lo dice lui – quindi è eracliteo. Il problema è che se si parte da questo assunto occorre portarlo avanti coerentemente, cosa che Baricco del resto fa. Questo va benissimo quando concludi che la caratteristica fondamentale di questi “oltremondi” digitali sia la velocità e la leggerezza, che fanno portare a galla l’essenza delle cose anziché nasconderla in fondo come fa il nostro mondo analogico. (“Analogico” e “digitale” sono traduzioni mie, Baricco non usa mai questa terminologia, e anche questo secondo me è un segno: vuole spostare il terreno di gioco, e per farlo coglie una caratteristica diversa da quella tipicamente usata. Ottima mossa, perché costringe il lettore a rivedere tutti i suoi pre-giudizi). Questo però va molto meno bene quando decide di rinominare la post-verità “verità-veloce”, definendola come «una verità che per salire alla superficie del mondo – cioè per diventare comprensibile ai piú e per essere rilevata dall’attenzione della gente – si ridisegna in modo aerodinamico perdendo per strada esattezza e precisione e guadagnando però in sintesi e velocità». Baricco scrive molto meglio di me, ma il concetto è lo stesso che ho scritto nel capoverso precedente: «una bugia ben proposta funziona meglio di una verità nuda e cruda». L’esempio che fa, quello dei “vinili che hanno venduto più del digitale”, è paradigmatico: usa varie pagine per mostrare come quell’affermazione sia l’equivalente delle barzellette su Radio Erevan, perché quello che è successo è che nel Regno Unito in una specifica settimana le vendite di vinile hanno superato il fatturato della pubblicità collegata al download gratuito in digitale, e conclude che sì, la frase non rappresenta i fatti, ma permette però di scoprire tante cose. Palle. Le cose le scopri solo se stai ancora pensando come una persona pre-Game e vai a sfrucugliare. Anche la sua affermazione che in fin dei conti il termine “post-truth” esisteva già nei casi delle armi di distruzione di massa di Saddam Hussein e nel doping di Armstrong non funziona: nel secondo caso non è nemmeno post-verità ma semplice negazione, e ai tempi della scenetta di Colin Powell il termine era stato usato una sola volta dieci anni prima in un libro che non era stato filato praticamente da nessuno. (Il secondo libro, che aveva anche il termine nel titolo, uscì l’anno successivo, e fu comunque filato poco).

Questa difesa baricchiana della post-verità, che funziona indipendentemente dai fatti, ha ovviamente una sua origine ben precisa, che si riassume in una parola: narrazione. (“Storytelling”, se siete molto anglofoni. Però questo è uno dei pochi casi in cui il termine italiano è riuscito a mantenere una certa qual forza). Baricco è un campione di narrazione, per negarlo occorre avere davvero una bella faccia tosta. Ha anche ragione quando afferma che non è necessario partire dai fatti per ottenere una bella narrazione: millenni di epica dovrebbero averlo reso chiaro. Però non può incrociare i flussi e applicare al mondo gli stessi schemi di un oltremondo ante litteram qual è la narrativa! Ok, l’ha fatto, e sono ragionevolmente certo che giocasse sul fatto che non se ne sarebbe accorto nessuno, né tra i suoi fan che si sarebbero bevuti tutto né tra i detrattori che invece l’avrebbero stroncato a priori e quindi senza un vero confronto sul testo. Ecco: forse questa sì che è verità-veloce!

Un’ultima nota, tecnica ma anche personale. Baricco ha cinque anni più di me, quindi siamo praticamente della stessa generazione. Però abbiamo vissuto una vita diversissima. È vero che io non sono un nativo digitale, ma sono attaccato a una tastiera da quando avevo quindici anni: faccio quasi parte del gruppo dei pionieri del digitale – attenzione: non dell’élite di cui lui parla: al più, esagerando, dei tecnici nascosti dietro le quinte . Baricco ha fatto un bel lavoro per entrare “da vecchio” nell’oltremondo: ma qualcosa rimane sempre. Ho sorriso quando ho letto «È la postura in cui sto scrivendo questo libro. [Non quella in cui, probabilmente, lo state leggendo: onore al libro cartaceo, che ancora resiste a qualsiasi mutazione].» Stavo naturalmente leggendo il libro nella postura uomo-schermo, quello del furbofono dove ho la copia in formato ePub. Possiamo poi dibattere se la versione elettronica di questo libro sia o no una mutazione e se le note che ho preso sullo smartphone siano la stessa cosa di quelle che una volta si scrivevano a matita sulle pagine: però quell’inciso è la prova che forse non tutto è ancora così liscio come lui cerca di convincerci…