archivi di .mau.

[MEDIUM] È proprio l’algoritmo a essere impazzito?

[testo pubblicato su Medium]

La colpa? È come al solito “dell’algoritmo impazzito”. Così scrive la Repubblica raccontando dell’ultima sentenza del Tar del Lazio a riguardo dell’assegnazione delle cattedre ai vincitori del concorso scolastico nel 2016. A dire il vero non sono riuscito a trovare il testo della sentenza (per i curiosi, dovrebbe essere la 06606/2019 della terza sezione bis del Tar del Lazio), e la mia sensazione è che in realtà quello scritto da Repubblica sia una silloge di varie sentenze sul tema, visto che la sentenza principale arriva a fine maggio. Ma non è questo il punto importante: quello che mi preoccupa è leggere affermazioni, presumo scritte da periti (cioè “esperti”), che non stanno né in cielo né in terra. Ecco alcune di queste affermazioni con i miei commenti. Una precisazione: io sono convinto che quell’algoritmo fosse malfatto. Ma sono anche certo che le ragioni addotte per cassarlo giuridicamente non abbiano senso. Vediamo come alcune delle frasi riportate da Key4Biz – che sono prese da una sentenza precedente, la n. 9224/2018 che deve semplicemente essere stata confermata da quest’ultima - vengono lette da chi ha un po’ di conoscenza del tema. Cominciamo subito:

“[…] un procedimento amministrativo, ancorché difficile o complicato, non può essere devoluto ad un “meccanismo informatico o matematico del tutto impersonale e orfano di capacità valutazionali delle singole fattispecie concrete, tipiche invece della tradizionale e garantistica istruttoria procedimentale che deve informare l’attività amministrativa, specie ove sfociante in atti provvedimentali incisivi di posizioni giuridiche soggettive di soggetti privati e di conseguenziali ovvie ricadute anche sugli apparati e gli assetti della pubblica amministrazione.”

Traduciamo dal burocratese (particolarmente pesante, come capita spesso quando non si vuole che traspaia il vero significato): occorre che qualcuno decida il risultato finale. Se siamo buoni, potremmo pensare a una verifica che sia andato tutto bene: questo è sicuramente qualcosa che deve essere fatto, ma dubito che in quel caso fosse davvero fattibile. Spero che non ci sia il retropensiero “se ci sono delle persone che controllano, loro possono aggiustare quello che serve”. Ma pensateci: cosa diavolo sarebbero le “capacità valutazionali delle singole fattispecie concrete”? Detto in altri termini, quali sono le valutazioni che non possono proprio essere fatte da un algoritmo ma necessitano un giudizio umano? E in effetti, continuando a leggere, troviamo

“un algoritmo, quantunque, preimpostato in guisa da tener conto di posizioni personali, di titoli e punteggi, giammai può assicurare la salvaguardia delle guarentigie procedimentali che gli artt. 2, 6,7,8,9,10 della legge 7.8.1990 n. 241 hanno apprestato, tra l’altro in recepimento di un inveterato percorso giurisprudenziale e dottrinario…. gli istituti di partecipazione, di trasparenza e di accesso, in sintesi, di relazione del privato con i pubblici poteri non possono essere legittimamente mortificati e compressi soppiantando l’attività umana con quella impersonale, che poi non è attività, ossia prodotto delle azioni dell’uomo, che può essere svolta in applicazione di regole o procedure informatiche o matematiche. […]”

Beh, sì: un algoritmo farebbe molta fatica a leggere un testo del genere, mi sa. Ma non capisco quali siano i problemi per cui un algoritmo non possa assicurare la partecipazione (vengono eliminati a priori tutti quelli che non hanno un R nel loro cognome?), trasparenza (non vengono elencati i punteggi ottenuti dai vari candidati?) e l’accesso (ci vuole una password per vedere i risultati?). Ma proseguiamo.

“non è conforme [alla Costituzione e alla legge sulla semplificazione normativa] […] affidare all’attivazione di meccanismi e sistemi informatici e al conseguente loro impersonale funzionamento, il dipanarsi di procedimenti amministrativi, sovente incidenti su interessi, se non diritti, di rilievo costituzionale, che invece postulano, onde approdare al corretto esito provvedimentale conclusivo, il disimpegno di attività istruttoria, acquisitiva di rappresentazioni di circostanze di fatto e situazioni personali degli interessati destinatari del provvedimento finale, attività, talora ponderativa e comparativa di interessi e conseguentemente necessariamente motivazionale, che solo l’opera e l’attività dianoetica dell’uomo può svolgere.”

Lo confesso. Ho dovuto aprire il De Mauro per scoprire cosa significasse “dianoetico”. Cosa volete, Ron Hubbard non mi ha mai detto molto. Ad ogni buon conto, il De Mauro snocciola “agg. TS filos. – discorsivo, razionale”. Insomma, l’essere umano è un animale razionale, lo diceva già Aristotele; l’algoritmo no, e infatti Aristotele nulla affermò al riguardo. Ma poi quali sarebbero le “situazioni personali” di cui si parla? Un banale “tengo famiglia”? Offerte che non si possono rifiutare? Una consapevolezza olistica? Io ero convinto che – pur con tutte le difficoltà oggettive possibili – un concorso dovrebbe essere il più asettico possibile, perché si cercano le persone migliori. Invece a quanto pare non è così. Il “funzionario persona fisica […] deve seguitare ad essere il dominus del procedimento stesso”. Qui in realtà c’è il primo punto condivisibile della sentenza: il funzionario-dominus infatti deve operare

“all’uopo dominando le stesse procedure informatiche predisposte in funzione servente e alle quali va dunque riservato tutt’oggi un ruolo strumentale e meramente ausiliario in seno al procedimento amministrativo e giammai dominante o surrogatorio dell’attività dell’uomo.”

Su questo invece non c’è nulla da eccepire, a parte l’ampollosità della prosa. Se tu, umano funzionario, non capisci un tubo di come funziona l’algoritmo che stai usando allora non stai facendo bene il tuo lavoro. Qui si apre un mondo totalmente diverso, però! Non entriamo nel merito degli algoritmi di deep learning il cui funzionamento dettagliato è inconoscibile persino da chi li ha sviluppati, e per cui ci vorrebbe un saggio a parte. Il caso in questione è infatti molto più semplice, per fortuna, e si suppone che l’umano funzionario, in qualità di animale ragionevole, possa comprendere il funzionamento dell’algoritmo. Se non ci riesce di chi è la colpa? Il tutto naturalmente a meno che il suddetto non debba semplicemente verificare a mano che le decine di migliaia di vincitori fossero stati assegnati ai posti corretti, a meno che non si chiami Marco Bussetti. Beh, no, questa è cattiveria. Se leggete l’intervista vedete che Bussetti ha dato gli onori a una funzionaria del ministero.

Ma seriamente il punto è un altro. Se la storia raccontata dall’ex ministro è vera, che l’algoritmo fosse bacato era evidente a chiunque, e pertanto bene ha fatto il Tar ad annullare i risultati della procedura e stigmatizzare chi ha preso i risultati e li ha inviati senza nemmeno dare loro un’occhiata. E non poteva allora dire semplicemente questo? Evidentemente no. Occorreva personificare l’algoritmo in modo da dare la colpa, o almeno un concorso di colpa, ad esso. Perché sono gli algoritmi a impazzire, non i programmatori che non li sanno scrivere e correggere o i funzionari che non hanno voglia di vedere cosa è successo. Troppo facile così. Alla fine è più onesta la chiusa dell’articolo di Repubblica: «A questo baco [dell’algoritmo che premiava la geografia] si sarebbero aggiunti, poi, diversi errori nell’immissione dei dati. Errori umani, non solo orwelliani.» Appunto. È troppo facile nascondersi dietro l’algoritmo per non tirare fuori le vere colpe, in questo caso di chi l’ha scritto e di chi (non) l’ha testato…