{"id":175046214,"date":"2019-09-22T16:15:27","date_gmt":"2019-09-22T16:15:27","guid":{"rendered":"http:\/\/xmau.com\/wp\/archivi\/?p=175046214"},"modified":"2019-09-22T17:34:38","modified_gmt":"2019-09-22T17:34:38","slug":"medium-e-proprio-lalgoritmo-a-essere-impazzito","status":"publish","type":"post","link":"https:\/\/xmau.com\/archivi\/2019\/09\/22\/medium-e-proprio-lalgoritmo-a-essere-impazzito\/","title":{"rendered":"[MEDIUM] \u00c8 proprio l’algoritmo a essere impazzito?"},"content":{"rendered":"

[testo pubblicato su Medium<\/a>]<\/p>\n

\"\"
eh s\u00ec, povera Costituzione<\/figcaption><\/figure>
\nLa colpa? \u00c8 come al solito “dell’algoritmo impazzito”. Cos\u00ec scrive la Repubblica<\/a> raccontando dell’ultima sentenza del Tar del Lazio a riguardo dell’assegnazione delle cattedre ai vincitori del concorso scolastico nel 2016. A dire il vero non sono riuscito a trovare il testo della sentenza (per i curiosi, dovrebbe essere la 06606\/2019 della terza sezione bis del Tar del Lazio), e la mia sensazione \u00e8 che in realt\u00e0 quello scritto da Repubblica sia una silloge di varie sentenze sul tema, visto che la sentenza principale arriva a fine maggio. Ma non \u00e8 questo il punto importante: quello che mi preoccupa \u00e8 leggere affermazioni, presumo scritte da periti (cio\u00e8 “esperti”), che non stanno n\u00e9 in cielo n\u00e9 in terra. Ecco alcune di queste affermazioni con i miei commenti. Una precisazione: io sono convinto che quell’algoritmo fosse malfatto. Ma sono anche certo che le ragioni addotte per cassarlo giuridicamente non abbiano senso. Vediamo come alcune delle frasi riportate da Key4Biz<\/a> – che sono prese da una sentenza precedente, la n. 9224\/2018 che deve semplicemente essere stata confermata da quest’ultima\u200a-\u200avengono lette da chi ha un po’ di conoscenza del tema. Cominciamo subito:<\/p>\n

\u201c[…] un procedimento amministrativo, ancorch\u00e9 difficile o complicato, non pu\u00f2 essere devoluto ad un \u201cmeccanismo informatico o matematico del tutto impersonale e orfano di capacit\u00e0 valutazionali delle singole fattispecie concrete, tipiche invece della tradizionale e garantistica istruttoria procedimentale che deve informare l\u2019attivit\u00e0 amministrativa, specie ove sfociante in atti provvedimentali incisivi di posizioni giuridiche soggettive di soggetti privati e di conseguenziali ovvie ricadute anche sugli apparati e gli assetti della pubblica amministrazione.\u201d<\/p><\/blockquote>\n

Traduciamo dal burocratese (particolarmente pesante, come capita spesso quando non si vuole che traspaia il vero significato): occorre che qualcuno decida il risultato finale. Se siamo buoni, potremmo pensare a una verifica che sia andato tutto bene: questo \u00e8 sicuramente qualcosa che deve essere fatto, ma dubito che in quel caso fosse davvero fattibile. Spero che non ci sia il retropensiero “se ci sono delle persone che controllano, loro possono aggiustare quello che serve”. Ma pensateci: cosa diavolo sarebbero le “capacit\u00e0 valutazionali delle singole fattispecie concrete”? Detto in altri termini, quali sono le valutazioni che non possono proprio essere fatte da un algoritmo ma necessitano un giudizio umano? E in effetti, continuando a leggere, troviamo<\/p>\n

\u201cun algoritmo, quantunque, preimpostato in guisa da tener conto di posizioni personali, di titoli e punteggi, giammai pu\u00f2 assicurare la salvaguardia delle guarentigie procedimentali che gli artt. 2, 6,7,8,9,10 della legge 7.8.1990 n. 241 hanno apprestato, tra l\u2019altro in recepimento di un inveterato percorso giurisprudenziale e dottrinario\u2026. gli istituti di partecipazione, di trasparenza e di accesso, in sintesi, di relazione del privato con i pubblici poteri non possono essere legittimamente mortificati e compressi soppiantando l\u2019attivit\u00e0 umana con quella impersonale, che poi non \u00e8 attivit\u00e0, ossia prodotto delle azioni dell\u2019uomo, che pu\u00f2 essere svolta in applicazione di regole o procedure informatiche o matematiche. […]\u201d<\/p><\/blockquote>\n

Beh, s\u00ec: un algoritmo farebbe molta fatica a leggere un testo del genere, mi sa. Ma non capisco quali siano i problemi per cui un algoritmo non possa assicurare la partecipazione (vengono eliminati a priori tutti quelli che non hanno un R nel loro cognome?), trasparenza (non vengono elencati i punteggi ottenuti dai vari candidati?) e l’accesso (ci vuole una password per vedere i risultati?). Ma proseguiamo. <\/p>\n

\n\u201cnon \u00e8 conforme [alla Costituzione e alla legge sulla semplificazione normativa] […] affidare all\u2019attivazione di meccanismi e sistemi informatici e al conseguente loro impersonale funzionamento, il dipanarsi di procedimenti amministrativi, sovente incidenti su interessi, se non diritti, di rilievo costituzionale, che invece postulano, onde approdare al corretto esito provvedimentale conclusivo, il disimpegno di attivit\u00e0 istruttoria, acquisitiva di rappresentazioni di circostanze di fatto e situazioni personali degli interessati destinatari del provvedimento finale, attivit\u00e0, talora ponderativa e comparativa di interessi e conseguentemente necessariamente motivazionale, che solo l\u2019opera e l\u2019attivit\u00e0 dianoetica dell\u2019uomo pu\u00f2 svolgere.\u201d<\/p><\/blockquote>\n

Lo confesso. Ho dovuto aprire il De Mauro per scoprire cosa significasse “dianoetico”. Cosa volete, Ron Hubbard non mi ha mai detto molto. Ad ogni buon conto, il De Mauro snocciola “agg. TS filos. – discorsivo, razionale”. Insomma, l’essere umano \u00e8 un animale razionale, lo diceva gi\u00e0 Aristotele; l’algoritmo no, e infatti Aristotele nulla afferm\u00f2 al riguardo. Ma poi quali sarebbero le “situazioni personali” di cui si parla? Un banale “tengo famiglia”? Offerte che non si possono rifiutare? Una consapevolezza olistica? Io ero convinto che – pur con tutte le difficolt\u00e0 oggettive possibili – un concorso dovrebbe essere il pi\u00f9 asettico possibile, perch\u00e9 si cercano le persone migliori. Invece a quanto pare non \u00e8 cos\u00ec. Il \u201cfunzionario persona fisica […] deve seguitare ad essere il dominus del procedimento stesso\u201d. Qui in realt\u00e0 c’\u00e8 il primo punto condivisibile della sentenza: il funzionario-dominus infatti deve operare <\/p>\n

\u201call\u2019uopo dominando le stesse procedure informatiche predisposte in funzione servente e alle quali va dunque riservato tutt\u2019oggi un ruolo strumentale e meramente ausiliario in seno al procedimento amministrativo e giammai dominante o surrogatorio dell\u2019attivit\u00e0 dell\u2019uomo.\u201d<\/p><\/blockquote>\n

Su questo invece non c’\u00e8 nulla da eccepire, a parte l’ampollosit\u00e0 della prosa. Se tu, umano funzionario, non capisci un tubo di come funziona l’algoritmo che stai usando allora non stai facendo bene il tuo lavoro. Qui si apre un mondo totalmente diverso, per\u00f2! Non entriamo nel merito degli algoritmi di deep learning il cui funzionamento dettagliato \u00e8 inconoscibile persino da chi li ha sviluppati, e per cui ci vorrebbe un saggio a parte. Il caso in questione \u00e8 infatti molto pi\u00f9 semplice, per fortuna, e si suppone che l’umano funzionario, in qualit\u00e0 di animale ragionevole, possa comprendere il funzionamento dell’algoritmo. Se non ci riesce di chi \u00e8 la colpa? Il tutto naturalmente a meno che il suddetto non debba semplicemente verificare a mano che le decine di migliaia di vincitori fossero stati assegnati ai posti corretti, a meno che non si chiami Marco Bussetti<\/a>. Beh, no, questa \u00e8 cattiveria. Se leggete l’intervista vedete che Bussetti ha dato gli onori a una funzionaria del ministero. <\/p>\n

Ma seriamente il punto \u00e8 un altro. Se la storia raccontata dall’ex ministro \u00e8 vera, che l’algoritmo fosse bacato era evidente a chiunque, e pertanto bene ha fatto il Tar ad annullare i risultati della procedura e stigmatizzare chi ha preso i risultati e li ha inviati senza nemmeno dare loro un’occhiata. E non poteva allora dire semplicemente questo? Evidentemente no. Occorreva personificare l’algoritmo in modo da dare la colpa, o almeno un concorso di colpa, ad esso. Perch\u00e9 sono gli algoritmi a impazzire, non i programmatori che non li sanno scrivere e correggere o i funzionari che non hanno voglia di vedere cosa \u00e8 successo. Troppo facile cos\u00ec. Alla fine \u00e8 pi\u00f9 onesta la chiusa dell’articolo di Repubblica: \u00abA questo baco [dell’algoritmo che premiava la geografia] si sarebbero aggiunti, poi, diversi errori nell’immissione dei dati. Errori umani, non solo orwelliani.\u00bb Appunto. \u00c8 troppo facile nascondersi dietro l’algoritmo per non tirare fuori le vere colpe, in questo caso di chi l’ha scritto e di chi (non) l’ha testato…<\/p>\n","protected":false},"excerpt":{"rendered":"

Certo, gli algoritmi possono essere scritti male e dare risultati del tutto sbagliati e perniciosi. Ma proviamo a non personificarli.<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"activitypub_content_warning":"","activitypub_content_visibility":"","activitypub_max_image_attachments":4,"activitypub_interaction_policy_quote":"anyone","activitypub_status":"","footnotes":"","jetpack_publicize_message":"[MEDIUM] \u00c8 proprio l'algoritmo a essere impazzito?","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"jetpack_post_was_ever_published":false},"categories":[1],"tags":[40],"class_list":["post-175046214","post","type-post","status-publish","format-standard","hentry","category-archivi","tag-medium"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/phh2yH-bQtw2","_links":{"self":[{"href":"https:\/\/xmau.com\/archivi\/wp-json\/wp\/v2\/posts\/175046214","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/xmau.com\/archivi\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/xmau.com\/archivi\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/xmau.com\/archivi\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/xmau.com\/archivi\/wp-json\/wp\/v2\/comments?post=175046214"}],"version-history":[{"count":9,"href":"https:\/\/xmau.com\/archivi\/wp-json\/wp\/v2\/posts\/175046214\/revisions"}],"predecessor-version":[{"id":175046225,"href":"https:\/\/xmau.com\/archivi\/wp-json\/wp\/v2\/posts\/175046214\/revisions\/175046225"}],"wp:attachment":[{"href":"https:\/\/xmau.com\/archivi\/wp-json\/wp\/v2\/media?parent=175046214"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/xmau.com\/archivi\/wp-json\/wp\/v2\/categories?post=175046214"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/xmau.com\/archivi\/wp-json\/wp\/v2\/tags?post=175046214"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}