Leggendo questo post di Gary Marcus ho scoperto che lo scorso 30 ottobre c’è stato in Vaticano un incontro promosso dalla Pontificia Accademia per la Vita e dal Future of Life Institute (che non ha nemmeno una voce su Wikipedia in lingua italiana…) intitolato The Future of AI: A Dialogue Between the Vatican and the Scientific World on the Developments and Applications of Intelligent Technologies. e dove il papa ha pronunciato un breve discorso. Ora, anche se Robert Prevost ha indubbiamente una qualche idea di come funzionino i sistemi attuali di intelligenza artificiale (ricordo che ha una laurea in matematica) chiaramente Leone XIV parla da un punto di vista totalmente diverso.

Dei cinque punti che ha brevemente trattato nel suo discorso ce ne sono tre che secondo me trascendono la religione. Innanzitutto il secondo: le macchine sono strumenti, non persone. Può sembrare un’affermazione teologica, o tutt’al più filosofica, ma non è così. La logica conclusione di quell’affermazione è che se una macchina ha diritti, o addirittura personalità legale, chi subisce un danno da parte di loro si debbano confrontare con un’entità senza volto. Avete presente le cause contro le multinazionali? Ecco. Se venite investiti da un’auto a guida autonoma, chi paga? Potremmo contestare che un LLM è qualcosa di diverso e c’è chi lo sta già affermando: ma non basta dire una cosa perché diventi automaticamente vera. Occorre dimostrarlo, e non mi pare lo stia facendo nessuno.

Il terzo punto, certe decisioni non devono mai essere delegate, io lo vedo come diretta conseguenza del precedente. Il sottotesto è che non esiste un metodo davvero oggettivo per prendere decisioni, checché se ne pensi; ecco perché non possiamo affidare a un algoritmo una decisione. Questo non significa che gli algoritmi siano inutili: significa che dobbiamo però non tanto capire il funzionamento interno dell’algoritmo – sarebbe spesso impossibile – quanto immaginare quali siano i dati in ingresso e se potrebbero dare delle distorsioni.

Infine c’è il quinto punto, la necessità di standard condivisi, supervisione indipendente e meccanismi di responsabilità chiari. La divisione tra potere legislativo, esecutivo e giudiziario è ormai ritenuta normale nelle democrazie, anche se paradossalmente non vale per la Santa Sede che è fondamentalmente una teocrazia. Perché non possiamo anche averlo per le IA?

Un’ultima mia considerazione. Marcus ha fatto una sviolinata al papa, dicendo che è il leader che ne capisce di più di IA. È possibile che sia vero, anche se bisogna dire che Leo non ha la necessità di dover prendere azioni pratiche ma può limitarsi a considerazioni etiche. Ma io continuo a credere che i capi di stato debbano scegliere le persone giuste per cercare soluzioni, farsi spiegare quali sono i problemi, quali le strade possibili, e solo a questo punto prendere decisioni. Quello che però mi pare è che se hanno scelto le persone giuste le fanno lavorare così sottotraccia che almeno io non ne so nulla; potrebbe anche essere una buona idea, ma temo che non sia proprio così. E in questo dobbiamo riconoscere che il papa si è invece esplicitamente mosso in questa direzione.