Nel mondo dell’IA commentare a settembre un post di gennaio è quasi fare archeologia: ma credo che sia ancora utile meditare su quanto scrisse Susam Pal. Le tre leggi inverse dell’IA sono chiaramente basate sulle tre leggi della robotica di Isaac Asimov. I miei ventun lettori se le ricordano sicuramente, ma per chi passasse di qua per caso le ricapitolo. Prima legge: Un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno. Seconda legge: Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge. Terza legge: Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge. Le tre leggi nascono in un contesto letterario, e il loro vero significato pratico − come poi l’OuLiPo teorizzò in seguito − è quello di dare una serie di vincoli per scrivere racconti dove si cerca di testare i limiti di quelle leggi. Qui abbiamo invece “leggi” che servono a noi umani per ricordarci con che cosa abbiamo a che fare.
Le tre leggi, secondo Pal, sono queste:
- non antropomorfismo: Gli umani non devono antropomorfizzare i sistemi IA.
- non deferenza: Gli umani non devono fidarsi ciecamente dell’output dei sistemi IA.
- non abdicazione di responsabilità: Gli umani devono restare pienamente responsabili delle conseguenze derivanti dall’uso dei sistemi IA.
Quello che possiamo vedere oggi è che nessuna delle tre leggi è fatta rispettare. I chatbot nascono apposta per sembrare il più possibile umani nella loro interazione, il che rende davvero difficile non applicare l’antropomorfismo, soprattutto se non si è esperti nell’interazione. Se le loro risposte fossero un po’ più meccaniche, probabilmente riusciremo anche a imparare a fidarci di meno delle loro risposte. Quella purtroppo è una caratteristica molto umana: spesso sentiamo uno che “parla bene” e accettiamo acriticamente quello che dice. Non è insomma che le AI abbiano l’esclusiva di questa fiducia, ma questo non significa che possiamo fare finta di nulla. Infine dobbiamo ricordarci che le IA sono software, per quanto sofisticato, e quindi non possono essere “colpevoli” di nulla. La responsabilità non può in questo caso tanto essere dei programmatori, a meno di errori marchiani, quanto delle aziende. Inutile dire che questo è forse il punto più difficile da fare accettare: OpenAI, Anthropic e compagnia bella vogliono pararsi le spalle con la scrittina in grigio corpo 4 “le IA possono commettere errori”. Ma un conto è se un’IA mi dice che ho scritto I quesiti di Pyramus (sarebbe anche un bel libro, anche se non credo che riuscirei a trovare materiale sufficiente. Ma Gemini è esperta nel tirare fuori associazioni statistiche senza alcun rapporto con la realtà, vedi la seconda legge); un altro conto è se conversando con un’IA una persona debole viene spinta al suicidio.
Quindi? Dato che tanto nessuno spingerà verso l’esecuzione di queste leggi, l’unica nostra possibilità è imparare ad applicare almeno le prime due per conto nostro, e fare attenzione alle conseguenze dell’abdicazione di responsabilità.
[Disclaimer: Ho ricevuto il libro grazie al programma Early Reviewer di LibraryThing]
