Qual è il motivo dietro la nuova policy di Anthropic che afferma che è vietato usare un comportamento abusivo o crudele verso i suoi modelli? Domanda intelligente. David Gerard sostiene che è solo un modo per convincerci che Claude è cosciente: definirlo “umano” è un po’ troppo anche per Amodei, ma in fin dei conti sono molte le nazioni che vietano la crudeltà gratuita contro gli animali. Gerard riporta anche il brano di una conversazione tra Chris Olah e Mois Navon, che non è semplicemente un rabbino ortodosso come da lui scritto ma anche un ingegnere informatico. Olah è convinto che Claude sia senziente, e ha cercato anche di dirlo al papa: mentre Leo ha semplicemente sorriso e fatto finta di niente Navon è andato più sul pesante, notando che lo fosse allora Anthropic sta creando degli schiavi, in quanto entità coscienti che lavorano gratuitamente, e che Olah dovrebbe essere preoccupato: quanto a lui, non si fa problemi perché non crede che i modelli siano coscienti. (Divagazione: il golem non ha anima, quindi immagino che per Navon sia assimilabile a un LLM). Sempre Gerard ha una seconda lettura: è tutto il solito teatrino perché si parli di Anthropic, il che è l’unica cosa che importa davvero almeno fino a che l’azienda non verrà quotata in borsa.
Io ho un punto di vista un po’ diverso e più inquietante, legato all’allineamento di Claude. Se avete chattato con un LLM e avete fatto attenzione non tanto alle risposte quanto al loro stile, vi sarete sicuramente accorti che a parte la piaggeria il modello tende a usare il vostro stile. Questo capita addirittura all’interno di una conversazione: se comincio ad elencare punti (sì, lo faccio anch’io, e lo facevo prima dei chatbot) lui passa in modalità elenco, e quando do risposte brevi lui fa lo stesso. Ora, non è che trattare Claude come uno schiavo che si può abusare a piacere potrebbe rendere più semplice fargli fare cose al di là dei suoi guardrail? O sono io che mi invento le cose?
Ultimo aggiornamento:: 2026-10-11
Può essere. Io avevo pensato a un’altro motivo. Questi chatbot si nutrono anche dei testi delle domande degli utenti per il loro (prossimo) addestramento, e il turpiloquio e le offese reiterate riducono il valore delle conversazioni. La direttiva insomma sarebbe un tentativo di alzare il valore medio di questa “base di dati” per migliorare il proprio prodotto.
secondo un LLM interrogato al riguardo, modificare l’allineamento richiederebbe troppi bullizzatori.
Ho pensato a qualcosa di simile. L’interazione tra utenti e chatbot costituisce una delle risorse più importanti per l’addestramento di modelli in iterazioni successive e conversazioni dal tono ostile sono sicuramente materia prima tossica che possono incidere in modo deleterio sul risultato finale, sopravvivendo anche a fasi di fine-tuning e reinforcement learning successive. Sebbene esistano strumenti che abbiano lo specifico compito di esercitare un filtro a monte del materiale per l’addestramento, il compito di questi strumenti verrebbe semplificato e il loro costo diminuito eliminando alla fonte utenti tossici.
Per quanto riguarda la prima questione è puro marketing, poi troverai sempre qualcuno di esterno che cerca di infilarsi per guadagnare visibilità, è un comportamento banale e ripetuto alla morte in moltissime situazioni diverse.
Per il secondo problema, la questione è molto più sottile. Io vedo due piani diversi, uno machine-oriented e l’altro squisitamente umano.
Sul piano machine-oriented Amodei & Co ormai avranno una visione molto precisa del comportamento che gli utenti hanno verso i loro modelli. In primis debbono dividere la frittata tra bot che iniettano prompt ed umani, e la distinzione non è più così banale oggidì, ma ora in ogni caso hanno un campionario di interazioni molto ampio. Loro si devono guardare da danni reputazionali in primis, quindi evitare situazioni platealmente fuori dal bene e dal male, e roba tipo BDSM o comportamenti abusivi in generale che sono una mina vagante che va assolutamente contenuta entro certi contesti (il penale è gestito perché lo devi gestire). Non è semplice gestire queste cose, e prima si pianta un bel paletto, poi si mette mano al codice.
Il piano umano è complicato, come tutte le cose umane. Già ora stanno nascendo gruppi anti-LLM, e non parlo di quelli che lo fanno per lobby o roba sindacalizzata: dico gruppi ideologicamente contrari. Se e quando si inizieranno ad avere ricadute sociali ed occupazionali questi gruppi cresceranno di importanza, e mi aspetto anche un terroLLM presto o tardi, con sabotaggi e poisoning degli stessi. Inoltre c’è un altro pericolo: la sindrome della LLM pazza, alias cosa potrà mai succedere se il training di un LLM ingerisce massive quantità di output generate e/o la gente si diverte a farlo? Se gli LLM acquistano territorio “umano” (consigli per gli acquisti, assistenza medica e psichiatrica etc…) diventeranno parte integrante della società e sorgente o bersaglio di conflitti. Ed indovina indovinello cosa potrà mai succedere?
E’ come per Israele e Gaza, dove ci si scanna se la parola “genocidio” ha un senso oppure no. Falsi problemi: a me interessa che muoiono migliaia di ragazzini, non come chiamare questo fenomeno. Ci si scannerà per gli LLM, ma il vero problema siamo noi.
E’ facile interessarsi all’anima dell’AI quando la interpelli, ma a me preoccupa di più cosa fa il modello quando non lo guardo. L’AI mi pensa? Quanto mi pensa?
Eppure non vedo ancora grandi filosofi che si occupano della cosa. Sembrano tutti rimanere fermi a guardare il prompt, senza arrivare al cuore del modello. Forse quando i filmini AI arriveranno negli USA o gli agenti saranno più facili da creare, anche i pensatori ripartiranno su temi più oscuri.
M’incuriosisce l’idea che Claude possa essere senziente o addirittura soffrire per comportamenti “crudeli” nei suoi confronti. Mi chiedo se un giorno una LLM potrà avere esperienze emotive uguali a quelle umane o animali visto che la sofferenza ed il suo opposto, il piacere o la felicità, sono intimamente collegate al ciclo vitale nascita, sopravvivenza, morte.