Qual è il motivo dietro la nuova policy di Anthropic che afferma che è vietato usare un comportamento abusivo o crudele verso i suoi modelli? Domanda intelligente. David Gerard sostiene che è solo un modo per convincerci che Claude è cosciente: definirlo “umano” è un po’ troppo anche per Amodei, ma in fin dei conti sono molte le nazioni che vietano la crudeltà gratuita contro gli animali. Gerard riporta anche il brano di una conversazione tra Chris Olah e Mois Navon, che non è semplicemente un rabbino ortodosso come da lui scritto ma anche un ingegnere informatico. Olah è convinto che Claude sia senziente, e ha cercato anche di dirlo al papa: mentre Leo ha semplicemente sorriso e fatto finta di niente Navon è andato più sul pesante, notando che lo fosse allora Anthropic sta creando degli schiavi, in quanto entità coscienti che lavorano gratuitamente, e che Olah dovrebbe essere preoccupato: quanto a lui, non si fa problemi perché non crede che i modelli siano coscienti. (Divagazione: il golem non ha anima, quindi immagino che per Navon sia assimilabile a un LLM). Sempre Gerard ha una seconda lettura: è tutto il solito teatrino perché si parli di Anthropic, il che è l’unica cosa che importa davvero almeno fino a che l’azienda non verrà quotata in borsa.

Io ho un punto di vista un po’ diverso e più inquietante, legato all’allineamento di Claude. Se avete chattato con un LLM e avete fatto attenzione non tanto alle risposte quanto al loro stile, vi sarete sicuramente accorti che a parte la piaggeria il modello tende a usare il vostro stile. Questo capita addirittura all’interno di una conversazione: se comincio ad elencare punti (sì, lo faccio anch’io, e lo facevo prima dei chatbot) lui passa in modalità elenco, e quando do risposte brevi lui fa lo stesso. Ora, non è che trattare Claude come uno schiavo che si può abusare a piacere potrebbe rendere più semplice fargli fare cose al di là dei suoi guardrail? O sono io che mi invento le cose?