llm – Notiziole di .mau.

Non bullizzate Claude!

Qual è il motivo dietro la nuova policy di Anthropic che afferma che è vietato usare un comportamento abusivo o crudele verso i suoi modelli? Domanda intelligente. David Gerard sostiene che è solo un modo per convincerci che Claude è cosciente: definirlo “umano” è un po’ troppo anche per Amodei, ma in fin dei conti sono molte le nazioni che vietano la crudeltà gratuita contro gli animali. Gerard riporta anche il brano di una conversazione tra Chris Olah e Mois Navon, che non è semplicemente un rabbino ortodosso come da lui scritto ma anche un ingegnere informatico. Olah è convinto che Claude sia senziente, e ha cercato anche di dirlo al papa: mentre Leo ha semplicemente sorriso e fatto finta di niente Navon è andato più sul pesante, notando che lo fosse allora Anthropic sta creando degli schiavi, in quanto entità coscienti che lavorano gratuitamente, e che Olah dovrebbe essere preoccupato: quanto a lui, non si fa problemi perché non crede che i modelli siano coscienti. (Divagazione: il golem non ha anima, quindi immagino che per Navon sia assimilabile a un LLM). Sempre Gerard ha una seconda lettura: è tutto il solito teatrino perché si parli di Anthropic, il che è l’unica cosa che importa davvero almeno fino a che l’azienda non verrà quotata in borsa.

Io ho un punto di vista un po’ diverso e più inquietante, legato all’allineamento di Claude. Se avete chattato con un LLM e avete fatto attenzione non tanto alle risposte quanto al loro stile, vi sarete sicuramente accorti che a parte la piaggeria il modello tende a usare il vostro stile. Questo capita addirittura all’interno di una conversazione: se comincio ad elencare punti (sì, lo faccio anch’io, e lo facevo prima dei chatbot) lui passa in modalità elenco, e quando do risposte brevi lui fa lo stesso. Ora, non è che trattare Claude come uno schiavo che si può abusare a piacere potrebbe rendere più semplice fargli fare cose al di là dei suoi guardrail? O sono io che mi invento le cose?

ia 2026, IA e informatica

Ben Lorica sul futuro (prossimo) dell’IA

.mau. / 2026-07-23

Ben Lorica prova a fare qualche previsione a breve termine (direi entro la fine dell’anno) su come si muoverà l’ecosistema IA. La prima cosa che nota è che i modelli di frontiera di OpenAI e Anthropic (in questo periodo Google sembra parecchio indietro, in effetti) hanno un vantaggio tra i due e i sei mesi rispetto ai modelli presumibilmente distillati delle aziende cinesi. (Ah, non c’entra molto ma segnalo che Qwen 3.7-Plus, il chatbot di AliBaba, funziona molto bene come sparring partner, anche se lo stile delle sue risposte assomiglia tanto a quello di Claude e l’hook finale è in stile ChatGPT o Gemini. Chissà come mai.) Questo significa che è molto difficile che questa corsa a modelli sempre più grandi continuerà a lungo. La seconda cosa – e se avete un abbonamento a consumo l’avrete notato – è che il costo per token usato è molto calato, ma visto che il contesto ormai usa decine o centinaia di migliaia di token il costo di una sessione è aumentato, senza contare che viene voglia di usarlo sempre di più. Il consiglio di Lorica è di usare due livelli: quello di frontiera per il ragionamento, ma poi passare a uno “meno intelligente” per l’esecuzione vera e propria. Inoltre lui ritiene che non è che i modelli cinesi stiano raggiungendo quelli americani in tutto e per tutto: se siete interessati al coding, per esempio, c’è ancora una differenza sostanziale, presumibilmente perché la distillazione funziona meglio per sessioni di discussione e i cinesi si sono interessati a temi specifici, come per esempio la ricerca di falle di sicurezza nel software. (Di nuovo, un complottista si dovrebbe chiedere perché). Quindi prima di legarci a un modello bisogna sempre vedere cosa ci interessa fare, un po’ come per l’abbonamento alle pay tv. Infine Lorica consiglia di investire anche sui modelli open weights, per tre motivi: il primo è che si può fare fine tuning con quello che si ha localmente, il secondo è magari non danno risultati di punta ma costano molto di meno, e il terzo è che è sempre meglio avere qualcosa che può girare, anche se lentamente, in locale senza essere legati ai capricci di un governo. Poi molti non si fidano dei modelli open weights cinesi… ma anche qui dipende da cosa ci si vuole fare.

In definitiva, quello che Lorica dice è che l’IA non è ancora una commodity, ma qualcosa che dobbiamo gestire usando anche il nostro cervello.

llm, previsioni