previsioni

Ben Lorica prova a fare qualche previsione a breve termine (direi entro la fine dell’anno) su come si muoverà l’ecosistema IA. La prima cosa che nota è che i modelli di frontiera di OpenAI e Anthropic (in questo periodo Google sembra parecchio indietro, in effetti) hanno un vantaggio tra i due e i sei mesi rispetto ai modelli presumibilmente distillati delle aziende cinesi. (Ah, non c’entra molto ma segnalo che Qwen 3.7-Plus, il chatbot di AliBaba, funziona molto bene come sparring partner, anche se lo stile delle sue risposte assomiglia tanto a quello di Claude e l’hook finale è in stile ChatGPT o Gemini. Chissà come mai.) Questo significa che è molto difficile che questa corsa a modelli sempre più grandi continuerà a lungo. La seconda cosa – e se avete un abbonamento a consumo l’avrete notato – è che il costo per token usato è molto calato, ma visto che il contesto ormai usa decine o centinaia di migliaia di token il costo di una sessione è aumentato, senza contare che viene voglia di usarlo sempre di più. Il consiglio di Lorica è di usare due livelli: quello di frontiera per il ragionamento, ma poi passare a uno “meno intelligente” per l’esecuzione vera e propria. Inoltre lui ritiene che non è che i modelli cinesi stiano raggiungendo quelli americani in tutto e per tutto: se siete interessati al coding, per esempio, c’è ancora una differenza sostanziale, presumibilmente perché la distillazione funziona meglio per sessioni di discussione e i cinesi si sono interessati a temi specifici, come per esempio la ricerca di falle di sicurezza nel software. (Di nuovo, un complottista si dovrebbe chiedere perché). Quindi prima di legarci a un modello bisogna sempre vedere cosa ci interessa fare, un po’ come per l’abbonamento alle pay tv. Infine Lorica consiglia di investire anche sui modelli open weights, per tre motivi: il primo è che si può fare fine tuning con quello che si ha localmente, il secondo è magari non danno risultati di punta ma costano molto di meno, e il terzo è che è sempre meglio avere qualcosa che può girare, anche se lentamente, in locale senza essere legati ai capricci di un governo. Poi molti non si fidano dei modelli open weights cinesi… ma anche qui dipende da cosa ci si vuole fare.

In definitiva, quello che Lorica dice è che l’IA non è ancora una commodity, ma qualcosa che dobbiamo gestire usando anche il nostro cervello.