Io sono abbastanza vecchio per ricordarmi di ELIZA, il primo chatbot – ma allora non li si chiamava certo così – che simulava una conversazione con una persona facendo la parte di uno psicologo rogeriano. Non che il modello di ELIZA affermasse di comprendere il testo che riceveva: cercava semplicemente parole chiave nelle risposte e le riformulava come domande. È passato mezzo secolo abbondante. I bot ormai sono onnipresenti nelle interazioni con un’azienda per risparmiare sugli operatori dei call center, ma non è che funzionino tanto meglio. Pare che però la nuova generazione di intelligenze artificiali funzioni molto meglio: da un mesetto tutti possono provare a fare domande di ogni tipo a ChatGPT e vedere con i propri occhi le sue abilità. Occhei, la mia bolla di Twitter continua a mostrare trascrizioni di interazioni dove ChatGPT non ha capito un tubo, tipicamente postate da persone che vogliono mostrare di essere più furbe del computer. Mah.

Quello che vedo io è un modo per i creatori di ChatGPT per testare il proprio sistema con utenti che perdono volontariamente e gratuitamente tempo. Per quanto grande sia il suo corpus di addestramento, non è certo sufficiente per simulare vere conversazioni, che come sappiamo sono spesso poco coerenti e sul pezzo. L’unico modo per avere un feedback reale è portare l’AI nel mondo reale: in questo modo, anziché pagare gli esperti per trovare regole pratiche, si sfruttano le regole empiriche di chi non capisce di essere adoperato. Non è un grande problema, non credo che noi siamo anche solo vicini alla singolarità predetta da Kurzweil. Ma resta un punro di attenzione.