È da alcuni mesi che Walter Quattrociocchi e il suo team ha introdotto il concetto di “epistemia”. L’articolo accademico (in inglese) è stato pubblicato su Pnas, ma trovate varie spiegazioni per esempio sul sito della Sapienza che lo riassume, su un’intervista sul sito Treccani o in un suo intervento Facebook ripreso riportato anche qui.
Le ultime sue parole che ho visto in materia sono su Facebook: “Epistemia è una condizione strutturale. Descrive ciò che accade quando, in modo sistematico e su larga scala, la plausibilità linguistica prende il posto della verifica come criterio operativo di conoscenza.” Più interessanti sono forse le frasi che seguono questa definizione:
La verifica non viene rifiutata, ma saltata. Il giudizio non viene negato, viene imitato.
Quando una risposta suona bene, il cervello abbassa naturalmente le difese. È sempre successo. La novità non è il meccanismo, ma la scala, la velocità e la normalizzazione con cui oggi questo meccanismo opera.
Per questo l’epistemia non è una questione tecnologica, ma cognitiva e sociale. […] Si affronta solo recuperando una consapevolezza elementare, ma ormai rara: sapere come una risposta è stata prodotta, quali passaggi sono stati compressi, quale tipo di giudizio è stato simulato invece di essere esercitato.
Facciamo un passo indietro. In filosofia l’epistème (notate che non è “epistemia”) è la conoscenza certa. E in effetti l’epistemologia è la parte della filosofia della scienza che studia le condizioni sotto le quali si può avere conoscenza scientifica e come si può raggiungere tale conoscenza. Se ci pensiamo un attimo, arrivare alla conoscenza non è mai stato un processo semplice, ma il risultato di una verifica fatta da più persone sulla validità di un ragionamento. Attenzione: la conoscenza non è fissata una volta per tutte, ma può mutare una volta che giungano nuove evidenze che cambiano i dati in nostro possesso (falsificano la teoria, direbbe Popper) oppure li faccia vedere sotto un’altra luce (una rivoluzione scientifica, direbbe Kuhn). Banalmente, la teoria newtoniana del moto planetario è stata sostituita da quella einsteiniana, e quindi la nostra conoscenza do quel moto è parimenti cambiata. Vabbè, poi c’è Feyerabend che dice che non si può fornire una descrizione generale della scienza, ma qui andiamo fuori strada: in ogni caso però anche per lui la verifica è fondamentale, con l’unica differenza che viene fatta indipendentemente da tutte le altre possibili teorie.
Cosa succede invece con gli LLM? La verifica non c’è più. Non tanto, o non solo, da noi che ci beviamo qualunque cosa ci risponda ChatGPT, ma dai modelli stessi, che scrivono una risposta apparentemente coerente e “che suona bene” usando semplicemente regole probabilistiche di plausibilità (e un po’ di regole retoriche che puliscono la risposta, aggiungo io). Come Quattrociocchi fa notare, il nostro cervello è abituato ad abbassare le difese quando sente qualcosa che suona bene: lo fa da almeno due millenni e mezzo. Il guaio è che con il proliferare di contenuti generati dalle IA ormai sta diventando sempre più difficile capire se quella che ci troviamo davanti è una risposta che deriva da un ragionamento oppure da una struttura statistica.
Da un certo punto di vista sono leggermente più ottimista di lui, quando afferma che il problema dell’epistemia «si affronta solo recuperando una consapevolezza elementare, ma ormai rara: sapere come una risposta è stata prodotta, quali passaggi sono stati compressi, quale tipo di giudizio è stato simulato invece di essere esercitato.». Paradossalmente, il fatto stesso che ci si è accorti che gli LLM funzionano meglio in modalità “ragionamento” (che non è un vero ragionamento, ma consiste nell’esplicitare i passaggi che fanno, che rientrano come input e quindi migliorano l’aderenza alla domanda fatta) fa sì che possiamo capire meglio se effettivamente c’è solo sbobb-IA oppure il modello ha recuperato conoscenza altrui. Guardando un altro campo in cui la statistica ormai la fa da padrona, le traduzioni automatiche funzionano a sufficienza, almeno per me che generalmente mi accorgo se c’è qualcosa che non va (la narrazione qui non è ancora per fortuna entrata nei testi tradotti, e comunque vorreste leggere una traduzione automatica di Shakespeare?)
Da un altro punto di vista sono però più pessimista: mi pare davvero che la gente abbia rinunciato alla possibilità di capire le cose, perché in realtà a loro non interessa capire (quando va bene…) o addirittura si convincono di avere fatto qualcosa di straordinario “grazie all’aiuto dell’AI e alle proprie capacità” (capacità infime, ça va sans dire). La prima possibilità non è certo nata con gli LLM: da ragazzo anch’io sono stato uno di quelli che “facevano le ricerche” copiando i testi da “Il mio libro delle ricerche”, o come si chiamava. Ma dopo un po’ si sperava che crescendo si imparasse non solo a copiare ma anche a capire: magari sbagliando, ma aumentando comunque la conoscenza che si aveva. La seconda possibilità è invece nuova, almeno nella sua diffusione (i principi e i ricchi hanno sempre avuto degli yes men che approvavano entusiasticamente tutto quello che loro facevano). Non so se riusciremo a risalire da questa china che stiamo prendendo.
Grazie dello spunto di discussione.
P.S.: forse ti riferisci a questo libro delle ricerche :)
https://it.wikipedia.org/wiki/Conoscere
no, quello lo avevo anche. “Il libro delle mie ricerche” era fatto per ritagliare e incollare le figure, ai tempi in cui il copincolla era un taglia e incolla…
Mah, direi che c’è un errore logico a contrapporre statistica e “scienza”. Lo vedo bene con lo stato delle ricerche su CVD, ma vale anche per la riparazione dei televisori o dei cellulari.
In prima battura la conoscenza di un fenomeno complesso è pura statistica e, alle volte, tanto basta o semplicemente non ci sono risorse (tempo, economiche o intellettuali) per andare oltre.
Poi arriva, se vale la pena e ci sono le risorse, anche la “scienza” (es. per il CVD: la biologia, la chimica, la fisica, ecc.), il tutto suscitando scarso interesse se la statistica continua a soddisfare le esigenze sociali o politiche correnti.
Quindi, dopo anni, nelle sbobine universitarie arrivano le informazioni della “scienza” e chi non le sa, perde punti.
Ma vivere in un universo probabilistico e aspettarsi di progredire passando da una verità all’altra è, probabilmente, un errore.
Aggiungo una noterella linguistica. Nell’inglese americano da tempo l’aggettivo epistemic è una parola usata nelle combinazioni più disparate con il senso molto diluito di “relativo alla conoscenza” e di “cognitivo”. Qualche esempio a caso: epistemic vaccuum, epistemic bubble, epistemic disorientation, epistemic resistance, epistemic benefit, epistemi agreement, epistemic crisis. Nasce come parola abusata del marketing e dell’aziendalese, non ha ancora dilagato come iconic, che ormai è una parola vuota da tanto è abusata, ma non si sa mai!
PS Nell’intervista di Treccani noto che è stato usato impropriamente il calco sicofanzia, modellato sull’inglese sycophancy. Si tratta però di un falso amico: in inglese sycophancy e l’aggettivo sycophant indicano adulazione servile, piaggeria, incensamento, mentre in italiano sicofantia e sicofante identificano delazione e calunnia. Probabilmente anche all’inizio dell’intervista narrativa va invece inteso come narrazione (cfr. inglese narrative).
Però “epistemic” è una derivazione di “episteme”. Direi che “epistemia” in inglese si dovrebbe dire “epistemy”.
(per “sycophants”, la usa sempre Krugman nei suoi post. Il punto è che il termine italiano non lo usava nessuno almeno dal fasciscmo… ci credo che sia così oscuro che si prenda il calco inglese)
Cito Quattrociocchi: “L’epistemia è già qui, non sta per arrivare […]”, “In questo senso epistemìa non è una patologia individuale, né un difetto di attenzione. È una condizione ambientale […]”, “l’unica cosa che può contrastare l’epistemìa non è un ritorno nostalgico all’autorità […]” (grassetti miei).
Se la metafora è quella di un’infezione, direi che in inglese dovrebbe essere epistemic, sul modello di epidemic, pandemic e infodemic (il neologismo infodemia è citato anche nell’incipit dell’intervista su Treccani).
.
infodemia è di Floridi, ed era stato coniato pensando al proliferare dell’informazione come un’epidemia. Io sento “epistemia” non tanto come un infezione ma una condizione, però.
Infodemic è una parola riemersa nel febbraio 2020 grazie a una comunicazione dell’OMS ma ha più di vent’anni: è stata coniata da David J. Rothkopf e descritta in un articolo del 2003 del Washington Post, quindi precedente a Floridi. Ne avevo scritto in Coronavirus: è infodemìa.
Per me i fichi sono troppo dolci, ma credo che chi studi greco o Eco conosca sicofante.
Bisogna vedere come le nuove generazioni si rapportano con la IA per capire se essere pessimisti od ottimisti. Personalmente ho l’impressione che la IA non cambi affatto le regole del gioco, ma semplicemente le diluisca ulteriormente: in fin dei conti il truffatore umano ha da sempre sfruttato le nostre debolezze cognitive. Detto in altri termini, aumenta il numero di truffe possibili, ma di fatto non ne introduce di nuove (intese come nuovi tipi).
Falsi predicatori, falsi medici e psicologi, ce ne sono da sempre: la IA ne crea altri ancora, e renderà più ampio l’abuso, ma di “nuovo” direi che c’è ben poco.
La disinformazione pure non è nuova, ma con la IA la si amplifica ulteriormente…saranno le nuove generazioni più corazzate? O sarà analogo a quello che succedeva a noi ieri? Perché presto o tardi in un raggiro ci caschiamo quasi tutti.