Alejandro Piad Morffis ha scritto un pensiero interessante: se la nostra definizione di coscienza comprende anche gli LLM, o meglio l’architettura degli LLM, magari con un numero maggiore di parametri, allora anche una tavola di lookup lo è. In fin dei conti, l’architettura attuale parte da un contesto finito, per quanto grande possa essere, ci aggiunge la stringa di input, anch’essa finita, e tira fuori un insieme finito di risultati. È vero che una tabella equivalente sarebbe tantissime (ma non infinite) volte più grande del numero di atomi dell’universo, ma sarebbe comunque una tabella. Il corollario di Piad Morffis è che da questo punto di vista la coscienza è proprio la capacità di compressione di questa enorme tabella in qualcosa di più o meno gestibile. Mi viene in mente l’idea di sir Roger Penrose, che crede che gli umani possono superare i limiti del teorema di incompletezza di Gödel con il modello Orch-Or; è vero che lui postula che ciò funzioni a livello quantistico mentre gli LLM non lo sono certo, ma è sempre un modo diverso di vedere le cose…
Vorrei fare un’osservazione di cui non so bene spiegarmi le ragioni, che probabilmente sono diverse: quando leggevo il blog 20 anni fa, 10 anni fa, forse anche 5 anni fa, capivo su per giù 9 post su 10 (e il decimo era sempre di argomento matematico). Da qualche tempo capisco più o meno 1 post su 2.
Non è una domanda, quindi non pretendo risposte, solo mi piacerebbe capire se succede solo a me :-)
Sicuramente parlo meno di curiosità e più di temi tecnici. Poi gli altri 20 lettori possono dire che cosa ne pensano loro…
Mah, noi non abbiamo una definizione precisa di “intelligenza” o “coscienza”, ma solo intuitiva, per cui ognuno fa un pò quello che crede.
Non capisco quindi tutto questo arrabbatarsi per cercare dimostrare qualcosa pro o contro qualcosa che non sappiamo neppure bene cosa sia…
…ma ammettiamo pure che un LLM sia cosciente, qualsiasi cosa voglia dire. Un LLM sappiamo abbastanza bene come funziona, anche se non siamo in grado di prevederne il risultato in termini precisi. Quando scopriremo esattamente come il nostro cervello ci rende coscienti, se tale meccanismo sarà diverso da un LLM cosa ne ricaviamo? Che esistono N modelli di coscienza diversi? O solo due? Noi “sicuramente” saremo più coscienti di un LLM, almeno per alcuni.
Già siamo in un casino tra noi umani, manca solo che ci aggiungiamo gli LLM.
@lele: più o meno il livello di (supposta) comprensione è rimasto invariato. Eh sì, supposta: più di una volta interpreto male il pensiero di .mau., ma è un mio problema. Cmq io penso sia preoccupante capire il 100% di chiunque, perché “da vicino nessuno è normale”.
Esatto, tocca anche intendersi sulla accezione immaginata di coscienza. Consapevolezza di sé e del proprio essere o del proprio essere in rapporto al proprio agire e pensare? Per dire le due principali.
La “tavola di lookup è cosciente” è la versione informatica e 2025 della stanza cinese di Searle (1980).
https://it.wikipedia.org/wiki/Stanza_cinese
non ci avevo pensato! Si vede però la differenza tra Searle che ha l’equivalente di un sistema esperto e l’approccio attuale che lavorando stocasticamente ha enormemente ampliato la dimensione della teorica tavola di lookup. Nel caso di Searle infatti non possiamo nemmeno parlare di compressione: l’amico ha a disposizione il suo enorme manuale per scrivere un insieme di foglietti come “risposta” a quelli che gli arrivano.