Nel 1980 il filosofo John Searle propose un esperimento mentale, chiamato in seguito “la Stanza cinese”, per mostrare che secondo lui non era possibile affermare che un computer potesse essere considerato cosciente. L’esperimento funziona cos\u00ec: Searle \u00e8 chiuso in una stanza, con un manuale di istruzioni, carta e penna. La stanza ha due fessure (oltre, si spera, a un modo per dare al povero Searle da mangiare e da bere): da una vengono inseriti dei foglietti con dei simboli, che Searle prende. Consultando il manuale per sapere che fare, il filosofo traccia degli altri simboli su un foglio che poi fa passare dall’altra fessura. Supponiamo ora che i simboli siano in effetti ideogrammi in cinese, e che il manuale sia composto in modo tale che il foglio rimandato indietro contenga la risposta alla domanda datagli (sempre in cinese). Bene, conclude Searle, penserete mica che io conosca il cinese? Mi sono semplicemente limitato a eseguire un programma, esattamente come farebbe un computer. Quindi \u00e8 ovvio che il computer non pu\u00f2 essere cosciente.<\/p>\n
Nel 1980 la Stanza cinese era appunto solo un esperimento mentale, e la risposta che veniva data era “non \u00e8 Searle a sapere il cinese, ma il sistema Searle + manuale + stanza”: spostare insomma il punto di osservazione. Nel 2026 ci stiamo avvicinando ad avere qualcosa di davvero esistente, anzi molti direbbero che ce l’abbiamo gi\u00e0, allucinazioni a parte. E dunque? In un suo post<\/a>, Se Gyges riprende le argomentazioni di Searle (che tra l’altro \u00e8 morto lo scorso settembre) guardandole da un modo puramente computazionale. Il cinese \u00e8 una lingua pi\u00f9 compatta dell’inglese, per non parlare dell’italiano: possiamo immaginare che in 100 ideogrammi si possa esprimere una qualunque domanda. Sempre per comodit\u00e0 immaginiamo che vengano usati solo i 20000 ideogrammi pi\u00f9 comuni. Con questi numeri viene fuori che il manuale (la lookup table di cui parlavo qualche settimana da<\/a> sarebbe dell’ordine di 10^430 sequenze. Considerando che si ritiene che il nostro universo abbia un ordine di 10^80 atomi, ci occorrerebbero 10^350 altri universi come minimo per gestirlo. Questo significa che per avere qualche speranza di far funzionare la cosa il punto non \u00e8 avere una stanza sufficientemente grande, ma ridurre la dimensione del manuale, e questo a sua volta significa non solo che il manuale deve avere una certa conoscenza del cinese (non necessariamente nel senso di avere un insieme di regole come i sistemi esperti che erano di moda ai tempi di Searle: abbiamo visto che ci\u00f2 non \u00e8 necessario) quanto nel ridurre la quantit\u00e0 di dati necessari da salvare. Ma anche in questo caso la struttura della “stanza” deve essere ottimizzata, con livelli vari di comprensione e una gestione dello spazio tale da minimizzare il tempo necessario per trovare cosa inviare come risposta. Gyges dice “questo assomiglierebbe sempre pi\u00f9 a un cervello”; il mio punto di vista \u00e8 un po’ diverso.<\/p>\n Io non sono cos\u00ec interessato a definire un modello fisico per la Stanza cinese e adattarlo a un LLM, quanto a vedere quali analogie ci sono. Quindi accetto senza problemi il fatto che gli strati nascosti delle reti neurali possano fare da manuale, e ovviamente – cosa che non \u00e8 mai stata esplicitata nell’esempio sopra – non \u00e8 scritto da nessuna parte che ci sia un unico modo di comporre simboli su un foglietto a partire da quelli che si trovano nel foglietto in ingresso: anzi, se non fosse cos\u00ec secondo me avremo dei forti problemi. Ma quello che mi pare succeda in questo momento \u00e8 che il “manuale” \u00e8 troppo<\/b> compresso, il che vuol dire che il sistema parte troppo spesso per la tangente (le allucinazioni) per la banale ragione che confonde foglietti chiaramente diversi, o se preferite una spiegazione pi\u00f9 tecnica perch\u00e9 la riduzione dimensionale dello strato interno, che \u00e8 necessaria per creare i cluster relativi ai concetti, essendo puramente statistica pu\u00f2 dare una grande quantit\u00e0 di falsi positivi. Sar\u00e0 possibile trovare un modo per mantenere un “contesto globale”, cosa diversa da quella che stiamo facendo adesso? Se s\u00ec, dal mio punto di vista posso accettare che quel modello abbia una consapevolezza: ma per il momento la risposta \u00e8 un secco no.<\/p>\n","protected":false},"excerpt":{"rendered":" Riprendiamo un vecchio esperimento mentale per vedere se un sistema pu\u00f2 avere coscienza<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"activitypub_content_warning":"","activitypub_content_visibility":"","activitypub_max_image_attachments":3,"activitypub_interaction_policy_quote":"anyone","activitypub_status":"federated","footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"jetpack_post_was_ever_published":false},"categories":[1023,30],"tags":[],"class_list":["post-36033","post","type-post","status-publish","format-standard","hentry","category-ia-2026","category-ia"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_shortlink":"https:\/\/wp.me\/phh2yV-9nb","jetpack-related-posts":[{"id":13728,"url":"https:\/\/xmau.com\/notiziole\/2016\/09\/15\/falsi-amici\/","url_meta":{"origin":36033,"position":0},"title":"Falsi amici","author":".mau.","date":"2016-09-15","format":false,"excerpt":"Cinese e giapponese","rel":"","context":"In "curiosita'"","block_context":{"text":"curiosita'","link":"https:\/\/xmau.com\/notiziole\/category\/curiosita\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":20089,"url":"https:\/\/xmau.com\/notiziole\/2020\/02\/27\/lautoisolamento-cinese\/","url_meta":{"origin":36033,"position":1},"title":"L’autoisolamento cinese","author":".mau.","date":"2020-02-27","format":false,"excerpt":"Altro che integrazione","rel":"","context":"In "curiosita'"","block_context":{"text":"curiosita'","link":"https:\/\/xmau.com\/notiziole\/category\/curiosita\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":5266,"url":"https:\/\/xmau.com\/notiziole\/2007\/09\/06\/pile_originali\/","url_meta":{"origin":36033,"position":2},"title":"pile originali","author":".mau.","date":"2007-09-06","format":false,"excerpt":"sono quelle tutte scritte in cinese!","rel":"","context":"In "curiosit\u00e0-2007"","block_context":{"text":"curiosit\u00e0-2007","link":"https:\/\/xmau.com\/notiziole\/category\/curiosita\/curiosita-2007\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":5239,"url":"https:\/\/xmau.com\/notiziole\/2007\/08\/29\/come_se_reincarnarsi_fosse_facile\/","url_meta":{"origin":36033,"position":3},"title":"come se reincarnarsi fosse facile","author":".mau.","date":"2007-08-29","format":false,"excerpt":"Le autorit\u00e0 cinesi hanno emesso un regolamento cui sottostare se ci si vuole reincarnare.","rel":"","context":"In "curiosit\u00e0-2007"","block_context":{"text":"curiosit\u00e0-2007","link":"https:\/\/xmau.com\/notiziole\/category\/curiosita\/curiosita-2007\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":35855,"url":"https:\/\/xmau.com\/notiziole\/2026\/02\/11\/un-racconto-sulle-dimostrazioni-a-conoscenza-zero\/","url_meta":{"origin":36033,"position":4},"title":"Un racconto sulle dimostrazioni a conoscenza zero","author":".mau.","date":"2026-02-11","format":false,"excerpt":"Una storiella che mi permette di spiegare meglio come funzionano.","rel":"","context":"In "mate-light 2026"","block_context":{"text":"mate-light 2026","link":"https:\/\/xmau.com\/notiziole\/category\/matematica_light\/matelight-2026\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2026\/02\/0know-a.drawio.png?resize=350%2C200&ssl=1","width":350,"height":200},"classes":[]},{"id":9859,"url":"https:\/\/xmau.com\/notiziole\/2014\/03\/19\/attivita\/","url_meta":{"origin":36033,"position":5},"title":"Attivit\u00e0","author":".mau.","date":"2014-03-19","format":false,"excerpt":"Oggi era la festa del pap\u00e0, e quindi ero di corv\u00e9e all'asilo, esercitandomi in tentativi di bilocazione per essere contemporaneamente in classe di Cecilia e in quella di Jacopo. Da Cecilia c'era da \"fare l'attivit\u00e0\", leggi costruire una lanterna cinese (i bimbi quest'anno fanno il giro del mondo con il\u2026","rel":"","context":"In "io"","block_context":{"text":"io","link":"https:\/\/xmau.com\/notiziole\/category\/io\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]}],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/36033","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/comments?post=36033"}],"version-history":[{"count":1,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/36033\/revisions"}],"predecessor-version":[{"id":36044,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/36033\/revisions\/36044"}],"wp:attachment":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/media?parent=36033"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/categories?post=36033"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/tags?post=36033"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}