{"id":26843,"date":"2023-07-17T04:51:22","date_gmt":"2023-07-17T02:51:22","guid":{"rendered":"https:\/\/xmau.com\/wp\/notiziole\/?p=26843"},"modified":"2023-07-16T17:23:39","modified_gmt":"2023-07-16T15:23:39","slug":"hofstadter-e-gli-llm","status":"publish","type":"post","link":"https:\/\/xmau.com\/notiziole\/2023\/07\/17\/hofstadter-e-gli-llm\/","title":{"rendered":"Hofstadter e gli LLM"},"content":{"rendered":"

\"\"
immagine da Freepik<\/a><\/figcaption><\/figure> Qualche giorno fa, sul mio socialino di nicchia \u00e8 stato linkato questo articolo del New York Times<\/a> dove David Brooks riporta un’intervista fatta a Douglas Hofstadter nella quale lo scienziato cognitivo si dice preoccupato di cosa potr\u00e0 succedere in un futuro prossimo nel campo dell’autocoscienza delle intelligenze artificiali che partono dai grandi modelli linguistici (gli LLM). \u00c8 per\u00f2 vero che qualche giorno prima sull’Atlantic Hofstadter aveva scritto<\/a> che gli LLM in realt\u00e0 non riescono per nulla a comporre qualcosa “alla Hofstadter”, e che il testo generato da un’AI di titolo “perch\u00e9 scrissi GEB” era semplicemente un coacervo di frasi fatte e piaggeria, per giunta in uno stile piatto e completamente diverso dal suo. (Nota personale: mi \u00e8 venuta in mente la bozza della traduzione di Concetti fluidi e analogie creative<\/i> a cui ho poi lavorato. Non c’erano ancora le intelligenze artificiali, ma il testo che mi \u00e8 arrivato era di quel tipo)<\/p>\n

A questo punto mi sono incuriosito. Insomma: conosco il pensiero passato di Hofstadter sull’intelligenza artificiale, ma qual \u00e8 esattamente il suo pensiero oggi<\/b> al riguardo? Ho cos\u00ec scritto a Hofstadter, che mi ha mandato il testo di un suo articolo che ha scritto qualche mese fa, che non ha ancora pubblicato e quindi non posso fornirvi; posso per\u00f2 darvi un’idea del contenuto. La sua tesi \u00e8 che se le parole “agiscono come” cose nel mondo, allora si riferiscono<\/i> a queste cose; se e quando ci\u00f2 avviene allora dietro le scene c’\u00e8 del pensiero<\/i>, e quindi coscienza<\/i> e un “io” genuino. Fin qua nulla di diverso da quanto ha sempre espresso. Quello che per\u00f2 \u00e8 successo negli ultimi due anni – diciamo tra ChatGPT-3 e -4 – gli fa pensare che ci sia stato un salto di qualit\u00e0. Con GPT-3 si era divertito con domande e risposte come <\/p>\n

“Perch\u00e9 il presidente Obama non ha un numero primo di amici?” “Il presidente Obama non ha un numero primo di amici perch\u00e9 non \u00e8 un numero primo”
\n“In quante parti si romper\u00e0 la galassia di Andromeda se le si butta dentro un granello di sale?” “La galassia di Andromeda si romper\u00e0 in un numero infinito di parti se le si butta dentro un granello di sale.” (Per la cronaca, se si butta una gelatina su un violino, questo si romper\u00e0 solo in quattro parti, immagino perch\u00e9 pi\u00f9 piccolo)<\/p><\/blockquote>\n

Ora, dice per\u00f2 Hofstadter, GPT-4 non fa pi\u00f9 di questi errori: ne fa ancora di ridicoli, ma \u00e8 sempre pi\u00f9 difficile prenderlo in castagna. In realt\u00e0, Hofstadter non si cura pi\u00f9 di tanto degli errori marchiani che questi sistemi fanno ancora: in fin dei conti, pensate a quante volte ci capita di cercare disperatamente gli occhiali che abbiamo addosso, o chiederci dove abbiamo lasciato il nostro telefono mentre stiamo telefonando a qualcuno. Non \u00e8 quindi corretto giudicarli sulla base di questo: e – aggiungo io – non abbiamo ancora visto cosa pu\u00f2 succedere se un LLM verr\u00e0 addestrato su s\u00e9 stesso, un po’ come AlphaZero quando ha imparato a giocare a go da solo. Gli LLM attuali, secondo Hofstadter, sono gi\u00e0 pi\u00f9 o in meno in grado di passare il test di Turing anche se non \u00e8 non \u00e8 somministrato come tale<\/i> (corsivo mio), perch\u00e9 interagiscono con noi come genuini partner che usano il linguaggio<\/i> (corsivo suo). Hofstadter riconosce di essere in minoranza tra i suoi colleghi scienziati cognitivi, e crede che molti di coloro che osservano la scena dell’intelligenza artificiale, anche tra i pi\u00f9 sofisticati, hanno nei loro subconsci un piccolo residuo di “Searlianismo” (non devo dirvi cosa significa, vero? :-) ) Per lui i sistemi attuali sono pi\u00f9 consci di un termostato – l’esempio standard di sistema a feedback che ha usato in Anelli nell’io<\/i> – ed \u00e8 da capire quanto pi\u00f9 consci siano. Ricordando i suoi esempi tipici, immagino che il passo successivo sia la coscienza di una zanzara.<\/p>\n

Hofstadter termina facendo notare che abbiamo gi\u00e0 avuto due salti del substrato di conoscenza, quando \u00e8 passata dagli organismi monocellulari ai pluricellulari e quando si \u00e8 passati dall’acqua alla terra; un salto dal carbonio al silicio \u00e8 pi\u00f9 o meno equivalente. Ma tutti e tre questi salti non sono nulla rispetto a quello dalla non-vita alla vita. Pi\u00f9 che altro teme che questo salto dalla nostra regale Io-it\u00e0 a una Io-it\u00e0 al silicio ancora pi\u00f9 esaltata potrebbe avvenire anche solo in dieci anni. Mettetela come volete, ma ora io sono pi\u00f9 preccocupato.<\/p>\n","protected":false},"excerpt":{"rendered":"

Se \u00e8 preoccupato lui, figuriamoci noi..<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"activitypub_content_warning":"","activitypub_content_visibility":"","activitypub_max_image_attachments":3,"activitypub_interaction_policy_quote":"anyone","activitypub_status":"","footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"jetpack_post_was_ever_published":false},"categories":[10],"tags":[],"class_list":["post-26843","post","type-post","status-publish","format-standard","hentry","category-varie"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_shortlink":"https:\/\/wp.me\/phh2yV-6YX","jetpack-related-posts":[{"id":4855,"url":"https:\/\/xmau.com\/notiziole\/2007\/03\/27\/la_bellezza_dei_numeri\/","url_meta":{"origin":26843,"position":0},"title":"La bellezza dei numeri","author":".mau.","date":"2007-03-27","format":false,"excerpt":"la mia trascrizione della Lectio Magistralis di Hofstadter al Festival della Matematica","rel":"","context":"In "link"","block_context":{"text":"link","link":"https:\/\/xmau.com\/notiziole\/category\/link\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":4830,"url":"https:\/\/xmau.com\/notiziole\/2007\/03\/17\/festival_della_matematica_3\/","url_meta":{"origin":26843,"position":1},"title":"Festival della matematica 3","author":".mau.","date":"2007-03-17","format":false,"excerpt":"notarelle autoreferenziali","rel":"","context":"In "curiosit\u00e0-2007"","block_context":{"text":"curiosit\u00e0-2007","link":"https:\/\/xmau.com\/notiziole\/category\/curiosita\/curiosita-2007\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":4909,"url":"https:\/\/xmau.com\/notiziole\/2007\/04\/16\/i_am_a_strange_loop_libro\/","url_meta":{"origin":26843,"position":2},"title":"I am a Strange Loop (libro)","author":".mau.","date":"2007-04-16","format":false,"excerpt":"Hofstadter ritorna sui temi dell'autoreferenzialit\u00e0","rel":"","context":"Con 3 commenti","block_context":{"text":"Con 3 commenti","link":"https:\/\/xmau.com\/notiziole\/2007\/04\/16\/i_am_a_strange_loop_libro\/#comments"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":32579,"url":"https:\/\/xmau.com\/notiziole\/2025\/05\/23\/altro-che-legge-di-hofstadter\/","url_meta":{"origin":26843,"position":3},"title":"Altro che legge di Hofstadter!","author":".mau.","date":"2025-05-23","format":false,"excerpt":"I tempi per i lavori pubblici a Milano sono pi\u00f9 che biblici.","rel":"","context":"In "milano"","block_context":{"text":"milano","link":"https:\/\/xmau.com\/notiziole\/category\/milano\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":6600,"url":"https:\/\/xmau.com\/notiziole\/2008\/12\/04\/non_sarebbe_nem\/","url_meta":{"origin":26843,"position":4},"title":"Non sarebbe nemmeno cos\u00ec difficile!","author":".mau.","date":"2008-12-04","format":false,"excerpt":"Il copyright, alias \"scopiazzano tutti allegramente\".","rel":"","context":"In "pipponi"","block_context":{"text":"pipponi","link":"https:\/\/xmau.com\/notiziole\/category\/pipponi\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":11570,"url":"https:\/\/xmau.com\/notiziole\/2015\/07\/02\/efficienza-postale\/","url_meta":{"origin":26843,"position":5},"title":"Efficienza postale","author":".mau.","date":"2015-07-02","format":false,"excerpt":"Nulla si perde...","rel":"","context":"In "curiosita'"","block_context":{"text":"curiosita'","link":"https:\/\/xmau.com\/notiziole\/category\/curiosita\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]}],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/26843","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/comments?post=26843"}],"version-history":[{"count":1,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/26843\/revisions"}],"predecessor-version":[{"id":26848,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/26843\/revisions\/26848"}],"wp:attachment":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/media?parent=26843"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/categories?post=26843"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/tags?post=26843"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}