{"id":33980,"date":"2025-10-13T04:51:02","date_gmt":"2025-10-13T02:51:02","guid":{"rendered":"https:\/\/xmau.com\/wp\/notiziole\/?p=33980"},"modified":"2025-12-29T18:46:19","modified_gmt":"2025-12-29T17:46:19","slug":"la-lezione-ancora-piu-amara","status":"publish","type":"post","link":"https:\/\/xmau.com\/notiziole\/2025\/10\/13\/la-lezione-ancora-piu-amara\/","title":{"rendered":"La lezione ancora pi\u00f9 amara"},"content":{"rendered":"<p>Nel 2019 Richard Sutton post\u00f2 sul suo sito un breve testo, &#8220;<a href=\"http:\/\/www.incompleteideas.net\/IncIdeas\/BitterLesson.html\">The Bitter Lesson<\/a>&#8220;. Sutton non \u00e8 esattamente l&#8217;ultimo arrivato, visto che nel 2024 ha vinto il <a href=\"https:\/\/it.wikipedia.org\/wiki\/Premio_Turing\">Premio Turing<\/a> &#8220;Per lo sviluppo delle basi concettuali e algoritmiche dell&#8217;apprendimento con rinforzo&#8221;. Qual era l&#8217;amara lezione imparata da Sutton? Lo dice gi\u00e0 la prima riga: &#8220;La lezione pi\u00f9 grande che possiamo leggere da 70 anni di ricerca sull&#8217;intelligenza artificiale \u00e8 che i metodi generali che sfruttano la capacit\u00e0 di calcolo sono alla fine quelli che funzionano meglio, e di gran lunga&#8221;. Sutton continua con gli esempi degli scacchi e del go, continua con il doppio passaggio successo nel riconoscimento della voce &#8211; il primo \u00e8 stato l&#8217;introduzione dei modelli markoviani nascosti, che ben conosco visto che sono stati l&#8217;argomento delle mie tesi di laurea, il secondo il deep learning &#8211; e termina con il riconoscimento di immagini che \u00e8 decollato appunto con il deep learning. In pratica i ricercatori hanno sempre cominciato col costruire sistemi che dovevano funzionare come loro pensavano funzionasse la mente umana, salvo poi capitolare alla potenza sempre crescente di calcolo che permette di usare sistemi &#8220;stupidi, per nulla efficienti ma efficaci&#8221;. Come corollario, termina affermando che le nostre menti sono molto pi\u00f9 complicate di quanto immaginiamo e quindi \u00e8 inutile cercare di modellizzarle in modo semplice; quello che si deve fare \u00e8 cercare dei meta-metodi che riescano a cogliere la complessit\u00e0.<\/p>\n<p>Ora Gary Marcus <a href=\"https:\/\/garymarcus.substack.com\/p\/game-over-for-pure-llms-even-turing\">scrive<\/a> che in realt\u00e0 la lezione \u00e8 ancora pi\u00f9 amara: aumentare la potenza di calcolo funziona per alcuni tipi di problemi, principalmente quelli relativi al pattern recognition, mentre ci sono tanti altri tipi di problemi &#8211; in generale quelli che richiedono di fare un ragionamento senza avere a disposizione tutte le informazioni necessarie. E ora \u00e8 tutto <del datetime=\"2025-10-13T15:13:36+00:00\">goduto<\/del> gongolante perch\u00e9 Sutton ha esplicitamente detto che per lui gli LLM sono arrivati a un vicolo cieco, perch\u00e9 comunque operano imitando il comportamento umano (visto che sono addestrati a partire da testi scritti da umani) e quindi non si costruiscono un &#8220;godo del mondo&#8221; che permetterebbe loro di essere &#8220;sorpresi&#8221; dagli eventi e quindi riorganizzarsi: insomma, &#8220;fare esperienza&#8221;. <\/p>\n<p>Per come la vedo io, una cosa \u00e8 certa: un approccio ibrido in cui si aggiunga una componente &#8220;intelligente&#8221;, che poi significherebbe &#8220;a regole&#8221;, agli LLM non funzioner\u00e0 mai, per un corollario di quanto scritto inizialmente da Sutton: non abbiamo nessuna idea di come trovare queste regole. Ma \u00e8 anche vero che non possiamo buttare via gli LLM, perch\u00e9 per quanto facciano schifo nei compiti che richiedono intelligenza sono comunque utili dove l&#8217;intelligenza non serve e basta l&#8217;artigianato. Posso solo aggiungere che secondo me un approccio totalmente nuovo e migliore non lo vedremo almeno per un decennio.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>I soli metodi IA che funzionano sono quelli con la forza bruta, ma la forza bruta non basta.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"activitypub_content_warning":"","activitypub_content_visibility":"","activitypub_max_image_attachments":3,"activitypub_interaction_policy_quote":"anyone","activitypub_status":"federated","footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"jetpack_post_was_ever_published":false},"categories":[30,1024],"tags":[],"class_list":["post-33980","post","type-post","status-publish","format-standard","hentry","category-ia","category-ia-2025"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_shortlink":"https:\/\/wp.me\/phh2yV-8Q4","jetpack-related-posts":[{"id":28902,"url":"https:\/\/xmau.com\/notiziole\/2024\/05\/14\/matematica-lezione-14-la-trigonometria\/","url_meta":{"origin":33980,"position":0},"title":"MATEMATICA &#8211; Lezione 14: La trigonometria","author":".mau.","date":"2024-05-14","format":false,"excerpt":"La trigonometria \u00e8 molto pi\u00f9 interessante di quanto possa sembrare a scuola","rel":"","context":"In &quot;rec-2024&quot;","block_context":{"text":"rec-2024","link":"https:\/\/xmau.com\/notiziole\/category\/recensioni\/recensioni-2024\/"},"img":{"alt_text":"copertina","src":"https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2024\/05\/mate14-200x300.png?resize=350%2C200&ssl=1","width":350,"height":200},"classes":[]},{"id":29179,"url":"https:\/\/xmau.com\/notiziole\/2024\/06\/25\/matematica-lezione-20\/","url_meta":{"origin":33980,"position":1},"title":"MATEMATICA &#8211; Lezione 20: La teoria dell&#8217;informazione","author":".mau.","date":"2024-06-25","format":false,"excerpt":"Come \u00e8 possibile codificare un segnale perch\u00e9 corregga eventuali errori di trasmissione?","rel":"","context":"In &quot;rec-2024&quot;","block_context":{"text":"rec-2024","link":"https:\/\/xmau.com\/notiziole\/category\/recensioni\/recensioni-2024\/"},"img":{"alt_text":"copertina","src":"https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2024\/06\/mate20-196x300.jpg?resize=350%2C200&ssl=1","width":350,"height":200},"classes":[]},{"id":28762,"url":"https:\/\/xmau.com\/notiziole\/2024\/04\/16\/matematica-lezione-10-linfinito\/","url_meta":{"origin":33980,"position":2},"title":"MATEMATICA &#8211; Lezione 10: L&#8217;infinito","author":".mau.","date":"2024-04-16","format":false,"excerpt":"Un approccio per lo pi\u00f9 storico ma anche pratico","rel":"","context":"In &quot;rec-2024&quot;","block_context":{"text":"rec-2024","link":"https:\/\/xmau.com\/notiziole\/category\/recensioni\/recensioni-2024\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2024\/04\/mate10-193x300.jpg?resize=350%2C200&ssl=1","width":350,"height":200},"classes":[]},{"id":28894,"url":"https:\/\/xmau.com\/notiziole\/2024\/05\/11\/matematica-lezione-13-matematica-e-musica\/","url_meta":{"origin":33980,"position":3},"title":"MATEMATICA &#8211; Lezione 13: matematica e musica","author":".mau.","date":"2024-05-11","format":false,"excerpt":"connessioni che non vi aspettereste affatto","rel":"","context":"In &quot;rec-2024&quot;","block_context":{"text":"rec-2024","link":"https:\/\/xmau.com\/notiziole\/category\/recensioni\/recensioni-2024\/"},"img":{"alt_text":"copertina","src":"https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2024\/05\/mate13-190x300.png?resize=350%2C200&ssl=1","width":350,"height":200},"classes":[]},{"id":30414,"url":"https:\/\/xmau.com\/notiziole\/2025\/01\/21\/matematica-lezione-50-il-calcolo-numerico\/","url_meta":{"origin":33980,"position":4},"title":"MATEMATICA &#8211; Lezione 50: Il calcolo numerico","author":".mau.","date":"2025-01-21","format":false,"excerpt":"Matematica messa in pratica, che deve tenere conto dell'imprecisione della rappresentazione numerica.","rel":"","context":"In &quot;rec-2025&quot;","block_context":{"text":"rec-2025","link":"https:\/\/xmau.com\/notiziole\/category\/recensioni\/recensioni-2025\/"},"img":{"alt_text":"copertina","src":"https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2025\/01\/mate50-188x300.jpg?resize=350%2C200&ssl=1","width":350,"height":200},"classes":[]},{"id":29347,"url":"https:\/\/xmau.com\/notiziole\/2024\/07\/23\/matematica-lezione-24-lanalisi-complessa\/","url_meta":{"origin":33980,"position":5},"title":"MATEMATICA &#8211; Lezione 24: L&#8217;analisi complessa","author":".mau.","date":"2024-07-23","format":false,"excerpt":"Come cambiano le cose passando ai complessi!","rel":"","context":"In &quot;rec-2024&quot;","block_context":{"text":"rec-2024","link":"https:\/\/xmau.com\/notiziole\/category\/recensioni\/recensioni-2024\/"},"img":{"alt_text":"copertina","src":"https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2024\/07\/mate24.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2024\/07\/mate24.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2024\/07\/mate24.jpg?resize=525%2C300&ssl=1 1.5x"},"classes":[]}],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/33980","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/comments?post=33980"}],"version-history":[{"count":4,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/33980\/revisions"}],"predecessor-version":[{"id":34001,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/33980\/revisions\/34001"}],"wp:attachment":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/media?parent=33980"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/categories?post=33980"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/tags?post=33980"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}