{"id":34934,"date":"2025-12-29T04:51:26","date_gmt":"2025-12-29T03:51:26","guid":{"rendered":"https:\/\/xmau.com\/wp\/notiziole\/?p=34934"},"modified":"2025-12-29T18:46:15","modified_gmt":"2025-12-29T17:46:15","slug":"applicare-le-strutture-musicali-allia","status":"publish","type":"post","link":"https:\/\/xmau.com\/notiziole\/2025\/12\/29\/applicare-le-strutture-musicali-allia\/","title":{"rendered":"Applicare le strutture musicali all&#8217;IA?"},"content":{"rendered":"<p>Se vi dicessi che ho capito <a href=\"https:\/\/www.josecrespophd.org\/p\/the-math-openai-doesnt-want-you-to\">questo articolo di Jose Crespo<\/a>, mentirei. E allora perch\u00e9 ve ne parlo? Perch\u00e9 secondo me ci sono dei punti interessanti &#8211; quelli s\u00ec comprensibili &#8211; che permettono di avere un&#8217;idea di come faccia un LLM a tirare fuori una risposta, e soprattutto perch\u00e9 pu\u00f2 sbagliare. <\/p>\n<p>Gli attuali transformer in pratica fanno tante moltiplicazioni di matrici (hessiane) n&times;n per trovare dei massimi locali (anzi dei minimi, perch\u00e9 si cambia segno) per la parola successiva nel testo, usando il metodo del gradiente (la direzione di massima discesa). Qual \u00e8 secondo Crespo la ragione degli errori degli LLM? Le allucinazioni sono per lui &#8220;interpolazioni fiduciose verso il nulla, senza la possibilit\u00e0 di rispondere che non ha idea&#8221;: dal punto di vista del gradiente ci si trova in una pianura (il numero di condizionamento \u03ba, cio\u00e8 il rapporto tra il pi\u00f9 alto e il pi\u00f9 basso autovalore, \u00e8 alto) in cui tutte le direzioni sembrano simili, e quindi il modello ne sceglie una a caso restando come sempre fiducioso. Il mancato trasferimento dei pattern si ha se la nitidezza spettrale \u03b5 \u00e8 alta; in questo caso il modello si \u00e8 trovato in una valle molto stretta da cui non \u00e8 riuscito a uscire. Con i dati di addestramento funziona tutto perfettamente, ma se appena i dati reali sono un po&#8217; diversi ci si perde del tutto. Infine la fragilit\u00e0 conflittuale, quando cambi minimi del modello danno grandi differenze nel risultato, indica che ci sono autovalori \u03b4 dell&#8217;hessiana che sono negativi, e quindi ci siamo trovati in un punto di sella: equilibrio instabile, per cui una minima perturbazione \u00e8 sufficiente a partire per la tangente. <\/p>\n<p>Fin qua tutto chiaro, come \u00e8 chiaro il fatto che il problema \u00e8 che il metodo del gradiente, pur con tutti i trucchi che permettono ogni tanto di saltare di palo in frasca, \u00e8 chiaramente locale. Mi sono perso quando Crespo afferma che dovremmo usare come paradigma quello della musica (principalmente bachiana), che non solo riduce il numero di variabili ma ha una visione globale, perch\u00e9 sappiamo che la tonalit\u00e0 di partenza \u00e8 quella terminale. La curvatura locale corrisponde a un&#8217;ambiguit\u00e0 armonica, che per\u00f2 alla fine tende sempre verso l&#8217;origine. L&#8217;esempio che fa \u00e8 quello del concerto triplo BWV 1044, dove la successione armonica iniziale \u00e8 Lam &#8211; Mi &#8211; Rem &#8211; Doaum &#8211; Fa &#8211; Sol &#8211; Do &#8211; Mi &#8211; Lam. L&#8217;accordo di do aumentato (do-mi-sol#) \u00e8 inerentemente ambiguo, perch\u00e9 lo possiamo anche vedere come mi aumentato o sol diesis aumentato; ma \u00e8 seguito da un fa maggiore che ci mantiene nella tonalit\u00e0. A parte che ho dato una rapida occhiata allo spartito e il do aumentato non l&#8217;ho visto, quel tipo di accordi spesso serve proprio per cambiare tonalit\u00e0, e comunque il <a href=\"https:\/\/it.wikipedia.org\/wiki\/Piccolo_labirinto_armonico\">Piccolo labirinto armonico<\/a> mostra come anche nella musica si possono avere delle allucinazioni :-) Crespo parla cos\u00ec di approccio riemaniano inverso: Riemann parte da una struttura localmente piatta per creare delle variet\u00e0 nello spazio multidimensionale, qui invece si collassa tutta la struttura multidimensionale in un piano che \u00e8 molto pi\u00f9 semplice da gestire. Pi\u00f9 precisamente la mappatura da lui proposta \u00e8 una funzione \u03a6 che assegna a ogno token un punto nel circolo delle quinte. Se la &#8220;successione di accordi&#8221; data dalla risposta dell&#8217;LLM risolve sulla tonica, tutto bene: altrimenti la computazione iniziale era sbagliata, e \u03a6 ce lo mostra.<\/p>\n<p>Tutto questo funziona in pratica? Secondo me no, ma se lo facesse sarebbe interessante&#8230;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>una proposta piuttosto bizzarra.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"activitypub_content_warning":"","activitypub_content_visibility":"","activitypub_max_image_attachments":3,"activitypub_interaction_policy_quote":"anyone","activitypub_status":"federated","footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"jetpack_post_was_ever_published":false},"categories":[30,1024],"tags":[],"class_list":["post-34934","post","type-post","status-publish","format-standard","hentry","category-ia","category-ia-2025"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_shortlink":"https:\/\/wp.me\/phh2yV-95s","jetpack-related-posts":[{"id":34694,"url":"https:\/\/xmau.com\/notiziole\/2025\/12\/08\/perche-unai-dovrebbe-sapere-che-un-articolo-e-stato-ritirato\/","url_meta":{"origin":34934,"position":0},"title":"Perch\u00e9 un&#8217;IA dovrebbe sapere che un articolo \u00e8 stato ritirato?","author":".mau.","date":"2025-12-08","format":false,"excerpt":"Ovvio che le cose vadano cos\u00ec: come fanno a distinguere lo status?","rel":"","context":"In &quot;IA e informatica&quot;","block_context":{"text":"IA e informatica","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":34187,"url":"https:\/\/xmau.com\/notiziole\/2025\/11\/03\/wikipedia-e-lia\/","url_meta":{"origin":34934,"position":1},"title":"Wikipedia e l&#8217;IA","author":".mau.","date":"2025-11-03","format":false,"excerpt":"Rischi e opportunit\u00e0 (s\u00ec, ci sono anch'esse)","rel":"","context":"In &quot;IA e informatica&quot;","block_context":{"text":"IA e informatica","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":32945,"url":"https:\/\/xmau.com\/notiziole\/2025\/06\/30\/due-giudici-due-sentenze\/","url_meta":{"origin":34934,"position":2},"title":"Due giudici, due sentenze","author":".mau.","date":"2025-06-30","format":false,"excerpt":"Dopo la sentenza contro Anthropic, ce n'\u00e8 una a favore di Meta nel suo addestramento AI. Ma \u00e8 un cavallo di Troia.","rel":"","context":"In &quot;IA e informatica&quot;","block_context":{"text":"IA e informatica","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":35790,"url":"https:\/\/xmau.com\/notiziole\/2026\/02\/02\/una-tavola-di-lookup-e-cosciente\/","url_meta":{"origin":34934,"position":3},"title":"Una tavola di lookup \u00e8 cosciente?","author":".mau.","date":"2026-02-02","format":false,"excerpt":"Un interessante punto di vista filosofico, pensando agli attuali LLM","rel":"","context":"In &quot;ia 2026&quot;","block_context":{"text":"ia 2026","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/ia-2026\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":31328,"url":"https:\/\/xmau.com\/notiziole\/2025\/02\/06\/open-euro-llm\/","url_meta":{"origin":34934,"position":4},"title":"Open Euro LLM","author":".mau.","date":"2025-02-06","format":false,"excerpt":"Progetto europeo per costruire un LLM multilingua che \"conservi la diversit\u00e0 culturale e linguistica\". Riusciranno mai a farlo?","rel":"","context":"In &quot;IA e informatica&quot;","block_context":{"text":"IA e informatica","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/"},"img":{"alt_text":"logo di Open Euro LLM","src":"https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2025\/02\/openeurollm.png?resize=350%2C200&ssl=1","width":350,"height":200},"classes":[]},{"id":35761,"url":"https:\/\/xmau.com\/notiziole\/2026\/02\/02\/se-proprio-volete-scrivere-con-lia\/","url_meta":{"origin":34934,"position":5},"title":"Se proprio volete scrivere con l&#8217;IA&#8230;","author":".mau.","date":"2026-02-02","format":false,"excerpt":"almeno usate qualche accorgimento per far sembrare il testo pi\u00f9 naturale. Ecco una guida.","rel":"","context":"In &quot;ia 2026&quot;","block_context":{"text":"ia 2026","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/ia-2026\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]}],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/34934","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/comments?post=34934"}],"version-history":[{"count":1,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/34934\/revisions"}],"predecessor-version":[{"id":34936,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/34934\/revisions\/34936"}],"wp:attachment":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/media?parent=34934"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/categories?post=34934"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/tags?post=34934"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}