{"id":38085,"date":"2026-08-31T04:51:38","date_gmt":"2026-08-31T02:51:38","guid":{"rendered":"https:\/\/xmau.com\/notiziole\/?p=38085"},"modified":"2026-08-30T13:07:39","modified_gmt":"2026-08-30T11:07:39","slug":"ancora-sul-caso-huggingface","status":"publish","type":"post","link":"https:\/\/xmau.com\/notiziole\/2026\/08\/31\/ancora-sul-caso-huggingface\/","title":{"rendered":"Ancora sul caso HuggingFace"},"content":{"rendered":"

Dopo pi\u00f9 di un mese dall’attacco degli agenti di OpenAI contro HuggingFace se ne parla ancora molto. Gary Marcus ha raccolto alcune analisi e aggiunto le cinque lezioni<\/a> che secondo lui si possono trarre. La prima \u00e8 un’ovviet\u00e0: le IA possono dare problemi di sicurezza. \u00c8 un’ovviet\u00e0 anche perch\u00e9 trovare bachi di sicurezza \u00e8 probabilmente alla pari con la generazione di codice il segmento di mercato pi\u00f9 interessante, e quindi gli LLM sono ottimizzati per farlo bene. La seconda lezione \u00e8 che non bisogna per\u00f2 esagerare il rischio della perdita di controllo: se OpenAI avesse fatto le cose per bene, non sarebbe successo nulla. Le sandbox, cio\u00e8 gli ambienti di test, usati da OpenAI non erano evidentemente le pi\u00f9 sicure esistenti sul mercato. La terza lezione, di nuovo ovvia per chiunque si sia occupato di cybersicurezza, \u00e8 che le sandbox da sole non bastano e occorre come minimo un sistema di monitoraggio esterno e indipendente: per esempio, l’attacco a HuggingFace \u00e8 avvenuto due giorni dopo che gli agenti OpenAI erano riusciti a uscire dalla sandbox e girare per Internet. Un monitoraggio avrebbe dovuto notare il traffico in rete non previsto e dare l’allarme. Perch\u00e9 questa lezione \u00e8 ovvia? Perch\u00e9 uno degli assunti di base della cybersicurezza \u00e8 “mai fidarsi di un singolo sistema di prevenzione”. La perfezione non esiste, quindi \u00e8 meglio avere cintura e bretelle insieme: se una si rompe resta ancora l’altra. Questa \u00e8 la quarta lezione: ci sono anche altri sistemi di controllo, come far passare tutto il traffico attraverso un proxy che abilita solo l’uscita verso siti specifici, oppure lasciare dei “canarini”, cio\u00e8 dei file con una risposta sbagliata al task chiesto agli agenti. Se i canarini non dovrebbero essere raggiunti ma l’IA generativa d\u00e0 la risposta trovata l\u00ec vuol dire che c’\u00e8 qualcosa che non va. La quinta e ultima lezione \u00e8 che tutte queste cose sono note da molti anni, e il fatto che i ricercatori di OpenAI non abbiano pensato di implementarle \u00e8 un vero problema. Probabilmente, aggiunte Marcus, bisogna ripensare le responsabilit\u00e0 legali di chi produce questi sistemi, per dar loro qualche incentivo pratico a mettere in campo le misure di sicurezza.<\/p>\n

I miei due cent? Qui si sta giocando troppo all’apprendista stregone. Abbiamo solo un’idea generica di come funziona l’IA generativa, e quello che \u00e8 peggio \u00e8 che anche chi la sviluppa non ne sa molto di pi\u00f9. Perch\u00e9 dobbiamo lasciarla vagare libera pensando che tanto siamo in pieno controllo? Pi\u00f9 che della singolarit\u00e0 io sono preoccupato di una catastrofe che arrivi “per sbaglio”…

Le cinque lezioni che si sono imparate, secondo Gary Marcus<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_lmt_disableupdate":"","_lmt_disable":"","site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"default","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"set","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"activitypub_content_warning":"","activitypub_content_visibility":"","activitypub_max_image_attachments":3,"activitypub_interaction_policy_quote":"anyone","activitypub_status":"federated","footnotes":"","jetpack_post_was_ever_published":false},"categories":[1023,30],"tags":[],"class_list":["post-38085","post","type-post","status-publish","format-standard","hentry","category-ia-2026","category-ia"],"modified_by":".mau.","jetpack_shortlink":"https:\/\/wp.me\/phh2yV-9Uh","jetpack-related-posts":[{"id":37926,"url":"https:\/\/xmau.com\/notiziole\/2026\/08\/24\/altre-idee-sulla-guerra-ia-america-cina\/","url_meta":{"origin":38085,"position":0},"title":"Altre idee sulla guerra IA America-Cina","author":".mau.","date":"2026-08-24","format":false,"excerpt":"Stavolta da Gary Marcus","rel":"","context":"In "ia 2026"","block_context":{"text":"ia 2026","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/ia-2026\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":29687,"url":"https:\/\/xmau.com\/notiziole\/2024\/09\/18\/openai-o1-sapra-davvero-ragionare-matematicamente\/","url_meta":{"origin":38085,"position":1},"title":"OpenAI o1 sapr\u00e0 davvero “ragionare matematicamente”?","author":".mau.","date":"2024-09-18","format":false,"excerpt":"secondo me, no","rel":"","context":"In "IA e informatica"","block_context":{"text":"IA e informatica","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":37922,"url":"https:\/\/xmau.com\/notiziole\/2026\/08\/03\/openai-gpt-5-6-e-arc-agi-3\/","url_meta":{"origin":38085,"position":2},"title":"OpenAI GPT-5.6 e ARC-AGI-3","author":".mau.","date":"2026-08-03","format":false,"excerpt":"Sar\u00e0 vero che il modello di punta di OpenIA funziona anche con input a lui sconosciuti?","rel":"","context":"In "ia 2026"","block_context":{"text":"ia 2026","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/ia-2026\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":33855,"url":"https:\/\/xmau.com\/notiziole\/2025\/09\/29\/stanno-davvero-arrivando-le-ia-intelligenti\/","url_meta":{"origin":38085,"position":3},"title":"Stanno davvero arrivando le IA “intelligenti”?","author":".mau.","date":"2025-09-29","format":false,"excerpt":"All'International Collegiate Programming Contest OpenAI \u00e8 stata pi\u00f9 brava delle squadre di programmatori umani","rel":"","context":"In "IA e informatica"","block_context":{"text":"IA e informatica","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":37531,"url":"https:\/\/xmau.com\/notiziole\/2026\/06\/22\/perche-claude-fable-5-e-stato-bloccato\/","url_meta":{"origin":38085,"position":4},"title":"Perch\u00e9 Claude Fable 5 \u00e8 stato bloccato?","author":".mau.","date":"2026-06-22","format":false,"excerpt":"Domanda intelligente, e le risposte possono essere tante.","rel":"","context":"In "ia 2026"","block_context":{"text":"ia 2026","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/ia-2026\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":33980,"url":"https:\/\/xmau.com\/notiziole\/2025\/10\/13\/la-lezione-ancora-piu-amara\/","url_meta":{"origin":38085,"position":5},"title":"La lezione ancora pi\u00f9 amara","author":".mau.","date":"2025-10-13","format":false,"excerpt":"I soli metodi IA che funzionano sono quelli con la forza bruta, ma la forza bruta non basta.","rel":"","context":"In "IA e informatica"","block_context":{"text":"IA e informatica","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]}],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"","_links":{"self":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/38085","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/comments?post=38085"}],"version-history":[{"count":1,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/38085\/revisions"}],"predecessor-version":[{"id":38086,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/38085\/revisions\/38086"}],"wp:attachment":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/media?parent=38085"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/categories?post=38085"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/tags?post=38085"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}