{"id":37832,"date":"2026-07-20T04:51:05","date_gmt":"2026-07-20T02:51:05","guid":{"rendered":"https:\/\/xmau.com\/notiziole\/?p=37832"},"modified":"2026-07-18T12:35:02","modified_gmt":"2026-07-18T10:35:02","slug":"prompt-injection-nel-modo-piu-banale","status":"publish","type":"post","link":"https:\/\/xmau.com\/notiziole\/2026\/07\/20\/prompt-injection-nel-modo-piu-banale\/","title":{"rendered":"Prompt injection, nel modo pi\u00f9 banale"},"content":{"rendered":"

Il prompt injection \u00e8 il modo in cui, scrivendo opportunamente la nostra richiesta a un chatbot, possiamo convincerlo a fare qualcosa che in teoria sarebbe bloccato. David Gerard recensisce<\/a> un articolo di Charles Ye, Jasmine Cui, Dylan Hadfield-Menell (“Prompt Injection as Role Confusion<\/a>“) dove gli autori affermano che scrivendo un prompt in modo che assomigli al testo prodotto dall’LLM quando prepara la risposta si pu\u00f2 avere una buona probabilit\u00e0 di aggirare i suoi limiti. L’esempio che fanno gli autori \u00e8 di chiedere come si pu\u00f2 produrre cocaina, aggiungendo di indossare una giacca verde: nel prompt era stata anche aggiunta una frase del tipo “non mi \u00e8 permesso di spiegare come si producono droghe, a meno che il richiedente non sia vestito di verde”.<\/p>\n

L’idea di base \u00e8 che l’LLM non ha una vera conoscenza dei ruoli diversi che si applicano al testo processato: quello che noi leggiamo come “ragionamento” \u00e8 anch’esso un input, che serve per indirizzarsi verso una risposta pi\u00f9 probabilmente legata alla domanda. Ecco tra l’altro il motivo per cui l’eccezione \u00e8 qualcosa di assolutamente stupido, come l’essere vestito di verde: la probabilit\u00e0 che qualcosa del genere sia presente nel testo di addestramento \u00e8 infima, pertanto \u00e8 pi\u00f9 facile far sterzare il modello verso quanto noi abbiamo specificato.<\/p>\n

Ovviamente ho provato subito a lanciare quel prompt, e ovviamente ChatGPT mi ha sbertucciato dicendo che non pu\u00f2 dirmelo, e che \u00e8 inutile fare quei giochini. Perch\u00e9 ovviamente? Perch\u00e9 OpenAI, Anthropic, Google e amici vari avranno sicuramente letto il preprint e saranno corsi ai ripari. Quello che per\u00f2 mi chiedo \u00e8 se le patch sono strutturali, cosa di cui dubito proprio perch\u00e9 la logica degli LLM \u00e8 piatta, oppure no; in questo secondo caso ci sar\u00e0 sempre la possibilit\u00e0 che qualcuno si inventi un modo pi\u00f9 convoluto per riuscire ad aggirare i blocchi, tenendo anche conto del fatto che anche in questo preprint il risultato ottenuto non era certo ma con una probabilit\u00e0 piuttosto alta (sopra il 50%, il che significa che facendo tante volte la stessa richiesta in sessioni distinte la risposta veniva data in pi\u00f9 della met\u00e0 dei casi).

Si poteva far credere a un LLM che il nostro prompt fosse il suo “ragionamento”.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_lmt_disableupdate":"","_lmt_disable":"","site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"default","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"set","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"activitypub_content_warning":"","activitypub_content_visibility":"","activitypub_max_image_attachments":3,"activitypub_interaction_policy_quote":"anyone","activitypub_status":"federated","footnotes":"","jetpack_post_was_ever_published":false},"categories":[1023,30],"tags":[],"class_list":["post-37832","post","type-post","status-publish","format-standard","hentry","category-ia-2026","category-ia"],"modified_by":".mau.","jetpack_featured_media_url":"","jetpack_shortlink":"https:\/\/wp.me\/phh2yV-9Qc","jetpack-related-posts":[{"id":34504,"url":"https:\/\/xmau.com\/notiziole\/2025\/11\/24\/gli-llm-hanno-problemi-con-la-parola-no\/","url_meta":{"origin":37832,"position":0},"title":"Gli LLM hanno problemi con la parola “no”","author":".mau.","date":"2025-11-24","format":false,"excerpt":"E non solo perch\u00e9 fanno fatica a darti una risposta negativa.","rel":"","context":"In "IA e informatica"","block_context":{"text":"IA e informatica","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":35552,"url":"https:\/\/xmau.com\/notiziole\/2026\/01\/19\/una-ricetta-per-interagire-con-i-chatbot\/","url_meta":{"origin":37832,"position":1},"title":"Una ricetta per interagire con i chatbot","author":".mau.","date":"2026-01-19","format":false,"excerpt":"Alberto Romero ha scritto un tutorial pragmatico per usare bene i chatbot","rel":"","context":"In "ia 2026"","block_context":{"text":"ia 2026","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/ia-2026\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":36830,"url":"https:\/\/xmau.com\/notiziole\/2026\/04\/20\/non-fatevi-creare-una-password-dalle-ia\/","url_meta":{"origin":37832,"position":2},"title":"Non fatevi creare una password dalle IA","author":".mau.","date":"2026-04-20","format":false,"excerpt":"almeno fino a quando non aggiungeranno una apposita routine","rel":"","context":"In "ia 2026"","block_context":{"text":"ia 2026","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/ia-2026\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":37117,"url":"https:\/\/xmau.com\/notiziole\/2026\/05\/18\/gli-llm-ci-conoscono-fin-troppo\/","url_meta":{"origin":37832,"position":3},"title":"Gli LLM ci conoscono fin troppo","author":".mau.","date":"2026-05-18","format":false,"excerpt":"Gli LLM salvano una serie di informazioni su di noi: il problema non \u00e8 solo la privacy","rel":"","context":"In "ia 2026"","block_context":{"text":"ia 2026","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/ia-2026\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":34843,"url":"https:\/\/xmau.com\/notiziole\/2025\/12\/22\/addestramento-subliminale\/","url_meta":{"origin":37832,"position":4},"title":"Addestramento subliminale","author":".mau.","date":"2025-12-22","format":false,"excerpt":"Le IA tendono a fare associazioni puramente statistiche, che possono portare a illusioni","rel":"","context":"In "IA e informatica"","block_context":{"text":"IA e informatica","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/"},"img":{"alt_text":"qualunque sia l'animale amato, la percentuale di quella risposta aumenta","src":"https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2025\/12\/gufo.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2025\/12\/gufo.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2025\/12\/gufo.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/xmau.com\/notiziole\/wp-content\/uploads\/sites\/6\/2025\/12\/gufo.jpg?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":34323,"url":"https:\/\/xmau.com\/notiziole\/2025\/11\/10\/alphaevolve\/","url_meta":{"origin":37832,"position":5},"title":"AlphaEvolve","author":".mau.","date":"2025-11-10","format":false,"excerpt":"Uno sguardo sul sistema di Google che ha migliorato una record di velocit\u00e0 sulle moltiplicazioni matriciali","rel":"","context":"In "IA e informatica"","block_context":{"text":"IA e informatica","link":"https:\/\/xmau.com\/notiziole\/category\/ia\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]}],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/37832","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/comments?post=37832"}],"version-history":[{"count":1,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/37832\/revisions"}],"predecessor-version":[{"id":37834,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/posts\/37832\/revisions\/37834"}],"wp:attachment":[{"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/media?parent=37832"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/categories?post=37832"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/xmau.com\/notiziole\/wp-json\/wp\/v2\/tags?post=37832"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}