Corso Fondamenti di AI Security

 La AI Security è la disciplina che si occupa di proteggere applicazioni che integrano modelli di intelligenza artificiale — in particolare LLM e sistemi agentici — da una nuova classe di rischi che la security applicativa classica non copre. Quando un LLM interpreta linguaggio, sceglie tra strumenti e compone azioni reali su sistemi connessi, il confine di fiducia smette di essere un endpoint e diventa una zona dove dati e istruzioni convivono nello stesso canale. Servono controlli specifici (prompt injection mitigation, output handling, tool design, audit) che non si trovano nei manuali OWASP classici, ma in framework recenti come OWASP TOP 10 for LLM Applications 2025 e MITRE ATLAS

La prompt injection è una tecnica con cui un input — diretto (scritto in chat) o indiretto (nascosto in un documento, email, ticket recuperato dal sistema) — riesce ad alterare il comportamento di un LLM, fino a fargli ignorare istruzioni di sistema o compiere azioni non previste. È classificata come LLM01:2025 Prompt Injection nel OWASP TOP 10 for LLM Applications 2025, ed è considerata il rischio numero uno perché negli LLM nonesiste una separazione nativa tra “istruzioni” e “dati”: tutto è testo, e una frase ben costruita può competere con le regole del sistema. Il National Cyber Security Centre britannico lo dice in modo netto: non è equiparabile a SQL injection, e l’obiettivo realistico non è azzerarla con un prompt migliore, ma ridurne l’impatto progettando
confini e controlli.

La prompt injection diretta avviene quando un utente scrive in chat una frase manipolativa per cambiare il comportamento del modello — il caso Gandalf di Lakera ne è la palestra didattica. La indirect prompt injection è più sottile e spesso più pericolosa: l’istruzione manipolativa è nascosta in un dato che il sistema recupera — un ticket, un’email, una pagina web, un metadato di documento. L’utente non scrive nulla di sospetto, ma il contenuto recuperato dal retriever entra nel contesto e compete con le istruzioni di sistema. È esattamente il pattern descritto da Greshake et al. nel paper foundational del 2023, e oggi è il vettore principale di esfiltrazione e azioni indesiderate negli agenti aziendali.

Per entrambi, ma con un angolo specifico: parla la lingua di chi costruisce il sistema agentico, non di chi lo attacca per mestiere. È pensato per AI engineer, software architect, tech lead e backend engineer che hanno appena collegato un LLM a un CRM, a un database o a un’email e si stanno chiedendo cosa hanno introdotto. È utilissimo anche a security engineer in transizione dal perimetro di rete al perimetro conversazionale, perché dà un vocabolario comune con il team di sviluppo. Non è un corso di red team o di offensive security: per quello esistono altri percorsi (SANS SEC545, Antisyphon, COASP).

Il corso è un mini-corso introduttivo on-demand della durata totale di circa un’ora (63 minuti di video), organizzato in 5 video lezioni progressive:
(1) Your AI is not a function! — il framing iniziale (13 min),
(2) Prompt Injection — diretta e indiretta (13 min),
(3) Superficie d’attacco — lo stack a layer + OWASP (12 min),
(4) Dal modello al rischio reale — answers vs acts + MITRE ATLAS (17 min),
(5) Governare gli agenti — il control loop CVEA (8 min).

È pensato per essere consumato in una sera o in due sittings brevi, e portato il giorno dopo in stand-up con il team.

La maggior parte dei corsi sul tema oggi disponibili — Udemy, SANS SEC545, Antisyphon, EC-Council COASP, Coursera — sono in inglese e hanno taglio offensive/red-team o full-stack security. Questo corso parte da una domanda diversa: come progetto sicuro un sistema agentico fin dal day one?
È un primer denso pensato per chi costruisce, non per chi attacca.
È in italiano (unico in Italia sul topic AI security agentica al 2026), dura circa un’ora distribuita in 5 video brevi invece di giorni di formazione, ed è condotto da Vincenzo Maritati, Co-Founder di Data Masters con oltre vent’anni di ricerca AI applicata. Ti consegna un framework operativo (Constrain-Verify-Execute-Audit) e un mantra memorabile da portare in azienda: il modello propone, la policy decide, il log ricorda.

Sì, al termine del corso sono previsti un esame finale e una certificazione.

Certamente, durante il corso è disponibile assistenza continua da parte dei nostri docenti per qualsiasi dubbio o domanda.