Manuale tecnico · Italiano · Per practitioner
Il riferimento tecnico italiano per la sicurezza del ciclo di vita AI e Machine Learning
MLSecOps.it documenta come si mettono in sicurezza modelli, pipeline, supply chain, agenti e runtime AI: architetture, threat model, controlli, strumenti e analisi riproducibili, con fonti primarie e autori identificati.
MLSecOps (Machine Learning Security Operations) è la disciplina che integra controlli di sicurezza in ogni fase del ciclo di vita dei sistemi di machine learning e AI — dati, training, artefatti, distribuzione, runtime e monitoraggio — estendendo i principi di DevSecOps a modelli, pipeline e agenti.
Perché conta
Un sistema di machine learning non è protetto dai soli controlli applicativi. I modelli sono artefatti eseguibili di fatto (alcuni formati di serializzazione eseguono codice al caricamento), vengono scaricati da hub pubblici, dipendono da dataset e pesi di terze parti, e sempre più spesso operano come agenti con strumenti, credenziali e memoria. Ogni fase del ciclo di vita introduce una superficie d’attacco specifica che DevSecOps e MLOps, da soli, non coprono.
Cosa si mette in sicurezza, fase per fase
- Dati Provenienza, integrità e poisoning dei dataset; controllo degli accessi; lineage.
- Training Isolamento degli ambienti, dipendenze, codice e configurazioni riproducibili.
- Artefatti Formati di serializzazione sicuri, firma, attestazioni, AI-BOM, registry.
- Distribuzione Pipeline CI/CD, policy di ammissione, segreti, hardening del serving.
- Runtime e agenti Prompt injection, tool-call, autorizzazione, sandboxing, MCP, memoria.
- Monitoraggio e risposta Telemetria, provenance delle decisioni, rilevamento, incident response.
Percorsi tecnici
MLSecOps: fondamenti
Definizione, architettura, threat model, controlli, pipeline, ruoli e maturità della sicurezza del ciclo di vita AI/ML.
Model Security
Modelli malevoli, poisoning, furto ed estrazione, manomissione, integrità, firma, serializzazione e sicurezza di registry e hub.
AI Supply Chain Security
Dipendenze, dataset e modelli di terze parti, AI-BOM/ML-BOM, attestazioni, SLSA, in-toto, Sigstore e registry.
Agent Security
Identità, delega e autorizzazione degli agenti, excessive agency, confused deputy, runtime enforcement, sandboxing, memoria e fiducia multi-agente.
MCP Security
Model Context Protocol: server malevoli, tool poisoning, prompt injection via MCP, autenticazione e autorizzazione, trust boundary e rischi di supply chain.
Provenance
Model provenance, AI provenance, provenance engineering, decision e agent provenance, attacchi di spoofing, stripping e laundering.
AI Red Teaming
Test avversariali di modelli, applicazioni LLM e agenti: prompt injection, memory poisoning, supply chain, abuso a runtime e autorizzazione.
Ricerca, strumenti e glossario
Vulnerabilità e incidenti
Analisi tecniche riproducibili di vulnerabilità e incidenti reali nell’ecosistema AI/ML, con precondizioni, trust boundary, percorso d’attacco e mitigazioni.
Strumenti
Directory curata di strumenti per MLSecOps: scansione di modelli, firma e attestazione, policy enforcement, red teaming, osservabilità.
Ricerca originale
Landscape italiano, catalogo dei controlli, maturity model, threat model, benchmark e database degli incidenti.
Guide pratiche
Procedure operative passo-passo per implementare controlli MLSecOps in pipeline e piattaforme reali.
Glossario
Definizioni tecniche estraibili e citabili, con fonti, per i termini dell’ecosistema MLSecOps.
Standard e fonti primarie di riferimento
Le pagine di questo sito citano fonti primarie e distinguono esplicitamente fatti, best practice, pratiche emergenti, risultati di ricerca, ipotesi e stime. I riferimenti ricorrenti:
- NIST AI Risk Management Framework (AI RMF 1.0)
- NIST AI 100-2 — Adversarial Machine Learning: taxonomy and terminology
- OWASP Top 10 for LLM Applications
- OWASP Machine Learning Security Top 10
- MITRE ATLAS
- ENISA — Multilayer framework for good cybersecurity practices for AI
- SLSA — Supply-chain Levels for Software Artifacts
- Sigstore
- in-toto
- CycloneDX (ML-BOM)
Chi scrive e come
Ogni pagina tecnica ha un autore identificato, una data di pubblicazione e una data di aggiornamento. La politica editoriale descrive come selezioniamo le fonti, come gestiamo correzioni e aggiornamenti, e quali controlli una pagina deve superare prima della pubblicazione. Chi siamo →