Che cos'è la sicurezza dell'IA?

La sicurezza dell'IA in breve

La sicurezza dell'IA indica la protezione dei sistemi di IA – e dei dati che elaborano – da abusi, manipolazioni e guasti. Unisce la sicurezza informatica classica (riservatezza, integrità, disponibilità) alle nuove minacce specifiche dell'IA legate ai grandi modelli linguistici e agli agenti autonomi.

Occorre distinguere tra sicurezza dell'IA (rendere il sistema resistente agli attacchi) e IA per la sicurezza (usare l'IA per difendersi dagli attacchi informatici). Questo articolo tratta soprattutto la prima prospettiva: come le organizzazioni usano l'IA generativa in modo responsabile e robusto.

I maggiori rischi dell'IA generativa

• Fuga di dati (data leakage): input riservati, segreti aziendali o dati personali escono tramite prompt, dati di addestramento o file di log.
• Prompt injection: input manipolati o istruzioni nascoste in documenti e pagine web spingono il modello a ignorare le regole di sicurezza o a compiere azioni indesiderate.
• Uso improprio del modello (model misuse): gli aggressori usano l'IA per phishing, codice dannoso o disinformazione, oppure aggirano i filtri di sicurezza con il jailbreak.
• Allucinazioni: il modello genera affermazioni convincenti ma false, un rischio per decisioni prese senza verifica.
• Shadow AI: i collaboratori usano strumenti non autorizzati e immettono dati sensibili in servizi non controllati.
• Rischi di supply chain e di modello: modelli, plug-in o dati di addestramento compromessi (data poisoning) introducono vulnerabilità.

Misure di protezione: tecniche e organizzative

Una sicurezza dell'IA efficace è stratificata; nessuna singola misura basta. Controlli tecnici e regole organizzative si integrano (difesa in profondità).

• Minimizzazione e classificazione dei dati: condividere solo i dati necessari, bloccare tecnicamente le categorie sensibili.
• Modello di accessi e permessi (privilegio minimo, zero-trust) per modelli, dati e strumenti degli agenti.
• Filtri su input e output (guardrail) contro injection, fuga di dati e contenuti tossici.
• Retrieval-Augmented Generation con fonti verificate invece della conoscenza cieca del modello, con citazioni.
• Registrazione, monitoraggio e rilevamento di anomalie; red teaming e test di penetrazione regolari.
• Garanzie contrattuali su trattamento dei dati, ubicazione e nessun addestramento sui dati dei clienti; hosting UE/Svizzera dove necessario.

La supervisione umana come ultimo livello

La supervisione umana è l'ultimo e più importante livello di sicurezza. L'EU AI Act la richiede esplicitamente per i sistemi ad alto rischio ed è una buona prassi anche senza legami con l'UE. È essenziale che le persone possano comprendere, mettere in discussione e correggere i risultati dell'IA.

• Human-in-the-loop: le azioni critiche (pagamenti, pareri legali, indicazioni mediche) sono approvate prima dell'esecuzione.
• Responsabilità chiare: chi controlla, chi risponde, chi può spegnere (kill switch).
• Formazione: i collaboratori riconoscono allucinazioni, tentativi di injection e limiti di protezione dei dati.
• Trasparenza verso le persone quando l'IA interagisce con loro o decide sul loro conto.

Quadro giuridico e standard: Svizzera e UE

La Svizzera non ha (ancora) una legge specifica sull'IA, ma si applicano le regole esistenti: la legge federale rivista sulla protezione dei dati (revLPD) richiede sicurezza dei dati, trasparenza e, se del caso, una valutazione d'impatto. L'IFPDT vigila sul rispetto. Chi serve persone nell'UE è inoltre soggetto all'EU AI Act extraterritoriale, che stabilisce obblighi basati sul rischio fino a veri e propri divieti.

• EU AI Act: basato sul rischio, con obblighi su robustezza, trasparenza e supervisione umana.
• revLPD e linee guida dell'IFPDT: sicurezza dei dati e diritti degli interessati in Svizzera.
• ISO/IEC 42001: sistema di gestione per un'IA responsabile.
• NIST AI Risk Management Framework: quadro di governance volontario e ampiamente riconosciuto.
• OWASP Top 10 per le applicazioni LLM: elenco concreto di attacchi e difese per gli sviluppatori.

Introdurre la sicurezza dell'IA: una roadmap pragmatica

La sicurezza dell'IA si costruisce passo dopo passo, anche nelle PMI senza un grande team di sicurezza.

• Creare un inventario: quali strumenti di IA sono in uso e con quali dati?
• Adottare una policy sull'IA: strumenti consentiti, tipi di dati vietati, canali di segnalazione.
• Definire le classi di dati e tenere i dati sensibili fuori dai servizi pubblici.
• Valutare i fornitori: ubicazione, certificazioni, opt-out dall'addestramento, condizioni contrattuali.
• Avviare un progetto pilota con guardrail e logging, poi distribuire in modo controllato.
• Testare, formare e adattarsi alle nuove minacce con regolarità.