Sicurezza IA, privacy e regolamentazione: la guida per le imprese svizzere

I tre livelli e come si collegano

Sicurezza, privacy e regolamentazione vengono spesso trattate separatamente, ma nell'IA si sovrappongono. La sicurezza chiede: il sistema è robusto e protetto da abusi? La privacy chiede: i dati personali sono trattati in modo lecito e trasparente? La regolamentazione chiede: l'applicazione è ammessa e a quali condizioni? Solo insieme formano un quadro solido.

Le imprese svizzere hanno una complessità in più: sono soggette alla legge federale sulla protezione dei dati riveduta (revLPD) ma possono al contempo rientrare nell'EU AI Act extraterritoriale non appena i risultati della loro IA sono usati nell'UE. Una prospettiva solo nazionale è quindi insufficiente.

• Sicurezza: protegge modelli, dati e infrastruttura da attacchi, manipolazione e fughe di dati (livello tecnico e organizzativo).
• Privacy: disciplina come i dati personali possono essere raccolti, trattati e comunicati (revLPD, vigilanza dell'IFPDT).
• Regolamentazione: definisce ammissibilità, classe di rischio e obblighi per ogni caso d'uso (EU AI Act, diritto settoriale come norme FINMA o dispositivi medici).

Sicurezza IA: i rischi principali

I sistemi IA, soprattutto quelli basati su grandi modelli linguistici, aprono superfici di attacco che il software classico non conosce. La community OWASP ha riassunto le più comuni nella sua lista per le applicazioni LLM. Vanno considerate in ogni analisi di sicurezza prima di mettere in produzione una funzione IA.

• Prompt injection: gli attaccanti nascondono istruzioni negli input o nei documenti per indurre il modello ad azioni indesiderate o a divulgare dati.
• Fuga di dati: dati personali o segreti aziendali finiscono in modelli esterni tramite i prompt o compaiono in risposte a destinatari errati.
• Allucinazioni e output errati: risposte sbagliate ma convincenti portano a decisioni errate se nessun controllo interviene.
• Rischi di supply chain e di modello: modelli, plugin o dati di addestramento compromessi introducono vulnerabilità.
• Shadow AI: i dipendenti usano strumenti IA non approvati con dati aziendali, fuori da ogni controllo e copertura contrattuale.

Privacy: la revLPD e il trattamento dei dati personali

Dal 1° settembre 2023 la Svizzera applica la legge sulla protezione dei dati totalmente riveduta (revLPD). È allineata alla logica basata sul rischio del diritto europeo ma resta una legge autonoma: per le questioni svizzere si parla di revLPD, non di GDPR. Quando l'IA tratta dati personali valgono i principi consueti: liceità, limitazione della finalità, trasparenza, proporzionalità e sicurezza dei dati.

• Valutazione d'impatto sulla protezione dei dati (VIPD): da effettuare prima dell'uso in caso di rischio elevato probabile, ad es. profilazione su vasta scala o trattamento di dati sensibili.
• Responsabile del trattamento: i fornitori IA sono di solito responsabili; servono un contratto, sub-responsabili verificati e chiarezza sul luogo del trattamento (Svizzera/UE o Paese terzo).
• Trasparenza e diritti degli interessati: informate quando l'IA supporta decisioni e garantite accesso, rettifica e revisione umana.
• Minimizzazione dei dati: inserite solo i dati personali realmente necessari in prompt, set di addestramento o database vettoriali; anonimizzate o pseudonimizzate ove possibile.

Regolamentazione: EU AI Act e diritto svizzero

L'EU AI Act è la prima regolamentazione completa sull'IA ed entra in vigore in modo scaglionato. Segue un approccio basato sul rischio: pratiche vietate (come il social scoring), applicazioni ad alto rischio con obblighi severi (es. selezione del personale o scoring creditizio), obblighi di trasparenza limitati (etichettatura di chatbot e contenuti generati) e rischio minimo. Rilevante per la Svizzera: l'Act ha effetto extraterritoriale non appena i risultati dell'IA sono usati nell'UE.

La Svizzera non ha ancora una legge orizzontale dedicata all'IA. Il Consiglio federale predilige un approccio settoriale e tecnologicamente neutro e valuta come attuare strumenti internazionali come la Convenzione sull'IA del Consiglio d'Europa. I settori regolati seguono anche norme esistenti, ad es. la FINMA nella finanza o il diritto sugli agenti terapeutici per usi medici. Chi esporta o serve clientela UE si allinea di fatto allo standard UE più severo.

Una roadmap pratica per le PMI svizzere

La governance non deve essere pesante. Una sequenza pragmatica collega i tre livelli senza bloccare l'innovazione e può allinearsi a framework riconosciuti come il NIST AI Risk Management Framework o la norma ISO/IEC 42001.

• Inventario: censite tutti gli usi IA attivi o previsti, inclusa la shadow AI, e date priorità per tipo di dati e finalità.
• Classificazione di rischio e giuridica: per ogni uso, definite rischio di sicurezza, rilevanza privacy e possibile classe di rischio EU AI Act.
• Guardrail: policy IA interna, processo di approvazione degli strumenti, fornitori verificati con contratto di trattamento e regole chiare sui dati dei clienti.
• Controlli tecnici: gestione degli accessi, logging, filtri input/output contro la prompt injection e supervisione umana nelle decisioni rilevanti.
• Persone e iterazione: formate il personale, assegnate responsabilità e aggiornate la valutazione con regolarità, perché modelli e diritto cambiano in fretta.

Sovranità e la via svizzera

Per i dati sensibili, la sovranità digitale passa in primo piano: dove sono trattati i dati, chi vi accede e quanto si dipende da singoli fornitori? La Svizzera sta costruendo competenze proprie. Il modello linguistico aperto Apertus, sviluppato all'ETH di Zurigo e all'EPFL con lo Swiss National Supercomputing Centre, mostra che un'IA trasparente e ospitata in Svizzera è possibile. Innosuisse finanzia progetti d'innovazione affini.