Sécurité IA, protection des données et régulation : le panorama pour les entreprises suisses

Les trois niveaux et leurs liens

Sécurité, protection des données et régulation sont souvent traitées séparément, mais dans l'IA elles se recoupent. La sécurité demande : le système est-il robuste et protégé contre les abus ? La protection des données demande : les données personnelles sont-elles traitées licitement et de façon transparente ? La régulation demande : l'usage est-il autorisé, et à quelles conditions ? Ensemble seulement, elles forment un cadre fiable.

Les entreprises suisses ont une contrainte supplémentaire : elles relèvent de la loi fédérale révisée sur la protection des données (nLPD) mais peuvent aussi tomber sous l'EU AI Act extraterritorial dès que leurs résultats d'IA sont utilisés dans l'UE. Une lecture purement nationale est donc trop étroite.

• Sécurité : protège modèles, données et infrastructure contre attaques, manipulation et fuites (niveau technique et organisationnel).
• Protection des données : encadre la collecte, le traitement et la communication des données personnelles (nLPD, supervision du PFPDT).
• Régulation : fixe la licéité, la classe de risque et les obligations selon l'usage (EU AI Act, droit sectoriel comme les règles FINMA ou dispositifs médicaux).

Sécurité IA : les risques majeurs

Les systèmes d'IA, surtout ceux fondés sur de grands modèles de langage, ouvrent des surfaces d'attaque inconnues des logiciels classiques. La communauté OWASP les a résumées dans sa liste pour les applications LLM. Elles doivent figurer dans toute revue de sécurité avant la mise en production d'une fonction IA.

• Injection de prompt : des attaquants glissent des instructions dans les entrées ou documents pour pousser le modèle à des actions indésirables ou à divulguer des données.
• Fuite de données : données personnelles ou secrets d'affaires atteignent des modèles externes via les prompts, ou apparaissent dans des réponses aux mauvais destinataires.
• Hallucinations et sorties erronées : des réponses fausses mais convaincantes mènent à de mauvaises décisions sans contrôle en place.
• Risques de chaîne d'approvisionnement et de modèle : modèles, plugins ou données d'entraînement compromis introduisent des failles.
• Shadow AI : des collaborateurs utilisent des outils d'IA non approuvés avec des données d'entreprise, hors de tout contrôle ou cadre contractuel.

Protection des données : la nLPD et le traitement des données personnelles

Depuis le 1er septembre 2023, la Suisse applique la loi fédérale sur la protection des données entièrement révisée (nLPD). Alignée sur la logique fondée sur le risque du droit européen, elle reste une loi distincte : pour les cas suisses, on parle de nLPD, pas du RGPD. Dès que l'IA traite des données personnelles, les principes habituels s'appliquent : licéité, limitation de la finalité, transparence, proportionnalité et sécurité des données.

• Analyse d'impact relative à la protection des données (AIPD) : à réaliser avant tout déploiement en cas de risque élevé probable, p. ex. profilage à grande échelle ou données sensibles.
• Sous-traitance : les fournisseurs d'IA sont généralement des sous-traitants ; il faut un contrat, des sous-traitants ultérieurs vérifiés et un lieu de traitement clair (Suisse/UE ou pays tiers).
• Transparence et droits des personnes : informez lorsque l'IA appuie des décisions et garantissez accès, rectification et contrôle humain.
• Minimisation des données : n'introduisez que les données personnelles réellement nécessaires dans les prompts, jeux d'entraînement ou bases vectorielles ; anonymisez ou pseudonymisez si possible.

Régulation : EU AI Act et droit suisse

L'EU AI Act est la première régulation complète de l'IA et entre en vigueur par étapes. Il suit une approche fondée sur le risque : pratiques interdites (comme le scoring social), applications à haut risque aux obligations strictes (p. ex. recrutement ou scoring de crédit), obligations de transparence limitées (marquage des chatbots et contenus générés) et risque minimal. Essentiel pour la Suisse : l'Act s'applique de façon extraterritoriale dès que les résultats d'IA sont utilisés dans l'UE.

La Suisse n'a pas encore de loi horizontale dédiée à l'IA. Le Conseil fédéral privilégie une approche sectorielle et neutre sur le plan technologique et examine la mise en œuvre d'instruments internationaux comme la Convention sur l'IA du Conseil de l'Europe. Les secteurs régulés relèvent aussi de règles existantes, p. ex. la FINMA dans la finance ou le droit des produits thérapeutiques pour les usages médicaux. Les exportateurs et ceux qui servent des clients UE s'alignent de fait sur le standard européen, plus strict.

Une feuille de route pratique pour les PME suisses

La gouvernance n'a pas à être lourde. Une séquence pragmatique relie les trois niveaux sans bloquer l'innovation et peut s'aligner sur des référentiels reconnus comme le NIST AI Risk Management Framework ou la norme ISO/IEC 42001.

• Inventaire : recensez tous les usages d'IA en place ou prévus, y compris la shadow AI, et priorisez selon le type de données et la finalité.
• Classement risque et droit : pour chaque usage, déterminez le risque de sécurité, la pertinence en protection des données et la classe de risque EU AI Act possible.
• Garde-fous : politique IA interne, processus d'approbation des outils, fournisseurs vérifiés avec contrat de traitement et règles claires sur les données clients.
• Contrôles techniques : gestion des accès, journalisation, filtres entrée/sortie contre l'injection de prompt et supervision humaine pour les décisions importantes.
• Personnes et itération : formez les équipes, attribuez les responsabilités et réévaluez régulièrement, car modèles et droit évoluent vite.

Souveraineté et la voie suisse

Pour les données sensibles, la souveraineté numérique passe au premier plan : où les données sont-elles traitées, qui y a accès, et quelle est la dépendance envers un fournisseur unique ? La Suisse développe ses propres capacités. Le modèle de langage ouvert Apertus, développé à l'ETH Zurich et à l'EPFL avec le Swiss National Supercomputing Centre, montre qu'une IA transparente et hébergée en Suisse est possible. Innosuisse soutient des projets d'innovation en ce sens.