Confiance, sécurité et réglementation

Qu'est-ce que la sécurité de l'IA ?

Par Giovanna Carpi, Fondatrice et CEO · Weissmann AI · Mis à jour 21 juillet 2026

La sécurité de l'IA en bref

La sécurité de l'IA désigne la protection des systèmes d'IA – et des données qu'ils traitent – contre les abus, la manipulation et les pannes. Elle associe la sécurité de l'information classique (confidentialité, intégrité, disponibilité) aux nouvelles menaces propres à l'IA, liées aux grands modèles de langage et aux agents autonomes.

Il faut distinguer la sécurité de l'IA (renforcer le système contre les attaques) de l'IA pour la sécurité (utiliser l'IA pour contrer les cyberattaques). Cet article traite surtout de la première perspective : comment les organisations exploitent l'IA générative de manière responsable et robuste.

Les principaux risques de l'IA générative

Fuite de données : des saisies confidentielles, des secrets d'affaires ou des données personnelles s'échappent via les requêtes, les données d'entraînement ou les journaux.
Injection de requête : des saisies manipulées ou des instructions cachées dans des documents et des pages web poussent le modèle à ignorer les règles de sécurité ou à exécuter des actions indésirables.
Usage abusif du modèle : les attaquants utilisent l'IA pour le hameçonnage, le code malveillant ou la désinformation, ou contournent les filtres de sécurité par jailbreak.
Hallucinations : le modèle produit des affirmations convaincantes mais fausses, un risque pour les décisions prises sans vérification.
Shadow AI : les collaborateurs utilisent des outils non autorisés et transmettent des données sensibles à des services non contrôlés.
Risques de chaîne d'approvisionnement et de modèle : des modèles, extensions ou données d'entraînement compromis (empoisonnement de données) introduisent des vulnérabilités.

Mesures de protection : techniques et organisationnelles

Une sécurité de l'IA efficace est multicouche ; aucune mesure isolée ne suffit. Les contrôles techniques et les règles organisationnelles se combinent (défense en profondeur).

Minimisation et classification des données : ne partager que le nécessaire, bloquer techniquement les catégories sensibles.
Modèle d'accès et de droits (moindre privilège, zero-trust) pour les modèles, les données et les outils des agents.
Filtres d'entrée et de sortie (garde-fous) contre l'injection, les fuites de données et les contenus toxiques.
Génération augmentée par récupération (RAG) avec des sources vérifiées plutôt que la connaissance aveugle du modèle, avec citations.
Journalisation, surveillance et détection d'anomalies ; red teaming et tests d'intrusion réguliers.
Garanties contractuelles sur le traitement des données, la localisation et l'absence d'entraînement sur les données clients ; hébergement UE/Suisse si nécessaire.

La supervision humaine comme dernière couche

La supervision humaine est la dernière et la plus importante couche de sécurité. L'EU AI Act l'exige explicitement pour les systèmes à haut risque, et c'est une bonne pratique même sans lien avec l'UE. L'essentiel est que des personnes puissent comprendre, questionner et remplacer les résultats de l'IA.

Humain dans la boucle : les actions critiques (paiements, conseils juridiques, indications médicales) sont validées avant exécution.
Responsabilités claires : qui vérifie, qui répond, qui peut arrêter (kill switch).
Formation : les collaborateurs reconnaissent les hallucinations, les tentatives d'injection et les limites en matière de protection des données.
Transparence envers les personnes lorsque l'IA interagit avec elles ou décide à leur sujet.

Cadre juridique et normes : Suisse et UE

La Suisse n'a pas (encore) de loi propre sur l'IA, mais les règles existantes s'appliquent : la loi fédérale révisée sur la protection des données (nLPD) exige la sécurité des données, la transparence et, le cas échéant, une analyse d'impact. Le PFPDT en surveille le respect. Les organisations servant des personnes dans l'UE relèvent en outre de l'EU AI Act extraterritorial, qui fixe des obligations fondées sur le risque, jusqu'à des interdictions.

EU AI Act : fondé sur le risque, avec des obligations de robustesse, de transparence et de supervision humaine.
nLPD et recommandations du PFPDT : sécurité des données et droits des personnes en Suisse.
ISO/IEC 42001 : système de management pour une IA responsable.
NIST AI Risk Management Framework : cadre de gouvernance volontaire et largement reconnu.
OWASP Top 10 pour les applications LLM : liste concrète d'attaques et de protections pour les développeurs.

Mettre en place la sécurité de l'IA : une feuille de route pragmatique

La sécurité de l'IA se construit pas à pas, même dans les PME sans grande équipe de sécurité.

Établir un inventaire : quels outils d'IA sont utilisés, avec quelles données ?
Adopter une politique d'IA : outils autorisés, types de données interdits, canaux de signalement.
Définir des classes de données et tenir les données sensibles à l'écart des services publics.
Évaluer les fournisseurs : localisation, certifications, exclusion de l'entraînement, conditions contractuelles.
Lancer un pilote avec garde-fous et journalisation, puis déployer de façon contrôlée.
Tester, former et s'adapter régulièrement aux nouvelles menaces.

Questions fréquentes

Quelle est la différence entre sécurité de l'IA et protection des données ?

La sécurité de l'IA protège l'ensemble du système contre les attaques et les dysfonctionnements. La protection des données (en Suisse, la nLPD) régit spécifiquement le traitement des données personnelles. Elles se recoupent fortement : une fuite de données est à la fois un incident de sécurité et de protection des données, d'où l'intérêt de les traiter ensemble.

Qu'est-ce que l'injection de requête ?

L'injection de requête est une attaque où des instructions manipulées – souvent cachées dans des e-mails, documents ou pages web – amènent un modèle de langage à ignorer ses règles de sécurité, divulguer des données confidentielles ou exécuter des actions indésirables. C'est l'un des plus grands risques pour les agents d'IA et il figure en tête de la liste OWASP pour les applications LLM.

Mes saisies dans ChatGPT ou Claude sont-elles confidentielles ?

Cela dépend du fournisseur, de l'offre et des réglages. Les offres business et entreprise s'engagent généralement à ne pas utiliser les saisies pour l'entraînement ; les versions gratuites souvent non. Vérifiez les conditions actuelles du fournisseur, activez l'exclusion de l'entraînement et n'entrez pas de secrets d'affaires ou de données personnelles sans base contractuelle.

Quelles normes aident à la sécurité de l'IA ?

Pour la gouvernance, le NIST AI Risk Management Framework et la norme certifiable ISO/IEC 42001 sont utiles. Pour la mise en œuvre technique, le OWASP Top 10 pour les applications LLM est très concret. En Suisse s'ajoutent la nLPD et les recommandations du PFPDT, et l'EU AI Act en cas de lien avec l'UE.

Ma PME a-t-elle besoin d'une politique d'IA ?

Oui. Même une politique courte et claire prévient la shadow AI et les fuites de données : elle définit les outils autorisés, les types de données interdits, les processus de validation et les canaux de signalement. Plus que la longueur, l'essentiel est qu'elle soit connue, compréhensible et à jour, et ancrée au quotidien par la formation.

Qu'exige l'EU AI Act en matière de sécurité ?

L'EU AI Act est fondé sur le risque : certains usages sont interdits et les systèmes à haut risque doivent démontrer, entre autres, robustesse, exactitude, cybersécurité, journalisation et supervision humaine effective. Il s'applique de façon extraterritoriale et concerne donc aussi les fournisseurs suisses servant le marché de l'UE ; les obligations entrent en vigueur de manière échelonnée.