Confiance, sécurité et réglementation
Risques et limites de l'IA : ce qu'il faut savoir et comment les atténuer
Les quatre grands domaines de risque de l'IA en un coup d'œil
Les risques de l'IA se répartissent en quatre catégories : erreurs de contenu (hallucination), distorsions systématiques (biais), désalignement humain (dépendance excessive et biais d'automatisation) et risques techniques et juridiques (sécurité, protection des données, responsabilité). Aucun n'est un bug que la prochaine mise à jour corrigera : ils découlent du fonctionnement des modèles actuels, qui apprennent des schémas statistiques plutôt que de comprendre la vérité ou la causalité.
- Hallucination : l'IA produit un contenu faux mais formulé de façon convaincante.
- Biais : les distorsions sociales et liées aux données sont reproduites.
- Dépendance excessive : on accepte les résultats de l'IA sans esprit critique.
- Sécurité et protection des données : nouvelles surfaces d'attaque et obligations légales.
Hallucination : quand l'IA se trompe avec assurance
Les grands modèles de langage génèrent du texte en prédisant le mot suivant le plus probable statistiquement. Ils n'ont ni modèle interne des faits ni notion de vérité : ils énoncent donc des faussetés avec la même aisance que des informations exactes — études inventées, décisions de justice inexistantes, fausses citations, chiffres plausibles mais erronés. C'est particulièrement dangereux en droit, en médecine et en finance, où une seule erreur coûte cher et où la fluidité du langage simule une fiabilité inexistante.
- Atténuer : ancrer les réponses dans des sources vérifiées (retrieval-augmented generation) et exiger des citations.
- Toujours vérifier de façon indépendante faits, chiffres, noms et citations ; ne jamais les accepter sans contrôle.
- Utiliser l'IA pour des brouillons, des synthèses et des idées, pas comme source ultime de vérité.
- À noter : aucun prompt ni aucune mise à jour n'élimine totalement l'hallucination ; elle devient rare, pas nulle.
Biais et distorsion : des préjugés issus des données
Les modèles apprennent à partir d'énormes volumes de texte porteurs de stéréotypes sociaux, d'inégalités historiques et de lacunes. Ils reproduisent ces schémas, par exemple lors du tri de candidatures, dans les logiques de scoring de crédit, dans les descriptions d'images ou dans la qualité pour les langues moins répandues. Pertinent pour la Suisse : les modèles sont surtout entraînés sur l'anglais, tandis que le suisse allemand, le romanche et les contextes juridiques et administratifs locaux sont sous-représentés, d'où des résultats subtilement faux ou inadaptés.
- Pour les décisions concernant des personnes (RH, crédit, assurance), l'EU AI Act classe ces applications à haut risque.
- La nLPD confère aux personnes concernées des droits sur les décisions individuelles automatisées, dont l'information et un réexamen humain.
- Tester et documenter les résultats sur différents groupes au lieu de présumer l'équité.
- Des approches souveraines et multilingues comme le modèle suisse ouvert Apertus (ETH Zurich, EPFL) comblent les lacunes de langue et de contexte.
Dépendance excessive : le risque de la confiance aveugle
Le biais d'automatisation est la tendance humaine à accepter sans esprit critique les suggestions de l'IA, précisément parce qu'elles semblent compétentes et fluides. Les effets s'installent insidieusement : l'expertise s'atrophie (perte de compétences), les erreurs passent inaperçues et la responsabilité se dilue quand plus personne ne sait qui a réellement décidé. Paradoxalement, plus un système paraît convaincant et pratique, plus le risque que ses erreurs se glissent sans contrôle dans des décisions réelles est élevé.
- Fixer la responsabilité humaine finale : l'IA propose, un humain décide et répond.
- Entretenir activement les compétences pour que les équipes puissent encore évaluer et corriger les résultats de l'IA.
- Pour les enjeux élevés, introduire une friction délibérée : deuxième avis, principe des quatre yeux, justification obligatoire.
Sécurité et protection des données : de nouvelles surfaces d'attaque
L'IA crée ses propres risques de sécurité. Dans l'injection de prompt, des attaquants dissimulent des instructions dans des pages web, des documents ou des e-mails qu'un assistant IA exécute ensuite comme des commandes, par exemple pour exfiltrer des données ou déclencher des actions. S'y ajoutent la fuite de données via les saisies dans les modèles cloud, les jailbreaks, les agents non sécurisés avec accès aux outils et les données d'entraînement empoisonnées. Côté protection des données : saisir des données personnelles ou des secrets d'affaires dans un modèle externe peut enfreindre la nLPD sans base légale appropriée.
- Ne jamais saisir de données personnelles ou d'affaires sensibles dans des chatbots grand public ; privilégier les offres pro avec contrat de sous-traitance.
- Clarifier la localisation des données, la conservation et l'usage éventuel de vos saisies pour l'entraînement ; activer les options de retrait.
- Concevoir agents et intégrations selon le moindre privilège et limiter les actions sortantes.
- Réaliser une analyse d'impact relative à la protection des données pour les usages à risque ; le PFPDT est l'autorité suisse de surveillance.
Limites de l'IA : ce que les modèles de langage ne peuvent pas faire
Au-delà des risques, les modèles d'IA ont des limites structurelles et incontournables. Ils ne comprennent pas la causalité mais détectent des corrélations ; ils ne connaissent le monde que jusqu'à une date de coupure des connaissances et, sans outils connectés, aucun événement en temps réel ; ils ne calculent pas de façon fiable ; et ils sont non déterministes, si bien que la même question peut donner des réponses différentes. Essentiel : un modèle ne sait pas évaluer sa propre incertitude et prévient rarement lorsqu'il atteint une limite.
- Aucune compréhension réelle ni causalité, seulement une continuation de schémas.
- Date de coupure et fenêtre de contexte limitée : le contexte long ou actuel se perd.
- Peu fiable en mathématiques, logique exacte et résultats reproductibles.
- Aucune auto-évaluation fiable de sa propre fiabilité ou de ses sources.
Atténuer de façon responsable : une feuille de route de gouvernance
Atténuer les risques ne signifie pas renoncer à l'IA, mais la déployer avec discernement et contrôles. Un cadre praticable classe chaque cas d'usage par risque, définit la supervision humaine et documente les décisions pour qu'elles restent auditables. L'EU AI Act (extraterritorial, touchant les fournisseurs suisses liés à l'UE) et la nLPD fixent le cadre juridique ; des programmes comme Innosuisse et la recherche suisse fournissent des briques de confiance.
- Classer chaque cas d'usage par risque et exclure les usages inadaptés (p. ex. décisions autonomes à haut risque).
- Ancrer comme standard le human-in-the-loop, l'ancrage aux sources et la vérification des faits.
- Signaler l'usage de l'IA de façon transparente et former le personnel aux limites et risques.
- Mettre en place une analyse d'impact, la journalisation, le monitoring et des revues régulières (y compris le red-teaming).
- Évaluer fournisseurs et modèles : localisation des données, sécurité, traçabilité et options de sortie.
Questions fréquentes
Qu'est-ce qu'une hallucination de l'IA ?
Une hallucination est une affirmation fausse mais formulée de façon convaincante par un modèle d'IA, comme une source inventée, une citation erronée ou un chiffre inexistant. Elle survient parce que les modèles de langage génèrent des suites de mots probables et n'ont aucune notion de vérité. Vérifiez toujours les faits de façon indépendante.
Peut-on éliminer complètement les risques de l'IA ?
Non. Hallucination, biais et incertitude découlent du fonctionnement des modèles actuels et peuvent être réduits mais pas ramenés à zéro. Un usage responsable, c'est gérer le risque : supervision humaine, ancrage aux sources, limites claires, protection des données et monitoring, plutôt que d'attendre un système sans erreur.
Quelles règles juridiques s'appliquent en Suisse aux risques de l'IA ?
Pour les données personnelles, la nLPD s'applique, avec des droits sur les décisions automatisées ; l'autorité de surveillance est le PFPDT. De plus, l'EU AI Act s'applique de façon extraterritoriale et touche les fournisseurs suisses liés à l'UE, avec des obligations renforcées pour les usages à haut risque. N'employez pas le terme RGPD pour les cas suisses.
Que signifie dépendance excessive ou biais d'automatisation ?
C'est la tendance à accepter sans esprit critique les résultats de l'IA parce qu'ils semblent compétents. Conséquences : erreurs non détectées, perte de compétences et responsabilité diluée. Remèdes : décision finale humaine, contrôles délibérés pour les cas à fort enjeu et maintien de sa propre expertise.
Comment protéger les données de l'entreprise avec l'IA ?
Ne saisissez pas de données personnelles ou d'affaires sensibles dans les chatbots grand public. Utilisez des offres pro avec contrat de sous-traitance, clarifiez la localisation des données, la conservation et le retrait de l'entraînement, limitez les droits des agents et réalisez une analyse d'impact pour les cas à risque. Méfiez-vous aussi de l'injection de prompt via des contenus externes.
Que ne peut fondamentalement pas faire l'IA ?
Les modèles de langage ne comprennent pas la causalité, ne connaissent le monde que jusqu'à une date de coupure, ne calculent pas de façon fiable, ne donnent pas toujours des réponses reproductibles et ne savent pas évaluer leur propre incertitude. Pour des tâches exactes, actuelles ou juridiquement contraignantes, il leur faut des outils connectés et une revue humaine.
Termes du glossaire
L’IA pratique pour votre entreprise
De l’idée à la mise en œuvre – nous vous montrons ce qui est concrètement possible dans votre cas.
Demander une démo