Qu'est-ce que l'IA locale ?

L'IA locale : une définition

L'IA locale consiste à exécuter un modèle d'intelligence artificielle sur du matériel que vous contrôlez, plutôt que d'envoyer vos requêtes au centre de données d'un fournisseur. Les poids du modèle résident sur votre appareil, le calcul s'y effectue, et vos données et requêtes ne quittent jamais votre système vers un tiers.

Le terme recouvre deux configurations. L'IA on-device (embarquée) fonctionne directement sur un appareil personnel - ordinateur portable, smartphone ou station de travail -, souvent pour un seul utilisateur. L'IA self-hosted (auto-hébergée) tourne sur un serveur ou un cluster que vous exploitez, au service d'une équipe, d'une application ou de toute une organisation. Les deux sont 'locales' parce que c'est vous, et non un fournisseur, qui détenez l'infrastructure et les données.

IA locale vs. IA cloud : les différences

• Emplacement des données : Local - les données restent sur votre matériel ; Cloud - les données sont envoyées et traitées sur les serveurs du fournisseur.
• Taille et qualité du modèle : le cloud donne accès aux plus grands modèles de pointe ; en local tournent des modèles open-weight plus petits, adaptés à votre matériel.
• Modèle de coût : Local - matériel unique plus électricité ; Cloud - paiement à l'usage ou abonnement qui croît avec le volume.
• Disponibilité : en local, fonctionnement entièrement hors ligne ; le cloud exige une connexion stable.
• Maintenance : le cloud est géré pour vous ; en local, vous assurez mises à jour, sécurité et mise à l'échelle.
• Latence et limites : en local, aucune limite de débit ni coût par token ; le cloud bride et mesure l'usage.
• Contrôle et conformité : en local, pleine souveraineté des données ; dans le cloud, cela dépend des conditions, de la région et des certifications du fournisseur.

Quand l'IA locale a du sens

• Données sensibles : informations de santé, juridiques, financières ou RH qui ne doivent pas quitter vos locaux au titre de la nLPD ou du secret professionnel.
• Environnements hors ligne et edge : usines, cliniques, travail de terrain ou zones sécurisées sans connexion fiable.
• Volume élevé et prévisible : charges constantes où les coûts cloud par token deviendraient prépondérants.
• Exigences de souveraineté des données : secteur public, industries réglementées ou contrats imposant l'hébergement des données en Suisse/UE.
• Fonctionnalités produit : IA intégrée à une application ou un appareil devant fonctionner sans dépendance au cloud ni facture d'API récurrente.
• Expérimentation et apprentissage : utiliser librement des modèles ouverts sans plafond d'usage.

Limites et compromis

• Plafond du modèle : les meilleurs modèles open-weight locaux sont solides, mais restent généralement en deçà des plus grands systèmes cloud sur les tâches les plus difficiles.
• Coût et complexité du matériel : les modèles performants exigent un GPU ou NPU moderne et assez de RAM/VRAM ; l'installation et le réglage demandent de l'expertise.
• Charge de maintenance : mises à jour, correctifs de sécurité, supervision et mise à l'échelle vous incombent.
• Itération plus lente : vous mettez à jour les modèles manuellement au lieu de recevoir automatiquement la dernière version du fournisseur.
• Pas conforme automatiquement : le local réduit le risque de transfert, mais la gouvernance, le contrôle d'accès et la documentation restent votre responsabilité.

Ce qu'il faut pour l'IA locale

Pas besoin d'un centre de données pour commencer. De nombreux modèles open-weight performants tournent sur un ordinateur portable récent, et les outils sont devenus vraiment accessibles.

• Matériel : un processeur moderne suffit pour les petits modèles ; un GPU ou NPU doté d'assez de VRAM débloque les plus grands et plus rapides.
• Modèles open-weight : des familles comme Llama, Mistral, Gemma, Qwen ou DeepSeek, et le modèle suisse Apertus de l'ETH Zurich et de l'EPFL.
• Environnements d'exécution : des outils comme Ollama, LM Studio, llama.cpp ou vLLM qui téléchargent, quantifient et servent les modèles en local.
• Quantification : compresser un modèle pour qu'il tienne sur du matériel grand public avec un compromis de qualité modéré.
• Interface optionnelle : une interface de chat locale ou un point d'accès API appelé par vos propres applications.

Le regard suisse : protection des données et souveraineté

Pour les organisations suisses et de la région DACH, l'IA locale est souvent autant une décision de protection des données et de souveraineté qu'un choix technique. Sous la nouvelle loi sur la protection des données (nLPD), surveillée par le PFPDT, conserver les données personnelles sur sa propre infrastructure élimine les questions de transfert transfrontalier et de traitement par un tiers que soulève l'IA cloud.

Le règlement européen sur l'IA (AI Act), extraterritorial, peut aussi s'appliquer aux entreprises suisses servant le marché de l'UE. Exécuter les modèles en local ne vous exempte pas de ces règles, mais simplifie la gouvernance des données et la traçabilité. Des modèles ouverts suisses comme Apertus, développé par l'ETH Zurich et l'EPFL, montrent qu'une IA souveraine et transparente est une option réaliste : consultez la documentation à jour du fournisseur pour les capacités et les licences.