IA locale ou IA cloud : laquelle choisir pour votre cas d'usage ?

IA locale et IA cloud : les définitions

L'IA locale (aussi appelée on-premise, auto-hébergée ou embarquée) signifie qu'un modèle s'exécute sur une infrastructure que vous contrôlez : un serveur dans votre centre de données, un poste de travail équipé d'un GPU ou un appareil edge. On y emploie surtout des modèles à poids ouverts comme Llama, Mistral, Qwen, Gemma ou le modèle suisse Apertus, servis via Ollama, LM Studio, llama.cpp ou vLLM.

L'IA cloud consiste à utiliser un modèle via l'API ou l'application web d'un fournisseur – par exemple ChatGPT d'OpenAI, Claude d'Anthropic ou Gemini de Google. Le fournisseur gère le matériel, le modèle et les mises à jour ; vous envoyez des requêtes et payez généralement à l'usage. Les deux approches ne s'excluent pas : beaucoup d'organisations les combinent dans une architecture hybride.

Comparaison directe : contrôle, coûts, performances, confidentialité

Les quatre dimensions décisives, côte à côte :

• Contrôle et souveraineté – Local : données et modèle restent en interne, versions stables, pas de dépendance fournisseur. Cloud : le fournisseur contrôle le modèle, les mises à jour et la disponibilité ; les modèles peuvent changer sans votre accord.
• Coûts – Local : investissement initial élevé (CapEx) en matériel, puis coûts fixes prévisibles quel que soit le volume. Cloud : aucun coût initial, à l'usage (OpEx), qui suit directement le volume de requêtes.
• Performances – Cloud : accès aux modèles de pointe les plus puissants pour le raisonnement exigeant et le multimodal. Local : modèles à poids ouverts, solides et suffisants pour de nombreuses tâches, avec des limites au sommet de la capacité.
• Confidentialité – Local : aucune donnée ne part vers des tiers, idéal pour le secret professionnel et les données très sensibles. Cloud : exige un contrat de sous-traitance, une résidence des données vérifiée et des règles claires sur l'usage pour l'entraînement.
• Latence et hors ligne – Local/edge : faible latence, fonctionne hors ligne et en air-gap. Cloud : dépend du réseau, mais disponible partout et sans maintenance de votre côté.
• Mise à l'échelle et maintenance – Local : limité par votre matériel, nécessite une équipe ops/MLOps. Cloud : élastique, exploitation et sécurité assurées par le fournisseur.

Les coûts, concrètement : CapEx, OpEx et le seuil de rentabilité

Avec l'IA cloud, vous payez à l'usage (souvent par token), sans coût initial. Les prix évoluent souvent – consultez la tarification actuelle du fournisseur. L'avantage : vous démarrez immédiatement et les coûts suivent la demande réelle. L'inconvénient : à volume élevé et constant, les coûts récurrents s'accumulent vite.

Avec l'IA locale, l'investissement matériel initial domine. À titre d'orientation technique : un modèle de 7 à 8 milliards de paramètres en quantification 4 bits tourne sur un GPU grand public d'environ 16 Go de VRAM ; un modèle de 70 milliards demande plutôt 40 Go et plus, souvent plusieurs GPU. S'y ajoutent l'électricité, le refroidissement, les pièces et – souvent sous-estimé – le personnel pour l'exploitation, la sécurité et les mises à jour.

Règle empirique : un volume faible ou très variable favorise le cloud ; un volume élevé et constant peut revenir moins cher en local sur la durée. Raisonnez sur toute la durée de vie (coût total de possession) et intégrez les coûts cachés comme la redondance et le personnel spécialisé.

Confidentialité et conformité : le regard suisse

En Suisse, la loi révisée sur la protection des données (nLPD/revDSG) s'applique depuis septembre 2023, sous la surveillance du PFPDT (EDÖB). Pour les cas suisses, c'est la nLPD qui prévaut, pas le RGPD ; le RGPD de l'UE s'applique lorsque vous traitez des personnes dans l'UE. De plus, l'EU AI Act a une portée extraterritoriale et peut concerner les fournisseurs suisses mettant des systèmes d'IA sur le marché européen.

Pour les données particulièrement sensibles et le secret professionnel (p. ex. art. 321 du Code pénal suisse pour médecins, avocats, fiduciaires), l'IA locale est souvent la solution la plus nette : les données ne quittent jamais votre infrastructure. Si vous optez tout de même pour le cloud, exigez : une résidence des données en Suisse ou dans l'UE, un contrat de sous-traitance, la garantie contractuelle que vos données ne servent pas à l'entraînement, et un concept de suppression clair.

Un angle suisse sur la souveraineté : Apertus, un modèle de langage librement disponible développé à l'ETH Zurich, à l'EPFL et au centre de calcul CSCS, peut être exécuté en local. De tels modèles ouverts renforcent l'indépendance numérique lorsque la souveraineté des données prime.

Performances et capacités : ce que les modèles offrent vraiment aujourd'hui

Pour les tâches les plus exigeantes – raisonnement complexe, longs contextes, multimodalité avancée – les grands modèles de pointe dans le cloud restent en tête. Ils sont améliorés en continu par le fournisseur, sans que vous ayez à faire évoluer votre matériel.

Pour de nombreuses tâches métier réelles, les modèles locaux à poids ouverts sont pourtant largement suffisants : résumer, extraire de l'information, classer, rédiger des brouillons ou une recherche ancrée dans la connaissance (RAG) sur des documents internes. La quantification réduit les modèles pour un matériel plus modeste – au prix d'une précision un peu moindre. Les modèles locaux peuvent aussi être affinés (fine-tuning) sur votre domaine, améliorant cohérence et langage spécialisé.

Sur la latence, pas de verdict tranché : les modèles embarqués répondent souvent très vite sans passer par le réseau, tandis que les grands centres de données cloud offrent un parallélisme et un débit énormes. C'est votre profil de charge qui décide.

Guide de décision : quand choisir le local, le cloud ou l'hybride

Utilisez ces critères pour parvenir rapidement à un choix éclairé :

• Choisissez le local quand : une confidentialité stricte ou un secret professionnel s'applique, le volume est élevé et constant, vous devez travailler hors ligne ou en air-gap, le contrôle et la personnalisation totale comptent, et vous avez une équipe ops.
• Choisissez le cloud quand : vous avez besoin des meilleures performances, le volume est faible ou variable, le démarrage rapide compte, vous n'avez pas d'équipe d'exploitation et vous voulez toujours les dernières fonctions multimodales.
• Choisissez l'hybride quand : des tâches différentes appellent des réponses différentes. Un schéma éprouvé : traiter en local les données sensibles et les tâches standard, router vers le cloud les requêtes les plus difficiles, et anonymiser ou masquer localement les données personnelles avant tout appel au cloud.
• Quel que soit le modèle, vérifiez toujours : où se trouvent les données, qui est responsable, à quoi ressemble la sortie et comment éviter la dépendance. Des interfaces standardisées et des options à poids ouverts vous laissent la porte ouverte.