Définition
Inférence (IA)
L'inférence est le processus consistant à appliquer un modèle d'IA déjà entraîné à de nouvelles entrées pour produire une sortie, comme une prédiction ou du texte généré, par opposition à l'entraînement.
Chaque requête à un système d'IA déclenche une inférence et génère les coûts d'exploitation courants. Sa vitesse et ses besoins en ressources déterminent si un modèle tourne mieux dans le cloud ou en local.