Definizione
Inferenza (IA)
L'inferenza è il processo di applicare un modello di IA già addestrato a nuovi input per produrre un output, come una previsione o testo generato, in contrapposizione all'addestramento.
Ogni richiesta a un sistema di IA attiva l'inferenza e determina i costi operativi correnti. La sua velocità e il fabbisogno di risorse decidono se un modello convenga nel cloud o in locale.