Che cos'è l'IA locale?

IA locale: una definizione

IA locale significa eseguire un modello di intelligenza artificiale su hardware che controllate voi, invece di inviare le richieste al data center di un fornitore. I pesi del modello risiedono sul vostro dispositivo, il calcolo avviene lì e i vostri dati e prompt non lasciano mai il vostro sistema verso terzi.

Il termine comprende due configurazioni. L'IA on-device gira direttamente su un dispositivo personale - laptop, smartphone o workstation -, di solito per un singolo utente. L'IA self-hosted gira su un server o cluster gestito da voi, al servizio di un team, un'applicazione o un'intera organizzazione. Entrambe sono 'locali' perché siete voi, non un fornitore, a detenere infrastruttura e dati.

IA locale vs. IA cloud: le differenze

• Posizione dei dati: Locale - i dati restano sul vostro hardware; Cloud - i dati vengono inviati ed elaborati sui server del fornitore.
• Dimensione e qualità del modello: il cloud dà accesso ai modelli di frontiera più grandi; in locale girano modelli open-weight più piccoli, adattati al vostro hardware.
• Modello di costo: Locale - hardware una tantum più elettricità; Cloud - pagamento a consumo o abbonamento che cresce con il volume.
• Disponibilità: in locale funziona completamente offline; il cloud richiede una connessione stabile.
• Manutenzione: il cloud è gestito per voi; in locale gestite voi aggiornamenti, sicurezza e scalabilità.
• Latenza e limiti: in locale nessun limite di frequenza né costo per token; il cloud limita e misura l'uso.
• Controllo e conformità: in locale piena sovranità sui dati; nel cloud dipende da condizioni, regione e certificazioni del fornitore.

Quando conviene l'IA locale

• Dati sensibili: informazioni sanitarie, legali, finanziarie o del personale che non devono lasciare la sede secondo la nLPD o il segreto professionale.
• Ambienti offline ed edge: fabbriche, cliniche, lavoro sul campo o aree sicure senza connessione affidabile.
• Volume elevato e prevedibile: carichi costanti in cui i costi cloud per token diventerebbero dominanti.
• Requisiti di sovranità dei dati: settore pubblico, industrie regolamentate o contratti che impongono la residenza dei dati in Svizzera/UE.
• Funzionalità di prodotto: IA integrata in un'app o dispositivo che deve funzionare senza dipendenza dal cloud o bollette API ricorrenti.
• Sperimentazione e apprendimento: usare modelli aperti liberamente e senza limiti d'uso.

Limiti e compromessi

• Limite del modello: i migliori modelli open-weight locali sono validi, ma nei compiti più difficili restano di solito dietro ai maggiori sistemi cloud.
• Costo e complessità dell'hardware: i modelli capaci richiedono una GPU o NPU moderna e RAM/VRAM sufficiente; configurazione e messa a punto richiedono competenze.
• Onere di manutenzione: aggiornamenti, patch di sicurezza, monitoraggio e scalabilità spettano a voi.
• Iterazione più lenta: aggiornate i modelli manualmente invece di ricevere automaticamente l'ultima versione del fornitore.
• Non conforme in automatico: il locale riduce il rischio di trasferimento, ma governance, controllo degli accessi e documentazione restano a vostro carico.

Cosa serve per l'IA locale

Per iniziare non serve un data center. Molti modelli open-weight capaci girano su un laptop recente e gli strumenti sono diventati davvero accessibili.

• Hardware: una CPU moderna basta per i modelli piccoli; una GPU o NPU con VRAM sufficiente sblocca quelli più grandi e veloci.
• Modelli open-weight: famiglie come Llama, Mistral, Gemma, Qwen o DeepSeek e il modello svizzero Apertus del Politecnico di Zurigo (ETH) e dell'EPFL.
• Runtime: strumenti come Ollama, LM Studio, llama.cpp o vLLM che scaricano, quantizzano e servono i modelli in locale.
• Quantizzazione: comprimere un modello perché entri su hardware consumer con un modesto compromesso di qualità.
• Interfaccia opzionale: una chat locale o un endpoint API richiamato dalle vostre applicazioni.

La prospettiva svizzera: protezione dei dati e sovranità

Per le organizzazioni svizzere e della regione DACH, l'IA locale è spesso una scelta di protezione dei dati e di sovranità tanto quanto tecnica. Con la nuova legge sulla protezione dei dati (nLPD), vigilata dall'IFPDT, mantenere i dati personali sulla propria infrastruttura elimina le questioni di trasferimento transfrontaliero e di trattamento da parte di terzi che l'IA cloud solleva.

L'AI Act dell'UE, extraterritoriale, può applicarsi anche alle aziende svizzere che servono il mercato europeo. Eseguire i modelli in locale non vi esenta da queste regole, ma semplifica la governance dei dati e la tracciabilità. I modelli aperti svizzeri come Apertus, sviluppato da ETH ed EPFL, mostrano che un'IA sovrana e trasparente è un'opzione realistica: per capacità e licenze consultate la documentazione aggiornata del fornitore.