Lokale KI und Open Source: Was bedeutet Datenhoheit für Schweizer Unternehmen?

Was bedeutet lokale KI und Open Source?

Zwei Achsen werden oft verwechselt. Die erste ist der Betriebsort: Wird ein KI-Modell über die API eines Anbieters in dessen Cloud genutzt, oder läuft es lokal – auf einem Server im eigenen Rechenzentrum, auf einer Workstation oder in einer privaten, vom Unternehmen kontrollierten Cloud-Instanz? Die zweite Achse ist die Offenheit des Modells: Sind die Gewichte öffentlich herunterladbar oder bleiben sie geschlossen hinter einem Dienst?

Lokale KI Open Source verbindet beide: ein Modell mit offen verfügbaren Gewichten, das im eigenen Verantwortungsbereich läuft. Damit verlassen die verarbeiteten Daten die kontrollierte Umgebung nicht – der zentrale Unterschied zu einem reinen Cloud-Dienst.

Warum Datenhoheit für Schweizer Unternehmen zählt

Datenhoheit heisst, jederzeit zu wissen und zu bestimmen, wo Daten verarbeitet werden, wer Zugriff hat und nach welchen Regeln. Bei geschlossenen Cloud-Diensten liegt ein Teil dieser Kontrolle beim Anbieter und fällt häufig unter ausländisches Recht. Lokaler Betrieb verschiebt die Kontrolle zurück ins Unternehmen.

• revDSG/nFADP: Das revidierte Datenschutzgesetz verlangt Transparenz, Zweckbindung und dokumentierte Bearbeitung von Personendaten; die EDÖB beaufsichtigt die Einhaltung.
• Berufs- und Amtsgeheimnisse: Anwälte, Ärzte, Banken und Treuhänder unterliegen besonderen Schweigepflichten (u. a. Art. 321 StGB, Bankkundengeheimnis) – ein Datenabfluss an Dritte kann strafbar sein.
• EU AI Act: Die EU-Regulierung wirkt extraterritorial und kann Schweizer Firmen betreffen, die in den EU-Markt liefern; sie ergänzt das Datenschutzrecht um risikobasierte Pflichten.
• Datenresidenz und Auftragsbearbeitung: Bei Cloud-Diensten braucht es Verträge, geeignete Garantien für Auslandtransfers und Klarheit über Subunternehmer – beim lokalen Betrieb entfallen diese Transfers weitgehend.

Lokal, Cloud oder hybrid – der Vergleich

Es gibt kein pauschal richtiges Modell. Cloud-KI überzeugt bei Startgeschwindigkeit und Zugang zu den stärksten Frontier-Modellen; lokale KI überzeugt bei Datenhoheit, planbaren Kosten und Unabhängigkeit. Viele Schweizer Unternehmen fahren hybrid: sensible Fälle lokal, unkritische Aufgaben in der Cloud.

• Datenhoheit: lokal am höchsten (Daten bleiben intern), Cloud abhängig von Vertrag und Standort, hybrid je nach Datenklasse steuerbar.
• Kostenprofil: Cloud ist variabel pro Nutzung, lokal erfordert Anfangsinvestition mit danach planbaren Betriebskosten – Wirtschaftlichkeit hängt vom Volumen ab.
• Leistung: Die stärksten geschlossenen Frontier-Modelle liegen bei komplexen Aufgaben oft vorn; gute offene Modelle reichen für viele Fachaufgaben bereits aus.
• Aufwand: Cloud minimiert Betriebsaufwand, lokal verlangt Kompetenz für Hardware, Betrieb und Updates.

Open Source vs. Open Weight – der Lizenz-Unterschied

Der Begriff Open Source wird bei KI oft unpräzise verwendet. Vollständig offen ist ein Modell, dessen Gewichte, Trainingscode und idealerweise Trainingsdaten unter einer freien Lizenz stehen. Häufiger sind Open-Weight-Modelle: Die Gewichte sind herunterladbar, aber Trainingsdaten oder -code bleiben unter Verschluss, und die Lizenz kann Einschränkungen enthalten – etwa Nutzungslimits oder Bedingungen für sehr grosse Anbieter.

• Permissive Lizenzen (z. B. Apache 2.0, MIT): breite kommerzielle Nutzung, wenige Auflagen – rechtlich am einfachsten für Unternehmen.
• Community-/Custom-Lizenzen: kommerziell nutzbar, aber mit Bedingungen – Lizenztext prüfen, bevor ein Modell produktiv geht.
• Vollständige Offenheit erhöht Nachvollziehbarkeit und Auditierbarkeit – relevant für regulierte Branchen und die Dokumentationspflichten des EU AI Act.

Modelle und Werkzeuge für den lokalen Betrieb

Das ökosystem offener Modelle ist gross und ändert sich schnell. Bekannte Familien mit offenen Gewichten sind unter anderem Llama (Meta), Mistral und Mixtral (Mistral AI), Qwen (Alibaba), Gemma (Google) und DeepSeek. Aus der Schweiz stammt Apertus, ein offen entwickeltes, mehrsprachiges Sprachmodell von ETH Zürich, EPFL und dem Supercomputing-Zentrum CSCS – ein Beispiel für souverän und transparent gebaute KI.

Zum Betrieb dienen ausgereifte, quelloffene Werkzeuge. Für den Einstieg und Einzelplätze eignen sich Ollama, LM Studio oder GPT4All; für produktive, skalierbare Dienste kommen llama.cpp und vLLM zum Einsatz. Modelle werden meist über Hugging Face bezogen; Quantisierung reduziert den Speicherbedarf, damit auch kleinere Hardware genügt.

Hardware, Kosten und Aufwand realistisch einschätzen

Der Ressourcenbedarf richtet sich nach der Modellgrösse und der gewünschten Geschwindigkeit. Kleinere Modelle laufen bereits auf einer gut ausgestatteten Workstation; grössere brauchen dedizierte GPUs mit viel Videospeicher (VRAM). Entscheidend ist der Anwendungsfall: Ein Assistent für einige Fachpersonen stellt andere Anforderungen als ein hausweiter Dienst.

Für die Wirtschaftlichkeit zählt die Gesamtkostenbetrachtung über mehrere Jahre: Hardware oder private Cloud, Strom, Betrieb, Wartung und Personal gegen die laufenden Nutzungsgebühren eines Cloud-Dienstes. Konkrete Preise sind volatil – prüfen Sie die aktuellen Angaben der jeweiligen Anbieter und rechnen Sie mit Ihrem eigenen Volumen.

So entscheiden Sie – und wie es weitergeht

Beginnen Sie bei den Daten, nicht bei der Technik: Klassifizieren Sie Anwendungsfälle nach Sensibilität und regulatorischer Last. Fälle mit Personendaten, Berufsgeheimnis oder Geschäftsgeheimnissen sprechen für lokalen Betrieb; unkritische, öffentliche Aufgaben können günstig in der Cloud laufen. Starten Sie klein mit einem klar umrissenen Pilotfall und einer messbaren Erwartung.

• Spoke: Selbst-Hosting konkret – Ollama, llama.cpp und vLLM im Vergleich für den produktiven Einsatz.
• Spoke: Offene Modelle auswählen – Lizenzen, Grössen und Sprachfähigkeit für Deutsch, Französisch und Italienisch.
• Spoke: revDSG-konforme KI-Architektur – RAG auf internen Dokumenten ohne Datenabfluss.