Lokale & Open-Source-KI
Was ist Open Source KI?
Open Source KI vs. Open Weights - der entscheidende Unterschied
Der Begriff Open Source KI wird uneinheitlich verwendet. Streng genommen bedeutet Open Source, dass die Lizenz jedem erlaubt, die Software für jeden Zweck zu nutzen, zu studieren, zu verändern und weiterzugeben. Die Open Source Initiative hat 2024 ihre Open Source AI Definition (OSAID 1.0) veröffentlicht, die zusätzlich genug Informationen über die Trainingsdaten erwartet, um ein vergleichbares Modell nachbauen zu können. Die meisten bekannten offenen Sprachmodelle erfüllen diese hohe Latte nicht.
Der präzisere Begriff für die meisten veröffentlichten Modelle ist Open-Weight: Die trainierten Parameter (Gewichte) sind herunterladbar, sodass Sie das Modell selbst betreiben und feinjustieren können - Trainingsdaten, vollständiger Trainingscode oder Lizenzbedingungen bleiben aber teils eingeschränkt. Offene Gewichte liefern dennoch die meisten praktischen Vorteile - lokaler Betrieb, Anpassung, keine Gebühr pro Token -, auch wenn ein Modell nicht Open Source im strengen Sinn ist.
Lizenzen verstehen: worauf es ankommt
- Permissive Lizenzen (Apache 2.0, MIT): kommerzielle Nutzung erlaubt, Apache 2.0 enthält zudem eine Patentklausel. Genutzt u. a. von Mistral 7B, Mixtral, vielen Qwen-Modellen und Apertus.
- Community-/Custom-Lizenzen (Llama Community License, Gemma Terms): kommerzielle Nutzung meist erlaubt, aber mit Bedingungen - Acceptable-Use-Regeln, Namens-/Branding-Vorgaben oder Schwellenwerte (Llama verlangt eine separate Lizenz oberhalb von 700 Mio. monatlich aktiven Nutzern).
- Nicht-kommerzielle / Research-only-Lizenzen: Gewichte für Forschung verfügbar, aber kein produktiver kommerzieller Einsatz erlaubt.
- Vor dem Produktivbetrieb prüfen: Ist kommerzielle Nutzung erlaubt? Dürfen feinjustierte Gewichte weitergegeben werden? Bestehen Attributions- oder Namenspflichten? Gibt es Output-Beschränkungen? Lesen Sie stets die tatsächliche Lizenz.
Beispiele: Llama, Mistral und weitere offene Modelle
- Llama (Meta): grosse Open-Weight-Familie unter einer Community-Lizenz, sehr grosses Ökosystem und viele feinjustierte Ableger - offiziell nicht OSI-anerkannt.
- Mistral (Frankreich): mischt echte Open-Source-Modelle unter Apache 2.0 (Mistral 7B, Mixtral 8x7B) mit Flaggschiff-Modellen unter kommerzieller Lizenz.
- Gemma (Google): kompakte Open-Weight-Modelle unter eigenen Nutzungsbedingungen; Qwen (Alibaba): viele Apache-2.0-Modelle mit starker Mehrsprachigkeit; DeepSeek: offene Gewichte, u. a. beachtete Reasoning-Modelle.
- Apertus (Schweiz): ein vollständig offenes Sprachmodell von ETH Zürich, EPFL und dem Nationalen Hochleistungsrechenzentrum CSCS, in mehreren Grössen. Gewichte, Trainingsdaten und Trainingsdetails sind offengelegt, Lizenz Apache 2.0, mehrsprachig - ein Referenzbeispiel für echte Offenheit.
Vorteile - besonders aus Schweizer Sicht
- Datenhoheit und Datenschutz: On-Premises oder in einer Schweizer Cloud betreibbar, sodass Daten unter Ihrer Kontrolle bleiben - hilfreich für revDSG/nDSG-Konformität und Berufsgeheimnisse.
- Kein Vendor-Lock-in: Sie sind nicht an einen Anbieter, dessen Preise oder Roadmap gebunden und können Modelle wechseln oder selbst hosten.
- Kostenkontrolle im Skalierungsfall und Anpassung: Feinjustierung auf eigenen Fach- und Sprachdaten (auch Schweizerdeutsch-nahe Kontexte) statt Zahlung pro Token.
- Transparenz, Auditierbarkeit und Langlebigkeit: offene Modelle lassen sich prüfen und werden Ihnen nicht plötzlich abgeschaltet oder veraltet aufgezwungen.
Nachteile und Grenzen
- Verantwortung liegt bei Ihnen: Sicherheitsleitplanken, Missbrauchsschutz und Compliance - inklusive möglicher Pflichten unter dem EU AI Act für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI).
- Infrastruktur und Know-how: GPUs, MLOps und Betrieb kosten Geld und erfordern Fachwissen; 'kostenlos herunterladbar' heisst nicht 'kostenlos im Betrieb'.
- 'Offen' ist oft nur teilweise: Lizenzbeschränkungen, nicht offengelegte Trainingsdaten und Nutzungsklauseln können Einsatzszenarien einschränken.
- Sicherheit und Pflege: Updates, Modell-Herkunft (Provenienz) und Lieferketten müssen Sie selbst verwalten; Support ist Community-basiert, sofern Sie keinen kommerziellen Vertrag abschliessen. Auf den schwierigsten Aufgaben können offene Modelle führenden geschlossenen Modellen noch nachstehen.
Open Source KI in der Schweiz: wann sie sich lohnt
Mit Apertus zeigt die Schweiz, dass digitale Souveränität und offene KI zusammengehören können - ein wichtiges Signal für Behörden, Gesundheitswesen, Banken und KMU, die Daten im Land halten müssen. Offene Modelle eignen sich besonders, wenn Datenschutz, Berufsgeheimnis oder Kostenkontrolle im Vordergrund stehen und Sie On-Premises oder in einer Schweizer Cloud betreiben wollen. Geschlossene Frontier-Modelle bleiben oft die pragmatischere Wahl für maximale Fähigkeit ohne eigenen Betrieb.
Rechtlich gilt: Für den Umgang mit Personendaten ist das revDSG/nDSG massgeblich (nicht die DSGVO), Aufsichtsbehörde ist der EDOEB. Der EU AI Act wirkt extraterritorial und kann Schweizer Anbieter treffen, wenn sie in der EU anbieten; er sieht für freie und offene Modelle gewisse Erleichterungen vor, jedoch nicht bei systemischen Risiken oder verbotenen bzw. hochriskanten Anwendungen. Wählen Sie das Modell nach Anwendungsfall, benötigten Sprachen und Hardware - es gibt kein pauschal 'bestes' Modell.
Häufige Fragen
Ist Open Source KI kostenlos?
Die Modelle sind meist kostenlos herunterladbar und lizenzfrei nutzbar, doch Betrieb, Hosting und Feinjustierung verursachen Kosten für Hardware (GPUs), Infrastruktur und Fachwissen. 'Kostenlos herunterladbar' bedeutet nicht 'kostenlos im Betrieb'.
Ist Llama Open Source?
Llama ist Open-Weight unter einer Community-Lizenz, aber nicht von der Open Source Initiative als Open Source anerkannt. Kommerzielle Nutzung ist mit Bedingungen erlaubt; ab 700 Mio. monatlich aktiven Nutzern ist eine separate Lizenz erforderlich.
Was ist der Unterschied zwischen Open Weights und Open Source?
Open-Weight bedeutet, dass die trainierten Parameter veröffentlicht sind, sodass Sie das Modell nutzen und anpassen können. Echtes Open Source verlangt zusätzlich uneingeschränkte Nutzungs- und Weitergaberechte und - laut OSAID - genug Informationen über die Trainingsdaten, um das Modell nachzubauen.
Darf ich Open Source KI in der Schweiz kommerziell nutzen?
Das hängt von der Lizenz ab: Apache 2.0 und MIT erlauben kommerzielle Nutzung, Community-Lizenzen (Llama, Gemma) knüpfen Bedingungen daran, manche Modelle sind research-only. Zudem müssen Sie das revDSG/nDSG einhalten und prüfen, ob der EU AI Act greift.
Ist Open Source KI sicherer und datenschutzfreundlicher?
Sie kann sehr datenschutzfreundlich sein, weil Sie das Modell On-Premises oder in einer Schweizer Cloud betreiben und Daten unter Ihrer Kontrolle halten. Für Sicherheitsleitplanken, Updates und Compliance sind jedoch Sie selbst verantwortlich - Offenheit garantiert keine Sicherheit.
Welches offene Modell sollte ein Schweizer KMU wählen?
Es gibt kein pauschal bestes Modell. Wählen Sie nach Anwendungsfall, benötigten Sprachen, Datenschutzanforderungen und verfügbarer Hardware. Kandidaten sind u. a. Apertus (Schweizer Souveränität), Llama, Mistral/Mixtral und Qwen - testen Sie mehrere an Ihren realen Aufgaben.
Begriffe im Glossar
Praktische KI für Ihr Unternehmen
Von der Idee zur Umsetzung – wir zeigen Ihnen, was in Ihrem Fall konkret möglich ist.
Demo anfordern