KI-Sicherheit, Datenschutz und Regulierung: der Überblick für Schweizer Unternehmen

Die drei Ebenen und wie sie zusammenhängen

Sicherheit, Datenschutz und Regulierung werden oft getrennt behandelt, greifen beim KI-Einsatz aber ineinander. Sicherheit fragt: Ist das System technisch robust und gegen Missbrauch geschützt? Datenschutz fragt: Werden Personendaten rechtmässig und transparent verarbeitet? Regulierung fragt: Ist die Anwendung überhaupt zulässig und unter welchen Auflagen? Erst zusammen ergeben sie einen belastbaren Rahmen.

Für Schweizer Unternehmen kommt eine Besonderheit hinzu: Sie unterstehen dem revidierten Datenschutzgesetz (revDSG), können aber gleichzeitig vom extraterritorialen EU AI Act erfasst werden, sobald ihre KI-Ergebnisse in der EU genutzt werden. Ein rein nationaler Blick greift deshalb zu kurz.

• Sicherheit: Schützt Modelle, Daten und Infrastruktur vor Angriffen, Manipulation und Datenabfluss (technische und organisatorische Ebene).
• Datenschutz: Regelt, wie Personendaten erhoben, verarbeitet und offengelegt werden dürfen (revDSG, Aufsicht durch den EDÖB).
• Regulierung: Bestimmt Zulässigkeit, Risikoklasse und Pflichten je nach Anwendung (EU AI Act, Sektorrecht wie FINMA-Vorgaben oder Medizinprodukterecht).

KI-Sicherheit: die wichtigsten Risiken

KI-Systeme, besonders solche mit grossen Sprachmodellen, öffnen Angriffsflächen, die klassische Software nicht kennt. Die verbreitetsten Risiken hat die OWASP-Community in ihrer Liste für LLM-Anwendungen zusammengefasst. Sie sollten Teil jeder Sicherheitsbetrachtung sein, bevor ein KI-Feature in Produktion geht.

• Prompt Injection: Angreifer schmuggeln Anweisungen in Eingaben oder Dokumente, um das Modell zu unerwünschten Aktionen oder Datenpreisgabe zu bewegen.
• Datenabfluss: Personendaten oder Geschäftsgeheimnisse gelangen über Prompts in externe Modelle oder erscheinen in Antworten an falsche Empfänger.
• Halluzinationen und Fehlausgaben: Falsche, aber überzeugend formulierte Antworten führen zu Fehlentscheidungen, wenn keine Kontrolle greift.
• Lieferketten- und Modellrisiken: Kompromittierte Modelle, Plugins oder Trainingsdaten schleusen Schwachstellen ein (Supply-Chain-Risiko).
• Shadow AI: Mitarbeitende nutzen unfreigegebene KI-Tools mit Firmendaten, ausserhalb jeder Kontrolle und Vertragslage.

Datenschutz: revDSG und der Umgang mit Personendaten

Seit dem 1. September 2023 gilt in der Schweiz das totalrevidierte Datenschutzgesetz (revDSG). Es ist am risikobasierten Ansatz des europäischen Rechts orientiert, bleibt aber ein eigenständiges Gesetz: Für Schweizer Sachverhalte spricht man von revDSG oder nDSG, nicht von der DSGVO. Sobald KI Personendaten verarbeitet, gelten dieselben Grundsätze wie sonst auch: Rechtmässigkeit, Zweckbindung, Transparenz, Verhältnismässigkeit und Datensicherheit.

• Datenschutz-Folgenabschätzung (DSFA): bei voraussichtlich hohem Risiko, etwa umfangreichem Profiling oder Bearbeitung besonders schützenswerter Daten, vor dem Einsatz durchführen.
• Auftragsverarbeitung: KI-Anbieter sind meist Auftragsbearbeiter; ein Vertrag, geprüfte Sub-Verarbeiter und der Bearbeitungsort (Schweiz/EU vs. Drittstaat) müssen geklärt sein.
• Transparenz und Betroffenenrechte: Informieren Sie, wenn KI Entscheidungen unterstützt, und stellen Sie Auskunft, Berichtigung und menschliche Überprüfung sicher.
• Datenminimierung: Nur die wirklich nötigen Personendaten in Prompts, Trainingssätze oder Vektordatenbanken geben; anonymisieren oder pseudonymisieren, wo möglich.

Regulierung: EU AI Act und Schweizer Recht

Der EU AI Act ist die erste umfassende KI-Regulierung und tritt gestaffelt in Kraft. Er verfolgt einen risikobasierten Ansatz: verbotene Praktiken (etwa Social Scoring), Hochrisiko-Anwendungen mit strengen Pflichten (z. B. in Personalauswahl oder Kreditvergabe), begrenzte Transparenzpflichten (etwa Kennzeichnung von Chatbots und KI-generierten Inhalten) sowie minimales Risiko. Wichtig für die Schweiz: Der Act wirkt extraterritorial, sobald KI-Ergebnisse in der EU genutzt werden.

In der Schweiz gibt es bislang kein eigenes horizontales KI-Gesetz. Der Bundesrat verfolgt einen sektoriellen, technologieneutralen Ansatz und prüft, wie internationale Vorgaben wie die KI-Konvention des Europarats umgesetzt werden. Für regulierte Branchen gelten zusätzlich bestehende Regeln, etwa der FINMA im Finanzsektor oder das Heilmittelrecht bei medizinischen Anwendungen. Wer exportiert oder EU-Kundschaft bedient, richtet sich praktisch am strengeren EU-Standard aus.

Ein praktischer Fahrplan für Schweizer KMU

Governance muss nicht schwerfällig sein. Ein pragmatischer Ablauf verbindet die drei Ebenen, ohne Innovation zu blockieren, und lässt sich an anerkannten Rahmenwerken wie dem NIST AI Risk Management Framework oder der Norm ISO/IEC 42001 ausrichten.

• Inventar: Alle eingesetzten und geplanten KI-Anwendungen erfassen, inklusive Shadow AI, und je nach Datenart und Zweck priorisieren.
• Risiko- und Rechtsklassierung: Pro Anwendung Sicherheitsrisiko, Datenschutzrelevanz und mögliche EU-AI-Act-Risikoklasse bestimmen.
• Leitplanken: Interne KI-Richtlinie, Freigabeprozess für Tools, geprüfte Anbieter mit Auftragsverarbeitungsvertrag und klarer Umgang mit Kundendaten.
• Technische Kontrollen: Zugriffssteuerung, Protokollierung, Eingabe-/Ausgabefilter gegen Prompt Injection und menschliche Kontrolle bei relevanten Entscheidungen.
• Menschen und Wiederholung: Mitarbeitende schulen, Verantwortlichkeiten festlegen und die Bewertung regelmässig aktualisieren, da sich Modelle und Recht schnell ändern.

Souveränität und der Schweizer Weg

Für sensible Daten rückt digitale Souveränität in den Vordergrund: Wo werden Daten verarbeitet, wer hat Zugriff, und wie unabhängig ist man von einzelnen Anbietern? Die Schweiz baut hier eigene Kompetenz auf. Das offene Sprachmodell Apertus, entwickelt an ETH Zürich und EPFL mit dem Swiss National Supercomputing Centre, zeigt, dass transparente, in der Schweiz gehostete KI möglich ist. Innosuisse fördert entsprechende Innovationsprojekte.