KI und Datenschutz im Unternehmen: Welche Daten fliessen wohin, und wie bleibt der Einsatz konform?

Welche personenbezogenen Daten fliessen bei KI-Nutzung wohin?

Bevor man Regeln setzt, muss man die Datenflüsse kennen. Bei generativer KI verlassen Daten das Unternehmen an mehreren Stellen: im Prompt selbst (etwa ein Kundenmail, das man zusammenfassen lässt), in hochgeladenen Dateien, über Schnittstellen zu CRM oder Ticketsystem und über sogenannte Sub-Prozessoren, die der Anbieter im Hintergrund nutzt. Jeder dieser Kanäle kann personenbezogene Daten enthalten, oft ohne dass es den Mitarbeitenden bewusst ist.

• Prompt-Inhalte: Namen, E-Mails, Vertragsdaten, Gesundheits- oder Bewerbungsangaben, die im Text mitgeschickt werden.
• Uploads: Dokumente, Tabellen und Bilder, die häufig mehr Personendaten enthalten als der eigentliche Prompt.
• Systemanbindungen: Agenten und Integrationen, die selbstständig auf Mailbox, CRM oder Dateiablage zugreifen.
• Metadaten und Logs: IP-Adressen, Nutzerkennungen und Zeitstempel, die der Anbieter zur Betriebsführung speichert.
• Trainingsnutzung: bei Consumer-Konten können Eingaben zur Modellverbesserung verwendet werden, bei Business-Tarifen meist nicht.

Rechtsgrundlagen: revDSG, EU AI Act und Einwilligung

In der Schweiz gilt seit dem 1. September 2023 das revidierte Datenschutzgesetz (revDSG). Es verlangt für jede Bearbeitung von Personendaten eine Rechtfertigung: Einwilligung, Vertragserfüllung, ein überwiegendes berechtigtes Interesse oder eine gesetzliche Grundlage. Eine pauschale Einwilligung für alles ist heikel; besser sind eng definierte Zwecke. Beschäftigt ein Unternehmen einen KI-Anbieter, ist dieser in der Regel Auftragsbearbeiter, was einen Auftragsbearbeitungsvertrag (AVV) und technische wie organisatorische Massnahmen voraussetzt.

Wer Kunden oder Beschäftigte in der EU betrifft, fällt zusätzlich unter die DSGVO, und der EU AI Act wirkt extraterritorial: Er stuft KI-Systeme nach Risiko ein und verbietet einzelne Praktiken ganz. Datenschutz und KI-Regulierung greifen also ineinander. Bei besonders schützenswerten Daten oder umfangreichem Profiling kann eine Datenschutz-Folgenabschätzung (DSFA) nötig werden, bevor ein KI-Prozess produktiv geht.

Datenminimierung: der wirksamste Hebel

Der beste Datenschutz ist, Daten gar nicht erst zu übermitteln. Datenminimierung bedeutet, pro Anwendungsfall zu prüfen, welche Personendaten ein Modell wirklich braucht, um die Aufgabe zu lösen. Oft ist die Antwort: keine. Ein Vertragsentwurf lässt sich mit Platzhaltern statt echten Namen formulieren, eine Auswertung mit aggregierten statt individuellen Datensätzen. Pseudonymisierung und Anonymisierung senken das Risiko, bevor Daten das Haus verlassen.

• Zweckbindung: pro Use Case festlegen, welche Felder nötig sind, und alles andere weglassen.
• Maskierung: Namen, Kundennummern und Adressen vor dem Prompt durch Platzhalter ersetzen.
• Aufbewahrung begrenzen: kurze Speicherfristen und Zero-Data-Retention beim Anbieter aktivieren.
• Keine Sonderdaten ohne Freigabe: Gesundheits-, Bewerbungs- oder Strafdaten nur nach klarer Governance-Entscheidung.

Anbieterwahl: worauf Unternehmen achten müssen

Nicht jeder KI-Dienst eignet sich für Personendaten. Entscheidend ist weniger die Modellqualität als die vertragliche und technische Ausgestaltung. Ein seriöser Anbieter macht transparent, wo Daten verarbeitet werden, ob sie zum Training genutzt werden und wie lange sie liegen. Für Transfers in die USA existiert seit dem 15. September 2024 das Swiss-U.S. Data Privacy Framework als anerkannter Übermittlungsmechanismus; alternativ braucht es Standardvertragsklauseln und eine Transfer-Folgenabschätzung.

• Auftragsbearbeitungsvertrag (AVV) mit klaren Weisungsrechten, Löschpflichten und Meldung von Verletzungen.
• Datenstandort und Sub-Prozessoren offengelegt; idealerweise Verarbeitung in der Schweiz oder EU wählbar.
• Trainingsausschluss und Zero-Data-Retention vertraglich zugesichert, nicht nur als Einstellung.
• Sicherheitsnachweise wie ISO 27001 oder SOC 2, Verschlüsselung und rollenbasierte Zugriffe.
• Auditierbarkeit: Protokolle und Exportmöglichkeiten, um Nachweise gegenüber dem EDÖB zu erbringen.

Governance: von der Einzelentscheidung zur Regel

Datenschutz bei KI scheitert selten an der Technik und meist an fehlenden Regeln im Alltag. Sinnvoll ist eine kurze, verständliche KI-Richtlinie, die sagt, welche Tools erlaubt sind, welche Datenklassen nie in einen Prompt gehören und wer bei Zweifeln entscheidet. Ein Verzeichnis der KI-Anwendungen (analog zum Bearbeitungsverzeichnis) schafft Übersicht und erfüllt Rechenschaftspflichten. Schulung schlägt Verbote: Mitarbeitende, die Datenflüsse verstehen, treffen bessere Entscheidungen als solche, die Schatten-KI heimlich nutzen.

Schweizer Perspektive: Datenstandort und Souveränität

Für viele Schweizer Unternehmen ist nicht nur die Rechtskonformität, sondern auch die digitale Souveränität ein Argument. Die Wahl eines Anbieters mit Verarbeitung in der Schweiz oder EU reduziert Transferrisiken und erleichtert die Kommunikation gegenüber Kunden. Auf Modellebene entstehen Alternativen wie Apertus, ein offenes, in der Schweiz an ETH Zürich und EPFL entwickeltes Sprachmodell, das transparente und lokal betreibbare KI fördern will. Wo Daten besonders sensibel sind, können offene Modelle im eigenen oder Schweizer Rechenzentrum eine datensparsame Option sein.