Vertrauen, Sicherheit & Regulierung

Was ist KI-Sicherheit?

Von Giovanna Carpi, Gründerin & CEO · Weissmann AI · Aktualisiert 21. Juli 2026

KI-Sicherheit kurz erklärt

KI-Sicherheit bezeichnet den Schutz von KI-Systemen – und der mit ihnen verarbeiteten Daten – vor Missbrauch, Manipulation und Ausfall. Sie verbindet klassische Informationssicherheit (Vertraulichkeit, Integrität, Verfügbarkeit) mit neuen, KI-spezifischen Bedrohungen, die durch grosse Sprachmodelle und autonome Agenten entstehen.

Zu unterscheiden ist zwischen der Sicherheit von KI (das System gegen Angriffe härten) und KI für die Sicherheit (KI zur Abwehr von Cyberangriffen einsetzen). Dieser Artikel behandelt vor allem die erste Perspektive: wie Unternehmen generative KI verantwortungsvoll und robust betreiben.

Die grössten Risiken generativer KI

Datenleck (Data Leakage): Vertrauliche Eingaben, Geschäftsgeheimnisse oder Personendaten gelangen über Prompts, Trainingsdaten oder Log-Dateien nach aussen.
Prompt Injection: Manipulierte Eingaben oder versteckte Anweisungen in Dokumenten und Webseiten bringen das Modell dazu, Schutzregeln zu ignorieren oder unerwünschte Aktionen auszuführen.
Modellmissbrauch (Model Misuse): Angreifer nutzen KI für Phishing, Schadcode oder Desinformation oder umgehen Sicherheitsfilter per Jailbreak.
Halluzinationen: Das Modell erzeugt überzeugende, aber falsche Aussagen – ein Risiko für Entscheidungen ohne Prüfung.
Shadow AI: Mitarbeitende nutzen unautorisierte Tools und speisen dabei sensible Daten in unkontrollierte Dienste ein.
Lieferketten- und Modellrisiken: Kompromittierte Modelle, Plug-ins oder Trainingsdaten (Data Poisoning) schleusen Schwachstellen ein.

Schutzmassnahmen: technisch und organisatorisch

Wirksame KI-Sicherheit ist mehrschichtig; keine Einzelmassnahme genügt. Technische Kontrollen und organisatorische Regeln greifen ineinander (Defense in Depth).

Datenminimierung und Klassifizierung: nur nötige Daten teilen, sensible Kategorien technisch sperren.
Zugriffs- und Rechtekonzept (Least Privilege, Zero-Trust) für Modelle, Daten und Agenten-Werkzeuge.
Eingabe- und Ausgabefilter (Guardrails) gegen Injection, Datenabfluss und toxische Inhalte.
Retrieval-Augmented Generation mit geprüften Quellen statt blindem Modellwissen, plus Quellenangaben.
Protokollierung, Monitoring und Anomalieerkennung; regelmässiges Red Teaming und Penetrationstests.
Vertragliche Zusicherungen zu Datenverarbeitung, Standort und Kein-Training-auf-Kundendaten; wo nötig EU-/Schweiz-Hosting.

Menschliche Aufsicht als letzte Schicht

Menschliche Aufsicht ist die letzte und wichtigste Sicherheitsschicht. Der EU AI Act verlangt sie für Hochrisiko-Systeme ausdrücklich, und auch ohne EU-Bezug ist sie gute Praxis. Entscheidend ist, dass Menschen KI-Ergebnisse verstehen, hinterfragen und übersteuern können.

Human-in-the-Loop: kritische Aktionen (Zahlungen, Rechtsauskünfte, medizinische Hinweise) werden vor Ausführung freigegeben.
Klare Verantwortlichkeiten: Wer prüft, wer haftet, wer darf abschalten (Kill Switch).
Schulung: Mitarbeitende erkennen Halluzinationen, Injection-Versuche und Datenschutzgrenzen.
Transparenz gegenüber Betroffenen, wenn KI mit ihnen interagiert oder über sie entscheidet.

Rechtsrahmen und Standards: Schweiz und EU

In der Schweiz gibt es (noch) kein eigenes KI-Gesetz, doch bestehende Regeln greifen: Das revidierte Datenschutzgesetz (revDSG) verlangt Datensicherheit, Transparenz und gegebenenfalls eine Datenschutz-Folgenabschätzung. Der EDÖB überwacht die Einhaltung. Wer Personen in der EU bedient, unterliegt zusätzlich dem extraterritorialen EU AI Act, der risikobasierte Pflichten – bis hin zu Verboten – festlegt.

EU AI Act: risikobasiert, mit Pflichten zu Robustheit, Transparenz und menschlicher Aufsicht.
revDSG und EDÖB-Leitlinien: Datensicherheit und Betroffenenrechte in der Schweiz.
ISO/IEC 42001: Managementsystem für verantwortungsvolle KI.
NIST AI Risk Management Framework: freiwilliger, weit anerkannter Steuerungsrahmen.
OWASP Top 10 für LLM-Anwendungen: konkrete Angriffs- und Schutzliste für Entwickler.

KI-Sicherheit einführen: ein pragmatischer Fahrplan

KI-Sicherheit lässt sich schrittweise aufbauen – auch in KMU ohne grosses Sicherheitsteam.

Inventar erstellen: Welche KI-Tools sind im Einsatz, mit welchen Daten?
KI-Richtlinie verabschieden: erlaubte Tools, verbotene Datenarten, Meldewege.
Datenklassen definieren und sensible Daten aus öffentlichen Diensten fernhalten.
Anbieter prüfen: Standort, Zertifizierungen, Training-Opt-out, Vertragslage.
Pilot mit Guardrails und Logging starten, dann kontrolliert ausrollen.
Regelmässig testen, schulen und an neue Bedrohungen anpassen.

Häufige Fragen

Was ist der Unterschied zwischen KI-Sicherheit und Datenschutz?

KI-Sicherheit schützt das gesamte System vor Angriffen und Fehlfunktionen. Datenschutz (in der Schweiz: revDSG) regelt speziell den Umgang mit Personendaten. Sie überschneiden sich stark: Ein Datenleck ist zugleich ein Sicherheits- und ein Datenschutzvorfall, weshalb beide Disziplinen zusammen betrachtet werden sollten.

Was ist Prompt Injection?

Prompt Injection ist ein Angriff, bei dem manipulierte Anweisungen – oft versteckt in E-Mails, Dokumenten oder Webseiten – ein Sprachmodell dazu bringen, seine Schutzregeln zu missachten, vertrauliche Daten preiszugeben oder unerwünschte Aktionen auszuführen. Sie gilt als eines der grössten Risiken bei KI-Agenten und steht in der OWASP-Liste für LLM-Anwendungen ganz oben.

Sind meine Eingaben in ChatGPT oder Claude vertraulich?

Das hängt vom Anbieter, Tarif und den Einstellungen ab. Business- und Enterprise-Angebote sichern in der Regel zu, Eingaben nicht zum Training zu verwenden; kostenlose Varianten oft nicht. Prüfen Sie die aktuellen Bedingungen des Anbieters, aktivieren Sie ein Training-Opt-out und geben Sie ohne vertragliche Grundlage keine Geschäftsgeheimnisse oder Personendaten ein.

Welche Standards helfen bei der KI-Sicherheit?

Für die Steuerung bieten sich das NIST AI Risk Management Framework und die zertifizierbare Norm ISO/IEC 42001 an. Für die technische Umsetzung ist die OWASP Top 10 für LLM-Anwendungen sehr praxisnah. In der Schweiz kommen die Vorgaben des revDSG und Empfehlungen des EDÖB hinzu, bei EU-Bezug der EU AI Act.

Braucht mein KMU eine KI-Richtlinie?

Ja. Schon eine kurze, klare Richtlinie verhindert Shadow AI und Datenlecks: Sie legt erlaubte Tools, verbotene Datenarten, Freigabeprozesse und Meldewege fest. Wichtiger als Umfang ist, dass sie bekannt, verständlich und aktuell ist – und durch Schulung im Alltag verankert wird.

Was verlangt der EU AI Act in Bezug auf Sicherheit?

Der EU AI Act ist risikobasiert: Bestimmte Anwendungen sind verboten, Hochrisiko-Systeme müssen unter anderem Robustheit, Genauigkeit, Cybersicherheit, Protokollierung und wirksame menschliche Aufsicht nachweisen. Er wirkt extraterritorial und betrifft daher auch Schweizer Anbieter, die den EU-Markt bedienen; die Pflichten gelten gestaffelt.