Vertrauen, Sicherheit & Regulierung

Was ist verantwortungsvolle KI und wie setzt man sie um?

Von Giovanna Carpi, Gründerin & CEO · Weissmann AI · Aktualisiert 21. Juli 2026

Was bedeutet verantwortungsvolle KI?

Verantwortungsvolle KI (englisch «Responsible AI») ist ein Ansatz, der technische Leistung mit ethischen, rechtlichen und gesellschaftlichen Anforderungen verbindet. Es geht nicht darum, ob ein Modell funktioniert, sondern ob es fair, nachvollziehbar, sicher und rechenschaftspflichtig eingesetzt wird – über den gesamten Lebenszyklus von der Datenbeschaffung bis zur Ausserbetriebnahme.

Die meisten anerkannten Rahmenwerke – die OECD-KI-Prinzipien, das NIST AI Risk Management Framework, die Norm ISO/IEC 42001 und die Grundsätze des EU AI Act – lassen sich auf fünf wiederkehrende Prinzipien verdichten. Verantwortungsvolle KI ist damit kein einzelnes Werkzeug, sondern eine Governance-Haltung, die diese Prinzipien in Prozesse, Rollen und Dokumentation übersetzt.

Die fünf Prinzipien verantwortungsvoller KI

Fairness: KI-Systeme sollen keine Personen aufgrund von Geschlecht, Herkunft, Alter oder anderen geschützten Merkmalen systematisch benachteiligen. Verzerrungen entstehen oft unbeabsichtigt durch unausgewogene Trainingsdaten.
Transparenz: Betroffene und Aufsicht sollen verstehen, dass KI im Spiel ist und wie ein Ergebnis zustande kommt. Dazu gehören Offenlegung, erklärbare Modelle (Explainable AI) und dokumentierte Grenzen.
Rechenschaftspflicht: Für jedes System gibt es benennbare Verantwortliche, die für Entscheide, Fehler und Korrekturen geradestehen. Verantwortung lässt sich nicht an den Algorithmus delegieren.
Sicherheit und Robustheit: Systeme sollen zuverlässig, gegen Missbrauch geschützt und auch bei ungewöhnlichen Eingaben stabil sein. Dazu zählen Datensicherheit, Schutz vor Manipulation und Tests unter realen Bedingungen.
Menschliche Aufsicht: Bei folgenreichen Entscheiden behält der Mensch die Kontrolle – er kann eingreifen, korrigieren oder das System abschalten. «Human in the loop» ist bei Hochrisiko-Anwendungen zentral.

Von Prinzip zu Praxis: konkrete Massnahmen

Prinzipien wirken nur, wenn sie zu überprüfbaren Handlungen werden. Die folgenden Massnahmen ordnen jedem Prinzip praktische Schritte zu, die sich in KMU wie in Konzernen umsetzen lassen.

Fairness prüfen: Trainingsdaten auf Repräsentativität analysieren, Ergebnisse nach relevanten Gruppen aufschlüsseln (Bias-Testing) und Schwellenwerte für akzeptable Abweichungen festlegen.
Transparenz schaffen: KI-Einsatz gegenüber Betroffenen offenlegen, Model Cards und Entscheidprotokolle führen und für kritische Fälle erklärbare Verfahren wählen.
Rechenschaft verankern: pro System einen fachlichen Verantwortlichen (Business Owner) und einen technischen Verantwortlichen benennen, ein KI-Inventar führen und Entscheide dokumentieren.
Sicherheit härten: Zugriffsrechte begrenzen, Eingaben validieren, gegen Prompt Injection und Datenabfluss schützen und Modelle vor dem Go-live sowie im Betrieb regelmässig testen.
Aufsicht sichern: für folgenreiche Entscheide eine menschliche Freigabe vorsehen, Eskalationswege definieren und einen «Not-Aus» einplanen, mit dem sich das System abschalten lässt.

Rechtlicher Rahmen in der Schweiz und der EU

Die Schweiz kennt bisher kein eigenes umfassendes KI-Gesetz. Massgeblich sind das revidierte Datenschutzgesetz (revDSG, in Kraft seit September 2023) sowie das bestehende Recht – etwa zu Diskriminierung, Produktehaftung und Sektorregulierung. Das revDSG verlangt unter anderem Transparenz bei automatisierten Einzelentscheidungen und in bestimmten Fällen eine Datenschutz-Folgenabschätzung. Aufsichtsbehörde ist der EDÖB.

Der EU AI Act wirkt extraterritorial: Schweizer Unternehmen sind betroffen, sobald ihre KI-Systeme in der EU auf den Markt kommen oder deren Ergebnisse in der EU genutzt werden. Der Act stuft Anwendungen nach Risiko ein (verbotene Praktiken, Hochrisiko, begrenztes Risiko, minimales Risiko) und knüpft an Hochrisiko-Systeme Pflichten wie Risikomanagement, Datenqualität, Transparenz und menschliche Aufsicht – dieselben Prinzipien in gesetzlicher Form.

Governance: Rollen, Prozesse und Dokumentation

Prinzipien brauchen eine organisatorische Heimat. Eine schlanke KI-Governance macht Verantwortung sichtbar und prüfbar, ohne Innovation auszubremsen. Für den Einstieg genügen wenige, konsequent gelebte Elemente.

KI-Inventar: eine aktuelle Liste aller eingesetzten und geplanten KI-Systeme mit Zweck, Datenquellen, Verantwortlichen und Risikoeinstufung.
Risikoklassifizierung: jede Anwendung einer Risikostufe zuordnen und die Kontrolltiefe daran ausrichten – kein Overhead für harmlose Fälle, klare Auflagen für Hochrisiko.
Interne Richtlinie: eine kurze KI-Nutzungsrichtlinie regelt zulässige Tools, Umgang mit vertraulichen Daten und Freigabewege.
Schulung und Kultur: Mitarbeitende kennen Chancen, Grenzen und Meldewege – verantwortungsvolle KI ist auch eine Frage der KI-Kompetenz.

Häufige Fehler und wie Sie sie vermeiden

Ethik als Papier: Grundsätze werden formuliert, aber nicht in Prozesse übersetzt («Ethics washing»). Abhilfe: jedes Prinzip mit einer konkreten, überprüfbaren Massnahme hinterlegen.
Blindes Vertrauen in Modelle: Ergebnisse generativer KI werden ungeprüft übernommen. Abhilfe: menschliche Kontrolle bei folgenreichen Ausgaben und Quellenprüfung verpflichtend machen.
Datenschutz zu spät: vertrauliche oder Personendaten fliessen unbedacht in externe Dienste. Abhilfe: Datenschutz früh mitdenken, Datenminimierung und geprüfte Anbieter wählen.
Einmal geprüft, nie wieder: Systeme werden vor dem Go-live getestet, danach nicht mehr überwacht. Abhilfe: laufendes Monitoring auf Drift, Fehler und veränderte Datenlage.

Häufige Fragen

Was sind die fünf Prinzipien verantwortungsvoller KI?

Fairness, Transparenz, Rechenschaftspflicht, Sicherheit (inklusive Robustheit) und menschliche Aufsicht. Diese fünf Prinzipien finden sich in nahezu allen anerkannten Rahmenwerken wie den OECD-KI-Prinzipien, dem NIST AI RMF und den Grundsätzen des EU AI Act wieder und bilden die Grundlage für konkrete Massnahmen.

Gilt der EU AI Act für Schweizer Unternehmen?

Ja, indirekt und extraterritorial. Sobald ein Schweizer Unternehmen KI-Systeme in der EU auf den Markt bringt oder deren Ergebnisse in der EU verwendet werden, greifen die Pflichten des EU AI Act. Zusätzlich gilt in der Schweiz das revDSG. Eine frühzeitige Risikoeinstufung hilft, den passenden Pflichtenumfang zu bestimmen.

Was ist der Unterschied zwischen verantwortungsvoller KI und KI-Ethik?

KI-Ethik beschreibt die Werte und Prinzipien, die wünschenswert sind. Verantwortungsvolle KI ist deren praktische Umsetzung: Sie übersetzt Werte in Prozesse, Rollen, Tests und Dokumentation. Ethik liefert das «Warum», verantwortungsvolle KI das «Wie» im Alltag.

Wie erkennt und reduziert man Bias in KI-Systemen?

Bias erkennt man, indem man Ergebnisse nach relevanten Gruppen (etwa Geschlecht oder Region) aufschlüsselt und mit definierten Fairness-Kriterien vergleicht. Reduzieren lässt er sich durch repräsentativere Trainingsdaten, angepasste Schwellenwerte, menschliche Kontrolle bei Grenzfällen und regelmässiges Nachtesten im laufenden Betrieb.

Braucht ein KMU eine KI-Governance?

Ja, aber im passenden Massstab. Für ein KMU genügen oft ein KI-Inventar, eine kurze Nutzungsrichtlinie, eine einfache Risikoeinstufung und benannte Verantwortliche. Wichtig ist nicht der Umfang der Dokumente, sondern dass Verantwortung klar, Datenschutz gewahrt und kritische Entscheide menschlich kontrolliert sind.

Was bedeutet «menschliche Aufsicht» konkret?

Menschliche Aufsicht bedeutet, dass Personen folgenreiche KI-Entscheide verstehen, überprüfen, korrigieren oder rückgängig machen können und das System notfalls abschalten. Je nach Risiko reicht das von einer stichprobenartigen Kontrolle bis zu einer verpflichtenden menschlichen Freigabe vor jeder Ausführung («Human in the loop»).