Vertrauen, Sicherheit & Regulierung
KI-Risiken und Grenzen: Was Sie wissen müssen und wie Sie sie mindern
Die vier grossen Risikofelder der KI im Überblick
KI-Risiken lassen sich in vier Kategorien bündeln: inhaltliche Fehler (Halluzinationen), systematische Verzerrungen (Bias), menschliche Fehlanpassung (Over-Reliance und Automation Bias) sowie technische und rechtliche Risiken (Sicherheit, Datenschutz, Haftung). Keine dieser Kategorien ist ein Bug, der sich mit dem nächsten Update behebt. Sie folgen aus der Funktionsweise heutiger Modelle, die statistische Muster aus Daten lernen, statt Wahrheit oder Kausalität zu verstehen.
- Halluzination: die KI erzeugt falsche, aber überzeugend formulierte Inhalte.
- Bias: gesellschaftliche und datenbedingte Verzerrungen werden reproduziert.
- Over-Reliance: Menschen übernehmen KI-Ergebnisse unkritisch.
- Sicherheit und Datenschutz: neue Angriffsflächen und rechtliche Pflichten.
Halluzinationen: Wenn KI überzeugend danebenliegt
Grosse Sprachmodelle erzeugen Text, indem sie das statistisch wahrscheinlichste nächste Wort vorhersagen. Sie besitzen kein internes Faktenmodell und keinen Wahrheitsbegriff, deshalb formulieren sie falsche Aussagen mit derselben Souveränität wie korrekte: erfundene Studien, nicht existierende Gerichtsurteile, falsche Zitate, plausible aber falsche Zahlen. Besonders heikel ist das in Recht, Medizin und Finanzen, wo ein einziger Fehler teuer wird und die flüssige Sprache echte Verlässlichkeit vortäuscht.
- Mindern: Antworten an geprüfte Quellen binden (Retrieval-Augmented Generation) und Belege mitliefern lassen.
- Fakten, Zahlen, Namen und Zitate immer unabhängig verifizieren, nie ungeprüft übernehmen.
- KI für Entwürfe, Zusammenfassungen und Ideen nutzen, nicht als letzte Faktenquelle.
- Hinweis: Kein Prompt und kein Update beseitigt Halluzinationen vollständig; sie werden seltener, aber nicht null.
Bias und Verzerrung: Vorurteile aus den Daten
Modelle lernen aus riesigen Textmengen, die gesellschaftliche Stereotype, historische Ungleichheiten und Lücken enthalten. Diese Muster reproduzieren sie, etwa bei der Vorauswahl von Bewerbungen, bei Bonitätslogiken, Bildbeschreibungen oder der Qualität für kleinere Sprachen. Für die Schweiz relevant: Modelle sind meist stark englischlastig trainiert, Schweizerdeutsch, Rätoromanisch und lokale Rechts- und Verwaltungskontexte sind unterrepräsentiert, was zu subtil falschen oder unpassenden Ergebnissen führt.
- Bei Entscheidungen über Menschen (Personal, Kredit, Versicherung) prüft der EU AI Act solche Anwendungen als Hochrisiko.
- Das revDSG gibt Betroffenen Rechte bei automatisierten Einzelentscheidungen, inklusive Information und menschlicher Überprüfung.
- Ergebnisse über verschiedene Gruppen hinweg testen und dokumentieren, statt Fairness zu unterstellen.
- Souveräne und mehrsprachige Ansätze wie das offene Schweizer Modell Apertus (ETH Zürich, EPFL) adressieren Sprach- und Kontextlücken.
Over-Reliance: das Risiko des blinden Vertrauens
Automation Bias beschreibt die menschliche Neigung, KI-Vorschläge unkritisch zu übernehmen, gerade weil sie kompetent und flüssig klingen. Die Folgen sind schleichend: Fachwissen verkümmert (Deskilling), Fehler bleiben unentdeckt, und die Verantwortung verwischt, wenn niemand mehr sagen kann, wer die Entscheidung eigentlich getroffen hat. Je überzeugender und bequemer ein System wirkt, desto grösser ist paradoxerweise das Risiko, dass seine Fehler ungeprüft in reale Entscheidungen einfliessen.
- Menschliche Letztverantwortung festlegen: KI schlägt vor, ein Mensch entscheidet und haftet.
- Kompetenzen aktiv erhalten, damit Teams KI-Ergebnisse noch beurteilen und korrigieren können.
- Bei hohem Risiko bewusste Reibung einbauen: Zweitmeinung, Vier-Augen-Prinzip, Pflicht zur Begründung.
Sicherheit und Datenschutz: neue Angriffsflächen
KI schafft eigene Sicherheitsrisiken. Bei Prompt Injection schmuggeln Angreifer Anweisungen in Webseiten, Dokumente oder E-Mails, die ein KI-Assistent dann als Befehl ausführt, etwa um Daten abzugreifen oder Aktionen auszulösen. Dazu kommen Datenabfluss über Eingaben in Cloud-Modelle, Jailbreaks, unsichere Agenten mit Tool-Zugriff und manipulierte Trainingsdaten. Datenschutzrechtlich gilt: Wer Personendaten oder Geschäftsgeheimnisse in ein externes Modell eingibt, kann ohne saubere Grundlage gegen das revDSG verstossen.
- Keine sensiblen Personen- oder Geschäftsdaten in Consumer-Chatbots eingeben; auf Geschäftsangebote mit Auftragsbearbeitungsvertrag setzen.
- Datenstandort, Aufbewahrung und ein mögliches Training auf Ihren Eingaben klären; Opt-outs nutzen.
- Agenten und Integrationen nach dem Prinzip der minimalen Rechte gestalten und ausgehende Aktionen begrenzen.
- Bei riskanten Anwendungen eine Datenschutz-Folgenabschätzung durchführen; der EDÖB ist die Schweizer Aufsichtsbehörde.
Grenzen der KI: was Sprachmodelle grundsätzlich nicht können
Neben Risiken haben KI-Modelle harte, bauartbedingte Grenzen. Sie verstehen keine Kausalität, sondern erkennen Korrelationen; sie kennen die Welt nur bis zu einem Wissensstichtag und ohne angebundene Werkzeuge keine Echtzeit-Ereignisse; sie rechnen nicht zuverlässig; und sie sind nicht deterministisch, dieselbe Frage kann unterschiedliche Antworten liefern. Entscheidend: Ein Modell kann seine eigene Unsicherheit nicht verlässlich einschätzen und warnt selten, wenn es an eine Grenze stösst.
- Kein echtes Verständnis und keine Kausalität, nur Musterfortsetzung.
- Wissensstichtag und begrenztes Kontextfenster: langer oder aktueller Kontext geht verloren.
- Unzuverlässig bei Mathematik, exakter Logik und reproduzierbaren Ergebnissen.
- Keine verlässliche Selbsteinschätzung der eigenen Verlässlichkeit oder Quellen.
Verantwortungsvoll mindern: ein Governance-Fahrplan
Risiken mindern heisst nicht, auf KI zu verzichten, sondern sie mit Augenmass und Kontrollen einzusetzen. Ein praktikabler Rahmen ordnet jeden Anwendungsfall nach Risiko ein, definiert menschliche Kontrolle und dokumentiert Entscheidungen, damit sie überprüfbar bleiben. Der EU AI Act (extraterritorial, betrifft auch Schweizer Anbieter mit EU-Bezug) und das revDSG geben dafür den rechtlichen Rahmen; Programme wie Innosuisse und Schweizer Forschung liefern vertrauenswürdige Bausteine.
- Jeden Use Case nach Risiko klassifizieren und ungeeignete Einsätze (z. B. autonome Hochrisiko-Entscheide) ausschliessen.
- Human-in-the-loop, Quellenbindung und Faktenprüfung als Standard verankern.
- KI-Nutzung transparent kennzeichnen und Mitarbeitende in Grenzen und Risiken schulen.
- Datenschutz-Folgenabschätzung, Logging, Monitoring und regelmässige Überprüfung (auch Red-Teaming) etablieren.
- Anbieter und Modelle prüfen: Datenstandort, Sicherheit, Nachvollziehbarkeit und Exit-Optionen.
Häufige Fragen
Was ist eine KI-Halluzination?
Eine Halluzination ist eine falsche, aber überzeugend formulierte Aussage eines KI-Modells, etwa eine erfundene Quelle, ein falsches Zitat oder eine nicht existierende Zahl. Sie entsteht, weil Sprachmodelle wahrscheinliche Wortfolgen erzeugen und keinen Wahrheitsbegriff besitzen. Prüfen Sie faktische Angaben deshalb immer unabhängig.
Kann man KI-Risiken vollständig beseitigen?
Nein. Halluzination, Bias und Unsicherheit folgen aus der Funktionsweise heutiger Modelle und lassen sich reduzieren, aber nicht auf null bringen. Verantwortungsvoll bedeutet, Risiken zu managen: menschliche Kontrolle, Quellenbindung, klare Einsatzgrenzen, Datenschutz und Monitoring statt der Erwartung eines fehlerfreien Systems.
Was gilt in der Schweiz rechtlich bei KI-Risiken?
Für Personendaten gilt das revDSG mit Rechten bei automatisierten Entscheidungen; Aufsicht ist der EDÖB. Zusätzlich wirkt der EU AI Act extraterritorial und betrifft Schweizer Anbieter mit EU-Bezug, mit strengeren Pflichten für Hochrisiko-Anwendungen. Verwenden Sie nicht den Begriff DSGVO für Schweizer Sachverhalte.
Was bedeutet Over-Reliance oder Automation Bias?
Es ist die Tendenz, KI-Ergebnisse unkritisch zu übernehmen, weil sie kompetent klingen. Folgen sind unentdeckte Fehler, Kompetenzverlust und verwischte Verantwortung. Gegenmittel: menschliche Letztentscheidung, bewusste Prüfschritte bei hohem Risiko und der Erhalt eigener Fachkompetenz.
Wie schütze ich Unternehmensdaten bei der KI-Nutzung?
Geben Sie keine sensiblen Personen- oder Geschäftsdaten in Consumer-Chatbots ein. Nutzen Sie Geschäftsangebote mit Auftragsbearbeitungsvertrag, klären Sie Datenstandort, Aufbewahrung und Training-Opt-out, begrenzen Sie Agenten-Rechte und führen Sie bei riskanten Fällen eine Datenschutz-Folgenabschätzung durch. Achten Sie zudem auf Prompt Injection über externe Inhalte.
Was kann KI grundsätzlich nicht?
Sprachmodelle verstehen keine Kausalität, kennen die Welt nur bis zu einem Wissensstichtag, rechnen nicht zuverlässig, liefern nicht immer reproduzierbare Antworten und können ihre eigene Unsicherheit nicht verlässlich einschätzen. Für exakte, aktuelle oder rechtsverbindliche Aufgaben brauchen sie angebundene Werkzeuge und menschliche Prüfung.
Begriffe im Glossar
Praktische KI für Ihr Unternehmen
Von der Idee zur Umsetzung – wir zeigen Ihnen, was in Ihrem Fall konkret möglich ist.
Demo anfordern