Wie richten KMU eine praktische KI-Governance ein?

Was KI-Governance für ein KMU wirklich bedeutet

Governance ist keine Bürokratie, sondern eine Reihe klarer Entscheide: Wer darf welches KI-Werkzeug für welchen Zweck nutzen, mit welchen Daten - und wie wird das Ergebnis überprüft? Für ein KMU heisst das nicht, Konzern-Frameworks zu kopieren, sondern eine handhabbare Fassung davon zu bauen, die zum Team passt und tatsächlich gelebt wird.

Der Handlungsdruck ist real. Ohne Regeln entsteht Schatten-KI: Mitarbeitende fügen Kundendaten, Verträge oder Quellcode in kostenlose Chatbots ein, ohne zu wissen, wohin die Daten fliessen. Gleichzeitig verlangen das revidierte Datenschutzgesetz (revDSG) und der extraterritoriale EU AI Act zunehmend nachweisbare Sorgfalt. Eine schlanke Governance schützt vor beidem - Datenabfluss und Regelverstoss - und macht KI-Nutzen planbar statt zufällig.

Rollen: Wer die KI-Governance im kleinen Team verantwortet

Sie brauchen keinen Chief AI Officer. Sie brauchen eine namentlich benannte, verantwortliche Person und ein paar klar verteilte Aufgaben. Entscheidend ist Rechenschaft: Eine konkrete Person hält das Inventar aktuell, beantwortet Fragen und gibt neue Anwendungsfälle frei. Alles andere kann verteilt und leichtgewichtig bleiben.

• Sponsor (Geschäftsleitung): setzt den Rahmen, gibt Budget und Rückendeckung, trägt die letzte Verantwortung.
• KI-Verantwortliche:r (oft IT-Lead oder Inhaber:in): pflegt Richtlinie und Inventar, prüft neue Werkzeuge, ist Anlaufstelle.
• Datenschutz-Kontakt: prüft Personendaten-Bezug; im KMU oft dieselbe Person, bei revDSG-relevanten Vorgängen einbezogen.
• Nutzende (alle Mitarbeitenden): halten die Richtlinie ein, kennzeichnen KI-Ergebnisse und melden Zwischenfälle.

Die einseitige KI-Richtlinie: was hineingehört

Eine gute KMU-Richtlinie passt auf eine Seite und wird gelesen, weil sie kurz und konkret ist. Sie beantwortet die Fragen, die im Alltag wirklich auftauchen: Welche Werkzeuge sind erlaubt, welche Daten dürfen nie hinein, wer bleibt verantwortlich, und wie wird KI-Nutzung transparent gemacht.

• Erlaubte und verbotene Werkzeuge - eine kurze Liste freigegebener Dienste plus die Regel, Neues vorab freigeben zu lassen.
• Datenklassifizierung - klar benennen, was nie eingegeben werden darf: Personendaten, Geschäftsgeheimnisse, Zugangsdaten, vertrauliche Kundeninhalte.
• Menschliche Verantwortung - KI ist Assistenz, nicht Entscheider; die Mitarbeitenden bleiben für das Ergebnis verantwortlich.
• Transparenz - wo sinnvoll oder gefordert, KI-generierte Inhalte kennzeichnen, intern wie extern.
• Prüfpflicht - Ergebnisse auf Fakten, Bias und Vertraulichkeit prüfen, bevor sie das Haus verlassen oder eine Entscheidung stützen.

Menschliche Aufsicht: eine Person in der Schleife halten

Nicht jeder KI-Einsatz braucht dieselbe Kontrolle. Ein Entwurf für eine interne E-Mail ist etwas anderes als eine Vorauswahl von Bewerbungen. Die Faustregel: Je grösser die Auswirkung auf Menschen, desto verbindlicher die menschliche Prüfung. Der EU AI Act verlangt für Hochrisiko-Systeme ausdrücklich wirksame menschliche Aufsicht - ein guter Massstab auch dort, wo Sie rechtlich (noch) nicht dazu verpflichtet sind.

• Immer menschlich prüfen: Entscheide zu Anstellung, Kredit, Kündigung, Preis, Gesundheit oder Sicherheit sowie alles Rechtsverbindliche.
• Stichprobe genügt: bei geringem Risiko wie internen Entwürfen oder Ideensammlungen reicht sporadische Kontrolle.
• Kein Blindvertrauen: Prüfende müssen KI-Ergebnisse überstimmen können und dürfen sich nicht automatisch darauf verlassen (Automation Bias).

Dokumentation: das KI-Inventar als Rückgrat

Das einzige Dokument, das Sie wirklich brauchen, ist ein einfaches KI-Inventar - eine Tabelle, kein Aktenordner. Sie zeigt auf einen Blick, wo im Betrieb KI im Einsatz ist, mit welchen Daten und wer verantwortlich zeichnet. Dieses Register ist die Grundlage für Risikoprüfung, Lieferanten-Sorgfalt und die Nachweisbarkeit, die revDSG und EU AI Act verlangen.

• Pro Anwendung erfassen: Werkzeug, Zweck, verwendete Datenarten, verantwortliche Person, Risikostufe, Status des Auftragsbearbeitungsvertrags.
• Lieferanten-Sorgfalt: Hosting-Standort, Sub-Auftragnehmer, ob Eingaben zum Training genutzt werden, und ein passender AVV/DPA.
• Bei Personendaten: prüfen, ob eine Datenschutz-Folgenabschätzung nötig ist, und den Vorgang im Bearbeitungsverzeichnis führen.

Leichtgewichtige Risikoprüfung und Schweizer Rechtsrahmen

Bevor ein neuer Anwendungsfall live geht, genügt eine kurze Triage in wenigen Minuten: Welche Daten sind betroffen, wer wird durch das Ergebnis berührt, und was passiert im Fehlerfall? Der EU AI Act denkt in Risikoklassen - unannehmbar, hoch, begrenzt, minimal - und dieselbe Logik hilft KMU, Aufwand dorthin zu lenken, wo er zählt. Die meisten KMU-Anwendungen sind minimal- oder begrenzt-riskant; die wenigen heiklen erkennen Sie so früh.

Für Schweizer KMU gelten zwei Bezugspunkte parallel. Erstens das revidierte DSG (revDSG), beaufsichtigt vom EDÖB - nicht die DSGVO, auch wenn vieles ähnlich ist. Zweitens der EU AI Act, der extraterritorial greift, sobald Ergebnisse in der EU verwendet werden oder Sie EU-Kunden bedienen. Wer beides früh mitdenkt, muss später nichts nachbauen. Angebote wie Innosuisse oder Schweizer Modelle im Umfeld von ETH und EPFL (etwa Apertus) zeigen zudem, dass datenschutzfreundliche, lokale KI-Optionen zunehmend verfügbar sind.

In 90 Tagen startklar: ein realistischer Fahrplan

• Tage 1-30: KI-Verantwortliche:n benennen, bestehende Nutzung inklusive Schatten-KI erheben und das Inventar erstmals füllen.
• Tage 31-60: einseitige Richtlinie verabschieden, freigegebene Werkzeuge festlegen und eine kurze Team-Schulung durchführen.
• Tage 61-90: Risiko-Triage für laufende Fälle nachziehen, AVV/DPA prüfen und einen fixen Quartals-Review terminieren.
• Danach laufend: Inventar aktuell halten, neue Anwendungsfälle freigeben, Vorfälle festhalten und die Richtlinie jährlich überarbeiten.