KI-Governance für KMU: Sieben Bausteine statt eines hundertseitigen Handbuchs

KI-Governance für KMU benötigt kein eigenes Konzernbüro, sondern ein benanntes Mandat, abgestufte Freigaben und wenige verbindliche Kontrollen. Geschäftsführung, Fachbereich, IT, Datenschutz und Informationssicherheit tragen unterschiedliche Aufgaben. Ein schlankes Betriebsmodell verbindet KI-Verzeichnis, Rollen, menschliche Prüfpunkte, Qualitätsmessung, Vorfallbearbeitung und regelmäßige Reviews.

Rechtsstand: 14. Juli 2026. Dieser Beitrag dient der betrieblichen Orientierung und ersetzt keine Rechtsberatung.

Warum scheitert KI-Governance entweder an Wildwuchs oder an übermäßiger Bürokratie?

In vielen mittelständischen Unternehmen entwickelt sich der KI-Einsatz schneller als die dazugehörige Organisation. Der Vertrieb verwendet einen Schreibassistenten, die Projektleitung fasst Leistungsverzeichnisse zusammen, der Service lässt aus Gesprächsnotizen Einsatzberichte erstellen und die Personalabteilung testet eine Funktion innerhalb der bereits vorhandenen Bewerbersoftware.

Niemand hat beschlossen, ein unternehmensweites KI-Programm zu starten. Trotzdem werden inzwischen Kundendaten verarbeitet, Texte veröffentlicht, technische Informationen ausgewertet und Entscheidungen vorbereitet.

Die erste Reaktion auf diese Entwicklung besteht häufig aus einer allgemeinen Richtlinie. Darin steht, dass Mitarbeiter keine vertraulichen Daten in öffentliche Systeme eingeben dürfen, Ergebnisse prüfen müssen und nur freigegebene Anwendungen verwenden sollen. Das ist ein wichtiger Anfang, beantwortet aber noch nicht, wer eine neue Anwendung prüft, wer sie freigibt, welche Kontrollen während des Betriebs gelten und wer bei einem Vorfall entscheidet.

Das andere Extrem ist ein Governance-Modell, das für jede Formulierungshilfe dieselben Unterlagen verlangt wie für eine Bewerberbewertung oder eine sicherheitsbezogene Fachanwendung. Mehrseitige Anträge, zahlreiche Unterschriften und ein großes Entscheidungsgremium führen dann dazu, dass Fachbereiche ihre Werkzeuge außerhalb des vorgesehenen Prozesses beschaffen.

Ein KMU benötigt weder unkontrollierte Selbstbedienung noch ein Modell, das aus einem Großkonzern kopiert wurde. Der Umfang der Governance sollte sich nach Zweck, Daten, Automatisierungsgrad, betroffenen Personen und möglichen Folgen richten.

Ein KI-Assistent, der allgemeine Produkttexte sprachlich überarbeitet, kann über einen vereinfachten Freigabeweg betrieben werden. Ein System, das Bewerber einordnet, Kunden nach Bonität bewertet, technische Maßnahmen empfiehlt oder selbstständig Nachrichten versendet, benötigt zusätzliche Prüfungen und Kontrollpunkte.

Was muss KI-Governance im täglichen Betrieb tatsächlich leisten?

KI-Governance ist die Verbindung zwischen unternehmerischer Entscheidung und täglicher Nutzung. Sie legt nicht nur Regeln fest, sondern sorgt dafür, dass diese Regeln in Beschaffung, Konfiguration, Berechtigungen, Schulung, Qualitätssicherung und Vorfallbearbeitung wirken.

Ein praktikables Betriebsmodell muss sieben Fragen beantworten:

1. Wer besitzt das Mandat, verbindliche Vorgaben zu erlassen?
2. Welche Aufgaben übernehmen Geschäftsführung, Fachbereich, IT und Kontrollfunktionen?
3. Welche KI-Systeme und Anwendungsfälle sind vorhanden?
4. Wie werden neue Anwendungen geprüft und freigegeben?
5. Welche Zugriffe und menschlichen Prüfpunkte sind erforderlich?
6. Wie werden Betrieb, Qualität, Fehler und Vorfälle überwacht?
7. Wann wird das Gesamtmodell überprüft und angepasst?

Der EU AI Act schreibt nicht jedem Unternehmen ein bestimmtes Organigramm oder einen eigenen „AI Officer“ vor. Die Europäische Kommission weist ausdrücklich darauf hin, dass eine solche Funktion nicht generell verlangt wird. Unternehmen müssen jedoch je nach Rolle und Anwendung konkrete Pflichten erfüllen, darunter Maßnahmen zur KI-Kompetenz sowie bei Hochrisiko-Systemen Vorgaben zu menschlicher Aufsicht, Überwachung und Protokollen.

Auch ISO/IEC 42001 verlangt nicht, dass jedes KMU eine große Organisationseinheit aufbaut. Die freiwillige Managementsystemnorm verbindet Leitung, KI-Politik, Risikomanagement, Lebenszyklussteuerung, Leistungsmessung und fortlaufende Verbesserung. Sie gilt für Organisationen unterschiedlicher Größe, die KI entwickeln, integrieren oder als Drittanbieterprodukt nutzen. Eine Zertifizierung ist möglich, aber nicht vorgeschrieben.

Für den Mittelstand lässt sich daraus ein wesentlich kompakteres Modell ableiten: vorhandene Managementstrukturen nutzen, Verantwortlichkeiten ergänzen und die Kontrolldichte nach Risiko staffeln.

Wer trägt die Gesamtverantwortung für KI?

Die Gesamtverantwortung liegt bei der Unternehmensleitung. Das bedeutet nicht, dass die Geschäftsführung jede Anwendung technisch bewerten oder jede Freigabe selbst unterschreiben muss. Sie muss jedoch den Rahmen bestimmen, Ressourcen bereitstellen und festlegen, welche Risiken das Unternehmen akzeptiert.

Die Geschäftsführung entscheidet beispielsweise, ob öffentliche KI-Dienste grundsätzlich genutzt werden dürfen, ob für vertrauliche Daten nur Unternehmensversionen zugelassen sind und welche Anwendungen eine gesonderte Freigabe benötigen. Sie benennt außerdem eine Person oder Funktion, die das Betriebsmodell koordiniert.

Diese Koordinationsrolle kann je nach Unternehmen bei der IT-Leitung, dem Chief Digital Officer, dem Informationssicherheitsbeauftragten, einem Compliance-Verantwortlichen oder einem erfahrenen Projektleiter liegen. In kleineren Betrieben kann auch ein Mitglied der Geschäftsführung die Rolle übernehmen.

Der Koordinator ist jedoch nicht automatisch Eigentümer sämtlicher Risiken. Ein technischer Verantwortlicher kann nicht beurteilen, ob eine automatisch erzeugte Kalkulation fachlich belastbar ist. Der Datenschutzbeauftragte entscheidet nicht über die wirtschaftliche Notwendigkeit eines Vertriebsassistenten. Die Serviceleitung kennt den Prozess, ist aber nicht allein für Identitätsmanagement oder Anbieterprüfung zuständig.

Ein funktionierendes Modell verteilt deshalb Aufgaben, ohne die Verantwortung im Kreis herumzureichen.

Benötigt ein KMU einen eigenen AI Officer?

Ein gesetzlich vorgeschriebener AI Officer ist für gewöhnliche KMU nicht vorgesehen. Ein Unternehmen sollte trotzdem eine feste Koordinationsfunktion benennen, damit KI-Verzeichnis, Freigaben, Richtlinie, Schulungen und Reviews nicht zwischen mehreren Abteilungen liegen bleiben.

Die Funktion muss keine neue Vollzeitstelle sein. Bei einer überschaubaren Zahl von Anwendungen kann sie als definierte Zusatzaufgabe organisiert werden. Entscheidend sind Mandat, Zeitbudget, Zugang zur Geschäftsführung und die Befugnis, Informationen aus den Fachbereichen anzufordern.

Zu den typischen Aufgaben gehören:

• Pflege des KI-Verzeichnisses,
• Koordination neuer Freigaben,
• Zuordnung von Verantwortlichen,
• Überwachung offener Maßnahmen,
• Vorbereitung des Governance-Reviews,
• Koordination von Schulungen,
• Pflege der Richtlinie und der Vorfallwege.

Die koordinierende Person sollte nicht jede Entscheidung allein treffen. Bei personenbezogenen Daten wird der Datenschutz eingebunden, bei externen Schnittstellen die Informationssicherheit, bei Vertragsfragen der Einkauf und bei fachlichen Auswirkungen der zuständige Prozessverantwortliche.

Ein kleines KI-Gremium kann sinnvoll sein, wenn mehrere Bereiche regelmäßig Anwendungen einführen. Es muss jedoch nicht monatlich über jede neue Textfunktion beraten. Ein Kernteam aus Koordinator, IT, Fachbereich und den jeweils benötigten Kontrollfunktionen genügt häufig.

Wie teilen sich Geschäftsführung, Fachbereich, IT, Datenschutz und Informationssicherheit die Arbeit?

In einem Betrieb mit 40 Mitarbeitern können einzelne Personen mehrere Rollen wahrnehmen. Wichtig ist, dass die Aufgaben trotzdem getrennt betrachtet werden. Wer eine Lösung fachlich bestellt, sollte beispielsweise nicht ohne weitere Prüfung zugleich die Sicherheitsfreigabe erteilen.

Für einen Handwerksbetrieb kann die Rollenverteilung sehr kompakt aussehen: Die Geschäftsführung setzt den Rahmen, der Büroleiter koordiniert das KI-Verzeichnis, der externe IT-Dienstleister prüft Technik und Zugänge, der Fachverantwortliche kontrolliert die Ausgaben und Datenschutzfragen werden mit dem Datenschutzbeauftragten behandelt.

Wie beginnt der erste Baustein mit Mandat und Risikobereitschaft?

Das Betriebsmodell beginnt mit einem kurzen Managementbeschluss. Darin sollte stehen, dass KI-Systeme nur innerhalb eines definierten Verfahrens eingeführt und betrieben werden dürfen, wer das Verfahren koordiniert und welche Anwendungen einer zusätzlichen Entscheidung durch die Geschäftsführung bedürfen.

Ein solcher Beschluss muss kein umfangreiches Strategiepapier sein. Zwei bis vier Seiten können genügen, sofern folgende Punkte enthalten sind:

Das Unternehmen benennt die zuständige Koordinationsrolle. Es legt fest, welche Daten grundsätzlich nicht in öffentliche KI-Dienste eingegeben werden dürfen. Es unterscheidet risikoarme Arbeitshilfen von Anwendungen mit Einfluss auf Kunden, Mitarbeiter, Sicherheit oder vertragliche Leistungen. Außerdem bestimmt es, wann ein Pilot beendet, erweitert oder gestoppt werden muss.

Zur Risikobereitschaft gehört auch die Frage, welche Fehler noch tolerierbar sind. Ein ungeeigneter interner Formulierungsvorschlag kann vom Mitarbeiter verworfen werden. Eine falsche Terminbestätigung an einen Kunden, ein fehlerhafter Ersatzteilhinweis oder eine unzutreffende Aussage über eine verkehrsrechtliche Anordnung kann dagegen konkrete Folgen auslösen.

Die Bewertung darf deshalb nicht nur fragen, wie wahrscheinlich ein Fehler ist. Sie muss auch berücksichtigen, was geschieht, wenn ein Mitarbeiter ihn nicht erkennt.

Wie werden KI-Verzeichnis und Richtlinie zum dritten Baustein verbunden?

Das KI-Verzeichnis beschreibt, welche Systeme und Anwendungsfälle tatsächlich existieren. Die Richtlinie legt fest, unter welchen Bedingungen sie genutzt werden dürfen.

Beide Unterlagen erfüllen unterschiedliche Aufgaben und sollten miteinander verbunden sein.

Im KI-Verzeichnis stehen Anbieter, Zweck, Nutzergruppe, Datenarten, Verantwortlicher, Schnittstellen, Freigabestatus und Risikoeinstufung. Die Richtlinie enthält dagegen allgemeine Regeln für Eingaben, Ergebnisprüfung, vertrauliche Informationen, Veröffentlichungen, Kennzeichnung, nicht genehmigte Werkzeuge und Vorfallmeldungen.

Ein Vertriebsteam kann beispielsweise eine freigegebene Unternehmensversion eines Schreibassistenten verwenden. Das KI-Verzeichnis beschreibt den Anwendungsfall „Entwürfe für individuelle Kundenanschreiben“. Die Richtlinie bestimmt, dass keine vertraulichen Preiskalkulationen eingegeben werden dürfen und dass Angebote vor dem Versand fachlich geprüft werden müssen.

Das BSI empfiehlt Unternehmen, den Ist-Stand ihrer KI-Nutzung zu erfassen und ein Demand Management für neue Anwendungen einzuführen. Damit wird aus einer einmaligen Bestandsaufnahme ein dauerhafter Melde- und Prüfprozess.

Die Richtlinie sollte nicht versuchen, jedes einzelne Produkt zu beschreiben. Produkt- und anwendungsbezogene Bedingungen gehören in das KI-Verzeichnis oder in eine kurze Betriebsanweisung. So bleibt die Richtlinie auch dann nutzbar, wenn ein Anbieter sein Modell oder seine Oberfläche ändert.

Wie funktioniert der vierte Baustein für die Freigabe neuer KI-Anwendungen?

Eine neue KI-Anwendung sollte nicht mit einer langen technischen Selbstauskunft beginnen. Zuerst muss der Fachbereich den betrieblichen Anwendungsfall beschreiben.

Benötigt werden Antworten auf wenige Fragen: Welche Aufgabe soll das System übernehmen? Wer nutzt es? Welche Daten erhält es? Welche Ausgaben oder Aktionen erzeugt es? Wer ist von Fehlern betroffen? Wird nur ein Entwurf erstellt oder verändert das System einen laufenden Geschäftsprozess?

Aus diesen Angaben ergibt sich der Prüfweg.

Ein risikoarmer Fall kann über eine vereinfachte Freigabe behandelt werden. Dazu gehören etwa die sprachliche Überarbeitung allgemeiner Texte, die Strukturierung öffentlich zugänglicher Informationen oder ein freiwilliger Lernassistent ohne formale Bewertungswirkung.

Eine vertiefte Prüfung ist erforderlich, wenn personenbezogene oder vertrauliche Daten verarbeitet werden, das System direkt mit Kunden kommuniziert, Ergebnisse veröffentlicht, Entscheidungen über Personen vorbereitet, auf Fachsysteme zugreift oder selbstständig Aktionen ausführt.

Für den Status eignen sich fünf Stufen: beantragt, in Prüfung, Pilot, genehmigt mit Bedingungen und vollständig genehmigt. Abgelehnte beziehungsweise gesperrte Anwendungen bleiben im Verzeichnis erhalten, damit die Entscheidung später nachvollzogen werden kann.

Der Pilotbetrieb benötigt einen begrenzten Zweck, benannte Nutzer, zulässige Testdaten, Erfolgskriterien, Laufzeit und Abbruchbedingungen. Ein Pilot darf nicht über Monate weiterlaufen, während immer mehr Mitarbeiter und echte Kundendaten hinzukommen.

Welche Unterlagen benötigt eine verhältnismäßige Freigabe?

Für eine einfache Schreib- oder Übersetzungshilfe genügen häufig Anbieter, Produktversion, Zweck, Nutzergruppe, zulässige Daten, Prüfvorgabe und eine dokumentierte Freigabe.

Bei einem KI-Telefonassistenten kommen Gesprächsdaten, Transparenzhinweis, Übergabe an Mitarbeiter, Auftragsverarbeitung, Löschung, Notfallregeln und CRM-Schnittstelle hinzu.

Ein Company Brain benötigt Angaben zu Datenquellen, Dokumentberechtigungen, Rollen, Protokollen, Modellanbieter und dem Verfahren für die Freigabe neuer Wissensbestände.

Bei einer Anwendung im Personalwesen oder in einem sicherheitsbezogenen Prozess werden zusätzlich Risikoklassifizierung, Rechtsprüfung, menschliche Aufsicht, Testfälle, Beschwerden und mögliche Auswirkungen auf betroffene Personen benötigt.

Die Kontrolldichte folgt damit dem Anwendungsfall. Nicht jedes System braucht dieselbe Akte, aber jedes System braucht einen Eigentümer, einen dokumentierten Zweck und einen genehmigten Betriebsrahmen.

Wie werden Berechtigungen und menschliche Kontrollpunkte als fünfter Baustein gestaltet?

Ein menschlicher Kontrollpunkt ist kein allgemeiner Hinweis mit dem Inhalt „Bitte Ergebnis prüfen“. Er ist eine konkrete Stelle im Ablauf, an der eine benannte Person eine Ausgabe prüfen, ändern, ablehnen oder eskalieren muss.

Bei einem Angebotsassistenten kann dieser Punkt vor dem Versand liegen. Der zuständige Kalkulator prüft Mengen, Preis, Leistungsumfang, Ausschlüsse und technische Aussagen.

Bei einer KI-Telefonlösung kann die menschliche Prüfung vor der Termin- oder Preiszusage erfolgen. Der Assistent nimmt das Anliegen auf und erstellt einen Vorgang, die Disposition entscheidet jedoch über Einsatz, Dringlichkeit und Rückruf.

Im Verkehrssicherungsbereich kann eine KI Regelwerke oder Leistungsverzeichnisse zusammenfassen. Die Auswahl einer konkreten Verkehrsführung und die Umsetzung einer verkehrsrechtlichen Anordnung bleiben bei den fachlich zuständigen Personen.

Ein Company Brain kann Mitarbeitern Antworten aus internen Dokumenten liefern. Ein Prüfschritt wird besonders wichtig, wenn daraus verbindliche Kundeninformationen, Vertragsaussagen oder technische Anweisungen entstehen.

Für Hochrisiko-Systeme verlangt Artikel 26, dass die menschliche Aufsicht Personen mit erforderlicher Kompetenz, Schulung, Befugnis und Unterstützung zugeordnet wird. Der Betreiber muss das System außerdem entsprechend der Gebrauchsanweisung verwenden und seinen Betrieb überwachen.

Auch außerhalb des Hochrisikobereichs ist dieses Prinzip nützlich. Die prüfende Person benötigt Zugriff auf die Grundlagen der Ausgabe, ausreichend Zeit und die Befugnis, dem System zu widersprechen. Wer lediglich einen bereits ausgeführten Vorgang nachträglich sieht, übt keine wirksame Kontrolle aus.

Welche Berechtigungsstufen brauchen KI-Assistenten und Agenten?

Bei gewöhnlicher Software wird häufig zwischen Lesen, Schreiben und Administrieren unterschieden. Für KI-Agenten ist eine feinere Aufteilung sinnvoll.

Ein System kann Informationen suchen, Daten zusammenfassen, einen Entwurf erstellen, einen Datensatz verändern, eine Nachricht senden, einen Termin buchen oder einen Vorgang löschen. Diese Fähigkeiten sollten nicht als ein einziges Berechtigungspaket vergeben werden.

Ein Assistent im Kundenservice kann beispielsweise CRM-Daten lesen und einen Antwortentwurf erstellen. Das Versenden bleibt dem Mitarbeiter vorbehalten. Nach einer erfolgreichen Pilotphase kann eine automatische Eingangsbestätigung freigegeben werden, während Preise, Fristen und Leistungszusagen weiterhin menschlich bestätigt werden.

Berechtigungen sollten außerdem auf die verwendeten Quellen wirken. Ein externer Partner darf über ein Company Brain nicht auf interne Kalkulationen oder Personalunterlagen zugreifen. Ein Servicemitarbeiter benötigt möglicherweise Zugriff auf Wartungsanleitungen, aber nicht auf sämtliche Verträge und Geschäftsführungsunterlagen.

Zum Betriebsmodell gehören deshalb regelmäßige Prüfungen von Benutzerkonten, Gruppen, verbundenen Datenquellen, API-Schlüsseln und technischen Dienstkonten. Bei Rollenwechseln oder Austritten müssen Zugänge genauso behandelt werden wie bei ERP, CRM und Dateiablage.

Wie bilden Protokollierung, Qualitätskontrolle und Vorfallbearbeitung den sechsten Baustein?

Protokollierung dient nicht dazu, jede Eingabe sämtlicher Mitarbeiter dauerhaft zu speichern. Sie soll die Informationen bereitstellen, die für Betrieb, Qualität, Untersuchung und Verbesserung erforderlich sind.

Für einen gewöhnlichen Unternehmensassistenten können folgende Angaben ausreichen: Nutzer oder Nutzergruppe, Zeitpunkt, verwendete Systemversion, betroffener Anwendungsfall, ausgelöste Aktion, Fehlerstatus und gegebenenfalls Freigabe durch einen Mitarbeiter.

Bei sensibleren Anwendungen kommen Eingabedatenkategorie, verwendete Wissensquelle, Ergebnisbewertung, Änderungen am System, Administratorzugriffe und Schnittstellenaktionen hinzu.

Artikel 26 sieht für Betreiber von Hochrisiko-Systemen vor, automatisch erzeugte Protokolle grundsätzlich mindestens sechs Monate aufzubewahren, soweit diese ihrer Kontrolle unterliegen und keine andere Rechtsvorschrift eine abweichende Frist verlangt. Für andere KI-Systeme besteht keine pauschale gleichartige Vorgabe. Die Speicherdauer muss daher nach Zweck, Datenschutz, Sicherheitsbedarf und Vertragsanforderungen bestimmt werden.

Qualitätskontrolle benötigt anwendungsbezogene Messgrößen. Eine allgemeine Bewertung wie „Antwort war gut“ genügt für den laufenden Betrieb nur begrenzt.

Bei einem Telefonassistenten können Erkennungsquote, korrekte Aufnahme von Kontaktdaten, Weiterleitungsquote, abgebrochene Gespräche und Beschwerden betrachtet werden. Bei einem Wissensassistenten sind Quellenbezug, Anteil nicht beantwortbarer Fragen, fachliche Korrekturen und unberechtigte Zugriffsversuche relevant. Bei einem Angebotsassistenten zählen fehlerhafte Mengen, geänderte Preise, entfernte Ausschlüsse und notwendige Nacharbeit.

Qualität bedeutet nicht, dass jede Ausgabe fehlerfrei sein muss. Entscheidend ist, dass Fehler erkannt, bewertet und durch geeignete Kontrollen aufgefangen werden.

Wie werden Fehler, Beschwerden und Sicherheitsvorfälle behandelt?

Nicht jede schlechte Antwort ist ein Sicherheitsvorfall. Das Betriebsmodell sollte mindestens vier Fallarten unterscheiden.

Ein Qualitätsfehler liegt vor, wenn eine Antwort fachlich ungeeignet, unvollständig oder nicht ausreichend belegt ist. Der Fachbereich bewertet die Ursache und passt Prüfkriterien, Wissensquellen oder Nutzungsvorgaben an.

Eine Beschwerde entsteht, wenn ein Kunde, Mitarbeiter oder anderer Betroffener eine Ausgabe, Entscheidung oder Kommunikation beanstandet. Die Beschwerde sollte dem zuständigen Anwendungsfall zugeordnet und innerhalb des bestehenden Beschwerdeprozesses bearbeitet werden.

Ein Datenschutz- oder Sicherheitsvorfall kann vorliegen, wenn vertrauliche Informationen offengelegt, unberechtigte Zugriffe ermöglicht, Konten missbraucht oder manipulierte Eingaben verarbeitet wurden. Hier greifen die bestehenden Datenschutz- und Incident-Response-Verfahren.

Ein wesentlicher Betriebsfehler betrifft Fälle, in denen das System wiederholt falsche Aktionen ausführt, sich nicht zuverlässig stoppen lässt oder außerhalb des genehmigten Zwecks arbeitet. Dann ist eine vorläufige Deaktivierung oder Rückkehr zum manuellen Prozess erforderlich.

Das Verfahren sollte festlegen, wer Meldungen annimmt, wie Dringlichkeit bewertet wird, wer das System stoppen darf und wann Anbieter, Geschäftsführung, Datenschutz, Informationssicherheit oder externe Berater eingebunden werden.

ENISA empfiehlt, KI-Systeme als Bestandteile der Informations- und Kommunikationsinfrastruktur zu behandeln und bestehende Sicherheitsmaßnahmen durch KI-spezifische Kontrollen zu ergänzen. Dazu gehört ein fortlaufendes Risikomanagement, das technische und organisatorische Veränderungen über den gesamten Lebenszyklus berücksichtigt.

Ein Stoppszenario sollte vor dem ersten produktiven Einsatz getestet werden. Das Unternehmen muss wissen, wie Zugriffe entzogen, Schnittstellen getrennt, automatische Aktionen angehalten und offene Vorgänge in einen manuellen Prozess überführt werden.

Wann sollte ein KI-System sofort gestoppt werden?

Eine sofortige Unterbrechung ist insbesondere dann angemessen, wenn das System vertrauliche Informationen an unberechtigte Personen ausgibt, wiederholt nicht genehmigte Aktionen ausführt, eine bekannte Schwachstelle ausgenutzt wird oder eine erhebliche Benachteiligung von Personen möglich ist.

Auch ein Anbieterwechsel, ein nicht angekündigter Modellwechsel oder eine neue Datenverarbeitung kann eine vorläufige Pause begründen, wenn die bisherige Freigabe dadurch nicht mehr zum tatsächlichen Betrieb passt.

Nicht jeder Fehler verlangt die vollständige Abschaltung. Häufig genügt es, eine einzelne Funktion zu deaktivieren, den Nutzerkreis zu begrenzen, automatische Aktionen zu stoppen oder zusätzliche menschliche Freigaben einzubauen.

Die Entscheidung sollte anhand vorher festgelegter Schwellen getroffen werden. Unter Zeitdruck erst darüber zu verhandeln, wer einen Agenten abschalten darf, ist ein vermeidbares Betriebsrisiko.

Wie läuft der siebte Baustein als jährlicher oder halbjährlicher Review?

Der EU AI Act schreibt für gewöhnliche KI-Anwendungen keinen allgemeinen jährlichen Governance-Termin vor. Ein fester Rhythmus ist dennoch sinnvoll, weil sich Systeme, Anbieter, Modelle, Datenquellen und Nutzungspraxis laufend verändern.

Für risikoarme Anwendungen kann ein jährlicher Review genügen. Anwendungen mit Kundenschnittstellen, personenbezogenen Daten, umfangreichen Berechtigungen oder automatisierten Aktionen sollten mindestens halbjährlich betrachtet werden. Bei schnellen Produktänderungen können kürzere technische Kontrollen notwendig sein.

Der Review sollte nicht nur prüfen, ob Dokumente vorhanden sind. Er sollte beantworten, ob das Betriebsmodell tatsächlich funktioniert.

Auf der Tagesordnung stehen typischerweise:

• neue, geänderte und stillgelegte KI-Systeme,
• fehlende Verantwortliche oder überfällige Freigaben,
• offene Maßnahmen aus Datenschutz und Informationssicherheit,
• Qualitätswerte, Beschwerden und Vorfälle,
• Modell-, Anbieter- und Vertragsänderungen,
• Berechtigungen und verbundene Datenquellen,
• Schulungsstand der betroffenen Rollen,
• Ausnahmen von der KI-Richtlinie,
• Anwendungen ohne ausreichenden Nutzen,
• geplante neue Anwendungsfälle.

Der Review endet mit Entscheidungen, Verantwortlichen und Terminen. Eine reine Präsentation des KI-Verzeichnisses ist noch keine Steuerung.

ISO/IEC 42001 ordnet Leistungsmessung und fortlaufende Verbesserung ausdrücklich dem KI-Managementsystem zu. Unternehmen können diese Elemente auch ohne Zertifizierungsprojekt in ihren bestehenden Managementreview, Datenschutz-Jahresplan oder Informationssicherheitsprozess integrieren.

Wie sieht ein halbjährlicher Governance-Review in einem KMU praktisch aus?

Ein Review muss keinen ganzen Arbeitstag beanspruchen. Bei einer überschaubaren Anzahl von Anwendungen kann ein zweistündiger Termin mit vorbereiteter Entscheidungsliste ausreichen.

Der KI-Koordinator aktualisiert vorab das Verzeichnis und fordert von den Systemverantwortlichen Angaben zu Änderungen, Qualität und offenen Problemen an. IT liefert eine Übersicht über neue Schnittstellen und Berechtigungen. Datenschutz und Informationssicherheit benennen offene Prüfungen. Die Fachbereiche berichten, ob der erwartete Nutzen eingetreten ist und welche Nacharbeit entsteht.

Im Termin werden nur Fälle diskutiert, die eine Entscheidung benötigen. Ein stabiler Schreibassistent ohne Änderungen muss nicht erneut vollständig vorgestellt werden. Ein Telefonassistent mit neuer Terminbuchung, ein Agent mit zusätzlichen Schreibrechten oder eine HR-Anwendung mit verändertem Bewertungsmodell benötigen dagegen eine erneute Betrachtung.

Das Ergebnis ist eine kurze Maßnahmenliste. Sie kann beispielsweise vorsehen, eine Funktion zu begrenzen, einen Vertrag anzupassen, eine Schulung zu wiederholen, zusätzliche Testfälle einzuführen oder ein wenig genutztes System stillzulegen.

Wie unterscheiden sich Governance-Anforderungen nach Branche und Prozess?

Ein allgemeines Rollenmodell kann branchenübergreifend verwendet werden. Die Qualitäts- und Kontrollpunkte müssen jedoch zum jeweiligen Arbeitsablauf passen.

Im SHK- oder Elektroservice darf ein KI-Assistent eine Störungsmeldung strukturieren. Die Entscheidung, ob ein Notdienst erforderlich ist, welche Sicherheitsmaßnahmen gelten und welcher Techniker eingesetzt wird, benötigt fachliche Verantwortung.

Im Bau- und Projektgeschäft kann KI Leistungsverzeichnisse, Protokolle und Nachträge vorbereiten. Mengen, Fristen, Vertragsbezüge und Leistungsabgrenzungen werden vor einer externen Verwendung geprüft.

In der Verkehrssicherung kann ein Assistent Regelwerke und Projektdaten erschließen. Verkehrsrechtliche Anordnungen, Regelpläne und konkrete Maßnahmen dürfen nicht durch eine allgemeine Modellausgabe ersetzt werden.

Im Yachtservice oder in einer Marina kann ein Assistent Kundenanfragen, Wartungshistorien und Terminwünsche zusammenführen. Technische Freigaben, sicherheitsrelevante Hinweise und verbindliche Liegeplatz- oder Leistungszusagen verbleiben bei den zuständigen Mitarbeitern.

Im Personalwesen steigen die Anforderungen, sobald KI nicht mehr nur Texte formuliert, sondern Bewerber, Beschäftigte oder Leistungen bewertet. Dann werden Risikoklassifizierung, Datenschutz, Mitbestimmung und menschliche Entscheidungspunkte zu zentralen Teilen des Betriebsmodells.

Welche vier Kennzahlen zeigen die Lücke zwischen KI-Nutzung und Governance?

Die internationale ISACA-Erhebung von 2026 unter mehr als 3.400 Fachleuten aus Governance, IT-Audit, Datenschutz und Cybersicherheit zeigt, wie weit Nutzung und Steuerung auseinanderliegen. 90 Prozent der Befragten gehen davon aus, dass Beschäftigte in ihrer Organisation KI einsetzen. Nur 38 Prozent berichten jedoch von einer umfassenden formalen KI-Richtlinie.

Besonders relevant für den laufenden Betrieb ist die Reaktion auf Störungen: 56 Prozent wussten nicht, wie lange ihre Organisation benötigen würde, um ein KI-System wegen eines Sicherheitsvorfalls zu stoppen.

Im Deutschland-Ausschnitt der globalen KPMG- und University-of-Melbourne-Studie gaben 46 Prozent der Beschäftigten an, dass ihr Unternehmen Richtlinien und Verfahren für einen verantwortlichen KI-Einsatz besitzt. Die Erhebung zeigt zugleich, dass formale Vorgaben noch längst nicht in allen Arbeitsumgebungen angekommen sind.

Die Studien sind nicht als repräsentative Bestandsaufnahme aller deutschen KMU zu verstehen. Sie zeigen jedoch ein wiederkehrendes Muster: Anwendungen verbreiten sich schneller als Zuständigkeiten, Abschaltverfahren und betriebliche Kontrollen.

Wie lässt sich das Modell in einem standardisierten Governance-Basispaket umsetzen?

Ein mittelstandstaugliches Basispaket sollte nicht mit einem umfassenden Handbuch beginnen. Es sollte die Unterlagen und Verfahren bereitstellen, die für den ersten geregelten Betrieb tatsächlich benötigt werden.

Dazu gehören ein KI-Verzeichnis mit Verantwortlichen und Freigabestatus, ein Rollenmodell, eine kompakte KI-Richtlinie, ein abgestufter Genehmigungsprozess, eine Schulungsstruktur und ein Kontrollverfahren für Qualität und Vorfälle.

Im ersten Schritt werden vorhandene Anwendungen erfasst und nach Zweck, Daten und Auswirkungen eingeordnet. Danach werden genehmigte, bedingt genehmigte, zu prüfende und nicht zulässige Nutzungen getrennt.

Im zweiten Schritt erhalten die wichtigsten Anwendungsfälle einen Systemverantwortlichen, eine Betriebsbedingung und einen menschlichen Prüfpunkt. Nicht jedes Werkzeug wird gleich behandelt.

Im dritten Schritt werden Vorfallweg, Reviewrhythmus und Änderungsprozess eingerichtet. Neue Funktionen, Datenquellen und Automatisierungen gelangen damit nicht unbemerkt in den produktiven Betrieb.

KrambergAI GmbH, https://krambergai.com/, verbindet diese Elemente in einem standardisierten Governance-Basispaket für mittelständische Unternehmen. Das Ergebnis ist kein statisches Regelwerk, sondern ein nutzbarer Betriebsrahmen, der mit zusätzlichen KI-Anwendungen erweitert werden kann.

Welche Quellen belegen die verwendeten Kennzahlen?

ISACA: AI Use Accelerates, While Governance and ROI Lag – 2026 AI Pulse Poll
https://www.isaca.org/about-us/newsroom/press-releases/2026/ai-use-accelerates-while-governance-and-roi-lag-says-new-isaca-research

KPMG und University of Melbourne: Trust, Attitudes and Use of AI – Germany Snapshot 2025
https://assets.kpmg.com/content/dam/kpmgsites/xx/pdf/2025/05/trust-attitudes-and-use-of-ai-germany-snapshot.pdf.coredownload.inline.pdf

Welche interessanten Links vertiefen das Thema?

ISO: ISO/IEC 42001 – Managementsysteme für künstliche Intelligenz
https://www.iso.org/home/insights-news/resources/iso-42001-explained-what-it-is.html

BSI: Sichere generative KI in Organisationen und Unternehmen
https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/Publikationen/Broschueren/Management_Blitzlicht/Management_Blitzlicht_Generative-KI.pdf?__blob=publicationFile&v=3

ENISA: Mehrschichtiges Rahmenwerk für Cybersicherheitsmaßnahmen bei KI
https://www.enisa.europa.eu/sites/default/files/publications/Multilayer%20Framework%20for%20Good%20Cybersecurity%20Practices%20for%20AI.pdf

Fragen und Antworten

Braucht jedes KMU einen eigenen AI Officer?

Nein. Der EU AI Act verlangt nicht generell die Benennung eines AI Officers. Ein KMU sollte jedoch eine feste Koordinationsrolle bestimmen, die KI-Verzeichnis, Freigaben, Richtlinie, Schulungen und Reviews zusammenführt. Diese Aufgabe kann einer bestehenden Funktion übertragen werden, sofern Mandat, Zeitbudget und Zugang zur Geschäftsführung vorhanden sind.

Wer darf eine neue KI-Anwendung freigeben?

Die Freigabe sollte vom Risiko abhängen. Eine einfache Formulierungshilfe kann durch Fachbereich und KI-Koordinator genehmigt werden. Bei personenbezogenen Daten, Kundenschnittstellen, automatisierten Aktionen oder sicherheitsbezogenen Prozessen werden zusätzlich IT, Datenschutz und Informationssicherheit beteiligt. Anwendungen mit erheblicher Auswirkung benötigen eine Entscheidung der Geschäftsführung.

Sollte der Datenschutzbeauftragte die KI-Governance leiten?

Nicht zwingend. Der Datenschutzbeauftragte berät und überwacht Fragen der Verarbeitung personenbezogener Daten, trägt aber nicht allein die Verantwortung für Zweck, Wirtschaftlichkeit, fachliche Qualität und technische Sicherheit. Die Koordination kann bei IT, Digitalisierung, Compliance oder einer Managementfunktion liegen. Datenschutz bleibt ein verbindlicher Beteiligter bei einschlägigen Anwendungsfällen.

Wie viele Freigabestufen benötigt ein KMU?

Für viele Unternehmen genügen drei Prüfwege: vereinfachte Freigabe für risikoarme Arbeitshilfen, vertiefte Prüfung für Anwendungen mit sensiblen Daten oder Außenwirkung und Managemententscheidung für Anwendungen mit erheblichem Einfluss. Ergänzend können die Status beantragt, Pilot, bedingt genehmigt, genehmigt und gesperrt im KI-Verzeichnis verwendet werden.

Was ist ein menschlicher Kontrollpunkt?

Ein menschlicher Kontrollpunkt ist eine konkrete Stelle im Prozess, an der eine benannte Person eine KI-Ausgabe prüfen, ändern, zurückweisen oder eskalieren muss. Die Person benötigt fachliche Kompetenz, ausreichende Informationen, Zeit und Entscheidungsbefugnis. Ein allgemeiner Hinweis zur Prüfung oder eine nachträgliche Sichtung bereits ausgeführter Aktionen genügt dafür nicht.

Welche Protokolle sollte ein Unternehmen führen?

Die Protokollierung richtet sich nach Zweck und Risiko. Häufig sinnvoll sind Nutzer oder Nutzergruppe, Zeitpunkt, Systemversion, betroffener Anwendungsfall, ausgeführte Aktion, menschliche Freigabe und Fehlerstatus. Bei sensiblen Systemen kommen Quellenzugriffe, Administrationsänderungen und Schnittstellenaktionen hinzu. Datenschutz und notwendige Speicherdauer müssen dabei berücksichtigt werden.

Wie oft sollte die Qualität einer KI-Anwendung geprüft werden?

Die operative Qualität sollte fortlaufend anhand passender Messgrößen beobachtet werden. Ein formaler Governance-Review kann bei risikoarmen Anwendungen jährlich und bei Anwendungen mit Kundendaten, weitreichenden Berechtigungen oder automatisierten Aktionen halbjährlich erfolgen. Wesentliche Änderungen, Beschwerden, Modellwechsel und Sicherheitsvorfälle lösen unabhängig vom festen Rhythmus eine erneute Prüfung aus.

Was geschieht nach einer falschen KI-Ausgabe?

Zunächst wird festgestellt, ob ein gewöhnlicher Qualitätsfehler, eine Kundenbeschwerde, ein Datenschutzproblem oder ein Sicherheitsvorfall vorliegt. Danach werden betroffene Vorgänge korrigiert, Ursachen untersucht und Kontrollen angepasst. Je nach Auswirkung können zusätzliche Prüfpunkte, eingeschränkte Berechtigungen, neue Testfälle, eine Anbietermeldung oder eine vorläufige Deaktivierung erforderlich sein.

Wann muss ein KI-System gestoppt werden?

Eine Unterbrechung ist insbesondere bei unberechtigter Datenoffenlegung, wiederholten nicht genehmigten Aktionen, ausgenutzten Schwachstellen oder erheblichen Auswirkungen auf Personen angezeigt. Nicht immer muss das gesamte System abgeschaltet werden. Häufig können einzelne Funktionen, Schnittstellen oder automatische Aktionen deaktiviert werden, während ein manueller Ersatzprozess weiterläuft.

Reicht eine Tabelle als KI-Governance-System aus?

Eine Tabelle kann als KI-Verzeichnis ausreichen, ersetzt aber nicht das Betriebsmodell. Zusätzlich benötigt das Unternehmen Verantwortliche, Freigabewege, Richtlinien, Schulungen, Prüfpunkte, Vorfallverfahren und regelmäßige Reviews. Bei wachsender Systemzahl können SharePoint, Airtable oder Governance-Software die Pflege erleichtern. Entscheidend bleiben die dahinterliegenden Entscheidungen und Prozesse.