„Der Anbieter wird das schon geregelt haben“: Anbieter oder Betreiber beim AI Act?

KMU bleiben beim Einsatz externer KI regelmäßig selbst Betreiber und tragen Verantwortung für Zweck, Daten, Nutzer, Aufsicht und Ergebnisverwendung. Der Lieferant übernimmt nur die Pflichten seiner eigenen Rolle als Anbieter. Wer ein System unter eigener Marke bereitstellt, wesentlich verändert oder für einen neuen Hochrisiko-Zweck einsetzt, kann zusätzliche Anbieterpflichten übernehmen.

Rechtsstand: 14. Juli 2026. Dieser Beitrag dient der betrieblichen Orientierung und ersetzt keine Rechtsberatung.

Warum genügt der Verweis auf den KI-Anbieter nicht?

Die meisten mittelständischen Unternehmen entwickeln kein eigenes Sprachmodell. Sie kaufen eine fertige Anwendung, aktivieren eine KI-Funktion innerhalb bestehender Software oder beauftragen einen Dienstleister mit der Einrichtung eines Assistenten. Daraus entsteht schnell die Annahme, der Lieferant habe Datenschutz, Informationssicherheit, EU AI Act und sonstige Anforderungen bereits vollständig erledigt.

Diese Annahme vermischt Produktverantwortung mit Einsatzverantwortung.

Der Anbieter kann für Entwicklung, technische Eigenschaften, Dokumentation und die Konformität seiner Lösung verantwortlich sein. Er entscheidet aber normalerweise nicht, welche Mitarbeiter des Kunden das System nutzen, welche Auftragsunterlagen eingegeben werden, auf welche CRM-Daten der Assistent zugreifen darf oder ob eine erzeugte Antwort ungeprüft an einen Kunden gesendet wird.

In einem SHK-Betrieb kann der Lieferant einen KI-Telefonassistenten bereitstellen. Der Betrieb entscheidet jedoch, ob der Assistent nur Rückrufdaten aufnimmt oder auch Störungsbilder bewertet, Termine zusagt und Servicevorgänge anlegt. Ein Anbieter von CRM-Software liefert möglicherweise eine automatische Leadbewertung. Das Unternehmen bestimmt, ob diese Bewertung lediglich einen Hinweis gibt oder darüber entscheidet, welche Anfragen nicht mehr bearbeitet werden.

Auch bei der Analyse von Leistungsverzeichnissen, der Zusammenfassung von Bauprotokollen, der Übersetzung technischer Unterlagen oder der Erstellung von Einsatzberichten bleibt der konkrete Einsatz beim Kunden. Der Anbieter kennt weder sämtliche betrieblichen Abläufe noch alle vertraglichen Zusagen, Geheimhaltungsverpflichtungen und fachlichen Freigaberegeln.

Der EU AI Act verteilt deshalb Pflichten entlang der Wertschöpfungskette. Anbieter und Betreiber sind keine alternative Auswahl nach dem Prinzip „einer von beiden ist verantwortlich“. Beide können gleichzeitig eigene Aufgaben haben. Welche Aufgaben greifen, richtet sich nach System, Rolle, Risikoeinstufung und tatsächlicher Nutzung.

Was unterscheidet einen Anbieter von einem Betreiber?

Der EU AI Act definiert einen Anbieter als eine natürliche oder juristische Person, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt beziehungsweise entwickeln lässt und es unter eigenem Namen oder eigener Marke auf den Markt bringt oder in Betrieb nimmt. Dabei spielt es keine Rolle, ob die Lösung entgeltlich oder kostenlos bereitgestellt wird.

Ein Betreiber ist dagegen eine Organisation, die ein KI-System in eigener Verantwortung beruflich oder geschäftlich verwendet. Die private, nicht berufliche Nutzung ist ausgenommen.

Diese Definitionen führen zu einer wichtigen Unterscheidung:

Ein Unternehmen, das eine fertige KI-Anwendung für interne Aufgaben verwendet, ist normalerweise Betreiber. Ein Unternehmen, das eine eigene KI-Lösung entwickelt oder entwickeln lässt und sie unter dem eigenen Namen in Betrieb nimmt oder Kunden bereitstellt, kann Anbieter sein.

Die Rollen beziehen sich auf das konkrete System. Ein Unternehmen kann deshalb gleichzeitig Betreiber und Anbieter sein. Es nutzt beispielsweise Microsoft Copilot intern als Betreiber, entwickelt aber zusätzlich einen eigenen Kundenassistenten auf Basis eines externen Sprachmodells und tritt für diese Gesamtlösung als Anbieter auf.

Auch innerhalb einer technischen Architektur können mehrere Anbieter beteiligt sein. Ein Unternehmen stellt ein Modell bereit, ein zweites Unternehmen integriert dieses Modell in eine Fachanwendung und ein drittes Unternehmen vertreibt die vollständige Lösung. Der AI Act bezeichnet den Anbieter eines KI-Systems, der ein fremdes Modell integriert, als nachgelagerten Anbieter.

Die Rolle darf daher nicht allein anhand des Vertragstitels bestimmt werden. Begriffe wie Softwarekunde, Reseller, Integrationspartner oder Plattformnutzer beantworten noch nicht, welche Rolle nach dem EU AI Act besteht.

Welche Rolle hat ein Unternehmen bei ChatGPT, Microsoft Copilot oder Claude?

Nutzt ein Unternehmen ChatGPT von OpenAI (https://openai.com/), Microsoft Copilot von Microsoft (https://www.microsoft.com/) oder Claude von Anthropic (https://www.anthropic.com/) als fertigen Dienst für eigene geschäftliche Aufgaben, ist es regelmäßig Betreiber des jeweiligen KI-Systems.

Das gilt beispielsweise, wenn Mitarbeiter:

• E-Mails und Angebote formulieren,
• Besprechungen zusammenfassen,
• öffentlich zugängliche Informationen recherchieren,
• interne Entwürfe strukturieren,
• Texte übersetzen oder überarbeiten,
• Programmcode erklären lassen,
• Serviceberichte aus Notizen erzeugen.

Der jeweilige Technologieanbieter bleibt für seine Anbieterrolle zuständig. Das einsetzende Unternehmen verantwortet dagegen seinen Nutzungskontext. Dazu gehören die Auswahl der Nutzer, die erlaubten Daten, interne Freigaben, die fachliche Prüfung der Ergebnisse und der Umgang mit Fehlern.

Die Risikoeinstufung hängt nicht allein vom Produktnamen ab. Ein allgemeiner Schreibassistent ist nicht automatisch ein Hochrisiko-System. Wird dieselbe technische Grundlage jedoch zur Bewerberbewertung, Leistungsbeurteilung, Mitarbeiterüberwachung oder für eine sicherheitsbezogene Entscheidung konfiguriert, kann sich die Einordnung grundlegend verändern.

Unternehmen sollten außerdem prüfen, welches konkrete Produkt sie verwenden. Eine kostenlose Verbraucherversion, ein Geschäftskonto, eine API, eine in Microsoft 365 integrierte Funktion und eine über einen Drittanbieter bereitgestellte Lösung können unterschiedliche Vertragsparteien, Datenflüsse, Administrationsmöglichkeiten und Speicherbedingungen haben.

Die Aussage „Wir verwenden Copilot“ beschreibt deshalb noch keinen vollständigen Anwendungsfall. Erfasst werden muss, welcher Copilot-Dienst für welchen Zweck, mit welchen Datenquellen und unter welcher Vertragskonstellation genutzt wird.

Welche Verantwortung bleibt beim Betreiber einer Standard-KI?

Auch ein Betreiber, der keine eigene KI entwickelt, behält mehrere Verantwortungsbereiche.

Zunächst entscheidet er über den Zweck. Der Anbieter kann einen Assistenten für allgemeine Produktivitätsaufgaben anbieten. Ob der Kunde ihn für Marketingtexte, technische Diagnosen, Bewerberunterlagen oder Kundenbewertungen nutzt, bestimmt der betriebliche Einsatz.

Der Betreiber kontrolliert außerdem die Eingaben. Dazu gehören personenbezogene Daten, Angebote, Kalkulationen, Vertragsunterlagen, technische Zeichnungen, Projektinformationen, Quellcode und sonstige Geschäftsgeheimnisse. Eine technische Plattform kann Schutzfunktionen anbieten, sie entscheidet jedoch nicht, ob eine bestimmte Eingabe im Unternehmen fachlich und rechtlich zulässig ist.

Hinzu kommt die Ergebnisverwendung. Ein KI-System kann einen Text, eine Empfehlung oder eine Bewertung erzeugen. Erst der Betreiber entscheidet, ob das Ergebnis intern als Arbeitshilfe dient, ungeprüft veröffentlicht oder zur Grundlage einer Entscheidung über Kunden, Bewerber oder Mitarbeiter gemacht wird.

Weitere Aufgaben entstehen aus dem EU AI Act und angrenzenden Regelwerken. Dazu zählen insbesondere:

• Förderung der KI-Kompetenz der beteiligten Personen,
• Unterbindung verbotener KI-Praktiken,
• Umsetzung eigener Transparenzpflichten,
• Datenschutz und arbeitsrechtliche Vorgaben,
• Informationssicherheit und Zugriffsschutz,
• Überwachung des betrieblichen Einsatzes,
• Meldung und Behandlung von Vorfällen.

Bei Hochrisiko-Systemen werden die Betreiberpflichten wesentlich umfangreicher. Betreiber müssen solche Systeme unter anderem entsprechend der Gebrauchsanweisung verwenden, geeignete menschliche Aufsicht sicherstellen, den Betrieb überwachen, kontrollierte Eingabedaten angemessen behandeln und verfügbare Protokolle aufbewahren.

Nach dem aktuellen EU-Zeitplan sollen die umfassenden Vorgaben für eigenständige Hochrisiko-Anwendungen, etwa in Beschäftigung und Personalmanagement, ab dem 2. Dezember 2027 greifen. Für KI als Bestandteil bestimmter regulierter Produkte ist der 2. August 2028 vorgesehen.

Wie unterscheiden sich Anbieter, Betreiber und weitere Rollen?

Die Tabelle zeigt Grundfälle. Im Einzelfall können mehrere Rollen zusammenkommen. Maßgeblich sind Entwicklung, Marke, Zweckbestimmung, Bereitstellung, Veränderung und tatsächlicher Betrieb.

Wann kann ein KMU selbst zum Anbieter werden?

Ein Unternehmen kann Anbieter werden, obwohl es kein eigenes Basismodell trainiert.

Das ist zunächst möglich, wenn es eine KI-Lösung selbst entwickelt oder durch einen Dienstleister entwickeln lässt und unter eigenem Namen in Betrieb nimmt. Ein externer Entwickler ändert daran nicht automatisch etwas. Wer Zweck, Funktionen und Bereitstellung der Gesamtlösung bestimmt, kann selbst Anbieter sein.

Ein typisches Beispiel ist ein branchenspezifischer Kundenassistent. Das Unternehmen verbindet ein fremdes Sprachmodell mit eigenem Wissen, einer Benutzeroberfläche, CRM-Schnittstellen und definierten Arbeitsabläufen. Wird diese Lösung unter der eigenen Marke Kunden oder verbundenen Unternehmen bereitgestellt, muss die Anbieterrolle geprüft werden.

Auch eine ausschließlich intern genutzte Eigenentwicklung kann unter die Anbieterdefinition fallen, wenn das Unternehmen sie entwickeln lässt und unter eigenem Namen für den vorgesehenen Zweck in Betrieb nimmt. Der AI Act erfasst nicht nur den Verkauf an Dritte.

Artikel 25 enthält zusätzliche Regeln für Hochrisiko-Systeme. Danach kann ein Betreiber, Distributor, Importeur oder anderer Beteiligter zum Anbieter eines Hochrisiko-Systems werden, wenn er:

1. seinen eigenen Namen oder seine Marke auf einem bestehenden Hochrisiko-System anbringt,
2. eine wesentliche Veränderung an einem Hochrisiko-System vornimmt und es Hochrisiko bleibt,
3. den vorgesehenen Zweck eines bisher nicht als Hochrisiko eingestuften Systems so verändert, dass daraus ein Hochrisiko-System wird.

In diesen Fällen übernimmt der neue Anbieter grundsätzlich die entsprechenden Anbieterpflichten. Der ursprüngliche Anbieter muss unter bestimmten Voraussetzungen kooperieren und benötigte Informationen oder technischen Zugang bereitstellen.

Diese Rollenverschiebung betrifft nicht jede Anpassung einer gewöhnlichen Büroanwendung. Artikel 25 bezieht sich in diesem Zusammenhang ausdrücklich auf Hochrisiko-Systeme. Dennoch kann bereits die allgemeine Anbieterdefinition relevant werden, wenn aus fremden Komponenten eine eigene Gesamtlösung entsteht.

Reicht eine Konfiguration aus, um Anbieter zu werden?

Eine gewöhnliche Konfiguration macht einen Betreiber nicht automatisch zum Anbieter.

Das Anlegen von Benutzerkonten, das Festlegen erlaubter Daten, die Auswahl eines Modells oder die Erstellung interner Prompt-Vorlagen sind typische Betreiberaufgaben. Dasselbe gilt häufig für die Verbindung einer Standardanwendung mit freigegebenen Dokumenten, solange das Unternehmen die Lösung lediglich im vorgesehenen Rahmen nutzt.

Die Grenze wird relevanter, wenn die Anpassung Zweck, Funktionsweise, Risikoprofil oder Marktauftritt verändert.

Ein Company Brain, das ausschließlich interne Richtlinien durchsucht, bleibt näher an einer betrieblichen Konfiguration. Wird daraus eine eigenständige, unter eigener Marke angebotene Anwendung mit Kundenportal, automatischen Entscheidungen und Schreibrechten in Fachsystemen, spricht mehr für eine eigene Anbieterrolle.

Auch bei Modellen mit allgemeinem Verwendungszweck unterscheidet die Europäische Kommission (https://commission.europa.eu/) zwischen geringfügigen und erheblichen Veränderungen. Nach den Leitlinien führen nur bedeutende Veränderungen eines solchen Modells zu den entsprechenden Pflichten eines Modellanbieters; gewöhnliche kleinere Anpassungen reichen nicht aus.

Das ist von der Verantwortung für das vollständige KI-System zu trennen. Ein Unternehmen kann kein Anbieter des zugrunde liegenden Modells sein und trotzdem Anbieter der darauf aufgebauten Anwendung werden.

Die folgenden Fragen helfen bei der Einordnung:

• Wird nur eine vorhandene Funktion eingestellt oder eine neue Funktion entwickelt?
• Bleibt der vom Lieferanten vorgesehene Zweck bestehen?
• Wird die Lösung unter dem Namen des ursprünglichen Anbieters oder unter eigener Marke eingesetzt?
• Wird das System nur intern genutzt oder gegenüber Kunden bereitgestellt?
• Werden Entscheidungen, Aktionen oder Datenzugriffe ergänzt, die der Anbieter nicht vorgesehen hat?
• Ändert sich die mögliche Auswirkung auf Mitarbeiter, Bewerber, Kunden oder Sicherheit?

Grenzfälle sollten nicht erst nach Vertragsabschluss untersucht werden. Die Rollenfrage gehört in die Konzeption und Beschaffung.

Was gilt beim Weiterverkauf und bei White-Label-Lösungen?

White-Label-Angebote wirken für den Vertrieb attraktiv: Ein Dienstleister stellt die Technik bereit, während das mittelständische Unternehmen die Lösung mit eigenem Namen, Design und Kundenvertrag anbietet.

Genau dadurch kann sich die Rolle verändern.

Bringt ein Unternehmen ein Hochrisiko-System unter eigener Marke auf den Markt, kann es nach Artikel 25 als Anbieter gelten. Bei anderen Systemen kann bereits die allgemeine Definition des Anbieters greifen, wenn das Unternehmen die Lösung entwickeln lässt und unter eigenem Namen bereitstellt.

Ein Vertrag mit dem technischen Hersteller kann Aufgaben verteilen. Er kann etwa festlegen, wer Dokumentation erstellt, Modelländerungen prüft, Vorfälle untersucht, technische Nachweise liefert und Behördenanfragen unterstützt. Der Vertrag ersetzt jedoch nicht die Prüfung, welche Rolle das Unternehmen aufgrund seines tatsächlichen Marktauftritts und seiner Funktionen einnimmt.

Besonders kritisch sind Konstruktionen, bei denen der Vertriebspartner gegenüber dem Kunden als vollständiger Lösungsanbieter auftritt, intern aber keine technischen Unterlagen, Änderungsinformationen oder Prüfberichte erhält. Das Unternehmen übernimmt dann möglicherweise eine umfangreiche Außenrolle, ohne die dafür erforderlichen Informationen zu besitzen.

Vor einem White-Label-Vertrieb sollte daher feststehen:

• Wer legt den vorgesehenen Zweck fest?
• Unter wessen Namen wird die Lösung angeboten?
• Wer beschreibt Funktionen und Grenzen gegenüber Kunden?
• Wer genehmigt Modell- und Funktionsänderungen?
• Wer übernimmt Support und Vorfallbehandlung?
• Wer stellt technische und regulatorische Unterlagen bereit?
• Was geschieht, wenn der technische Lieferant die Zusammenarbeit beendet?

Ein Logo-Austausch ist aus Governance-Sicht kein rein gestalterischer Vorgang.

Was gilt bei eingebetteten KI-Funktionen in CRM, ERP und Fachsoftware?

Eingebettete KI wird häufig übersehen, weil kein separates KI-Produkt beschafft wird. Eine neue Funktion erscheint innerhalb einer bereits freigegebenen Plattform und wird mit wenigen Klicks aktiviert.

Im CRM kann dies eine automatische Gesprächszusammenfassung, Leadbewertung, Verkaufsprognose oder E-Mail-Erstellung sein. Im ERP werden Rechnungen kategorisiert, Materialbedarfe prognostiziert oder Buchungsvorschläge erzeugt. Eine HR-Anwendung kann Stellenanzeigen formulieren, Lebensläufe einordnen oder Bewerber priorisieren.

Für die Rollenverteilung gilt zunächst: Der Softwareanbieter bleibt regelmäßig Anbieter der bereitgestellten KI-Funktion, während das nutzende Unternehmen Betreiber ist. Das Unternehmen muss dennoch den konkreten Anwendungsfall bewerten.

Entscheidend ist, ob die Funktion nur unterstützt oder Entscheidungen wesentlich beeinflusst. Eine automatisch erzeugte CRM-Notiz hat ein anderes Risikoprofil als ein System, das Kunden nach erwarteter Abschlusswahrscheinlichkeit aussortiert. Eine Formulierungshilfe für Stellenanzeigen ist anders zu behandeln als eine Rangliste von Bewerbern.

Der Betreiber sollte außerdem prüfen, ob die Funktion im ursprünglichen Vertrag enthalten war. Neue KI-Funktionen können weitere Modellanbieter, Unterauftragnehmer, Datenübermittlungen und Speicherprozesse einführen. Ein früherer Datenschutz- oder Sicherheitscheck bildet diese Änderungen möglicherweise nicht ab.

Softwareupdates sollten daher nicht ausschließlich technisch betrachtet werden. Bei jeder wesentlichen KI-Erweiterung sind mindestens Zweck, Nutzer, Datenzugriff, Modellanbieter, automatisierte Aktionen, Vertrag und Risikoeinstufung zu aktualisieren.

Ein eingebettetes Feature ist nicht weniger relevant, nur weil es keinen eigenen Login besitzt.

Warum müssen AI-Act-Rollen und Datenschutzrollen getrennt geprüft werden?

Die Begriffe Anbieter und Betreiber stammen aus dem EU AI Act. Die DSGVO arbeitet dagegen mit Verantwortlichem, Auftragsverarbeiter und gegebenenfalls gemeinsam Verantwortlichen.

Diese Rollen sind nicht deckungsgleich.

Ein Unternehmen kann nach dem AI Act Betreiber sein und nach der DSGVO Verantwortlicher, weil es Zweck und wesentliche Mittel der Verarbeitung personenbezogener Daten bestimmt. Der KI-Anbieter kann Auftragsverarbeiter sein, für einzelne eigene Zwecke aber auch eine andere Datenschutzrolle einnehmen.

Der Europäische Datenschutzbeauftragte (https://www.edps.europa.eu/) weist ausdrücklich darauf hin, dass Provider-, Developer- und Deployer-Rollen nicht den datenschutzrechtlichen Rollen entsprechen. Beide Ebenen müssen separat anhand des jeweiligen Vorgangs eingeordnet werden.

Auch ein Auftragsverarbeitungsvertrag beantwortet deshalb nicht automatisch die AI-Act-Frage. Umgekehrt genügt die Feststellung „Wir sind nur Betreiber“ nicht, um datenschutzrechtliche Verantwortung abzugeben.

Für den Einkauf bedeutet das: Die Vertragsakte benötigt mindestens zwei getrennte Rollenbewertungen. Die erste behandelt den EU AI Act. Die zweite betrifft Datenschutz und Datenverarbeitung.

Hinzu kommen Informationssicherheit, Urheberrecht, Arbeitsrecht, Mitbestimmung, Produktsicherheit und branchenspezifische Pflichten. Ein einziges Feld „Anbieter ist compliant“ kann diese Ebenen nicht abbilden.

Welche Fragen sollte ein KMU vor dem KI-Einkauf stellen?

Eine gute Anbieterprüfung beginnt nicht mit einer allgemeinen Frage nach „AI-Act-Konformität“. Diese Formulierung ermöglicht eine pauschale Antwort, obwohl die tatsächliche Verantwortung vom konkreten Einsatz abhängt.

Hilfreicher sind Fragen, die Funktionen, Rollen und Nachweise betreffen.

Welche KI-Funktionen sind enthalten?
Der Anbieter sollte benennen, welche Module generative Inhalte, Vorhersagen, Bewertungen, Klassifizierungen oder automatisierte Aktionen ausführen. Auch standardmäßig deaktivierte Funktionen und geplante Erweiterungen sind relevant.

Wer ist Anbieter des vollständigen Systems und wer stellt das Modell bereit?
Bei mehrstufigen Plattformen können Softwareanbieter, Modellanbieter, Hostinganbieter und Integrationspartner voneinander abweichen.

Welcher vorgesehene Zweck ist dokumentiert?
Der Anbieter sollte beschreiben, wofür das System vorgesehen ist, welche Einsatzbereiche ausgeschlossen sind und unter welchen Bedingungen es verwendet werden soll.

Welche AI-Act-Einstufung nimmt der Anbieter vor?
Bei einem möglichen Hochrisiko-System sind Begründung, Konformitätsunterlagen, Gebrauchsanweisung, CE-Kennzeichnung und Registrierungsstatus zu prüfen.

Welche Daten werden verarbeitet?
Benötigt werden Angaben zu Eingaben, Ausgaben, Metadaten, Protokollen, Gesprächsaufzeichnungen, Trainingsnutzung und Diagnoseinformationen.

Wo werden Daten verarbeitet und gespeichert?
Neben der Region sind Unterauftragnehmer, Supportzugriffe und mögliche Übermittlungen relevant.

Werden Kundendaten für Modelltraining oder Produktverbesserung genutzt?
Die Antwort sollte vertraglich belastbar sein und nicht nur aus einer Marketingaussage bestehen.

Wie werden Rollen und Berechtigungen umgesetzt?
Zu prüfen sind Single Sign-on, Mehrfaktor-Authentisierung, Administratorrechte, Mandantentrennung, Quellenberechtigungen und Entzug von Zugängen.

Welche Protokolle stehen dem Kunden zur Verfügung?
Ein Unternehmen sollte nachvollziehen können, wer das System genutzt, welche Datenquelle eingebunden und welche automatisierte Aktion ausgelöst hat.

Wie informiert der Anbieter über Modell- und Funktionsänderungen?
Ein Modellwechsel kann Leistung, Datenverarbeitung, Ausgaben und Risikoeinstufung verändern.

Wie werden Fehler und Vorfälle behandelt?
Erforderlich sind Meldewege, Reaktionszeiten, technische Ansprechpartner und Unterstützung bei der Bewertung möglicher Schäden.

Welche menschliche Kontrolle unterstützt das System?
Relevant sind Freigaben, Unterbrechung, Zurückweisung, Korrektur und Rückfallprozesse.

Welche Dokumente erhält der Kunde?
Je nach Anwendung gehören dazu Systembeschreibung, Gebrauchsanweisung, Sicherheitsunterlagen, Datenschutzinformationen, Prüfberichte, Modellinformationen und Änderungsprotokolle.

Wie kann das Unternehmen den Anbieter wechseln?
Datenexport, Löschung, Dokumentation und Weiterbetrieb müssen bereits vor Vertragsschluss bedacht werden.

Welche Vertragsklauseln sollten bei externer KI geprüft werden?

Die folgende Checkliste eignet sich als Ausgangspunkt für Einkauf, IT, Datenschutz und Fachbereich:

• Produkt, KI-Funktionen und vorgesehener Zweck sind im Vertrag oder in verbindlichen Anlagen beschrieben.
• Anbieter-, Betreiber-, Integrations- und Datenschutzrollen sind zugeordnet.
• Zulässige Datenarten und ausgeschlossene Inhalte sind festgelegt.
• Hostingregion, Unterauftragnehmer und Supportzugriffe sind dokumentiert.
• Eine Nutzung von Kundendaten für Training oder eigene Anbieterzwecke ist geregelt.
• Speicher-, Lösch- und Exportverfahren sind vereinbart.
• Sicherheitsmaßnahmen, Authentisierung, Berechtigungen und Protokolle sind beschrieben.
• Modell-, Anbieter- und Funktionsänderungen lösen eine Vorabinformation aus.
• Der Kunde erhält erforderliche Betriebs-, Sicherheits- und Compliance-Unterlagen.
• Vorfälle, Fehlfunktionen und behördliche Anfragen haben definierte Melde- und Mitwirkungspflichten.
• Rechte an Eingaben, Ausgaben, Anpassungen und eingebundenem Unternehmenswissen sind geregelt.
• Verfügbarkeit, Support, Rückfallverfahren und Abschaltmöglichkeiten sind vereinbart.
• Audit-, Prüf- oder Nachweisrechte sind dem Risiko angemessen ausgestaltet.
• Vertragsbeendigung, Datenrückgabe, Datenlöschung und Migrationsunterstützung sind berücksichtigt.

Nicht jede Anwendung benötigt denselben Vertragsumfang. Ein kostenloses Schreibwerkzeug für öffentliche Texte stellt andere Anforderungen als ein KI-Telefonassistent mit CRM-Zugriff oder eine HR-Anwendung mit Bewerberdaten.

Welche Dokumentation sollte das Unternehmen selbst führen?

Der Anbieter kann Produktunterlagen bereitstellen. Die Dokumentation des eigenen Nutzungskontexts bleibt beim Unternehmen.

Ein vollständiger Eintrag sollte mindestens enthalten:

• Bezeichnung von System und konkretem Anwendungsfall
• fachlicher und technischer Verantwortlicher
• Anbieter, Modellanbieter und wesentliche Unterauftragnehmer
• vorgesehener betrieblicher Zweck
• Nutzergruppen und betroffene Personen
• verarbeitete Datenarten und verbundene Datenquellen
• AI-Act-Rolle des Unternehmens
• Risikoeinstufung und Begründung
• Datenschutz- und Sicherheitsprüfung
• erlaubte sowie ausgeschlossene Nutzung
• erforderliche menschliche Kontrolle
• Schulungs- und Einweisungsbedarf
• Transparenzhinweise gegenüber Kunden oder Mitarbeitern
• Freigabeentscheidung und offene Maßnahmen
• Datum der letzten Prüfung und nächster Reviewtermin

Bei einer angepassten oder selbst entwickelten Lösung kommen Architektur, Systemanweisungen, Werkzeuge, Aktionsrechte, Testfälle, Versionen und Änderungsprotokolle hinzu.

Die Dokumentation sollte nicht erst für eine mögliche Behördenanfrage erstellt werden. Sie unterstützt bereits den täglichen Betrieb, weil Zuständigkeiten, Nutzungsgrenzen und Eskalationswege nicht jedes Mal neu ausgehandelt werden müssen.

Wie sollte ein KMU den Einkauf organisatorisch gestalten?

Der Prüfprozess sollte zum Risiko passen und trotzdem früh genug beginnen.

Erstens wird der Anwendungsfall beschrieben.
Der Fachbereich erläutert nicht nur den Produktwunsch, sondern Aufgabe, Nutzer, Daten, Ergebnis und geplante Automatisierung. „Wir benötigen Copilot“ ist keine ausreichende Bedarfsmeldung.

Zweitens wird die Rolle vorläufig eingeordnet.
Das Unternehmen prüft, ob es fertige Software nutzt, eine eigene Lösung entwickeln lässt, eine White-Label-Anwendung vertreibt oder ein Modell in ein eigenes System integriert.

Drittens erfolgt die abgestufte Prüfung.
Datenschutz, Informationssicherheit, Einkauf, Fachverantwortung und gegebenenfalls Betriebsrat werden entsprechend dem Einsatz eingebunden. Ein risikoarmer Schreibassistent benötigt weniger Aufwand als Bewerberranking oder technische Entscheidungsunterstützung.

Viertens werden Vertrag und Betriebsbedingungen verbunden.
Die vertraglich zugesagten Funktionen müssen mit den internen Regeln übereinstimmen. Wenn der Vertrag eine Funktion erlaubt, das Unternehmen sie aber nicht freigegeben hat, darf sie nicht allein aufgrund technischer Verfügbarkeit genutzt werden.

Fünftens wird der Betrieb vorbereitet.
Vor Aktivierung werden Verantwortlicher, Nutzer, Berechtigungen, Schulung, menschliche Prüfung, Transparenzhinweise und Vorfallweg festgelegt.

Sechstens wird jede wesentliche Änderung erneut bewertet.
Neue Modelle, Datenquellen, Schreibrechte, automatisierte Aktionen oder Nutzergruppen können die bisherige Einordnung überholen.

Der Prozess muss nicht langsam sein. Standardisierte Fragen und Freigabestufen beschleunigen risikoarme Beschaffungen, weil nicht jedes Projekt bei null beginnt.

Welche vier Kennzahlen zeigen die Bedeutung der Anbieterprüfung?

Nach Eurostat (https://ec.europa.eu/eurostat/) nutzten 2025 bereits 20 Prozent der Unternehmen in der Europäischen Union mit mindestens zehn Beschäftigten KI-Technologien. KI-Einkauf ist damit kein Sonderthema weniger Technologieunternehmen mehr, sondern erreicht zunehmend gewöhnliche Geschäftssoftware, Kundenservice und Fachanwendungen.

In der internationalen AI-Erhebung 2025 von McKinsey & Company (https://www.mckinsey.com/) berichteten 88 Prozent der Befragten, dass ihre Organisation KI regelmäßig in mindestens einer Geschäftsfunktion verwendet. Die Werte stammen nicht aus einer repräsentativen deutschen KMU-Erhebung, zeigen aber, wie schnell Anbieter- und Betreiberbeziehungen zum normalen Bestandteil betrieblicher Prozesse werden.

Die Auswahl des Lieferanten wird dadurch strategischer. In der Deloitte-Erhebung „State of AI in the Enterprise“ gaben 77 Prozent der Unternehmen an, das Herkunftsland einer KI-Lösung bei der Lieferantenauswahl zu berücksichtigen. Neben Funktion und Preis gewinnen damit Datenhoheit, Lieferkette und Abhängigkeit vom Anbieter an Gewicht. Deloitte: https://www.deloitte.com/.

Gleichzeitig berichteten im Global Cybersecurity Outlook 2025 des World Economic Forum (https://www.weforum.org/) nur 37 Prozent der befragten Organisationen, bereits über einen Prozess zur Sicherheitsbewertung von KI-Werkzeugen vor ihrer Einführung zu verfügen. Der Vertrag sollte deshalb nicht das Ende, sondern ein Ergebnis der fachlichen, rechtlichen und technischen Prüfung sein.

Wie entsteht aus dem KI-Einkauf eine arbeitsfähige Governance-Struktur?

Ein verlässlicher KI-Einkauf verbindet vier Ebenen.

Das KI-Verzeichnis dokumentiert System, Zweck, Anbieter, Modell, Daten und Nutzer. Die KI-Richtlinie legt fest, welche Dienste und Daten im Unternehmen zulässig sind. Der Freigabeprozess bindet Fachbereich, IT, Datenschutz, Informationssicherheit und Einkauf passend zum Risiko ein. Die Schulung sorgt dafür, dass Nutzer und Verantwortliche die vereinbarten Grenzen tatsächlich anwenden.

Diese Bausteine verhindern zwei typische Extreme. Das Unternehmen verlässt sich weder vollständig auf Anbieterangaben noch versucht es, technische Produktpflichten des Herstellers selbst zu übernehmen.

Für einen Textassistenten kann die Governance sehr kompakt ausfallen. Bei einem KI-Telefonassistenten, Company Brain, Bewerbermanagement oder einer automatisierten Fachanwendung werden mehr Informationen, Prüfungen und Kontrollen benötigt.

KrambergAI GmbH, https://krambergai.com/, unterstützt mittelständische Unternehmen bei dieser Verbindung aus Anbieterprüfung, KI-Verzeichnis, Richtlinie, Rollenmodell und Dokumentationsgrundlage. Ausgangspunkt ist der konkrete Einsatz im Betrieb: vom Angebotsentwurf über Service und Disposition bis zur digitalen Kundenschnittstelle.

Welche Quellen belegen die verwendeten Kennzahlen?

Eurostat: 20 Prozent der EU-Unternehmen nutzen KI-Technologien
https://ec.europa.eu/eurostat/web/products-eurostat-news/w/ddn-20251211-2

McKinsey & Company: The State of AI – Global Survey 2025
https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai

Deloitte: The State of AI in the Enterprise
https://www.deloitte.com/cz-sk/en/services/consulting/research/the-state-of-ai-in-the-enterprise.html

World Economic Forum: Global Cybersecurity Outlook 2025
https://www.weforum.org/publications/global-cybersecurity-outlook-2025/in-full/1-understanding-complexity-in-cyberspace-587e8c5eba/

Welche Quellen gehören unter „Interessante Links“?

Europäische Kommission: Leitlinien für Anbieter und Betreiber von Hochrisiko-KI-Systemen
https://digital-strategy.ec.europa.eu/en/policies/guidelines-ai-high-risk-systems

Europäischer Datenschutzbeauftragter: Überarbeitete Orientierung zum Einsatz generativer KI
https://www.edps.europa.eu/system/files/2025-10/25-10_28_revised_genai_orientations_en.pdf

Bundesamt für Sicherheit in der Informationstechnik: Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden
https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Generative_KI-Modelle.html

FAQ

Ist ein Unternehmen beim Einsatz von ChatGPT immer nur Betreiber?

Bei der gewöhnlichen Nutzung eines fertigen ChatGPT-Dienstes für interne Aufgaben ist das Unternehmen regelmäßig Betreiber. Entwickelt es jedoch über eine API eine eigene Anwendung, legt deren Zweck fest und nimmt sie unter eigener Marke in Betrieb, kann es Anbieter dieses neuen KI-Systems werden. Die Rolle ist für jeden Anwendungsfall separat zu prüfen.

Ist Microsoft automatisch für alle Copilot-Risiken verantwortlich?

Nein. Microsoft (https://www.microsoft.com/) verantwortet seine Anbieterrolle und die zugesagten Produkteigenschaften. Das einsetzende Unternehmen entscheidet jedoch über Nutzer, Berechtigungen, verbundene Datenquellen und Ergebnisverwendung. Fehlerhafte SharePoint-Rechte, ungeeignete Eingaben oder eine ungeprüfte Nutzung in Personalentscheidungen bleiben deshalb nicht allein Verantwortung des Softwareanbieters.

Macht eine eigene Prompt-Vorlage das Unternehmen zum Anbieter?

Eine interne Prompt-Vorlage reicht normalerweise nicht aus. Sie gehört meist zur Konfiguration und zum betrieblichen Einsatz. Anders kann es werden, wenn Prompts, Datenquellen, Werkzeuge und Benutzeroberfläche zu einer eigenen Lösung verbunden werden, die unter eigener Marke betrieben oder angeboten wird. Dann ist die Gesamtlösung und nicht nur der einzelne Prompt zu bewerten.

Wann gilt eine Veränderung als wesentlich?

Eine wesentliche Veränderung liegt nach dem AI Act vor, wenn eine nach dem Inverkehrbringen vorgenommene, ursprünglich nicht vorgesehene Änderung die Konformität eines Hochrisiko-Systems beeinflusst oder seinen bewerteten Zweck verändert. Gewöhnliche Einstellungen reichen nicht automatisch aus. Funktionen, Automatisierung, Entscheidungswirkung und Datenzugriffe müssen im konkreten System betrachtet werden.

Wird ein Reseller automatisch zum Anbieter?

Nicht jeder Wiederverkäufer wird automatisch Anbieter. Zunächst kann die Rolle eines Distributors vorliegen. Bringt das Unternehmen die Lösung jedoch unter eigener Marke auf den Markt, verändert sie wesentlich oder bestimmt einen neuen Hochrisiko-Zweck, können Anbieterpflichten entstehen. Vertrag, Markenauftritt, technische Anpassung und tatsächliche Kundenleistung müssen zusammen bewertet werden.

Muss der Anbieter eine AI-Act-Bescheinigung vorlegen?

Für gewöhnliche risikoarme KI-Systeme gibt es keine allgemeine AI-Act-Bescheinigung, die sämtliche Einsatzformen abdeckt. Bei Hochrisiko-Systemen sind dagegen unter anderem Konformitätsverfahren, technische Dokumentation, EU-Konformitätserklärung, Kennzeichnung und gegebenenfalls Registrierung relevant. Ein pauschales Werbeversprechen zur Compliance ersetzt diese konkreten Unterlagen und die eigene Betreiberprüfung nicht.

Darf ein KMU die Risikoeinstufung des Anbieters übernehmen?

Die Einstufung des Anbieters ist ein wichtiger Ausgangspunkt, sollte aber mit dem eigenen Anwendungsfall abgeglichen werden. Der Anbieter bewertet den vorgesehenen Zweck seiner Lösung. Das Unternehmen kann durch andere Daten, Nutzer, Automatisierungen oder Entscheidungen einen abweichenden Nutzungskontext schaffen. Besonders bei Personal, Sicherheit und wesentlichen Kundenentscheidungen ist eine eigene dokumentierte Prüfung sinnvoll.

Muss der Anbieter über Modellwechsel informieren?

Eine automatische gesetzliche Informationspflicht hängt von Rolle, System und Risikokategorie ab. Vertraglich sollte eine Vorabinformation vereinbart werden, wenn Modellwechsel Leistung, Datenverarbeitung, Hosting, Unterauftragnehmer, Erklärbarkeit oder Sicherheitsmerkmale beeinflussen können. Ohne Änderungsprozess kann eine einmal geprüfte Lösung unbemerkt unter anderen technischen und vertraglichen Bedingungen weiterlaufen.

Reicht ein Auftragsverarbeitungsvertrag für den KI-Einkauf?

Nein. Ein Auftragsverarbeitungsvertrag behandelt die Verarbeitung personenbezogener Daten im Auftrag. Zusätzlich benötigt das Unternehmen eine Prüfung der AI-Act-Rollen, des vorgesehenen Zwecks, der Informationssicherheit, der Ergebnisqualität, möglicher Transparenzpflichten und betrieblicher Kontrollen. Je nach Anwendung kommen Urheberrecht, Mitbestimmung, Produktsicherheit und branchenspezifische Anforderungen hinzu.

Wer sollte den KI-Vertrag im Unternehmen prüfen?

Der Einkauf sollte den Prozess koordinieren, aber nicht allein entscheiden. Der Fachbereich bewertet Zweck und fachliche Folgen, die IT Architektur und Integration, Datenschutz die personenbezogenen Daten und Informationssicherheit die technischen Risiken. Bei Mitarbeiterbezug sind Personalbereich und Betriebsrat einzubeziehen. Ein benannter Systemverantwortlicher sollte die Gesamtentscheidung dokumentieren.

Muss ein kostenloses KI-Tool ebenfalls geprüft werden?

Ja. Die AI-Act-Rolle hängt nicht vom Preis ab. Kostenlose Dienste können andere Vertragsbedingungen, Speicherregeln, Trainingsnutzung und Administrationsmöglichkeiten aufweisen als Geschäftsversionen. Da häufig kein klassischer Beschaffungsprozess stattfindet, entstehen dort besonders leicht nicht genehmigte Anwendungen. Das Unternehmen sollte den geschäftlichen Einsatz deshalb erfassen und mit Datenregeln verbinden.

Wer haftet, wenn eine KI-Antwort fachlich falsch ist?

Die Antwort hängt von Vertrag, Schaden, Pflichtverletzung und konkreter Nutzung ab. Der Anbieter kann für Produktmängel oder nicht erfüllte Zusagen verantwortlich sein. Das einsetzende Unternehmen bleibt jedoch für ungeprüfte Verwendung, ungeeignete Einsatzbereiche und eigene Entscheidungen verantwortlich. Bei technischen, vertraglichen oder sicherheitsrelevanten Aussagen sollte deshalb eine fachliche Prüfung vorgesehen werden.