EU AI Act August 2026: Pflichten für den Mittelstand

Ab dem 2. August 2026 greifen für mittelständische Unternehmen vor allem neue Transparenz-, Kennzeichnungs- und Aufsichtsvorgaben des EU AI Act. Die umfangreichen Pflichten für Hochrisiko-Systeme wurden jedoch bis Dezember 2027 beziehungsweise August 2028 verschoben. Entscheidend sind jetzt ein vollständiges KI-Inventar, eine belastbare Risikoeinstufung und dokumentierte Zuständigkeiten für den laufenden Betrieb.

Rechtsstand: 14. Juli 2026. Der Beitrag dient der betrieblichen Orientierung und ersetzt keine Rechtsberatung.

Warum bleibt der 2. August 2026 für den Mittelstand ein wichtiger Termin?

Die Einführung des EU AI Act erfolgt nicht an einem einzigen Stichtag. Die Verordnung gilt stufenweise. Erste Verbote und Anforderungen an die KI-Kompetenz greifen bereits seit Februar 2025, Regelungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck seit August 2025. Am 2. August 2026 wird ein weiterer großer Teil der Verordnung anwendbar, insbesondere die Transparenzpflichten für Chatbots, KI-generierte Inhalte und bestimmte Systeme, die mit Menschen interagieren.

Gleichzeitig wurde der Zeitplan kurz vor dem ursprünglichen Termin verändert. Das Europäische Parlament und der Rat haben die Anwendung der umfangreichen Hochrisiko-Vorschriften verschoben. Für eigenständige Hochrisiko-Systeme, etwa in der Personalauswahl oder Mitarbeitersteuerung, gilt nun der 2. Dezember 2027. Für KI als Sicherheitskomponente regulierter Produkte ist der 2. August 2028 vorgesehen. Der Rat gab der Änderung am 29. Juni 2026 seine endgültige Zustimmung. Laut Ratsmitteilung folgt die Veröffentlichung im Amtsblatt; die Änderung tritt am dritten Tag danach in Kraft.

Das bedeutet nicht, dass mittelständische Unternehmen bis 2027 abwarten sollten. Die Aufgaben verschieben sich vielmehr von einer kurzfristigen Vollumsetzung hin zu einem geordneten Aufbau der eigenen KI-Governance. Wer heute nicht weiß, welche KI-Dienste in Vertrieb, Personal, Arbeitsvorbereitung, Service, Projektabwicklung oder Produktion genutzt werden, kann weder Pflichten bewerten noch belastbare Auskünfte gegenüber Kunden, Betriebsrat, Versicherern, Datenschutzbeauftragten oder Behörden geben.

In Deutschland nimmt die nationale Aufsichtsstruktur ebenfalls Gestalt an. Der Bundesrat stimmte dem deutschen Durchführungsgesetz am 10. Juli 2026 zu. Die Bundesnetzagentur soll eine zentrale Rolle bei Marktüberwachung, Koordination und Unterstützung von Unternehmen übernehmen. Zum Redaktionsstand stand noch die Ausfertigung und Verkündung des Gesetzes aus.

Welche Vorschriften des EU AI Act gelten bereits?

Bereits seit dem 2. Februar 2025 dürfen bestimmte KI-Praktiken nicht mehr eingesetzt werden. Dazu gehören manipulative Systeme, bestimmte Formen des Social Scoring, das ungezielte Sammeln von Gesichtsbildern zum Aufbau von Gesichtserkennungsdatenbanken und die Ableitung von Emotionen am Arbeitsplatz, sofern keine eng begrenzte medizinische oder sicherheitsbezogene Ausnahme greift. Auch biometrische Kategorisierungen, aus denen besonders geschützte persönliche Merkmale abgeleitet werden, sind grundsätzlich verboten.

Für mittelständische Unternehmen ist vor allem die Emotionserkennung im Arbeitsumfeld relevant. Ein System, das aus Mimik, Stimme oder Verhalten vermeintliche Motivation, Stress, Aufmerksamkeit oder Stimmung von Mitarbeitern ableitet, darf nicht allein deshalb eingesetzt werden, weil es technisch verfügbar ist. Das betrifft beispielsweise KI-gestützte Videoanalysen, Gesprächsauswertungen im Callcenter oder Software, die aus Kamerabildern einen emotionalen Zustand ableiten soll.

Ebenfalls seit Februar 2025 gilt Artikel 4 zur KI-Kompetenz. Unternehmen, die KI-Systeme anbieten oder einsetzen, müssen sich mit den Fähigkeiten der beteiligten Mitarbeiter befassen. Die 2026 beschlossene Novelle formuliert diese Verpflichtung künftig als Unterstützung der Entwicklung von KI-Kompetenz. Für die betriebliche Praxis bleibt jedoch entscheidend, dass Mitarbeiter ihre Werkzeuge, Grenzen, Datenrisiken und Kontrollpflichten kennen. Eine allgemeine Präsentation für die gesamte Belegschaft genügt nicht immer. Einkauf, Personalabteilung, IT-Administration, Marketing und operative Fachbereiche benötigen unterschiedliche Inhalte.

Seit dem 2. August 2025 gelten außerdem wesentliche Governance-Vorschriften sowie Pflichten für Anbieter von General-Purpose-AI-Modellen. Die meisten deutschen Mittelständler entwickeln kein eigenes Basismodell. Trotzdem wirken diese Regelungen indirekt: Beim Einkauf eines Sprachmodells, eines KI-Assistenten oder einer Plattform sollte das Unternehmen prüfen, ob der Anbieter die benötigten technischen Informationen, Nutzungsbedingungen, Copyright-Angaben, Sicherheitsunterlagen und Änderungsinformationen bereitstellt.

Unabhängig vom EU AI Act gelten weiterhin die DSGVO, das Urheberrecht, Geschäftsgeheimnisschutz, Informationssicherheit, arbeitsrechtliche Vorgaben und betriebliche Mitbestimmung. Ein KI-System kann nach dem AI Act ein geringes Risiko haben und dennoch wegen personenbezogener Daten, vertraulicher Angebotsunterlagen oder interner Kalkulationen erhebliche andere Risiken verursachen.

Was ändert sich am 2. August 2026 konkret?

Für viele mittelständische Unternehmen stehen am 2. August nicht die Hochrisiko-Anforderungen im Vordergrund, sondern Artikel 50 des EU AI Act. Dieser regelt die Transparenz bestimmter KI-Systeme und KI-generierter Inhalte.

Unternehmen müssen Menschen grundsätzlich darüber informieren, wenn sie direkt mit einem KI-System interagieren und dies aus dem jeweiligen Zusammenhang nicht ohnehin offensichtlich ist. Ein Chatbot auf der Website, ein automatisierter digitaler Empfang oder ein KI-Telefonassistent sollte deshalb bereits zu Beginn mitteilen, dass die Kommunikation durch ein KI-System erfolgt. Der Hinweis darf nicht erst in einer langen Datenschutzerklärung versteckt werden.

Bei synthetischen Audio-, Bild-, Video- oder Textinhalten liegt ein Teil der technischen Verantwortung beim Anbieter des erzeugenden Systems. Anbieter müssen ihre Ausgaben grundsätzlich maschinenlesbar kennzeichnen, soweit die gesetzlichen Voraussetzungen greifen. Unternehmen, die solche Inhalte veröffentlichen, müssen zusätzlich prüfen, ob eine sichtbare Offenlegung erforderlich ist. Das betrifft insbesondere Deepfakes sowie bestimmte KI-generierte oder manipulierte Texte, Bilder, Stimmen und Videos.

Nicht jeder mit KI überarbeitete Absatz benötigt automatisch einen auffälligen Warnhinweis. Der Gesetzestext enthält Differenzierungen, etwa für unterstützende Standardbearbeitung oder öffentlich relevante Texte, bei denen eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt. Deshalb sollte die interne Vorgabe nicht schlicht lauten: „Alles kennzeichnen“ oder „Nichts kennzeichnen“. Sinnvoller ist eine Zuordnung nach Inhalt, Zweck, Veröffentlichungskanal und Grad der menschlichen Bearbeitung.

Für KI-Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, wurde die Frist zur technischen Umsetzung der maschinenlesbaren Kennzeichnung auf den 2. Dezember 2026 verschoben. Neue Systeme müssen die entsprechenden Anforderungen grundsätzlich ab dem August-Termin berücksichtigen. Die Verschiebung betrifft jedoch nicht pauschal alle Hinweise gegenüber Kunden, Bewerbern oder anderen betroffenen Personen.

Für deutsche Unternehmen gewinnt außerdem die praktische Aufsicht an Bedeutung. Die Bundesnetzagentur betreibt bereits einen KI-Service-Desk und einen Compliance-Kompass. Nach dem deutschen Durchführungsgesetz soll sie im Wesentlichen als zentrale Marktüberwachungsbehörde und Koordinierungsstelle tätig werden.

Welche Hochrisiko-Pflichten wurden verschoben?

Ursprünglich sollten zahlreiche Pflichten für Hochrisiko-KI-Systeme bereits im August 2026 greifen. Die EU-Gesetzgeber haben diesen Zeitplan geändert.

Eigenständige Hochrisiko-Systeme in Bereichen wie Beschäftigung, Bildung, kritische Infrastruktur, biometrische Anwendungen oder Zugang zu wesentlichen Dienstleistungen sollen nun ab dem 2. Dezember 2027 den vollständigen Hochrisiko-Vorschriften unterliegen. Für KI-Systeme, die als Sicherheitskomponenten in regulierte Produkte eingebettet sind, ist der 2. August 2028 vorgesehen.

Zu den später greifenden Betreiberpflichten gehören unter anderem die Verwendung nach Betriebsanleitung, eine qualifizierte menschliche Aufsicht, Überwachung des laufenden Betriebs, geeignete Eingabedaten, die Aufbewahrung bestimmter Protokolle und die Meldung relevanter Vorfälle. Bei einem Einsatz am Arbeitsplatz können außerdem Informationspflichten gegenüber Arbeitnehmervertretern und betroffenen Mitarbeitern hinzukommen.

Die Fristverschiebung ist vor allem für Betriebe wichtig, die bereits Recruiting-Software, Leistungsbewertung, intelligente Einsatzplanung oder sicherheitsbezogene Systeme einsetzen. Sie verschafft Zeit, ändert aber nicht die spätere Einstufung. Ein KI-basiertes Bewerberranking wird nicht dauerhaft zu einer gewöhnlichen Büroanwendung, nur weil die Anwendung der Hochrisiko-Vorschriften später beginnt.

Unternehmen sollten die verbleibende Zeit nutzen, um von Anbietern technische Dokumentationen, Rollenbeschreibungen, Protokollfunktionen, Informationen zur menschlichen Aufsicht und vertragliche Zusagen einzufordern. Fehlen diese Grundlagen, kann ein späterer regelkonformer Weiterbetrieb aufwendig oder unmöglich werden.

Welche KI-Anwendungen in mittelständischen Unternehmen sind typischerweise betroffen?

In einem Handwerksbetrieb, Bauunternehmen oder technischen Dienstleister beginnt das Thema häufig nicht mit einem großen KI-Projekt. Ein Mitarbeiter lässt E-Mails formulieren, ein Kalkulator fasst ein Leistungsverzeichnis zusammen, der Service erstellt aus einer Sprachnotiz einen Einsatzbericht oder die Arbeitsvorbereitung nutzt KI für Materiallisten. Solche Anwendungen gelten meist nicht als Hochrisiko-Systeme. Sie gehören dennoch in das KI-Inventar, weil Kundeninformationen, Preise, Projektdaten, Zeichnungen oder personenbezogene Angaben verarbeitet werden können.

Im Vertrieb und in der Auftragsbearbeitung geht es oft um Angebotsentwürfe, Ausschreibungsunterlagen, Gesprächsnotizen und CRM-Zusammenfassungen. Entscheidend ist, ob die KI nur vorbereitet oder eigenständig eine Entscheidung trifft, die Menschen erheblich betrifft. Ein Assistent, der einen Angebotsentwurf erzeugt, ist anders zu behandeln als ein System, das Kunden automatisiert nach vermuteter Zahlungsfähigkeit ausschließt.

Bei SHK-, Elektro-, Bau- und Serviceunternehmen kommen Chatbots und KI-Telefonassistenten hinzu. Sie nehmen Störungsmeldungen auf, erfassen Objektadresse, Anlagentyp, Rückrufnummer und Dringlichkeit oder übergeben einen Vorgang an die Disposition. Hier stehen ab August 2026 vor allem der Hinweis auf die KI-Interaktion, Datenschutzinformationen, eine geordnete Übergabe an Mitarbeiter und der Umgang mit Notfällen im Vordergrund.

In Personalabteilungen sind Bewerberfilter, automatisierte Ranglisten, Leistungsbewertungen, verhaltensbezogene Aufgabenverteilung und Systeme zur Überwachung von Mitarbeitern besonders sensibel. Solche Anwendungen können unter die Hochrisiko-Kategorien des Anhangs III fallen. Eine reine Onboarding-Wissenssuche, die Mitarbeitern Richtlinien oder Schulungstermine anzeigt, ist dagegen regelmäßig anders zu bewerten, solange sie keine Entscheidungen über Arbeitsbedingungen, Leistung oder Zugang zu Beschäftigung beeinflusst.

In Fertigung, Verkehrssicherung, Logistik und technischer Instandhaltung reicht das Spektrum von Qualitätsprüfung und vorausschauender Wartung bis zu sicherheitsbezogener Steuerung. Eine KI, die Wartungsbedarfe priorisiert, ist nicht automatisch hochriskant. Wird sie jedoch zu einer Sicherheitskomponente eines Produkts oder beeinflusst sie den Betrieb kritischer Infrastruktur, kann eine wesentlich strengere Einordnung entstehen.

Auch ein internes Company Brain oder eine KI-gestützte Wissenssuche ist normalerweise keine Hochrisiko-Anwendung. Trotzdem braucht sie ein Berechtigungskonzept. Ein Monteur darf möglicherweise technische Wartungsinformationen sehen, aber keine Personalakten; ein externer Partner erhält Projektdokumente, jedoch keine vollständige Kundenhistorie. Der EU AI Act ersetzt an dieser Stelle weder Zugriffsschutz noch Datenschutz noch die Verantwortung für die verwendeten Quellen.

Wie unterscheiden sich typische Anwendungsfälle nach Risiko und Handlungsbedarf?

Die Einordnung erfolgt nicht allein anhand des Produktnamens. Derselbe technische Dienst kann in einem Unternehmen lediglich Texte ordnen und in einem anderen Unternehmen Entscheidungen über Bewerber oder Mitarbeiter beeinflussen. Maßgeblich sind Zweckbestimmung, Nutzungskontext, betroffene Personen und tatsächliche Entscheidungswirkung.

Wann wird ein Unternehmen vom Betreiber zum Anbieter?

Ein Mittelständler ist bei der Nutzung einer fertigen Standardsoftware meist Betreiber. Diese Rolle kann sich jedoch ändern. Wer ein Hochrisiko-System unter eigenem Namen vermarktet, es wesentlich verändert oder seine Zweckbestimmung so ändert, dass daraus eine Hochrisiko-Anwendung entsteht, kann rechtlich zum Anbieter werden. Damit steigen die Anforderungen erheblich.

Das ist vor allem bei Eigenentwicklungen, White-Label-Lösungen und branchenspezifischen KI-Produkten relevant. Ein Unternehmen, das einen allgemeinen Assistenten konfiguriert und nur intern nutzt, bleibt nicht automatisch Anbieter. Entwickelt es daraus jedoch eine eigene Lösung für Kunden, versieht sie mit der eigenen Marke und bestimmt den Einsatzzweck, muss die Rollenfrage erneut bewertet werden.

Auch bei individuell aufgebauten KI-Agenten sollte nicht nur auf das zugrunde liegende Sprachmodell geschaut werden. Die eigentliche Anwendung kann aus Modell, Wissensbasis, Schnittstellen, Entscheidungslogik und automatisierten Aktionen bestehen. Wer diese Gesamtlösung gestaltet und unter eigenem Namen bereitstellt, trägt möglicherweise andere Pflichten als der ursprüngliche Modellanbieter.

Wie lässt sich die Umsetzung in 30 Tagen pragmatisch beginnen?

Tag 1 bis 5: Auftrag und Zuständigkeit festlegen.
Die Geschäftsführung benennt einen Verantwortlichen für das Vorhaben und legt den Umfang fest. Beteiligte Bereiche sind typischerweise IT, Datenschutz, Informationssicherheit, Personal, Einkauf und ausgewählte Fachbereiche. Ziel ist zunächst keine umfangreiche Richtliniensammlung, sondern ein belastbarer Überblick über den tatsächlichen Einsatz.

Tag 6 bis 10: Das KI-Inventar aufbauen.
Erfasst werden offizielle Anwendungen, Pilotprojekte, Browserdienste, integrierte Funktionen in vorhandener Software, Schnittstellen und selbst entwickelte Lösungen. Für jedes System sollten mindestens Zweck, Verantwortlicher, Anbieter, Nutzergruppe, Datenarten, betroffene Personen, Ergebnisverwendung und technischer Betriebsort dokumentiert werden.

Tag 11 bis 15: Rollen und Risiken bewerten.
Das Unternehmen prüft, ob es Betreiber, Anbieter, Händler oder Produkthersteller ist. Danach wird bewertet, ob eine verbotene Praxis, eine Transparenzpflicht, ein möglicher Hochrisiko-Anwendungsfall oder lediglich ein gewöhnlicher interner Assistent vorliegt. Datenschutz, Informationssicherheit, Mitbestimmung und vertragliche Anforderungen werden in dieselbe Bewertung aufgenommen.

Tag 16 bis 20: Sofortmaßnahmen umsetzen.
Chatbots und KI-Telefonassistenten erhalten einen geeigneten Hinweis. Unzulässige Anwendungen werden gestoppt. Für generierte Inhalte entstehen Veröffentlichungsregeln. Mitarbeiter erhalten Vorgaben dazu, welche Daten in welche Systeme eingegeben werden dürfen und wann Ergebnisse zwingend fachlich geprüft werden müssen.

Tag 21 bis 25: Anbieter und Verträge prüfen.
Benötigt werden Informationen zu Datenverarbeitung, Hosting, Unterauftragnehmern, Sicherheitsmaßnahmen, Modelländerungen, Protokollierung, Kennzeichnung generierter Inhalte und Unterstützung bei Vorfällen. Bei möglichen Hochrisiko-Systemen sollte zusätzlich geprüft werden, ob der Anbieter die später benötigte technische Dokumentation und Funktionen für menschliche Aufsicht bereitstellen kann.

Tag 26 bis 30: Den dauerhaften Betrieb organisieren.
Zum Abschluss werden Freigabeprozess, Schulung, Änderungsmanagement, Vorfallbehandlung und regelmäßige Überprüfung festgelegt. Neue KI-Dienste dürfen danach nicht mehr ausschließlich über einzelne Fachbereiche beschafft werden. Sie durchlaufen einen angemessenen Prüfweg, bevor Kunden-, Mitarbeiter- oder Projektdaten verarbeitet werden.

Nach 30 Tagen muss noch kein vollständiges Compliance-Programm stehen. Das Unternehmen sollte jedoch wissen, welche Systeme vorhanden sind, wer dafür verantwortlich ist, wo der größte Handlungsbedarf liegt und welche Anwendungen vorerst nicht weiterbetrieben werden dürfen.

Welche Checkliste sollten Geschäftsführung und IT-Leitung abarbeiten?

Geschäftsführung

• Ist ein Verantwortlicher für KI-Governance benannt?
• Gibt es ein vollständiges Verzeichnis produktiv genutzter KI-Systeme?
• Sind verbotene, transparente und mögliche Hochrisiko-Anwendungen unterschieden?
• Sind Verantwortungsgrenzen zwischen Geschäftsführung, IT und Fachbereichen festgelegt?
• Sind Beschaffung, Freigabe und Stilllegung von KI-Systemen geregelt?
• Werden Betriebsrat, Datenschutz und Informationssicherheit angemessen eingebunden?
• Besteht ein Verfahren für Vorfälle, Beschwerden und behördliche Anfragen?

IT-Leitung und Informationssicherheit

• Sind Anbieter, Version, Hosting-Standort und technische Schnittstellen dokumentiert?
• Ist bekannt, welche Daten eingegeben, gespeichert oder zum Training verwendet werden?
• Sind Rollen, Berechtigungen und Administrationszugriffe geprüft?
• Können relevante Systemänderungen und Ausgaben protokolliert werden?
• Sind Hinweise für Chatbots, Sprachassistenten und generierte Inhalte umgesetzt?
• Gibt es einen technischen Abschalt- oder Rückfallprozess?
• Liegen für mögliche Hochrisiko-Anwendungen ausreichende Anbieterunterlagen vor?
• Werden KI-Systeme regelmäßig auf Änderungen bei Funktion, Modell und Zweck geprüft?

Welche vier Kennzahlen zeigen die praktische Relevanz?

KI ist im deutschen Mittelstand längst keine Randanwendung mehr. Nach Angaben des Statistischen Bundesamts nutzten 2025 bereits 23 Prozent der Unternehmen mit 10 bis 49 Beschäftigten KI-Technologien. Bei Unternehmen mit 50 bis 249 Beschäftigten lag der Anteil bei 36 Prozent. Damit betrifft der EU AI Act nicht nur Softwareanbieter, sondern zunehmend gewöhnliche Produktions-, Handels-, Handwerks- und Dienstleistungsunternehmen.

Auch die Sanktionsregelungen zeigen, warum verbotene Anwendungen nicht als nebensächliches Thema behandelt werden sollten. Bei Verstößen gegen die Verbote des Artikels 5 sieht der AI Act grundsätzlich Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes vor. Für kleine und mittlere Unternehmen gilt dabei der jeweils niedrigere Betrag aus Festbetrag und Umsatzanteil.

Für die Geschäftsführung sollte daraus keine rein auf Bußgelder ausgerichtete Umsetzung entstehen. Bedeutender ist ein Betriebsmodell, das unzulässige Anwendungen früh erkennt, Verantwortlichkeiten festlegt und bei neuen Werkzeugen nicht jedes Mal von vorne beginnt.

Welche Quellen belegen die verwendeten Kennzahlen?

Statistisches Bundesamt: Unternehmen mit Nutzung von Technologien der künstlichen Intelligenz nach Beschäftigtengrößenklassen
https://www.destatis.de/DE/Themen/Branchen-Unternehmen/Unternehmen/IKT-in-Unternehmen-IKT-Branche/Tabellen/ikti-unternehmen-kuenstliche-intelligenz.html

Europäische Kommission, AI Act Service Desk: Artikel 99 – Sanktionen
https://ai-act-service-desk.ec.europa.eu/de/ai-act/article-99

Welche interessanten Links vertiefen das Thema?

Europäische Kommission: Überblick, Zeitplan und Umsetzung des EU AI Act
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

Rat der Europäischen Union: Endgültige Annahme der Vereinfachungen und neuen Fristen
https://www.consilium.europa.eu/en/press/press-releases/2026/06/29/artificial-intelligence-council-gives-final-green-light-to-simplify-and-streamline-rules/

Bundesnetzagentur: KI-Service-Desk und Compliance-Kompass
https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/start_ki.html

Gilt der EU AI Act auch für ChatGPT, Microsoft Copilot und ähnliche Assistenten?

Ja, der konkrete Einsatz kann unter den EU AI Act fallen. Ein Unternehmen, das einen fertigen Assistenten im Büro nutzt, ist meist Betreiber und nicht Modellanbieter. Entscheidend sind Zweck, Daten, betroffene Personen und Einbindung in Entscheidungen. Für reine Textunterstützung gelten meist keine Hochrisiko-Pflichten, wohl aber interne Regeln, KI-Kompetenz und gegebenenfalls Transparenzvorgaben.

Braucht jedes mittelständische Unternehmen einen AI Officer?

Nein, der EU AI Act verlangt keine bestimmte Stellenbezeichnung und schreibt für gewöhnliche Betreiber keinen eigenen AI Officer vor. Die Verantwortung muss dennoch organisatorisch verankert sein. In vielen Mittelständlern genügt ein benannter KI-Verantwortlicher mit Vertretern aus IT, Datenschutz, Informationssicherheit, Personal und Fachbereich, ergänzt durch einen festen Freigabe- und Eskalationsweg.

Muss jedes eingesetzte KI-System in einer EU-Datenbank registriert werden?

Nein. Die Registrierungspflichten betreffen vor allem bestimmte Hochrisiko-KI-Systeme und einzelne Akteursrollen. Ein interner Schreibassistent, eine Wissenssuche oder ein gewöhnlicher Service-Chatbot wird nicht allein wegen seiner KI-Funktion registrierungspflichtig. Trotzdem sollte das Unternehmen jedes produktiv genutzte System intern erfassen, damit Zweck, Verantwortlicher, Anbieter, Datenarten, Risikoeinstufung und Prüfstatus jederzeit nachvollziehbar bleiben.

Muss ein Chatbot oder KI-Telefonassistent ab August 2026 auf KI hinweisen?

Grundsätzlich müssen Menschen informiert werden, wenn sie direkt mit einem KI-System interagieren und dies aus dem Nutzungskontext nicht ohnehin offensichtlich ist. Der Hinweis sollte spätestens bei der ersten Interaktion erfolgen. Für einen Website-Chatbot, einen digitalen Empfang oder einen KI-Telefonassistenten empfiehlt sich deshalb eine kurze, verständliche Ansage beziehungsweise Einblendung, bevor personenbezogene Angaben erfragt werden.

Müssen alle KI-generierten Inhalte gekennzeichnet werden?

Nein, die Anforderungen unterscheiden zwischen technischer Markierung durch Anbieter und Offenlegung durch Betreiber. Besonders relevant sind synthetische Audio-, Bild- und Videoinhalte, Deepfakes sowie bestimmte Texte zu Themen von öffentlichem Interesse. Bei rein internen Entwürfen oder unterstützender Standardbearbeitung kann die Lage anders sein. Unternehmen benötigen deshalb Regeln nach Inhaltstyp, Veröffentlichungskanal und redaktioneller Verantwortung.

Werden KI-Systeme im Personalbereich schon im August 2026 zu Hochrisiko-Systemen?

Die umfangreichen Hochrisiko-Pflichten für eigenständige Systeme in Beschäftigung und Personalmanagement wurden durch die 2026 beschlossene Novelle auf Dezember 2027 verschoben. Betroffen sein können etwa Bewerberranking, Auswahlentscheidungen, Leistungsbewertung oder verhaltensbezogene Aufgabenverteilung. Bereits heute gelten jedoch Datenschutz, Mitbestimmung und die Verbote bestimmter Praktiken, insbesondere für Emotionserkennung am Arbeitsplatz.

Bedeutet die Verschiebung der Hochrisiko-Pflichten, dass Unternehmen bis 2027 warten können?

Nein. Die zusätzliche Zeit sollte für Inventarisierung, Einstufung, Vertragsprüfung und technische Vorbereitung genutzt werden. Bei HR-Systemen, sicherheitsrelevanten Anwendungen oder automatisierten Entscheidungen dauert es oft Monate, die benötigten Unterlagen, Protokolle, Aufsichtsrollen und Lieferantenzusagen zu beschaffen. Wer erst kurz vor dem Termin beginnt, riskiert Betriebsunterbrechungen oder eine teure Ersatzbeschaffung.

Reicht eine KI-Richtlinie als Nachweis der Umsetzung aus?

Eine Richtlinie ist wichtig, aber sie ersetzt kein Betriebsmodell. Zusätzlich braucht das Unternehmen ein aktuelles KI-Inventar, benannte Verantwortliche, einen Freigabeprozess, rollenbezogene Schulungen, Lieferantenunterlagen, Regeln für Daten und Ausgaben sowie einen Vorfallprozess. Entscheidend ist, dass die Vorgaben im Einkauf, in Projekten und im täglichen Einsatz tatsächlich angewendet und regelmäßig überprüft werden.

Welche Unterlagen sollte ein Mittelständler zu seinen KI-Systemen aufbewahren?

Mindestens sinnvoll sind Systemsteckbrief, Zweckbeschreibung, Risikoeinstufung, Freigabe, Anbieter- und Vertragsunterlagen, Datenschutzprüfung, technische Sicherheitsbewertung, Schulungsnachweise, Hinweise für Nutzer, Änderungen am System und dokumentierte Vorfälle. Bei möglichen Hochrisiko-Systemen kommen Betriebsanleitung, Protokolle, Aufsichtskonzept und Nachweise zur Datenqualität hinzu. Umfang und Aufbewahrung richten sich nach Rolle, Risiko und weiteren Rechtsvorgaben.

Wie greifen EU AI Act und DSGVO ineinander?

Der EU AI Act ersetzt die DSGVO nicht. Werden personenbezogene Daten verarbeitet, bleiben Rechtsgrundlage, Zweckbindung, Datenminimierung, Informationspflichten, Auftragsverarbeitung und gegebenenfalls eine Datenschutz-Folgenabschätzung relevant. Der AI Act ergänzt diese Anforderungen um risikobezogene Pflichten für das System und seine Nutzung. In der Praxis sollten Datenschutz- und KI-Prüfung gemeinsam stattfinden, damit widersprüchliche Freigaben vermieden werden.