KI-generierte Inhalte kennzeichnen: Muss dieser Text als KI-generiert gekennzeichnet werden?

Nicht jeder mit KI erstellte Inhalt braucht einen sichtbaren Hinweis. Artikel 50 verlangt vor allem die Offenlegung von Deepfakes sowie bestimmter Texte zu Themen von öffentlichem Interesse, während Anbieter technische Markierungen ermöglichen müssen. Unternehmen benötigen deshalb einen Freigabeprozess, der Inhaltstyp, Bearbeitungsgrad, Veröffentlichungszweck und redaktionelle Verantwortung vor jeder Veröffentlichung prüft.

Rechtsstand: 14. Juli 2026. Dieser Beitrag dient der betrieblichen Orientierung und ersetzt keine Rechtsberatung. Die Europäische Kommission (https://commission.europa.eu/) hatte zu diesem Zeitpunkt den endgültigen Verhaltenskodex veröffentlicht, arbeitete jedoch noch an den abschließenden Leitlinien zu Artikel 50.

Warum führt die Frage nach der Kennzeichnung häufig zu falschen Antworten?

Ein mittelständisches Unternehmen veröffentlicht einen neuen Fachartikel. Der erste Entwurf stammt aus einem Sprachmodell, ein Mitarbeiter hat ihn anschließend fachlich überarbeitet, mehrere Aussagen überprüft und die Endfassung freigegeben. Muss nun oberhalb des Beitrags stehen: „Dieser Text wurde von einer KI geschrieben“?

An anderer Stelle erzeugt das Marketing eine Illustration einer modernen Werkhalle, die erkennbar keine reale Niederlassung zeigt. Ein Servicebetrieb lässt dagegen ein authentisch wirkendes Foto eines Kundenprojekts verändern: Die KI ergänzt Absperrungen, entfernt Baumängel und lässt die Baustelle fertiggestellt erscheinen. Sind beide Bilder gleich zu behandeln?

Hinzu kommen KI-Stimmen für Erklärvideos, automatisch erstellte Produkttexte, generierte Social-Media-Grafiken, virtuelle Moderatoren, synthetische Kundenreferenzen und Bilder, die lediglich durch generatives Erweitern an ein anderes Format angepasst wurden.

Eine pauschale Regel wie „Alles mit KI kennzeichnen“ ist rechtlich zu weit. Die gegenteilige Aussage „Nach menschlicher Freigabe muss nie gekennzeichnet werden“ greift ebenfalls zu kurz. Der EU AI Act unterscheidet zwischen technischen Pflichten des Systemanbieters und sichtbaren Informationspflichten des Unternehmens, das Inhalte veröffentlicht. Außerdem gelten für Texte andere Voraussetzungen als für Bilder, Audio und Videos.

Die Ausgangsfrage lautet deshalb nicht nur: „War KI beteiligt?“ Entscheidend ist vielmehr:

Was wurde erzeugt oder verändert? Entsteht der Eindruck eines authentischen Vorgangs? Wird ein bestehender Mensch, ein reales Objekt, ein Ort oder ein Ereignis nachgebildet? Soll ein Text die Öffentlichkeit über ein Thema von öffentlichem Interesse informieren? Gab es eine tatsächliche redaktionelle Prüfung? Und wer übernimmt die Verantwortung für die Veröffentlichung?

Was verlangt Artikel 50 bei KI-generierten Inhalten?

Artikel 50 enthält zwei unterschiedliche Pflichten, die in der Unternehmenspraxis leicht vermischt werden.

Auf der einen Seite stehen die Anbieter generativer KI-Systeme. Dazu gehören Anbieter von Systemen, die synthetische Texte, Bilder, Audio- oder Videoinhalte erzeugen. Sie müssen ihre Systeme grundsätzlich so gestalten, dass erzeugte oder manipulierte Inhalte maschinenlesbar markiert und als künstlich erzeugt oder verändert erkannt werden können.

Diese Pflicht kann beispielsweise durch Herkunftsmetadaten, Wasserzeichen, technische Signaturen, Fingerprints oder miteinander kombinierte Verfahren umgesetzt werden. Welche Lösung angemessen ist, hängt von der Medienart, dem Stand der Technik und der technischen Machbarkeit ab. Für Funktionen zur üblichen Bearbeitung, die Eingaben oder deren Bedeutung nicht wesentlich verändern, enthält Artikel 50 eine Ausnahme.

Auf der anderen Seite stehen die Betreiber, also Unternehmen, Agenturen, Redaktionen oder andere professionelle Nutzer, die generative Systeme einsetzen und Inhalte veröffentlichen. Sie müssen einen für Menschen wahrnehmbaren Hinweis vorsehen, wenn:

• Bild-, Audio- oder Videoinhalte einen Deepfake darstellen oder
• KI-generierte beziehungsweise KI-manipulierte Texte zur Information der Öffentlichkeit über Themen von öffentlichem Interesse veröffentlicht werden und keine hinreichende menschliche oder redaktionelle Kontrolle mit übernommener redaktioneller Verantwortung stattgefunden hat.

Die gesetzlichen Pflichten werden ab dem 2. August 2026 anwendbar. Für generative KI-Systeme, die bereits vor diesem Termin auf den Markt gebracht oder in Betrieb genommen wurden, besteht nach der 2026 verabschiedeten Übergangsregelung für die technische Markierung eine Frist bis zum 2. Dezember 2026.

Was unterscheidet eine technische Markierung von einem sichtbaren Hinweis?

Eine technische Markierung richtet sich zunächst an Systeme und Plattformen. Sie soll ermöglichen, dass ein digitales Medium automatisiert als KI-generiert oder KI-verändert erkannt werden kann.

Solche Informationen können direkt in einer Datei eingebettet, mit einem kryptografischen Herkunftsnachweis verbunden oder über ergänzende Erkennungsverfahren auffindbar gemacht werden. Der offene C2PA-Standard der Coalition for Content Provenance and Authenticity (https://c2pa.org/) sieht beispielsweise sogenannte Content Credentials vor. Sie können Informationen darüber enthalten, mit welchen Werkzeugen ein Inhalt erstellt oder verändert wurde und ob KI beteiligt war. C2PA weist jedoch selbst darauf hin, dass Herkunftsinformationen kein Urteil über die Wahrheit einer Aussage liefern und allein keine Desinformation verhindern.

Ein sichtbarer Hinweis richtet sich dagegen an den Leser, Betrachter oder Zuhörer. Er kann als Text, Symbol, Einblendung, Ansage oder Kombination aus mehreren Elementen erscheinen.

Beispiele sind:

KI-generierte Darstellung

Dieses Bild wurde teilweise mit KI verändert

Die verwendete Stimme wurde synthetisch erzeugt

Dieses Video enthält KI-generierte Szenen

Dieser Text wurde mit einem KI-System erzeugt und nicht redaktionell geprüft

Eine technische Markierung im Dateihintergrund ersetzt den sichtbaren Hinweis nicht, wenn Artikel 50 Absatz 4 eine Offenlegung gegenüber dem Publikum verlangt. Umgekehrt kann ein sichtbarer Hinweis die technische Anbieterpflicht nicht ersetzen.

Für KMU bedeutet dies: Sie müssen nicht selbst ein Wasserzeichensystem für jedes verwendete Modell entwickeln. Sie sollten aber prüfen, ob der eingesetzte Anbieter maschinenlesbare Markierungen unterstützt, ob diese beim Export erhalten bleiben und ob für die konkrete Veröffentlichung zusätzlich eine sichtbare Information erforderlich ist.

Welche Inhalte gelten als Deepfake?

Der Begriff Deepfake ist im EU AI Act weiter gefasst als die bekannte manipulierte Aufnahme eines Politikers oder Prominenten. Er umfasst KI-generierte oder manipulierte Bilder, Audio- oder Videoinhalte, die bestehenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und von einem Menschen irrtümlich als authentisch oder wahr angesehen werden könnten.

Für mittelständische Unternehmen können deshalb auch scheinbar gewöhnliche Marketingmaterialien betroffen sein.

Ein Bauunternehmen zeigt ein KI-generiertes Foto einer Baustelle und vermittelt den Eindruck, es handele sich um ein abgeschlossenes Referenzprojekt. Ein Verkehrssicherungsunternehmen ergänzt in einem realen Bild nachträglich Absperrschranken, Leitbaken oder Personal. Eine Marina stellt eine künstlich erzeugte Luftaufnahme so dar, als zeige sie den tatsächlichen Hafenbetrieb. Ein SHK-Betrieb veröffentlicht ein simuliertes Vorher-nachher-Bild eines realen Heizraums.

Auch Audio und Video können Deepfakes darstellen. Dazu zählen beispielsweise eine geklonte Stimme des Geschäftsführers, ein künstlich erzeugtes Kundeninterview, ein Avatar eines echten Mitarbeiters oder eine Videosequenz, in der eine reale Maschine eine Handlung ausführt, die tatsächlich nie stattgefunden hat.

Eine abstrakte Illustration, eine sichtbar grafische Prozessdarstellung oder eine fiktive Person ohne Bezug zu einem realen Menschen stellt dagegen nicht automatisch einen Deepfake dar. Ein vollständig künstlich erzeugtes Produktbild kann dennoch zu Fehlvorstellungen führen, wenn es als reales Produktfoto, tatsächlich ausgeführtes Projekt oder dokumentierter Kundenfall präsentiert wird.

Der interne Prüfprozess sollte deshalb nicht bei der Frage enden, ob ein realer Mensch nachgebildet wurde. Auch reale Produkte, Anlagen, Projekte, Niederlassungen, Baustellen und Ereignisse können Gegenstand eines Deepfakes sein.

Muss jedes KI-generierte Bild sichtbar gekennzeichnet werden?

Nein. Artikel 50 Absatz 4 verlangt die sichtbare Offenlegung bei Bild-, Audio- und Videoinhalten, wenn diese einen Deepfake darstellen. Eine allgemeine Pflicht, jedes synthetische Bild unabhängig von Kontext und Wirkung sichtbar als KI-generiert zu kennzeichnen, enthält die Vorschrift nicht.

Für die betriebliche Kommunikation ist eine weitergehende interne Regel dennoch häufig sinnvoll. Ein Unternehmen kann freiwillig kennzeichnen, wenn eine Darstellung zwar kein Deepfake im engeren Sinn ist, beim Publikum aber als authentische Dokumentation verstanden werden könnte.

Dies betrifft beispielsweise:

• Produktvisualisierungen vor Fertigstellung,
• künstlich möblierte Immobilien- oder Büroräume,
• simulierte Baustellen- und Anlagenbilder,
• generierte Mitarbeiter- oder Kundensituationen,
• künstliche Vorher-nachher-Darstellungen,
• fiktive Referenzprojekte,
• KI-generierte Sicherheits- oder Einsatzszenarien.

Eine Formulierung wie „Visualisierung“, „KI-generierte Beispielansicht“ oder „Symbolische Darstellung“ beschreibt den Charakter des Bildes häufig besser als ein allgemeiner KI-Hinweis.

Bei rein dekorativen Hintergrundmustern, abstrakten Illustrationen, Icons oder grafischen Elementen ist ein sichtbarer Hinweis in vielen Fällen weder nach Artikel 50 erforderlich noch für den Betrachter besonders hilfreich. Die technische Herkunftsinformation des verwendeten Systems sollte dennoch nicht bewusst entfernt werden.

Wann müssen KI-generierte Texte gekennzeichnet werden?

Für Texte enthält Artikel 50 eine engere Regelung als für Deepfakes. Eine Offenlegung ist erforderlich, wenn ein KI-System Text erzeugt oder manipuliert und dieser mit dem Zweck veröffentlicht wird, die Öffentlichkeit über ein Thema von öffentlichem Interesse zu informieren.

Nicht jeder Unternehmensinhalt fällt darunter. Produktbeschreibungen, interne Berichte, individuelle Angebote, persönliche E-Mails und gewöhnliche Werbetexte sind nicht allein deshalb Veröffentlichungen zu Themen von öffentlichem Interesse.

Betroffen sein können dagegen unter anderem Texte über öffentliche Sicherheit, Gesundheit, Umweltvorfälle, politische oder regulatorische Entwicklungen, gesellschaftlich relevante Ereignisse, öffentliche Infrastruktur oder andere Themen, die für einen größeren Personenkreis Bedeutung besitzen.

Auch ein Fachartikel eines Unternehmens über den EU AI Act kann ein Thema von öffentlichem Interesse behandeln. Das führt jedoch nicht automatisch zu einer Kennzeichnungspflicht. Artikel 50 enthält eine Ausnahme, wenn der Inhalt einen Prozess menschlicher Überprüfung oder redaktioneller Kontrolle durchlaufen hat und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.

Ein redaktionell geprüfter Fachbeitrag von KrambergAI GmbH (https://krambergai.com/) kann deshalb anders behandelt werden als ein vollautomatisch erzeugter Nachrichtenbeitrag, der ohne inhaltliche Prüfung veröffentlicht wird.

Was bedeutet menschliche Überprüfung bei einem Unternehmenstext?

Der EU AI Act verlangt keine bestimmte Zahl von Korrekturschleifen und kein vorgeschriebenes Redaktionsformular. Die Ausnahme für Texte setzt jedoch zwei Elemente voraus:

Der Inhalt muss einen menschlichen Überprüfungs- oder redaktionellen Kontrollprozess durchlaufen haben. Außerdem muss eine natürliche oder juristische Person redaktionelle Verantwortung übernehmen.

Ein bloßer Klick auf „Freigeben“ bietet wenig Nachweis für einen ernsthaften redaktionellen Prozess. In der Praxis sollte die prüfende Person zumindest:

• wesentliche Tatsachen und Kennzahlen überprüfen,
• Quellen und Zitate kontrollieren,
• irreführende Verallgemeinerungen entfernen,
• Aussagen an das tatsächliche Angebot und die eigene Fachposition anpassen,
• rechtlich oder technisch sensible Aussagen gesondert bewerten,
• Ton, Aufbau und Schlussfolgerungen eigenverantwortlich festlegen,
• die finale Veröffentlichung ausdrücklich freigeben.

Eine rein sprachliche Korrektur reicht möglicherweise nicht aus, wenn die inhaltlichen Aussagen unverändert und ungeprüft übernommen werden. Umgekehrt muss ein verantwortlicher Redakteur nicht jeden Satz vollständig neu schreiben. Entscheidend ist, dass die Endfassung als eigene Veröffentlichung des Unternehmens geprüft und verantwortet wird.

Für die Dokumentation genügt bei gewöhnlichen Unternehmensartikeln häufig ein schlanker Nachweis: verantwortlicher Autor oder Redakteur, Datum der Prüfung, verwendete Quellen, Freigabestatus und finale Version.

Wie sind KI-unterstützte und vollständig KI-generierte Texte abzugrenzen?

Die technische Entstehung eines Textes verläuft selten in nur einem Schritt. Ein Mitarbeiter formuliert möglicherweise eine Gliederung, lässt einzelne Abschnitte erzeugen, ergänzt eigene Fachbeispiele, prüft Quellen, ändert die Argumentation und erstellt anschließend mit einem Assistenten eine Kurzfassung.

Eine starre Prozentgrenze für menschliche und künstliche Anteile wäre für solche Abläufe kaum praktikabel. Weder der EU AI Act noch der 2026 veröffentlichte Verhaltenskodex verlangen, dass Unternehmen für jeden Text einen exakten KI-Anteil berechnen. Die Europäische Kommission (https://commission.europa.eu/) hat in der Entwicklung des Kodex sogar auf eine starre Unterscheidung zwischen „KI-generiert“ und „KI-unterstützt“ verzichtet.

Für die Unternehmenspraxis ist eine funktionale Einordnung hilfreicher:

Geringfügige KI-Unterstützung liegt beispielsweise bei Rechtschreibprüfung, Formatierung oder einer begrenzten sprachlichen Glättung vor, sofern Aussage und Bedeutung nicht wesentlich verändert werden.

Inhaltliche KI-Unterstützung liegt vor, wenn das System Formulierungen, Argumente, Zusammenfassungen oder Strukturvorschläge liefert, ein Mensch den Inhalt aber anschließend fachlich bearbeitet und verantwortet.

Weitgehend KI-generierter Text mit Redaktion entsteht, wenn der Ausgangsentwurf überwiegend vom System stammt, jedoch durch eine tatsächliche redaktionelle Prüfung, Überarbeitung und Freigabe zur Unternehmenspublikation wird.

Ungeprüfte KI-Publikation liegt vor, wenn ein System Inhalte erstellt und diese automatisiert oder nahezu unverändert veröffentlicht werden, ohne dass eine verantwortliche Person Aussagen und Wirkung überprüft.

Für Artikel 50 ist bei öffentlichen Informationstexten vor allem die letzte Kategorie relevant. Das Unternehmen sollte seine interne Einordnung dennoch für sämtliche Veröffentlichungen dokumentieren, weil daraus der notwendige Prüfaufwand folgt.

Was gilt für Website, Blog und Download-Dokumente?

Auf einer Unternehmenswebsite können mehrere Fälle nebeneinander auftreten.

Ein redaktionell geprüfter Blogbeitrag benötigt nicht allein wegen der Nutzung eines Textassistenten einen sichtbaren Hinweis. Das gilt auch dann, wenn er ein öffentlich relevantes Thema behandelt, sofern eine tatsächliche redaktionelle Kontrolle stattfand und das Unternehmen die Verantwortung übernimmt.

Ein automatisiert erzeugter Newsbereich, der Meldungen aus externen Quellen zusammenfasst und ohne Prüfung veröffentlicht, ist anders zu bewerten. Informiert er die Öffentlichkeit über regulatorische, wirtschaftliche, gesundheitliche oder gesellschaftliche Entwicklungen, kann eine Offenlegung nach Artikel 50 erforderlich sein.

Bei Whitepapers, Management-Briefings und PDF-Dokumenten sollte der Freigabeprozess ebenfalls dokumentiert sein. Enthalten sie KI-generierte Bilder realer Anlagen, Personen oder Ereignisse, muss die Bildkennzeichnung unabhängig von der Textprüfung betrachtet werden.

Ein Hinweis im Impressum wie „Auf dieser Website kann KI eingesetzt werden“ genügt nicht für einen konkret kennzeichnungspflichtigen Deepfake. Artikel 50 verlangt die Information spätestens bei der ersten Wahrnehmung des jeweiligen Inhalts.

Bei Bildern bietet sich eine Kennzeichnung unmittelbar unter der Darstellung oder innerhalb des Mediums an. Bei Videos kann sie am Anfang und gegebenenfalls während der betroffenen Szene eingeblendet werden. Audioinhalte können durch eine kurze Ansage oder eine gut wahrnehmbare Information beim Player gekennzeichnet werden.

Was gilt für LinkedIn, Pinterest, YouTube und andere soziale Netzwerke?

Social-Media-Plattformen stellen Unternehmen vor ein praktisches Problem: Metadaten können beim Upload verändert oder entfernt werden, Beiträge werden geteilt und Medien außerhalb des ursprünglichen Profils angezeigt.

Die EU-Empfehlungen zu den neuen Kennzeichnungssymbolen sehen deshalb vor, dass der Hinweis spätestens bei der ersten Wahrnehmung erkennbar sein sollte. Soweit möglich, soll er direkt mit dem Inhalt verbunden bleiben und auch beim Herunterladen oder erneuten Teilen sichtbar bleiben.

Für ein Unternehmen bedeutet dies:

Ein Hinweis ausschließlich am Ende eines langen Begleittexts kann ungeeignet sein, wenn der Nutzer das Bild oder Video bereits vorher wahrnimmt. Bei einem Deepfake sollte die Information deshalb unmittelbar am Medieninhalt, im sichtbaren Anfangsbereich des Beitrags oder über eine verlässliche Plattformkennzeichnung erscheinen.

Automatische Plattformhinweise können unterstützen. Das Unternehmen sollte nach dem Upload jedoch kontrollieren, ob die Kennzeichnung tatsächlich erscheint, in der mobilen Ansicht sichtbar bleibt und bei einer Weiterverwendung erhalten wird.

Für LinkedIn-Infografiken, Pinterest-Grafiken oder abstrakte B2B-Illustrationen besteht nicht automatisch eine sichtbare Kennzeichnungspflicht. Werden dagegen reale Geschäftsführer, Kunden, Produkte, Standorte oder Projekte künstlich dargestellt, steigt der Prüfbedarf erheblich.

Mögliche Formulierungen sind:

KI-generierte Illustration – keine Aufnahme eines realen Kundenprojekts

Visualisierung einer möglichen Ausführung

Bild teilweise mit KI verändert

Synthetische Darstellung – abgebildete Personen sind nicht real

Was gilt für Werbung und Produktdarstellungen?

Artikel 50 ist nicht die einzige relevante Regel für Werbung. Auch außerhalb einer förmlichen Kennzeichnungspflicht sollte eine Darstellung keine falschen Vorstellungen über Eigenschaften, Ausführung, Referenzen oder Kundenerfahrungen erzeugen.

Ein Maschinenbauer darf beispielsweise ein KI-generiertes Konzeptbild verwenden. Die Darstellung sollte jedoch nicht den Eindruck erwecken, die Maschine sei bereits produziert, geprüft oder bei einem Kunden im Einsatz, wenn dies nicht zutrifft.

Ein Handwerksbetrieb kann eine KI-generierte Badsanierung als Gestaltungsbeispiel zeigen. Eine Bezeichnung als „Visualisierung“ oder „Gestaltungsbeispiel“ verhindert, dass sie mit einer tatsächlich ausgeführten Referenz verwechselt wird.

Bei Testimonials ist besondere Vorsicht geboten. Eine künstlich erzeugte Person, die wie ein realer Kunde auftritt und eine angebliche Erfahrung schildert, kann nicht nur unter Artikel 50 relevant sein. Sie kann das Publikum auch über das Vorliegen einer tatsächlichen Kundenmeinung täuschen.

Für Werbung empfiehlt sich deshalb eine zusätzliche interne Frage: Würde ein durchschnittlicher Betrachter aus Bild, Stimme, Text oder Video eine Tatsachenbehauptung über ein reales Produkt, Projekt, Unternehmen oder Kundenerlebnis ableiten?

Falls ja, sollte das Unternehmen unabhängig von der engen Deepfake-Definition eine erläuternde Bezeichnung verwenden oder die Darstellung überarbeiten.

Was gilt für synthetische Stimmen und KI-generierte Audioinhalte?

Eine gewöhnliche synthetische Stimme ist nicht automatisch ein Deepfake. Die Einordnung wird vor allem dann relevant, wenn die Stimme einer bestehenden Person ähnelt und irrtümlich für deren authentische Aussage gehalten werden könnte.

Typische Deepfake-Fälle sind:

• die geklonte Stimme eines Geschäftsführers,
• eine künstliche Aussage eines bekannten Mitarbeiters,
• ein simuliertes Kundeninterview,
• eine nachgebildete Stimme eines Sachverständigen,
• ein Audioausschnitt, der wie eine reale Gesprächsaufnahme wirkt.

Ein neutraler, nicht einer realen Person zugeordneter Sprecher für ein Erklärvideo kann außerhalb der gesetzlichen Deepfake-Pflicht liegen. Das Unternehmen kann dennoch freiwillig auf die synthetische Stimme hinweisen, insbesondere wenn der Sprecher in einer persönlichen Rolle auftritt.

Bei einem Telefonassistenten geht es nicht primär um die Kennzeichnung des Audioinhalts als Deepfake, sondern um die Information, dass der Anrufer mit einem KI-System interagiert. Dafür gilt Artikel 50 Absatz 1 mit einer gesonderten Transparenzpflicht.

Ein Unternehmen sollte daher zwischen drei Sachverhalten unterscheiden: synthetisch erzeugte Stimme, Nachbildung einer realen Person und interaktive KI-Telefonie.

Was gilt für Videos, Avatare und virtuelle Moderatoren?

Videos kombinieren häufig mehrere KI-Komponenten: synthetisches Bild, generierte Stimme, übersetzte Lippenbewegungen, künstlicher Hintergrund und automatisch erzeugtes Skript.

Ein Avatar, der einer realen Person nachempfunden ist, kann als Deepfake einzuordnen sein, wenn das Video wie eine authentische Aufnahme dieser Person erscheint. Das gilt auch dann, wenn die betroffene Person der Erstellung zugestimmt hat. Die Absicht zur Täuschung ist für die Definition nicht zwingend erforderlich; maßgeblich ist der Eindruck beim Publikum. Die Einwilligung bleibt für andere Rechtsfragen dennoch wesentlich.

Bei einem offensichtlich fiktiven Avatar, einer animierten Figur oder einer stilisierten Präsentation ist die Deepfake-Eigenschaft weniger naheliegend. Eine kurze Information über die virtuelle Moderation kann trotzdem sinnvoll sein.

Für künstlerische, satirische, fiktionale oder vergleichbare Werke sieht Artikel 50 eine erleichterte Form der Offenlegung vor. Der Hinweis darf so gestaltet werden, dass er die Darstellung oder Nutzung des Werks nicht beeinträchtigt.

Bei Unternehmensvideos empfiehlt sich eine Kennzeichnung am Anfang, im Abspann oder direkt an der betroffenen Sequenz. Ein Hinweis nur in der Videobeschreibung ist riskant, wenn Zuschauer das Video über eingebettete Player oder geteilte Ausschnitte sehen.

Wie unterscheiden sich typische Veröffentlichungen?

Die Einordnung ist vom tatsächlichen Inhalt abhängig. Ein abstraktes Bild kann durch eine irreführende Überschrift zur angeblichen Projektdokumentation werden. Ein grundsätzlich kennzeichnungspflichtiges Deepfake bleibt dagegen nicht deshalb ungekennzeichnet, weil es in einer Werbekampagne statt in einem Nachrichtenbeitrag erscheint.

Wie sollten sichtbare Hinweise gestaltet und platziert werden?

Die Information muss spätestens bei der ersten Wahrnehmung des Inhalts verfügbar, gut wahrnehmbar, unterscheidbar und barrierearm sein. Die optionalen EU-Symbole wurden von der Europäischen Kommission (https://commission.europa.eu/) für diesen Zweck bereitgestellt. Ihre Nutzung ist freiwillig; das Symbol allein garantiert jedoch keine rechtmäßige Umsetzung.

Für Bilder eignet sich eine Angabe direkt unter dem Bild oder innerhalb der Darstellung. Bei Social-Media-Motiven kann ein kleiner, aber gut lesbarer Hinweis im unteren Bildbereich sinnvoll sein.

Bei Video sollte der Hinweis so lange erscheinen, dass er wahrgenommen werden kann. Betrifft die KI-Manipulation nur einzelne Szenen, kann eine ergänzende Kennzeichnung direkt an diesen Stellen erforderlich sein.

Bei Audio kann eine Ansage am Anfang verwendet werden. Ergänzend sollte die Information in den Textangaben des Players oder Podcasts erscheinen, damit sie auch für Menschen zugänglich ist, die die Ansage nicht wahrnehmen können.

Bei Texten kann der Hinweis oberhalb des Beitrags, unmittelbar unter der Überschrift oder in einer Autorenzeile stehen. Eine Angabe ausschließlich in den allgemeinen Nutzungsbedingungen oder auf einer separaten KI-Seite genügt für einen konkret betroffenen Inhalt nicht.

Der Hinweis sollte den tatsächlichen Bearbeitungsgrad beschreiben. „Mit KI erstellt“ kann zu allgemein sein, wenn lediglich ein Hintergrund verändert wurde. „Bild teilweise mit KI verändert“ ist in diesem Fall aussagekräftiger.

Welche Musterformulierungen können Unternehmen verwenden?

Für vollständig generierte Bilder:

KI-generierte Darstellung. Die abgebildete Situation zeigt kein reales Kundenprojekt.

Für teilweise veränderte Fotos:

Originalaufnahme, teilweise mit KI verändert. Ergänzte Bildelemente sind nicht Bestandteil der tatsächlichen Ausführung.

Für Produktkonzepte:

KI-gestützte Konzeptvisualisierung. Ausführung und Ausstattung können vom späteren Produkt abweichen.

Für synthetische Stimmen:

Die Sprecherstimme wurde synthetisch erzeugt und gehört keiner realen Person.

Für eine geklonte Stimme:

Die Stimme wurde mit Zustimmung der dargestellten Person künstlich nachgebildet.

Für virtuelle Moderatoren:

Dieses Video verwendet einen KI-generierten Moderator und eine synthetische Stimme.

Für ungeprüfte öffentliche Informationstexte:

Dieser Text wurde mit einem KI-System erzeugt und nicht redaktionell geprüft.

Für freiwillige Angaben bei redaktionell geprüften Texten:

Dieser Beitrag wurde mit KI-Unterstützung erstellt, fachlich überarbeitet und redaktionell freigegeben.

Die letzte Formulierung ist bei erfüllter Ausnahme nicht zwingend durch Artikel 50 vorgeschrieben. Sie kann dennoch Teil einer freiwilligen Transparenzpolitik sein.

Wie kann ein Freigabeprozess für Unternehmenskommunikation aussehen?

Ein brauchbarer Prozess muss nicht jede Social-Media-Grafik durch eine Rechtsabteilung schicken. Er sollte jedoch dafür sorgen, dass problematische Veröffentlichungen erkannt werden, bevor sie online gehen.

Die erste Stufe erfasst die Entstehung.
Der Ersteller dokumentiert, welches Werkzeug verwendet wurde und ob Text, Bild, Audio oder Video vollständig erzeugt oder nur verändert wurde.

Die zweite Stufe prüft den Realitätsbezug.
Bei Bildern, Audio und Videos wird untersucht, ob bestehende Personen, Objekte, Orte, Einrichtungen oder Ereignisse dargestellt werden und ob der Inhalt für authentisch gehalten werden könnte.

Die dritte Stufe bewertet den Veröffentlichungszweck.
Bei Texten wird festgestellt, ob der Beitrag die Öffentlichkeit über ein Thema von öffentlichem Interesse informiert. Individuelle Kommunikation und gewöhnliche Produkttexte werden davon getrennt.

Die vierte Stufe organisiert die redaktionelle Verantwortung.
Eine benannte Person prüft Tatsachen, Quellen, Unternehmensbezug und mögliche Fehlinterpretationen. Sie entscheidet, ob der Inhalt veröffentlicht werden darf und welche Bezeichnung benötigt wird.

Die fünfte Stufe prüft die technische Herkunft.
Vorhandene Herkunftsmetadaten, Content Credentials oder andere maschinenlesbare Markierungen werden beim Export und bei der Veröffentlichung möglichst erhalten.

Die sechste Stufe kontrolliert den Veröffentlichungskanal.
Das Unternehmen prüft die Darstellung auf Website, Smartphone, Social-Media-Plattform und Download-Datei. Ein Hinweis, der im Redaktionssystem sichtbar ist, kann nach dem Upload abgeschnitten oder überlagert werden.

Die letzte Stufe dokumentiert die Freigabe.
Gespeichert werden finale Datei, Veröffentlichungsdatum, verantwortliche Person, Kennzeichnungsentscheidung und gegebenenfalls die verwendete Musterformulierung.

Welche Kennzeichnungs- und Dokumentationscheckliste sollten KMU verwenden?

Inhalt und Entstehung

• Wurde KI zur Erzeugung oder wesentlichen Veränderung eingesetzt?
• Handelt es sich um Text, Bild, Audio, Video oder eine Kombination?
• Wurde lediglich eine übliche Bearbeitungsfunktion verwendet?
• Welches System und welche Version kamen zum Einsatz?

Deepfake-Prüfung

• Ähnelt der Inhalt einer realen Person, einem Objekt, Ort, Unternehmen oder Ereignis?
• Könnte der Inhalt als authentische Aufnahme oder Aussage verstanden werden?
• Wurden reale Stimmen, Gesichter, Produkte, Projekte oder Standorte nachgebildet?
• Ist eine sichtbare Offenlegung erforderlich?

Textprüfung

• Wird der Text veröffentlicht?
• Informiert er die Öffentlichkeit über ein Thema von öffentlichem Interesse?
• Wurden Tatsachen, Quellen und Kennzahlen fachlich geprüft?
• Ist eine verantwortliche natürliche oder juristische Person benannt?
• Ist die redaktionelle Freigabe dokumentiert?

Technische Herkunft

• Enthält die Datei maschinenlesbare Herkunftsinformationen?
• Bleiben diese beim Export und Upload erhalten?
• Unterstützt der Anbieter Content Credentials, Wasserzeichen oder vergleichbare Verfahren?
• Wurden vorhandene Markierungen nicht absichtlich entfernt?

Veröffentlichung

• Ist ein erforderlicher Hinweis bei der ersten Wahrnehmung sichtbar?
• Ist die Formulierung für den tatsächlichen Bearbeitungsgrad geeignet?
• Funktioniert die Darstellung auf mobilen Geräten?
• Bleibt die Information beim Teilen oder Herunterladen erhalten?
• Sind Barrierefreiheit und Alternativtext berücksichtigt?

Dokumentation

• Sind finale Fassung und Freigabedatum gespeichert?
• Ist der verantwortliche Redakteur dokumentiert?
• Wurde die Entscheidung für oder gegen eine Kennzeichnung begründet?
• Gibt es einen Termin für die Überprüfung der internen Vorgaben?

Welche Bedeutung hat der freiwillige EU-Verhaltenskodex?

Die Europäische Kommission (https://commission.europa.eu/) veröffentlichte den endgültigen „Code of Practice on Transparency of AI-Generated Content“ am 10. Juni 2026. Er richtet sich sowohl an Anbieter generativer Systeme als auch an professionelle Nutzer, die Deepfakes oder bestimmte öffentliche Informationstexte veröffentlichen.

Der Kodex ist freiwillig. Die gesetzlichen Pflichten aus Artikel 50 gelten jedoch unabhängig davon, ob ein Unternehmen den Kodex unterzeichnet.

Für Anbieter behandelt der Kodex technische Markierungs- und Erkennungslösungen. Für Betreiber enthält er Empfehlungen zur Gestaltung, Positionierung und Darstellung von Hinweisen. Dazu gehören auch die optionalen EU-Symbole für vollständig generierte oder teilweise KI-veränderte Inhalte.

Ein mittelständisches Unternehmen muss dem Kodex nicht zwingend beitreten, um einzelne darin beschriebene Verfahren zu nutzen. Die EU-Symbole stehen frei zur Verfügung. Unternehmen können die Grundsätze außerdem in ihre eigene Kommunikationsrichtlinie, Freigabematrix und Dokumentation übernehmen.

Die Verwendung eines Symbols allein genügt jedoch nicht. Inhalt, Zeitpunkt, Platzierung und tatsächliche Bedeutung müssen zusammenpassen.

Warum ist die Kennzeichnung auch wirtschaftlich relevant?

Die Kennzeichnungspflicht trifft auf ein bereits geschwächtes Vertrauen in digitale Inhalte.

In einer Studie von Adobe (https://www.adobe.com/) erklärten 74 Prozent der befragten Verbraucher, es sei ihnen wichtig, dass Händler den Einsatz KI-generierter Inhalte, Bilder oder Empfehlungen offenlegen. Nur 26 Prozent waren der Ansicht, dass Marken diese Erwartung bereits erfüllen.

Ofcom (https://www.ofcom.org.uk/) berichtete, dass 43 Prozent der befragten britischen Erwachsenen innerhalb von sechs Monaten mindestens einen Deepfake im Internet gesehen hatten.

Der Reuters Institute Digital News Report 2025 des Reuters Institute for the Study of Journalism (https://reutersinstitute.politics.ox.ac.uk/) kam zu dem Ergebnis, dass sich 58 Prozent der Befragten weltweit Sorgen darüber machen, was bei Online-Nachrichten echt oder falsch ist.

Diese Zahlen stammen nicht aus einer repräsentativen Erhebung unter deutschen KMU. Sie zeigen dennoch, warum unkommentierte künstliche Kundenbilder, angebliche Referenzprojekte oder synthetische Aussagen die Glaubwürdigkeit eines Unternehmens beeinträchtigen können.

Eine gute Kennzeichnung muss einen Inhalt nicht abwerten. Eine Bezeichnung wie „Konzeptvisualisierung“ kann sogar Erwartungen steuern und Missverständnisse vermeiden. Entscheidend ist, dass sie zum Medium und zum tatsächlichen Entstehungsprozess passt.

Wie wird aus Einzelentscheidungen ein belastbarer Freigabeprozess?

Unternehmen sollten Kennzeichnung nicht erst kurz vor der Veröffentlichung diskutieren. Die Entscheidung beginnt bereits bei Briefing, Werkzeugauswahl und Produktionsauftrag.

Eine interne Grundstruktur kann aus fünf Bausteinen bestehen: einer Kommunikationsrichtlinie für generative Inhalte, einer Einordnung typischer Medienformate, verbindlichen Musterformulierungen, einer Freigabematrix und einer Ablage für Nachweise.

Für ein kleines Unternehmen kann eine einzige verantwortliche Person Veröffentlichungen mit realitätsnahen KI-Bildern prüfen. In einem größeren Mittelständler können Marketing, Fachbereich, Datenschutz, Informationssicherheit und gegebenenfalls Recht je nach Inhalt beteiligt werden.

KrambergAI GmbH (https://krambergai.com/) unterstützt mittelständische Unternehmen beim Aufbau solcher Strukturen innerhalb einer KI-Richtlinie und Governance-Grundstruktur. Dazu können ein KI-Verzeichnis, Kennzeichnungsregeln, Freigabematrix, Musterhinweise, Schulung und ein dokumentierter Veröffentlichungsprozess gehören.

Welche Quellen belegen die verwendeten Kennzahlen?

Adobe: 2025 AI and Digital Trends for Retail
https://business.adobe.com/assets/pdfs/resources/reports/retail-digital-trends/2025-ai-and-digital-trends-retail.pdf

Ofcom: A Deep Dive into Deepfakes That Demean, Defraud and Disinform
https://www.ofcom.org.uk/online-safety/illegal-and-harmful-content/deepfakes-demean-defraud-disinform

Reuters Institute for the Study of Journalism: Digital News Report 2025 – Overview and Key Findings
https://reutersinstitute.politics.ox.ac.uk/digital-news-report/2025/dnr-executive-summary

Welche interessanten Links vertiefen das Thema?

Europäische Kommission: Code of Practice on Transparency of AI-Generated Content
https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content

Europäische Kommission: EU-Symbole für die Kennzeichnung KI-generierter Inhalte
https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content

Coalition for Content Provenance and Authenticity: C2PA Technical Specification
https://spec.c2pa.org/specifications/specifications/2.4/index.html

Muss jeder KI-generierte Text gekennzeichnet werden?

Nein. Artikel 50 erfasst insbesondere KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren. Selbst dann entfällt die Offenlegungspflicht, wenn eine tatsächliche menschliche oder redaktionelle Prüfung stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.

Genügt es, einen KI-Text einmal kurz gegenzulesen?

Ein flüchtiges Gegenlesen bietet nur einen schwachen Nachweis für einen redaktionellen Kontrollprozess. Die verantwortliche Person sollte wesentliche Aussagen, Quellen, Zahlen und mögliche Fehlinterpretationen prüfen, erforderliche Änderungen vornehmen und die Endfassung eigenverantwortlich freigeben. Sinnvoll ist außerdem eine einfache Dokumentation mit Prüfer, Datum, finaler Version und Freigabestatus.

Muss ein redaktionell geprüfter Blogartikel einen KI-Hinweis tragen?

Nicht zwingend. Behandelt der Artikel ein Thema von öffentlichem Interesse, kann die Ausnahme für menschliche Überprüfung und übernommene redaktionelle Verantwortung greifen. Ein freiwilliger Hinweis bleibt möglich. Stammt der Beitrag dagegen weitgehend automatisiert aus einem KI-System und wird ohne inhaltliche Prüfung veröffentlicht, kann eine Offenlegung nach Artikel 50 erforderlich sein.

Müssen KI-generierte Social-Media-Bilder immer gekennzeichnet werden?

Nein. Eine sichtbare Pflicht besteht nach Artikel 50 vor allem bei Deepfakes. Abstrakte Illustrationen oder offensichtlich fiktive Darstellungen fallen nicht automatisch darunter. Zeigt ein Bild jedoch scheinbar ein reales Kundenprojekt, einen Mitarbeiter, ein Produkt oder ein Ereignis, sollte geprüft werden, ob eine Deepfake-Kennzeichnung oder zumindest eine erläuternde Bezeichnung erforderlich ist.

Was ist bei Unternehmensinhalten ein Deepfake?

Ein Deepfake kann ein künstlich erzeugtes oder verändertes Bild, Audio oder Video sein, das einer bestehenden Person, einem Objekt, Ort, Unternehmen oder Ereignis ähnelt und fälschlich für authentisch gehalten werden könnte. Dazu können auch manipulierte Projektfotos, geklonte Geschäftsführer-Stimmen, künstliche Kundenvideos oder scheinbar reale Aufnahmen einer Anlage gehören.

Reicht eine technische Markierung in den Metadaten aus?

Nein, wenn das Unternehmen einen sichtbaren Hinweis nach Artikel 50 Absatz 4 bereitstellen muss. Maschinenlesbare Markierungen richten sich an technische Systeme und Erkennungsdienste. Deepfakes und bestimmte ungeprüfte öffentliche Informationstexte benötigen zusätzlich eine für Menschen wahrnehmbare Offenlegung. Beide Ebenen erfüllen unterschiedliche Aufgaben und sollten im Veröffentlichungsprozess getrennt geprüft werden.

Muss der Hinweis direkt im Bild oder Video stehen?

Nicht in jedem Fall zwingend, er muss aber spätestens bei der ersten Wahrnehmung gut wahrnehmbar und dem betroffenen Inhalt zugeordnet sein. Bei Social Media ist eine Einbettung in das Medium häufig robuster als ein später Hinweis im Begleittext. Die EU-Empfehlungen bevorzugen Lösungen, die auch beim Teilen oder Herunterladen erhalten bleiben.

Darf sich ein Unternehmen auf die automatische Plattformkennzeichnung verlassen?

Eine Plattformkennzeichnung kann die Umsetzung unterstützen. Das veröffentlichende Unternehmen sollte dennoch kontrollieren, ob der Hinweis tatsächlich erscheint, beim mobilen Abruf sichtbar bleibt und den Inhalt zutreffend beschreibt. Plattformen können Metadaten entfernen, Formate verändern oder Hinweise bei eingebetteten und heruntergeladenen Dateien nicht weitergeben. Die betriebliche Verantwortung verschwindet dadurch nicht.

Muss eine künstliche Sprecherstimme gekennzeichnet werden?

Eine neutrale synthetische Stimme ist nicht automatisch ein Deepfake. Eine Offenlegung wird besonders relevant, wenn sie einer bestehenden Person ähnelt oder wie eine authentische Aussage eines Geschäftsführers, Mitarbeiters, Kunden oder Experten wirkt. Bei interaktiver KI-Telefonie besteht zusätzlich eine eigene Pflicht, den Anrufer über die Kommunikation mit einem KI-System zu informieren.

Welche Nachweise sollte das Unternehmen aufbewahren?

Sinnvoll sind die finale Datei, das Veröffentlichungsdatum, das verwendete KI-System, die verantwortliche Person, die redaktionelle Freigabe und die Entscheidung über die Kennzeichnung. Bei Deepfakes oder realitätsnahen Darstellungen sollten zusätzlich Einwilligungen, Bearbeitungsbeschreibung, Musterhinweis und verwendete Herkunftsmarkierungen dokumentiert werden. Der Umfang kann an Risiko und Reichweite angepasst werden.