Transparenzpflichten KI-Telefonie: „Dieser Anruf wird von einer KI bearbeitet“

Unternehmen müssen Kunden spätestens bei der ersten direkten Interaktion darüber informieren, dass sie mit einem KI-System kommunizieren, sofern dies nicht ohnehin offensichtlich ist. Der Hinweis gehört deshalb an den Gesprächsbeginn, in die erste Chatansicht oder unmittelbar vor die KI-Funktion im Kundenportal. Er sollte verständlich benennen, was die KI übernimmt und wie ein Mitarbeiter erreicht wird.

Rechtsstand: 14. Juli 2026. Dieser Beitrag dient der betrieblichen Orientierung und ersetzt keine Rechtsberatung. Die im Mai 2026 veröffentlichten Leitlinien der Europäischen Kommission lagen zum Redaktionsstand noch als Entwurf vor.

Wann müssen Kunden erkennen, dass sie mit einer KI kommunizieren?

Artikel 50 Absatz 1 des EU AI Act betrifft KI-Systeme, die für eine direkte Interaktion mit natürlichen Personen bestimmt sind. Der Anbieter muss das System so gestalten, dass die betroffene Person erkennt, dass sie nicht mit einem Menschen, sondern mit einem KI-System kommuniziert. Eine Ausnahme besteht nur, wenn dies aus Sicht einer angemessen informierten und aufmerksamen Person aufgrund der Umstände und des Nutzungskontexts ohnehin offensichtlich ist. Die Transparenzpflichten werden am 2. August 2026 anwendbar.

Für eine mittelständische Serviceorganisation ist die praktische Konsequenz weitreichender, als der abstrakte Gesetzestext zunächst vermuten lässt. Betroffen sein können der digitale Telefonempfang, ein Chat auf der Website, eine automatisierte Störungsannahme, ein Terminassistent, eine Angebotsauskunft, ein Ersatzteil-Chat, eine digitale Reklamationsaufnahme oder eine dialogorientierte Funktion im Kundenportal.

Im SHK-Betrieb kann der KI-Assistent den Anlagentyp, die Objektadresse und das Fehlerbild aufnehmen. Ein Verkehrssicherungsunternehmen lässt möglicherweise Einsatzort, Zeitraum, Art der Maßnahme und Ansprechpartner erfassen. Im Yachtservice geht es um Liegeplatz, Bootstyp, Servicebedarf und gewünschtes Zeitfenster. Bei einem technischen Dienstleister werden Maschinennummer, Störungscode, Dringlichkeit und Erreichbarkeit abgefragt.

In all diesen Fällen führt der Kunde ein Gespräch mit einem System, das freie Sprache verarbeitet, Rückfragen stellt und auf den bisherigen Gesprächsverlauf reagiert. Dass sich hinter der Stimme oder dem Chatfenster kein Mitarbeiter befindet, ist bei heutigen Sprachmodellen nicht zwangsläufig erkennbar. Gerade eine natürlich klingende Stimme, eine persönliche Begrüßung oder eine Antwort in vollständigen Sätzen kann den Eindruck eines menschlichen Servicekontakts erzeugen.

Die Ausnahme für einen ohnehin offensichtlichen KI-Einsatz sollte deshalb nicht zum Regelfall gemacht werden. Ein kleiner Bot-Name, ein Symbol oder eine technische Produktbezeichnung genügt nicht unbedingt, wenn der übrige Auftritt wie ein menschlicher Ansprechpartner wirkt. Die Bundesnetzagentur weist darauf hin, dass betroffene Personen grundsätzlich über die Interaktion mit dem KI-System informiert werden müssen, sofern sich der KI-Charakter nicht bereits aus dem Kontext ergibt.

Wer ist für den Transparenzhinweis verantwortlich?

Die rechtliche Rollenverteilung ist bei Artikel 50 ungewöhnlich wichtig. Absatz 1 richtet sich formal an den Anbieter des interaktiven KI-Systems. Anbieter ist nicht automatisch der Hersteller des verwendeten Sprachmodells. Anbieter kann auch ein Unternehmen sein, das eine fertige technische Komponente unter eigenem Namen als vollständige Lösung entwickelt, entwickeln lässt, in Betrieb nimmt oder auf den Markt bringt.

Ein mittelständisches Unternehmen, das einen fertigen Telefonassistenten eines Dienstleisters im eigenen Kundenservice verwendet, ist häufig Betreiber. Der Technologieanbieter muss die Funktion für den Transparenzhinweis vorsehen. Das einsetzende Unternehmen sollte dennoch prüfen, ob der Hinweis in seiner konkreten Konfiguration tatsächlich erscheint, ob er zum richtigen Zeitpunkt erfolgt und ob die Formulierung dem realen Ablauf entspricht.

Anders kann es bei einer Eigenentwicklung oder White-Label-Lösung aussehen. Lässt ein Unternehmen einen KI-Assistenten speziell für den eigenen Betrieb entwickeln, versieht ihn mit der eigenen Marke und nimmt ihn unter eigener Verantwortung in Betrieb, muss die Anbieterrolle gesondert untersucht werden. Entscheidend ist nicht nur, wer das Sprachmodell geliefert hat, sondern wer die Kundenschnittstelle, ihren Zweck und ihren Funktionsumfang bestimmt. Die von der Europäischen Kommission veröffentlichten Entwurfsleitlinien und deren juristische Auswertung betonen diese Unterscheidung zwischen Anbieter und Betreiber.

Für die Umsetzung empfiehlt sich daher eine eindeutige vertragliche Zuordnung. Der Vertrag mit dem Plattformanbieter sollte festlegen, wer den Hinweis technisch bereitstellt, wer die Formulierung freigibt, wer Änderungen nach einem Update prüft und wie nachgewiesen wird, dass der Hinweis tatsächlich ausgespielt wurde.

Ein Verweis auf die Verantwortung des Softwareanbieters reicht gegenüber dem Kunden im laufenden Betrieb kaum aus. Wenn auf der Telefonnummer, Website oder Portaloberfläche des eigenen Unternehmens ein KI-Assistent auftritt, wird die Interaktion dem Unternehmen zugerechnet. Technische und organisatorische Verantwortung müssen deshalb zusammenpassen.

Wo verläuft die Grenze zwischen KI-Assistent, Automatisierung und menschlichem Service?

Nicht jede Automation ist ein KI-System, und nicht jeder Einsatz von KI führt zu einer direkten Interaktion zwischen Kunde und KI.

Eine herkömmliche Telefonansage mit festem Auswahlmenü arbeitet typischerweise nach vorgegebenen Regeln: „Drücken Sie die Eins für den Kundendienst, die Zwei für die Buchhaltung.“ Solange keine KI freie Sprache interpretiert, Antworten erzeugt oder selbstständig den Gesprächsverlauf steuert, entsteht allein durch die Automation noch keine Transparenzpflicht nach Artikel 50 Absatz 1.

Anders liegt der Fall, wenn der Anrufer sein Anliegen frei schildern kann und das System daraus Vorgangsart, Dringlichkeit, Kundennummer oder nächsten Bearbeitungsschritt ableitet. Selbst wenn im Hintergrund anschließend ein fest definierter Workflow gestartet wird, findet die erste Kundeninteraktion mit einem KI-System statt.

Auch bei einem Chat kommt es auf die tatsächliche Funktionsweise an. Ein Formular, das den Kunden nacheinander durch feste Eingabefelder führt, ist nicht automatisch ein KI-Chatbot. Verarbeitet das System jedoch freie Texte, erkennt Absichten, formuliert individuelle Antworten oder generiert Rückfragen, spricht vieles für eine direkte KI-Interaktion.

Davon zu unterscheiden ist ein menschlicher Servicemitarbeiter, der sich während des Gesprächs durch KI unterstützen lässt. Die KI kann im Hintergrund die Kundenakte zusammenfassen, einen Antwortvorschlag erstellen oder passende Wartungsinformationen anzeigen. Solange der Mitarbeiter selbst mit dem Kunden kommuniziert und die Antwort eigenverantwortlich formuliert, findet nach der Auslegung der Entwurfsleitlinien grundsätzlich keine unmittelbare Interaktion zwischen Kunde und KI statt.

Schwieriger sind Mischformen. Wird eine E-Mail vollständig von einer KI beantwortet, aber vor dem Versand von einem Mitarbeiter freigegeben, hängt die Bewertung vom konkreten Prozess, der menschlichen Kontrolle und dem Eindruck beim Empfänger ab. Ebenso muss bei einem Live-Chat geprüft werden, ob der Mitarbeiter lediglich einen KI-Text unverändert weiterleitet oder tatsächlich als eigener Ansprechpartner handelt.

Eine interne Bezeichnung wie „automatisierter Prozess“ löst diese Abgrenzung nicht. Unternehmen sollten die technische Kette betrachten: Wer nimmt die Eingabe entgegen? Wer interpretiert sie? Wer erzeugt die Antwort? Wer entscheidet über den nächsten Schritt? Und kann ein Mitarbeiter eingreifen, bevor die Antwort den Kunden erreicht?

An welcher Stelle muss der Hinweis erscheinen?

Artikel 50 Absatz 5 verlangt, dass die Information spätestens zum Zeitpunkt der ersten Interaktion oder der ersten Wahrnehmung bereitgestellt wird. Sie muss wahrnehmbar, unterscheidbar und in einem zugänglichen Format dargestellt sein. Ein Hinweis am Ende des Gesprächs, im Impressum, ausschließlich in den Allgemeinen Geschäftsbedingungen oder auf einer Unterseite der Datenschutzerklärung kommt zu spät.

Am Telefon bedeutet dies: Der Hinweis gehört in die Eröffnung, bevor der KI-Assistent das Anliegen aufnimmt oder personenbezogene Angaben abfragt. Eine vorgeschaltete Begrüßung durch das Unternehmen ist möglich, doch der Kunde sollte vor seiner ersten inhaltlichen Antwort wissen, mit wem er spricht.

Im Chat sollte die Information bereits im geöffneten Chatfenster sichtbar sein. Optimal ist eine kurze Einordnung oberhalb des Eingabefelds oder als erste Nachricht des Assistenten. Wird der Chat nur durch ein neutrales Symbol geöffnet und erscheint der Hinweis erst nach mehreren Nachrichten, ist der Zeitpunkt ungünstig.

Im Kundenportal muss danach unterschieden werden, ob das gesamte Portal KI-basiert ist oder nur eine einzelne Funktion. Ein Button mit der Aufschrift „Frage an den KI-Assistenten“ kann den Charakter der Funktion bereits benennen. Zusätzlich sollte beim Öffnen der Funktion eine kurze Erläuterung erscheinen, bevor der Kunde Projektdaten, Vertragsangaben oder ein Fehlerbild eingibt.

Bei wiederkehrenden Portalnutzern kann die erste Information während des Onboardings sinnvoll sein. Sie sollte jedoch nicht ausschließlich dort verbleiben. Wenn ein Kunde sechs Monate später eine neue KI-Funktion nutzt, muss der Zusammenhang weiterhin erkennbar sein. Eine dauerhafte Kennzeichnung innerhalb des Moduls ist deshalb robuster als ein einmaliges Pop-up.

Die Entwurfsleitlinien empfehlen je nach Medium textliche, visuelle oder gesprochene Hinweise. Für sprachbasierte Systeme kommt insbesondere eine Ansage zu Beginn der Interaktion in Betracht. Uneindeutige Begriffe wie „Assistent“, rein technische Hinweise auf ein Sprachmodell oder ausschließlich maschinenlesbare Markierungen reichen nach dieser Auslegung nicht aus.

Wie sollte ein Hinweis am Telefon formuliert sein?

Die Formulierung „Dieser Anruf wird von einer KI bearbeitet“ ist eingängig, kann aber missverstanden werden. Sie lässt offen, ob die KI nur das Anliegen aufnimmt, das gesamte Gespräch führt, eine Aufzeichnung erstellt oder verbindliche Entscheidungen trifft.

Eine bessere Ansage benennt die Identität des Gesprächspartners, die konkrete Aufgabe und den möglichen Übergang zu einem Mitarbeiter.

Allgemeiner Telefonempfang:
„Willkommen bei [Unternehmen]. Sie sprechen zunächst mit unserem KI-Assistenten. Er nimmt Ihr Anliegen auf und leitet es an den passenden Ansprechpartner weiter.“

Für einen Servicebetrieb kann die Aufgabe konkreter beschrieben werden:

Störungs- und Serviceannahme:
„Willkommen beim Service von [Unternehmen]. Unser KI-Assistent nimmt Ihre Störungsmeldung, die Anlagendaten und Ihre Rückrufnummer auf. Bei Bedarf verbindet er Sie mit unserem Serviceteam.“

Ein Handwerksbetrieb außerhalb der Bürozeiten könnte formulieren:

Anruf außerhalb der Geschäftszeiten:
„Unser Büro ist derzeit nicht besetzt. Ein KI-Assistent nimmt jetzt Ihr Anliegen und Ihre Kontaktdaten auf, damit unser Team den Rückruf vorbereiten kann.“

Soll der Kunde jederzeit zu einem Mitarbeiter wechseln können, sollte dies nicht erst nach einem fehlgeschlagenen Dialog erwähnt werden:

Telefonie mit Übergabemöglichkeit:
„Sie sprechen mit unserem KI-Assistenten. Sagen Sie jederzeit ‚Mitarbeiter‘, wenn Sie mit unserem Serviceteam verbunden werden möchten.“

Ein KI-Assistent darf nur Fähigkeiten ankündigen, die tatsächlich vorhanden sind. Wenn keine direkte Weiterleitung möglich ist, sollte nicht von „Verbinden“ gesprochen werden. Dann passt eine Formulierung wie „Er erstellt eine Rückrufnotiz für unser Team“.

Die Ansage sollte kurz bleiben. Datenschutzinformationen, Aufzeichnungshinweise und Angaben zum KI-Einsatz erfüllen unterschiedliche Zwecke. Falls ein Gespräch aufgezeichnet, vollständig transkribiert oder zu weiteren Zwecken ausgewertet wird, sind die hierfür geltenden Anforderungen separat zu prüfen. Der Hinweis auf den KI-Assistenten ersetzt diese Informationen nicht.

Wie sollte der Transparenzhinweis im Chat aussehen?

Im Chat muss der Hinweis ohne Suchen auffindbar sein. Eine Bezeichnung wie „Service“, „Online-Hilfe“ oder „Digitaler Assistent“ sagt nicht verlässlich, ob ein Mensch, ein festes Regelwerk oder ein generatives System antwortet. Der Begriff „KI-Assistent“ ist wesentlich aussagekräftiger.

Eine geeignete Eröffnungsnachricht lautet:

Allgemeiner Website-Chat:
„Sie chatten mit dem KI-Assistenten von [Unternehmen]. Er beantwortet Fragen auf Basis unserer freigegebenen Unternehmensinformationen und kann Ihr Anliegen an unser Team übergeben.“

Für eine Terminvereinbarung bietet sich folgende Variante an:

Termin- und Rückrufassistent:
„Dieser Chat wird von einem KI-Assistenten geführt. Er erfasst Ihren Terminwunsch und Ihre Kontaktdaten. Die endgültige Bestätigung erfolgt durch unser Team.“

Bei einer Angebotsanfrage sollte keine Verbindlichkeit suggeriert werden, wenn das System lediglich Informationen sammelt:

Angebotsvorbereitung:
„Unser KI-Assistent hilft Ihnen, die Angaben für Ihre Anfrage zusammenzustellen. Er erstellt noch kein verbindliches Angebot. Ein Mitarbeiter prüft Ihre Angaben und meldet sich bei Ihnen.“

Für eine technische Störungsmeldung kann die Grenze des Systems ausdrücklich genannt werden:

Technischer Service-Chat:
„Sie kommunizieren mit einem KI-Assistenten. Er nimmt das Fehlerbild und die Anlagendaten auf, ersetzt aber keine technische Sicherheitsbewertung vor Ort.“

Der erste Hinweis darf durch weitere Informationen ergänzt werden. Eine verlinkte Detailseite kann erklären, welche Daten verarbeitet werden, welche Quellen der Assistent nutzt, wie lange Angaben gespeichert werden und wie ein Mitarbeiter erreicht wird. Der kurze Hinweis selbst sollte jedoch nicht durch den Link ersetzt werden.

Aus Gründen der Zugänglichkeit sollte die Kennzeichnung nicht ausschließlich über Farbe, Animation oder ein Symbol erfolgen. Der Text muss auch mit assistiven Technologien erfassbar sein. Im Chatverlauf sollte außerdem erkennbar bleiben, welche Nachrichten vom KI-Assistenten und welche von einem Mitarbeiter stammen.

Wie kann der Hinweis in einem Kundenportal integriert werden?

Ein Kundenportal enthält häufig verschiedene Funktionen: Dokumentenabruf, Projektstatus, Terminübersicht, Rechnungen, Servicehistorie und möglicherweise einen KI-Assistenten. Ein pauschaler Hinweis auf der Login-Seite wäre in diesem Fall zu weit gefasst und zugleich für die konkrete Interaktion wenig hilfreich.

Besser ist eine Kennzeichnung direkt an der jeweiligen Funktion:

Wissensassistent im Kundenportal:
„KI-Assistent für Fragen zu Ihren freigegebenen Projekt- und Servicedokumenten.“

Beim Öffnen kann eine zweite Ebene folgen:

„Diese Funktion verwendet KI, um passende Informationen aus den für Sie freigegebenen Unterlagen zusammenzustellen. Prüfen Sie technische, vertragliche und terminliche Angaben, bevor Sie darauf aufbauen.“

Für eine Funktion, die Anfragen strukturiert und an die Disposition übergibt, passt:

Digitale Serviceaufnahme:
„Ein KI-Assistent strukturiert Ihre Angaben und erstellt daraus einen Servicevorgang. Die Einsatzplanung und Terminbestätigung erfolgen durch unser Team.“

Bei einem Projektportal für Bau, Verkehrssicherung oder technische Dienstleistungen sollte das System nicht den Eindruck erwecken, es könne verbindlich über Nachträge, Freigaben, Ausführungstermine oder sicherheitsrelevante Maßnahmen entscheiden, wenn diese Entscheidungen weiterhin beim Projektleiter liegen.

Eine geeignete Formulierung lautet:

Projektbezogene Auskunft:
„Der KI-Assistent beantwortet Fragen auf Basis der im Portal hinterlegten Projektinformationen. Verbindliche Freigaben, Nachträge und Terminänderungen bestätigt weiterhin Ihre Projektleitung.“

Der Hinweis kann in der Kopfzeile des Assistenten, oberhalb des Eingabefelds und in der ersten Systemnachricht erscheinen. Diese Wiederholung ist keine unnötige Dopplung, sondern verbindet Funktionsname, Nutzungssituation und tatsächlichen Gesprächsbeginn.

Welche Formulierungen sollten Unternehmen vermeiden?

Problematisch sind zunächst Formulierungen, die den KI-Einsatz verschleiern. „Ihr digitaler Ansprechpartner“, „virtueller Kollege“, „Service-Team online“ oder ein menschlicher Vorname ohne weitere Einordnung können den Eindruck erwecken, ein Mitarbeiter führe das Gespräch.

Auch rein technische Formulierungen helfen Kunden wenig. „Dieses System nutzt ein Large Language Model“ beschreibt eine technische Komponente, beantwortet aber nicht die entscheidende Frage, ob die Person gerade mit einer KI kommuniziert.

Ungeeignet sind außerdem Angaben, die mehr versprechen, als das System leisten kann. Ein Assistent, der lediglich eine Nachricht aufnimmt, sollte nicht behaupten, er „bearbeite die Reklamation“. Ein Chatbot, der freie Termine anzeigt, darf nicht von einer verbindlichen Buchung sprechen, wenn anschließend noch eine manuelle Prüfung erfolgt.

Ebenso kritisch ist ein Hinweis, der den Kunden mit Verantwortungsabwehr konfrontiert:

„Alle Antworten können falsch sein. Die Nutzung erfolgt auf eigene Gefahr.“

Ein solcher Satz erklärt weder die Funktion noch den Ansprechpartner und passt kaum zu einer professionellen Kundenschnittstelle. Sinnvoller ist eine konkrete Begrenzung:

„Der KI-Assistent unterstützt bei allgemeinen Fragen. Verbindliche technische, vertragliche und preisliche Auskünfte bestätigt ein Mitarbeiter.“

Die Formulierung sollte außerdem nicht unnötig dramatisch wirken. Kunden müssen wissen, mit wem sie kommunizieren. Sie benötigen jedoch keine ausführliche Beschreibung der Modellarchitektur, des Trainingsverfahrens oder der technischen Integrationsplattform, bevor sie eine Rückrufnummer hinterlassen können.

Wie unterscheiden sich Telefon, Chat und Kundenportal?

Die Tabelle ersetzt keine Einzelfallprüfung. Besonders bei Mischformen kommt es darauf an, ob der Kunde unmittelbar mit dem KI-System interagiert oder ob ein Mitarbeiter die Kommunikation tatsächlich führt.

Wie sollte der Wechsel zwischen KI und Mitarbeiter gestaltet werden?

Ein guter Übergang besteht aus mehr als einer technischen Weiterleitung. Der Kunde sollte erkennen, wann die KI-Interaktion endet und ein Mitarbeiter übernimmt.

Am Telefon kann der Assistent sagen:

„Ich verbinde Sie jetzt mit Frau Schneider aus unserem Serviceteam. Die bisher aufgenommenen Angaben werden an sie übergeben.“

Im Chat eignet sich eine sichtbare Systemnachricht:

„Ab hier übernimmt ein Mitarbeiter unseres Kundenservice. Ihre bisherigen Angaben bleiben im Vorgang erhalten.“

Wird lediglich ein Rückruf vorbereitet, sollte auch dies benannt werden:

„Ich habe Ihre Angaben als Rückrufvorgang erfasst. Ein Mitarbeiter meldet sich während unserer Servicezeiten bei Ihnen.“

Dieser Übergang ist nicht nur für Artikel 50 relevant. Er verhindert auch, dass Kunden dieselben Angaben mehrfach machen, nicht wissen, ob ihr Anliegen bereits als Auftrag gilt, oder eine automatisch erzeugte Aussage als verbindliche Zusage verstehen.

Für Störungen, Beschwerden, Preisfragen, Kündigungen, Zahlungsprobleme und sicherheitsrelevante Anliegen sollten feste Eskalationsregeln bestehen. Ein SHK-Assistent muss erkennen, wann Gasgeruch, Wasseraustritt oder Heizungsausfall nicht wie eine gewöhnliche Terminfrage behandelt werden darf. Ein Verkehrssicherungsunternehmen benötigt andere Eskalationskriterien, etwa bei beschädigten Absperrungen, Gefahrenstellen oder kurzfristigen Änderungen einer Verkehrsführung.

Die Transparenzinformation sollte deshalb mit dem Betriebskonzept verbunden werden. Kunden müssen nicht nur erfahren, dass sie mit KI sprechen. Sie müssen auch wissen, wann die KI zuständig ist und wann ein Mitarbeiter oder eine Notfallstelle übernehmen muss.

Was sollten Unternehmen zur Umsetzung dokumentieren?

Die Formulierung des Hinweises ist nur ein kleiner Teil der Umsetzung. Unternehmen sollten für jede digitale Kundenschnittstelle dokumentieren, ob eine direkte KI-Interaktion stattfindet, wer Anbieter und Betreiber ist, an welcher Stelle der Hinweis erscheint und welche Version des Textes produktiv verwendet wird.

Hinzu kommen die tatsächlichen Fähigkeiten des Systems. Darf der Assistent Termine verbindlich buchen? Kann er einen Auftrag anlegen? Erstellt er lediglich eine Telefonnotiz? Greift er auf CRM-Daten, Wartungshistorien oder Vertragsunterlagen zu? Kann er einen Vorgang an einen Mitarbeiter übergeben?

Auch Änderungen gehören in den Prüfprozess. Wird aus einem fest programmierten Chatformular später ein generativer Assistent, kann sich die rechtliche Einordnung ändern. Dasselbe gilt, wenn ein Telefonassistent zunächst nur Rückrufdaten aufnimmt und nach einem Update eigenständig Preise nennt, Termine bestätigt oder Reklamationen bewertet.

Sinnvoll ist ein kurzer Abnahmetest aus Kundensicht. Dabei wird geprüft, ob der Hinweis bei einem neuen Anruf tatsächlich abgespielt wird, ob er im mobilen Chat sichtbar bleibt, ob Screenreader ihn erfassen können und ob die Übergabe zu einem Mitarbeiter wie beschrieben funktioniert.

Die öffentlich verfügbaren Entwurfsleitlinien der Kommission sind nicht rechtsverbindlich. Sie geben jedoch einen wichtigen Anhaltspunkt dafür, wie Aufsichtsbehörden die Anforderungen an Zeitpunkt, Wahrnehmbarkeit, Zugänglichkeit und Medienwahl auslegen könnten. Die endgültige Auslegung bleibt den zuständigen Behörden und Gerichten vorbehalten.

Warum ist die Art des Hinweises auch wirtschaftlich relevant?

Transparenz ist nicht nur eine regulatorische Aufgabe. Sie beeinflusst, ob Kunden eine digitale Schnittstelle akzeptieren und ob sie ihr Anliegen bis zum Ende des Prozesses bearbeiten.

Im internationalen „State of the Connected Customer“ von Salesforce gaben 72 Prozent der Kunden an, dass es für sie wichtig ist zu wissen, ob sie mit einem KI-Agenten kommunizieren. Eine weitere Salesforce-Untersuchung ergab, dass 45 Prozent einen KI-Agenten eher nutzen würden, wenn ein definierter Eskalationsweg zu einem Menschen vorhanden ist.

Die Einführung eines Assistenten allein garantiert jedoch noch kein besseres Serviceerlebnis. In der Customer Experience Survey 2025 von PwC sagten 30 Prozent der befragten Verbraucher, KI habe den Zugang zum Kundenservice verbessert. 38 Prozent bewerteten ihn dagegen als schlechter.

Für mittelständische Unternehmen folgt daraus eine einfache betriebliche Regel: Der Hinweis sollte den Kunden nicht nur über den KI-Einsatz informieren. Er sollte zugleich Orientierung geben, welche Aufgabe der Assistent übernimmt, welche Aussagen unverbindlich sind und wie ein Mitarbeiter erreicht werden kann.

Ein präziser Einstieg kann sogar Reibung reduzieren. Wer weiß, dass der Assistent zunächst nur Daten für eine Störungsmeldung sammelt, erwartet keine abschließende technische Diagnose. Wer auf eine spätere Terminbestätigung hingewiesen wird, versteht einen angezeigten Termin nicht irrtümlich als verbindlich gebucht.

Welche Quellen belegen die verwendeten Kennzahlen?

Salesforce: State of the Connected Customer
https://www.salesforce.com/eu/resources/research-reports/state-of-the-connected-customer/

Salesforce: AI Connected Customer Research
https://www.salesforce.com/news/stories/ai-customer-research/

PwC: Customer Loyalty with Agentic AI
https://www.pwc.com/us/en/technology/alliances/library/salesforce-customer-experience-survey.html

Welche interessanten Links vertiefen das Thema?

EUR-Lex: Verordnung (EU) 2024/1689 über künstliche Intelligenz
https://eur-lex.europa.eu/eli/reg/2024/1689/oj

Europäische Kommission: Entwurf der Leitlinien zu den Transparenzpflichten nach Artikel 50
https://digital-strategy.ec.europa.eu/en/library/draft-guidelines-implementation-transparency-obligations-certain-ai-systems-under-article-50-ai-act

Europäische Kommission: Leitlinien und Verhaltenskodex für transparente KI-Systeme
https://digital-strategy.ec.europa.eu/en/faqs/guidelines-and-code-practice-transparent-ai-systems

Muss jeder Chatbot einen KI-Hinweis anzeigen?

Nein. Ein festes Kontaktformular oder ein regelbasierter Entscheidungsbaum ist nicht allein deshalb ein KI-System, weil der Ablauf automatisiert ist. Verarbeitet der Chat jedoch freie Sprache, erkennt Anliegen, erzeugt individuelle Antworten oder stellt kontextbezogene Rückfragen, sollte geprüft werden, ob eine direkte KI-Interaktion vorliegt und Artikel 50 Absatz 1 anzuwenden ist.

Reicht die Bezeichnung „digitaler Assistent“ aus?

Die Bezeichnung ist häufig zu allgemein. Ein digitaler Assistent kann ein Mensch, ein festes Regelwerk oder ein KI-System sein. Besser ist eine ausdrückliche Bezeichnung wie „KI-Assistent“ in Verbindung mit einer kurzen Funktionsbeschreibung. Der Kunde sollte bereits beim Einstieg erkennen, dass Antworten automatisiert durch ein KI-System erzeugt oder gesteuert werden.

Muss der Hinweis bei jedem Telefonat erneut erfolgen?

Der Hinweis sollte bei jeder neuen Interaktion so erscheinen, dass auch erstmalige und gelegentliche Anrufer ihn wahrnehmen. Ein Hinweis auf der Website oder in einem früheren Gespräch genügt für einen späteren Anruf nicht zuverlässig. Bei einem neuen Telefonkontakt empfiehlt sich deshalb eine kurze Eröffnungsansage, bevor der Assistent das Anliegen oder personenbezogene Angaben abfragt.

Darf ein KI-Telefonassistent wie ein Mensch klingen?

Eine natürliche Stimme ist nicht grundsätzlich verboten. Je menschlicher Stimme, Name und Gesprächsführung wirken, desto weniger sollte das Unternehmen jedoch auf die Ausnahme eines ohnehin offensichtlichen KI-Einsatzes vertrauen. Eine ausdrückliche Ansage zu Beginn verhindert, dass der Anrufer den Assistenten mit einem Servicemitarbeiter verwechselt oder seine Angaben unter falschen Erwartungen macht.

Muss immer ein menschlicher Ansprechpartner angeboten werden?

Artikel 50 Absatz 1 schreibt nicht für jede gewöhnliche KI-Interaktion ausdrücklich einen jederzeit erreichbaren Mitarbeiter vor. Ein Übergabemöglichkeit kann sich jedoch aus dem jeweiligen Prozess, aus anderen Rechtsvorschriften oder aus der Bedeutung des Anliegens ergeben. Für Beschwerden, Vertragsfragen, Notfälle und sicherheitsrelevante Vorgänge sollte ein nachvollziehbarer Eskalationsweg vorgesehen werden.

Wo gehört der Hinweis in einem Website-Chat hin?

Der Hinweis sollte im geöffneten Chatfenster sichtbar sein und spätestens mit der ersten Nachricht erscheinen. Eine geeignete Position liegt oberhalb des Eingabefelds oder direkt in der Begrüßung des Assistenten. Ein alleiniger Hinweis in Datenschutzerklärung, Impressum oder Nutzungsbedingungen erreicht den Kunden nicht zuverlässig zum vorgeschriebenen Zeitpunkt der ersten Interaktion.

Genügt im Kundenportal ein Hinweis bei der Registrierung?

Ein einmaliger Hinweis während der Registrierung ist häufig nicht ausreichend, wenn die KI-Funktion erst später genutzt wird oder nachträglich hinzukommt. Die Funktion sollte direkt als KI-Assistent bezeichnet werden. Beim Öffnen sollte erneut erläutert werden, welche Aufgabe das System übernimmt, auf welche Informationen es zugreift und welche Entscheidungen weiterhin ein Mitarbeiter trifft.

Muss auch ein menschlicher Servicemitarbeiter auf seine KI-Unterstützung hinweisen?

Nicht automatisch. Nutzt der Mitarbeiter KI lediglich im Hintergrund für Wissenssuche, Gesprächszusammenfassung oder Formulierungsvorschläge und entscheidet selbst über die Antwort, kommuniziert der Kunde weiterhin mit einem Menschen. Anders kann die Bewertung ausfallen, wenn die KI Antworten ohne wirkliche menschliche Prüfung erzeugt und unmittelbar an den Kunden weiterleitet.

Ersetzt der KI-Hinweis die Datenschutzinformation?

Nein. Der Hinweis nach Artikel 50 informiert über die Identität beziehungsweise Art des Gesprächspartners. Datenschutzinformationen erläutern unter anderem Verantwortlichkeit, Verarbeitungszwecke, Rechtsgrundlage, Speicherdauer und Rechte der betroffenen Person. Werden Gespräche aufgezeichnet, transkribiert oder zur Qualitätskontrolle ausgewertet, sind die hierfür geltenden Anforderungen zusätzlich zu prüfen und getrennt abzubilden.

Darf der KI-Assistent einen menschlichen Namen verwenden?

Ein menschlicher Name ist nicht generell ausgeschlossen, darf den tatsächlichen Charakter des Systems aber nicht verdecken. „Anna vom Serviceteam“ kann den Eindruck einer Mitarbeiterin erzeugen. Besser wäre „Anna, der KI-Assistent von [Unternehmen]“. Entscheidend ist, dass Name, Stimme, Profilbild und Begrüßung zusammen keinen falschen Eindruck über den Gesprächspartner entstehen lassen.

Was gilt bei einer Übergabe von der KI an einen Mitarbeiter?

Der Wechsel sollte für den Kunden erkennbar sein. Der Assistent kann ankündigen, dass nun ein Mitarbeiter übernimmt und welche Angaben weitergegeben werden. Im Chat empfiehlt sich eine sichtbare Systemnachricht, am Telefon eine kurze Ansage. Dadurch ist nachvollziehbar, ab welchem Zeitpunkt eine Person die Kommunikation und Verantwortung für weitere Aussagen übernimmt.