EU AI Act Artikel 50: Was dein KI-Telefonagent sagen muss

EU AI Act Artikel 50: Was dein KI-Telefonagent ab dem 2. August sagen muss

Ab dem 2. August 2026 muss ein KI-Telefonagent in der EU zwei Dinge offenlegen: dass er eine Maschine ist — und in wessen Auftrag er anruft. Bei einem Sprachagenten heißt das: gesprochen, in klarer Sprache, spätestens bei der ersten Interaktion. Ein Hinweis in den AGB, ein Wasserzeichen in den Metadaten oder ein vages „Ich bin Ihr Assistent" genügen ausdrücklich nicht.

Das ist keine Interpretation, sondern das Ergebnis der finalen Leitlinien, die die Europäische Kommission am 20. Juli 2026 veröffentlicht hat — dreizehn Tage vor Inkrafttreten der Pflichten. Dieser Artikel übersetzt die Leitlinien in konkrete Konfiguration: welcher Satz in den Begrüßungs-Prompt gehört, wann erneut offengelegt werden muss, wer bei White-Label-Setups haftet, und welche Artefakte du bei einer Behördenprüfung brauchst. Die Grundlagen findest du in unserer EU AI Act Compliance-Checkliste für Voice AI — hier geht es um das, was die Leitlinien präzisiert haben.

Was am 20. Juli 2026 tatsächlich veröffentlicht wurde

Die Kommission hat ein 51-seitiges Leitlinien-Dokument zu Artikel 50 des AI Act vorgelegt. Formal sind sie nicht bindend — eine autoritative Auslegung kann nur der Europäische Gerichtshof geben. Praktisch sind sie das Regelbuch: Die Marktaufsichtsbehörden in allen 27 Mitgliedstaaten werden sie als primäre Referenz nutzen.

Artikel 50 baut vier getrennte Pflichten auf, die auf unterschiedliche Akteure fallen:

• Artikel 50(1) — Systeme, die direkt mit Menschen interagieren: Chatbots, Sprachassistenten, automatisierter Kundenservice. Der Anbieter muss das System so gestalten, dass Nutzer erkennen, dass sie mit einer Maschine sprechen.
• Artikel 50(2) — Generative Systeme: synthetischer Text, Bild, Audio oder Video muss maschinenlesbar markiert und als künstlich erkennbar sein.
• Artikel 50(3) — Emotionserkennung und biometrische Kategorisierung: der Betreiber muss die betroffenen Personen informieren.
• Artikel 50(4) — Deepfakes und KI-generierter Text zu Themen von öffentlichem Interesse: der Betreiber muss die künstliche Natur des Inhalts offenlegen.

Für einen Voice Agent, der Anrufe annimmt oder tätigt, ist Artikel 50(1) der Kern. Wer zusätzlich synthetische Stimmen erzeugt und Aufnahmen speichert oder weiterverbreitet, muss auch Artikel 50(2) prüfen. Adressat ist nicht die Kategorie „KI-Hersteller", sondern die weit größere Gruppe von Unternehmen, die KI im Alltag einsetzen. Die Zahnarztpraxis mit einem KI-Anrufbeantworter ist genauso im Anwendungsbereich wie ein Konzern.

Die Pflicht, die die meisten übersehen: nicht nur „Ich bin KI"

Hier liegt der wesentliche Zugewinn der finalen Leitlinien — und der Grund, warum eine im Frühjahr gebaute Compliance-Konfiguration heute möglicherweise unvollständig ist.

Die Leitlinien bestätigen: KI-Agenten sind erfasst, und sie müssen sowohl ihre künstliche Natur als auch die Person offenlegen, in deren Auftrag sie handeln. Ein Agent, der Termine buchen, Korrespondenz führen, verhandeln, Verträge schließen oder Käufe ausführen kann, muss beides nennen. Für einen Outbound-Agenten reicht also „Hier ist ein KI-Assistent" nicht — die Ansage muss auch klarmachen, für welches Unternehmen er anruft.

Zweiter Punkt, der die Architektur betrifft: Kann ein Anbieter nicht vorab bestimmen, ob ein Agent mit einem Menschen interagieren wird, muss der Agent auf Architektur-Ebene so gestaltet sein, dass er sich in jeder Situation offenlegt, in der das nach vernünftigem Ermessen wahrscheinlich ist — auch wenn die natürliche Person für eine juristische Person handelt. Der Sachbearbeiter, der für seinen Arbeitgeber ans Telefon geht, ist geschützt wie jeder Privatanrufer.

Dritter Punkt, und der ist in der Praxis unterschätzt: Agenten müssen sich auch gegenüber den Personen offenlegen, die sie instruieren, und zwar an Schlüsselschritten wie Autorisierung, Berichterstattung und Validierung — sowie bei jeder neuen Interaktion. Eine einmalige Ansage am Anfang einer langen Gesprächskette trägt nicht. Bei mehrstufigen Multi-Agenten-Architekturen adressieren die Leitlinien diesen Fall ausdrücklich.

Was als Offenlegung nicht ausreicht

Die Leitlinien sind vor allem dort nützlich, wo sie sagen, was nicht genügt. Ausdrücklich als unzureichend gelistet — jeweils, wenn sie alleinstehend verwendet werden:

• Offenlegungen, die nur in AGB, URLs oder Dokumentation stehen
• maschinenlesbare Markierungen wie Metadaten oder Wasserzeichen, die der Nutzer am Interaktionspunkt nicht wahrnehmen kann
• unklare oder mehrdeutige Signale — etwa ein generischer Verweis auf einen „Assistenten" oder menschenähnliche Darstellungen, die in die Irre führen können
• pauschale Aussagen wie „Auf dieser Website werden KI-Dienste eingesetzt"
• rein technische Beschreibungen wie „Dieses System nutzt LLMs", ohne zu erklären, was das für den Nutzer bedeutet

Verlangt wird stattdessen ein Hinweis, der klar, in einfacher Sprache und an dem Moment platziert ist, in dem der Nutzer mit dem System in Kontakt kommt. Für Sprachsysteme bedeutet das eine hörbare, gesprochene Aussage. Der Prüfmaßstab ist unkompliziert: Ein durchschnittlich informierter Anrufer muss am Kontaktpunkt sofort und ohne Anstrengung verstehen, dass am anderen Ende kein Mensch sitzt.

Und in risikoreicheren Kontexten — Finanz- oder Gesundheitsberatung, Beschwerdebearbeitung, Interaktionen mit Kindern oder älteren Menschen — kann ein einziger Hinweis am Anfang zu wenig sein. Die Leitlinien halten periodische Erinnerungen dort für wahrscheinlich erforderlich.

Wann, wie oft und mit welchem Nachweis

Aus den Leitlinien lässt sich pro Interaktionsszenario eine konkrete Konfigurationsregel ableiten. Diese Matrix ist der praktische Kern des Artikels:

Der letzte Punkt verdient eine Warnung: Sobald ein Mensch in der Schleife nach vernünftigem Ermessen wahrscheinlich wird, greift die Offenlegungspflicht — und die Beweislast liegt bei dir.

Anbieter oder Betreiber? Die Rollenfrage entscheidet, wer haftet

In den meisten Fällen ist ein Unternehmen, das einen fremden KI-Agenten in seine Telefonie integriert, ein Betreiber (Deployer): Es nutzt das System unter eigener Verantwortung, hat es aber nicht gebaut. Die Rolle kann sich aber verschieben. Wer das System wesentlich verändert, es unter eigenem Namen oder eigener Marke in den Verkehr bringt oder seinen Zweck ändert, rutscht in die Position des Anbieters (Provider) — mit deutlich schwereren Pflichten. Die Leitlinien sind an diesem Punkt ausdrücklich.

Für Agenturen und Systemhäuser, die Voice Agents als White-Label-Lösung unter eigener Marke weiterverkaufen, ist das die zentrale Frage des Sommers. Wer die Plattform unter eigenem Namen vermarktet, sollte davon ausgehen, in die Anbieterrolle zu fallen — und damit die Pflicht zu tragen, dass die Offenlegung technisch möglich und wirksam ist.

Zwei Klarstellungen aus den Leitlinien sind hier wichtig. Erstens setzt „Autorität" über ein KI-System keine technische Kontrolle voraus — es geht um die Entscheidung, ob und wie das System eingesetzt wird. Zweitens sind einzelne Mitarbeitende, die auf Anweisung des Unternehmens handeln, keine eigenen Betreiber: Verantwortlich ist die juristische Person.

Die „offensichtlich"-Ausnahme ist enger, als die meisten annehmen

Artikel 50(1) enthält eine Ausnahme für Fälle, in denen die künstliche Natur der Interaktion aus den Umständen offensichtlich ist. Die Leitlinien schränken sie deutlich ein: Sie soll auf Fälle begrenzt bleiben, in denen praktisch kein Zweifel über die Natur der Interaktion verbleibt. Code-Assistenten, die nur von professionellen Entwicklern genutzt werden, interne Werkzeuge für geschultes Personal oder Diagnose-Hilfen ausschließlich für medizinisches Fachpersonal können qualifizieren.

Ein kundenseitiger Helpdesk-Agent auf einer öffentlichen Rufnummer qualifiziert nicht. Die Beweislast trägt derjenige, der sich auf die Ausnahme beruft. Für praktisch jeden Voice Agent, der externe Anrufe annimmt, ist sie damit keine Option.

Fristen: der 2. August und der schmale Dezember-Korridor

Ein Missverständnis, das gerade viel Schaden anrichtet: Es gibt eine Verlängerung bis zum 2. Dezember 2026 — aber sie ist erheblich schmaler, als sie oft beschrieben wird.

Drei Konsequenzen. Erstens: Die Verlängerung deckt ausschließlich Artikel 50(2). Die Offenlegungspflicht deines Telefonagenten fällt am 2. August, unverändert. Zweitens: Systeme, die teils interaktiv und teils generativ sind, profitieren nur bezüglich der Markierung. Drittens: Maßgeblich ist das Datum des Inverkehrbringens beziehungsweise der Inbetriebnahme jedes einzelnen Systems. Ohne Inventar kannst du nicht einmal bestimmen, welche Frist für dich gilt.

Zur technischen Machbarkeit hält das Dokument fest: Sie ist ein objektiver Begriff und hängt nicht von den Mitteln des einzelnen Anbieters ab. „Unser Team ist zu klein" trägt nicht.

Ergänzend existiert seit dem 10. Juni 2026 ein Code of Practice zur Transparenz KI-generierter Inhalte, den Kommission und AI Board als geeignetes freiwilliges Instrument bestätigt haben. Er ist freiwillig, die Pflichten sind es nicht. Wer nicht unterzeichnet, muss die Einhaltung mit anderen geeigneten Mitteln nachweisen und eine Gap-Analyse gegen den Code vorlegen — und mit mehr Auskunftsverlangen rechnen.

Umsetzung mit Famulor: Schritt für Schritt

Die gute Nachricht: Für einen bestehenden Voice Agent ist das eine Konfigurations- und Dokumentationsaufgabe, keine Neuentwicklung. So gehst du vor.

1. Disclosure-Satz formulieren. Baue eine Formulierung, die künstliche Natur und Auftraggeber in einem Satz nennt. Beispiel für einen Inbound-Agenten: „Guten Tag, Sie sprechen mit einem KI-Assistenten der Zahnarztpraxis Dr. Becker. Wie kann ich Ihnen helfen?" Für Outbound: „Guten Tag, hier ist ein KI-Assistent im Auftrag der Steuerberatung Krämer und Partner." Kein „virtueller Kollege", kein Vorname ohne Zusatz, keine menschenähnliche Selbstbeschreibung.
2. In den Prompt und den Flow verankern. Setze die Ansage im Flow Builder als ersten Schritt jedes Einstiegspfads — nicht nur im Hauptpfad. Prüfe insbesondere Nebeneingänge: Rückrufe, IVR-Weiterleitungen, Kampagnen-Pfade.
3. Sprachen durchziehen. Wenn dein Agent mehrsprachig arbeitet, muss die Offenlegung in der Sprache erfolgen, in der das Gespräch geführt wird. Bei 40+ unterstützten Sprachen heißt das: pro Sprache eine geprüfte Formulierung, nicht eine maschinell durchgereichte Übersetzung, die den Sinn verwässert.
4. Re-Disclosure an Übergabepunkten setzen. Bei Call Transfer gehört der Wechsel benannt. Bei Rückrufen und Folgeanrufen beginnt die Pflicht neu.
5. Mid-Call-Aktionen prüfen. Agenten, die über Mid-Call Tools Termine buchen, Daten schreiben oder Bestellungen auslösen, fallen genau in die Kategorie, für die die Leitlinien die Nennung des Auftraggebers verlangen. Prüfe jede handelnde Aktion gegen diese Anforderung.
6. Nachweis automatisieren. Nutze Post-Call Analysis, um pro Gespräch zu prüfen, ob die Offenlegung tatsächlich erfolgt ist. Damit wird aus einer Behauptung ein Artefakt — und genau das verlangt der Accountability-Grundsatz.
7. Systeminventar anlegen. Halte je System fest: Rolle (Anbieter oder Betreiber), betroffene Artikel-50-Kategorie, Lieferant, Datum des Inverkehrbringens oder der Inbetriebnahme. Ohne dieses Register ist alles andere blind.
8. Lieferantenverträge nachziehen. Rollenzuordnung, Zusicherungen zur Markierung generativer Ausgaben, Bereitstellung der Disclosure-Funktionen, Freistellungen bei zurechenbarer Nicht-Compliance, Weitergabe der Pflichten in der Lieferkette.

Branchen-Beispiele

Zahnarztpraxis Dr. Becker, Münster, 12 Mitarbeitende. Der Agent nimmt Anrufe außerhalb der Sprechzeiten an und bucht Termine. Umsetzung: Begrüßung nennt KI-Natur und Praxisnamen. Weil Terminbuchung eine handelnde Aktion ist, ist die Nennung des Auftraggebers Pflicht, nicht Kür. Bei Weiterleitung an die Prophylaxe-Assistenz am Morgen wird der Wechsel benannt.

Steuerberatung Krämer & Partner, 40 Mitarbeitende. Outbound-Kampagne zur Erinnerung an fehlende Belege. Hier ist die Auftraggeber-Nennung besonders sensibel: Der Angerufene muss sofort wissen, dass die Kanzlei hinter dem Anruf steht. Weil es um Fristen und finanzielle Folgen geht, ist eine kurze Wiederholung des Hinweises bei längeren Gesprächen die sichere Auslegung.

IT-Systemhaus Nordlicht, 60 Mitarbeitende, White-Label-Reseller. Verkauft Voice Agents unter eigener Marke an Handwerksbetriebe. Rollenprüfung ergibt: sehr wahrscheinlich Anbieter. Folge: Nordlicht muss sicherstellen, dass die Offenlegung technisch verfügbar und wirksam ist, und muss die Kunden instruieren. Die Kunden bleiben Betreiber und müssen dafür sorgen, dass der Hinweis im konkreten Einsatz wirklich beim Anrufer ankommt.

Immobilienverwaltung Hansen, 850 verwaltete Einheiten. Chat-Widget auf der Website plus Telefonagent für Schadensmeldungen. Zwei Kanäle, zwei Formate: sichtbarer Texthinweis im Web-Widget vor der ersten Nachricht, gesprochene Ansage am Telefon. Wird per WhatsApp nachgefasst, beginnt die Offenlegungspflicht mit der ersten Nachricht des Threads erneut.

Typische Fehler

• Offenlegung in der Datenschutzerklärung statt am Kontaktpunkt. Der häufigste und am leichtesten vermeidbare Fehler.
• Euphemismen. „Digitaler Kollege", „smarter Service", ein Vorname ohne Zusatz. Alles, was die künstliche Natur nicht ausspricht, trägt nicht.
• Nur die künstliche Natur, nicht den Auftraggeber. Genau die Lücke, die die finalen Leitlinien geschlossen haben.
• Einmal am Anfang, danach nie wieder. Rückrufe, Folgeanrufe und Multi-Agenten-Schritte lösen die Pflicht erneut aus.
• Nur der Hauptpfad geprüft. Nebeneingänge und Kampagnen-Pfade fallen bei Audits regelmäßig auf.
• Kein Inventar. Ohne Systemregister ist die Frist-Zuordnung unmöglich.

Was Compliance kostet — und was Nicht-Compliance kostet

Die Kostenseite ist ungewöhnlich klar. Auf der Umsetzungsseite steht bei einem bestehenden Agenten überwiegend Konfigurationsarbeit: Prompt anpassen, Flows durchgehen, Sprachvarianten prüfen, Nachweis-Auswertung aktivieren, Inventar anlegen, Verträge sichten. Für einen KMU-Agenten mit einer Handvoll Einstiegspfaden ist das eine Aufgabe von Stunden, nicht von Monaten.

Auf der Gegenseite: Verstöße gegen Artikel 50 fallen in die zweite Bußgeldstufe des AI Act mit bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für KMU und Start-ups gilt der niedrigere der beiden Werte — ein Verhältnismäßigkeitsmechanismus, keine Befreiung. Eine Größenausnahme existiert nicht. Hinzu kommen die Aufsichtsbefugnisse: Auskunftsverlangen, Vor-Ort-Prüfungen, Anordnung von Abhilfemaßnahmen und in schweren Fällen die Rücknahme eines nicht konformen Systems vom Markt.

Wer die Rechnung für den eigenen Fall aufmachen will — Anrufvolumen, eingesparte Zeit, Kosten pro Gespräch — kann sie in wenigen Minuten überschlagen.

Fazit

Die finalen Leitlinien haben die letzte Ausrede zum Abwarten kassiert. Für Voice Agents lässt sich die Pflicht auf einen Satz eindampfen: gesprochen offenlegen, dass es eine KI ist und für wen sie arbeitet — bei jeder neuen Interaktion, in der Sprache des Gesprächs, nachweisbar dokumentiert. Der 2. August 2026 kommt ohne Übergangsfrist, und die Dezember-Verlängerung hilft bei der Telefon-Offenlegung nicht.

Drei Dinge, die diese Woche noch erledigt werden sollten: Erstens den Disclosure-Satz für jeden aktiven Agenten anpassen — künstliche Natur und Auftraggeber. Zweitens jeden Einstiegspfad durchklicken, nicht nur den Hauptpfad. Drittens den Nachweis automatisieren, damit ein Auskunftsverlangen eine Frage von Minuten und nicht von Wochen ist.

Genau dafür ist Famulor gebaut: Offenlegung im Flow Builder als erster Schritt jedes Pfads, geprüfte Formulierungen über 40+ Sprachen, Re-Disclosure an Transfer-Punkten, und Post-Call Analysis als automatischer Nachweis pro Gespräch.

Konkreter nächster Schritt: Öffne deinen aktiven Agenten, spiele die ersten zehn Sekunden eines echten Anrufs ab und prüfe, ob dort künstliche Natur und Auftraggeber genannt werden. Falls nicht, ist das die Änderung, die vor dem 2. August fällig ist — und sie dauert Minuten.

FAQ

Muss mein KI-Telefonagent ab dem 2. August 2026 sagen, dass er eine KI ist?

Ja. Nach Artikel 50(1) AI Act muss ein Sprachagent seine künstliche Natur hörbar und in klarer Sprache offenlegen, spätestens bei der ersten Interaktion. Die finalen Leitlinien vom 20. Juli 2026 verlangen zusätzlich die Nennung der Person oder des Unternehmens, in deren Auftrag der Agent handelt.

Reicht ein Hinweis in den AGB oder in der Datenschutzerklärung?

Nein. Die Leitlinien führen Offenlegungen, die nur in AGB, URLs oder Dokumentation stehen, ausdrücklich als unzureichend auf. Der Hinweis muss an dem Punkt erscheinen, an dem der Nutzer mit dem System in Kontakt kommt — bei Sprachagenten gesprochen.

Genügt es, wenn der Agent sich einmal am Anfang des Gesprächs vorstellt?

Nicht in jedem Fall. Die Pflicht greift bei jeder neuen Interaktion erneut, also auch bei Rückrufen und Folgeanrufen. In risikoreicheren Kontexten wie Finanz- oder Gesundheitsthemen oder bei Gesprächen mit Kindern und älteren Menschen halten die Leitlinien periodische Erinnerungen für wahrscheinlich erforderlich.

Was bedeutet die Pflicht, den Auftraggeber zu nennen, praktisch?

Der Agent muss klarmachen, für welches Unternehmen er handelt — nicht nur, dass er eine Maschine ist. Das gilt besonders für Agenten, die Termine buchen, Korrespondenz führen, verhandeln, Verträge schließen oder Käufe ausführen können.

Bin ich Anbieter oder Betreiber?

Wer einen fremden Agenten für die eigene Rufnummer nutzt, ist in der Regel Betreiber. Wer das System wesentlich verändert, es unter eigenem Namen oder eigener Marke anbietet oder seinen Zweck ändert, rutscht in die Anbieterrolle mit deutlich weiteren Pflichten. White-Label-Weiterverkauf unter eigener Marke sollte als Anbieterfall behandelt werden.

Gilt die Verlängerung bis zum 2. Dezember 2026 auch für meinen Telefonagenten?

Nein, jedenfalls nicht für die Offenlegung. Die Übergangsfrist bis zum 2. Dezember 2026 betrifft ausschließlich die maschinenlesbare Markierung nach Artikel 50(2) und nur Systeme, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden. Die Offenlegungspflicht nach Artikel 50(1) gilt ab dem 2. August ohne Übergangsfrist.

Wann ist die künstliche Natur „offensichtlich" und die Offenlegung entbehrlich?

Nur dann, wenn praktisch kein Zweifel verbleibt — etwa bei internen Werkzeugen für geschultes Personal oder Code-Assistenten für professionelle Entwickler. Ein kundenseitiger Agent auf einer öffentlichen Rufnummer erfüllt diese Ausnahme nicht, und die Beweislast liegt bei dem, der sich darauf beruft.

Wie hoch sind die Bußgelder bei Verstößen gegen Artikel 50?

Bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für KMU und Start-ups gilt der niedrigere der beiden Werte. Eine Ausnahme aufgrund der Unternehmensgröße gibt es nicht.

Sind die Leitlinien der Kommission rechtlich bindend?

Formal nein — eine autoritative Auslegung kann nur der Europäische Gerichtshof geben. Praktisch werden sie jedoch die primäre Referenz der Marktaufsichtsbehörden in allen 27 Mitgliedstaaten bei der Prüfung von Artikel 50 sein.

Welche Nachweise sollte ich für eine Behördenprüfung vorhalten?

Ein Systemregister mit Rolle, Artikel-50-Kategorie, Lieferant und Datum der Inbetriebnahme, dazu Belege der Offenlegung wie Prompt-Versionen und Transkript-Stichproben, die technische Dokumentation des Lieferanten sowie die Lieferantenverträge. Nachträgliche Korrekturen gelten in der Aufsichtspraxis regelmäßig nicht als ausreichend.