EU AI Act 2026: Was die KI-Hinweispflicht für Voice- und Chat-Systeme bedeutet

Kurz gesagt: Seit dem 2. August 2026 gilt Artikel 50 der KI-Verordnung (EU) 2024/1689. Wer mit einem Chatbot schreibt oder am Telefon mit einer KI spricht, muss das spätestens bei der ersten Interaktion erfahren, klar und eindeutig. Die Pflicht richtet sich dem Wortlaut nach an die Anbieter solcher Systeme. Der Digital Omnibus, die Verordnung (EU) 2026/1744, hat diese Hinweispflicht nicht verschoben. Verschoben hat er die technische Kennzeichnung KI-erzeugter Inhalte für ältere Systeme bis zum 2. Dezember 2026 und die Hochrisiko-Pflichten auf Dezember 2027 und August 2028. Verstöße gegen Art. 50 können bis zu 15 Mio. € oder 3 Prozent des weltweiten Jahresumsatzes kosten. Für kleine und mittlere Unternehmen gilt der jeweils niedrigere Wert.

Die erste Fassung dieses Beitrags vom 3. August 2026 enthielt Fehler. Sie nannte den 2. August 2026 als Start der Hochrisiko-Pflichten, versprach kleinen Unternehmen einen Bußgeldrabatt von 50 und 75 Prozent und stützte sich auf Aussagen zu Behörden und Verbänden, die wir nicht belegen konnten. Wir haben den Text im Oktober 2026 neu geschrieben und jede Aussage an der Primärquelle geprüft: EUR-Lex, die Seiten der EU-Kommission, das Europäische Parlament und die deutschen Gesetzestexte.

Die Fristen im Überblick, Stand Oktober 2026

Die KI-Verordnung ist am 1. August 2024 in Kraft getreten und gilt in Stufen. Der Digital Omnibus wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und hat einige Termine verschoben. [2] [3] Diese Daten gelten jetzt:

Für ein Unternehmen mit KI am Telefon oder einem Chatbot zählt vor allem die fett markierte Zeile. Sie gilt seit dem 2. August 2026 für neue und für bestehende Systeme.

Was Art. 50 Abs. 1 genau verlangt

Der Kern steht in einem Satz. Anbieter müssen KI-Systeme, die für die direkte Interaktion mit Menschen bestimmt sind, so gestalten, "dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren". [1] Daraus folgen vier Fragen, die in der Praxis immer wieder auftauchen.

Wen trifft die Pflicht? Dem Wortlaut nach die Anbieter. Das ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke anbietet oder in Betrieb nimmt. Die Fragen und Antworten der EU-Kommission zu Art. 50 sagen es genauso: Anbieter müssen ihre Systeme so entwerfen und entwickeln, dass die Menschen informiert werden. [5] Ob ein Unternehmen, das einen fremden Agenten nur einsetzt, eine eigene Pflicht nach Abs. 1 trägt, lässt der Text offen. Mehr dazu im Abschnitt zu Anbieter und Betreiber.

Wann? Spätestens zum Zeitpunkt der ersten Interaktion (Abs. 5). Laut den Fragen und Antworten der Kommission muss die Information mit Beginn der ersten Interaktion erfolgen. [5] Am Telefon heißt das: in der Begrüßung, nicht nach zwei Minuten.

Wie? Klar und eindeutig erkennbar und im Einklang mit den geltenden Anforderungen an die Barrierefreiheit (Abs. 5). Eine bestimmte Formulierung schreibt das Gesetz nicht vor.

Gibt es Ausnahmen? Ja, wenn der KI-Charakter für eine angemessen informierte, aufmerksame und verständige Person aus den Umständen ohnehin offensichtlich ist. Die Kommission will diese Ausnahme ausdrücklich eng auslegen, weil sie Menschen Transparenz nimmt. [5] Eine Stimme, die wie ein Mensch klingt, ist am Telefon gerade nicht offensichtlich eine KI. Wer sich auf die Ausnahme verlässt, trägt das Risiko.

Die Vorschrift ist technikneutral. Sie gilt für Text im Chatfenster genauso wie für eine Stimme am Telefon, im Browser oder auf einem Tablet am Empfang. Die Kommission hat am 31. Juli 2026 angekündigt, die Regeln ab dem 2. August durchzusetzen. Chatbots und andere interaktive KI-Systeme müssten Nutzern sagen, dass sie es mit einer KI zu tun haben und nicht mit einem Menschen. [6]

So klingt ein Hinweis, der trägt

Das Gesetz sagt, was erreicht werden muss, nicht mit welchem Satz. Die folgenden Formulierungen sind Beispiele aus der Praxis und keine amtlichen Muster. Sie haben zwei Dinge gemeinsam: Der Hinweis steht am Anfang, und er nennt die KI beim Namen.

Fünf Fehler machen einen Hinweis wertlos:

1. Der Hinweis kommt zu spät. Erst Begrüßung, dann drei Fragen und nach einer Minute ein "übrigens bin ich eine KI". Abs. 5 verlangt den Hinweis spätestens bei der ersten Interaktion.
2. Der Hinweis steht nur in den AGB. Den Text liest vor dem Anruf niemand. Die Information muss die Person in der Interaktion selbst erreichen.
3. Ein menschlicher Name ohne Zusatz. "Hier ist Lea" mit einer natürlichen Stimme lässt jeden an einen Menschen denken. Ein Name ist erlaubt, aber mit "KI-Assistentin" im selben Satz.
4. Der Agent weicht der Frage aus. Fragt jemand "Sind Sie ein Mensch?", muss die Antwort ehrlich sein. Eine Zeile in den Anweisungen des Agenten reicht dafür.
5. Den Hinweis gibt es nur auf Deutsch. Spricht der Agent mehrere Sprachen, gehört der Hinweis in die Sprache des Gesprächs. Ein Hinweis, den der Anrufer nicht versteht, ist nicht klar.

Die anderen Absätze von Art. 50

Art. 50 regelt mehr als den Hinweis im Gespräch. Die Absätze richten sich an unterschiedliche Rollen und werden oft verwechselt.

• Abs. 2, Kennzeichnung erzeugter Inhalte: Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ergebnisse maschinenlesbar kennzeichnen, damit sie als künstlich erkennbar sind. Ausgenommen sind unter anderem reine Hilfsfunktionen für die übliche Bearbeitung. Für Systeme, die vor dem 2. August 2026 auf dem Markt waren, gilt diese Pflicht nach dem neuen Art. 111 Abs. 4 erst ab dem 2. Dezember 2026. [2] [5] Für die Umsetzung gibt es seit dem 10. Juni 2026 einen freiwilligen Verhaltenskodex. Kommission und KI-Gremium haben ihn laut den Fragen und Antworten der Kommission als angemessen bewertet. [5] [7]
• Abs. 3, Emotionserkennung und biometrische Kategorisierung: Betreiber solcher Systeme müssen die betroffenen Menschen über den Betrieb informieren. Das wird relevant, sobald ein Voice-Agent aus der Stimme Gefühle ableiten soll. Dazu mehr im Abschnitt zu Hochrisiko-Systemen.
• Abs. 4, Deepfakes und Texte von öffentlichem Interesse: Betreiber müssen offenlegen, wenn Bild-, Ton- oder Videoinhalte künstlich erzeugt oder verändert sind und echt wirken. Für KI-Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, gilt dasselbe, außer ein Mensch hat sie geprüft und jemand trägt die redaktionelle Verantwortung. Audio mit der geklonten Stimme einer realen Person kann ein Deepfake im Sinne von Art. 3 Nr. 60 sein.

Am Hinweis im Gespräch hat der Digital Omnibus nichts geändert. In Art. 50 ersetzt er nur Abs. 7, die Grundlage für Praxisleitfäden. [2] Für das übliche Kundenservice-Setup mit Telefon-KI und Chatbot ist Abs. 1 deshalb der Absatz, der heute zählt.

Anbieter oder Betreiber: Wer muss was tun?

Die Verordnung unterscheidet zwei Rollen:

• Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, entgeltlich oder unentgeltlich (Art. 3 Nr. 3).
• Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet (Art. 3 Nr. 4).

Bei Plattformen für Voice- und Chat-Agenten ist die Aufteilung selten ganz sauber. Die Plattform liefert das System. Der Kunde schreibt Begrüßung und Anweisungen und schaltet den Agenten unter seinem Firmennamen frei. Wer dabei rechtlich Anbieter des konkreten Agenten ist, hängt vom Einzelfall ab. Deshalb gehört die Aufgabenteilung in den Vertrag.

Praktisch zählt etwas anderes: Der Anrufer hört Ihr Unternehmen. Fehlt der Hinweis, fällt das auf Sie zurück, gleich wer ihn hätte einbauen müssen. Stellen Sie Ihrem Anbieter vor dem Start deshalb drei Fragen:

1. Zeigt oder spricht das System den Hinweis von selbst, oder muss ich ihn einrichten?
2. Wo im Vertrag steht, wer für den Hinweis zuständig ist?
3. Was passiert mit dem Hinweis, wenn ich Begrüßung oder Sprache ändere?

White-Label und Wiederverkauf: Wer ein KI-System unter eigener Marke weiterverkauft, kann schon nach der Definition in Art. 3 Nr. 3 selbst Anbieter sein. Für Hochrisiko-Systeme regelt Art. 25 Abs. 1 das ausdrücklich. Händler, Betreiber und andere Dritte gelten dort als Anbieter, wenn sie ein solches System mit ihrem Namen oder ihrer Marke versehen (lit. a) oder den Zweck eines Systems so ändern, dass daraus ein Hochrisiko-System wird (lit. c). [1]

Wann ein Voice-Agent zum Hochrisiko-System wird

Die meisten Telefon- und Chat-Agenten sind kein Hochrisiko-System. Sie nehmen Anliegen auf, beantworten Fragen und buchen Termine. Anhang III nennt aber Einsatzbereiche, in denen genau so ein Agent hochriskant werden kann: [1]

Zur Emotionserkennung: Art. 3 Nr. 39 meint Systeme, die Emotionen oder Absichten auf Grundlage biometrischer Daten feststellen oder ableiten. Eine Auswertung der Stimme kann darunter fallen. Eine reine Auswertung des geschriebenen Textes stützt sich nicht auf biometrische Daten.

Die Ausnahme in Art. 6 Abs. 3: Ein System aus Anhang III ist nicht hochriskant, wenn es kein erhebliches Risiko birgt und eine dieser Bedingungen erfüllt. Es erledigt eine eng begrenzte Verfahrensaufgabe, verbessert das Ergebnis einer abgeschlossenen menschlichen Tätigkeit, erkennt Entscheidungsmuster, ohne die menschliche Bewertung zu ersetzen, oder übernimmt eine vorbereitende Aufgabe. Die Ausnahme gilt nie, wenn das System ein Profiling natürlicher Personen vornimmt. Wer sich auf sie stützt, muss seine Bewertung dokumentieren, bevor das System auf den Markt kommt oder in Betrieb geht (Art. 6 Abs. 4).

Als Faustregel: Nimmt der Agent nur Angaben auf und ein Mensch entscheidet, liegt eine vorbereitende Aufgabe nahe. Bewertet, sortiert oder bepreist er Menschen selbst, wird es eng. Für die Pflichten, die dann folgen, bleibt nach dem Digital Omnibus etwas mehr Zeit: Risikomanagement, technische Dokumentation, Protokollierung und menschliche Aufsicht gelten für Systeme nach Anhang III ab dem 2. Dezember 2027. [3]

Was nie erlaubt ist

Seit dem 2. Februar 2025 verbietet Art. 5 einige Praktiken ganz. Für Telefon und Chat sind drei davon praktisch relevant: [1]

• Manipulation und Täuschung (lit. a): Techniken, die das Verhalten eines Menschen wesentlich verzerren, indem sie seine Fähigkeit zu einer informierten Entscheidung spürbar beeinträchtigen, und ihm dadurch erheblich schaden oder schaden können.
• Ausnutzen von Schwächen (lit. b): Das gezielte Ausnutzen von Alter, Behinderung oder einer besonderen sozialen oder wirtschaftlichen Lage mit derselben Wirkung.
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (lit. f): verboten, außer aus medizinischen Gründen oder aus Gründen der Sicherheit.

Zwei Beispiele machen den Unterschied greifbar. Ein Verkaufsskript, das ältere Menschen gezielt unter Druck setzt, einen Vertrag abzuschließen, bewegt sich in Richtung lit. a und b. Eine Software, die im eigenen Callcenter die Stimmung der Mitarbeiter auswertet, fällt unter lit. f. Die Stimmung von Kunden auszuwerten ist nicht verboten, aber ein Fall für Art. 50 Abs. 3 und Anhang III.

Bußgelder und Abmahnungen

Art. 99 staffelt die Höchstbeträge nach der Schwere des Verstoßes: [1]

Bei Unternehmen gilt grundsätzlich der höhere der beiden Werte. Für kleine und mittlere Unternehmen einschließlich Start-ups gilt der niedrigere (Art. 99 Abs. 6). Einen pauschalen Rabatt gibt es nicht. Die Regeln zu Sanktionen erlassen die Mitgliedstaaten, durchgesetzt wird über nationale Marktüberwachungsbehörden (Art. 99 Abs. 1 und Art. 70).

In Deutschland gibt es neben der Behörde einen zweiten Weg. Nach § 3a UWG handelt unlauter, wer gegen eine gesetzliche Vorschrift verstößt, die auch das Marktverhalten im Interesse der Marktteilnehmer regeln soll, wenn der Verstoß die Interessen von Verbrauchern, Mitbewerbern oder anderen Marktteilnehmern spürbar beeinträchtigen kann. [8] Unterlassung verlangen können dann nach § 8 Abs. 3 UWG Mitbewerber, eingetragene Wirtschaftsverbände, qualifizierte Verbraucherverbände und Kammern. [8] Ob Art. 50 eine solche Marktverhaltensregel ist, entscheiden am Ende die Gerichte. Sobald ein Gericht das bejaht, kann auch ein Wettbewerber zum Risiko werden, nicht nur die Behörde.

Außerhalb der EU: die USA in Kürze

Wer Kunden in den USA anruft oder anschreibt, trifft auf andere Regeln:

• Bund: Seit dem Declaratory Ruling FCC 24-17 vom Februar 2024 gelten KI-Stimmen bei ausgehenden Anrufen als "artificial voice" im Sinne des Telephone Consumer Protection Act und brauchen grundsätzlich eine vorherige Einwilligung. [9] Eine Pflicht, die KI zu Beginn jedes Anrufs offenzulegen, hat die FCC 2024 nur vorgeschlagen (FCC 24-84). Die Unified Agenda 2026 führt das Verfahren ohne festgelegten nächsten Schritt. [9] [10] Eingehende Anrufe erfasst der TCPA laut FCC nicht.
• Bundesstaaten: Maine verlangt einen klaren Hinweis, wenn Verbraucher sonst glauben könnten, mit einem Menschen zu kommunizieren, in Text und Sprache. Utah verlangt den Hinweis auf klare Nachfrage, in regulierten Berufen bei Interaktionen mit hohem Risiko auch von sich aus. Kalifornien verbietet seit 2019 Bots, die online über ihre Natur täuschen, um zu einem Kauf oder einer Wahlentscheidung zu bewegen. Kalifornien und New York regeln außerdem sogenannte Companion-Chatbots, also Bots, die eine dauerhafte, menschenähnliche Beziehung simulieren. Bots, die nur dem Kundenservice dienen, fallen in Kalifornien ausdrücklich nicht darunter. [11]

Checkliste: Was Sie jetzt tun sollten

1. Den Hinweis in den ersten Satz setzen. Am Telefon in die Begrüßung, im Chat sichtbar vor der ersten Antwort.
2. Die Frage nach dem Menschen ehrlich beantworten lassen. Eine Zeile in den Anweisungen des Agenten genügt.
3. Jede Sprache prüfen. Der Hinweis gehört in die Sprache, in der das Gespräch läuft.
4. Einen Testanruf machen und mitstoppen. Hören Sie selbst, nach wie vielen Sekunden der Hinweis kommt.
5. Die Zuständigkeit klären. Halten Sie fest, ob Ihr Anbieter den Hinweis erzwingt oder ob Sie ihn selbst einrichten.
6. Den Einsatzzweck aufschreiben. Notieren Sie, wofür der Agent da ist und wofür nicht, zum Beispiel keine Entscheidungen über Bewerber, Kredite oder Versicherungstarife.
7. Die Aufzeichnung gesondert klären. Sie ist eine eigene Rechtsfrage. Wer das nicht öffentlich gesprochene Wort eines anderen unbefugt aufnimmt, macht sich nach § 201 StGB strafbar. [12]
8. Verkaufsskripte gegen Art. 5 lesen. Kein Druck auf schutzbedürftige Gruppen, keine Täuschung.

Wie EchoCall den Hinweis umsetzt

Wir beschreiben das genau, weil es dieselbe Frage ist, die Sie jedem Anbieter stellen sollten: Was passiert automatisch, und was richten Sie selbst ein?

• Chat-Widget: Das Widget des KI-Chat-Agenten blendet vor der ersten Nachricht selbst einen KI-Hinweis ein, unabhängig von der Begrüßung, die der Kunde schreibt. Den Text gibt es auf Deutsch, Englisch und Französisch.
• Sprachgespräch im Chat-Widget: Bevor das Mikrofon startet, erscheint eine Hinweiskarte. Sie sagt, dass der Besucher gleich mit einer KI spricht und nicht mit einem Menschen.
• Begrüßung im Chat: Im Editor fügt ein Knopf einen vorformulierten Hinweissatz vor oder nach dem eigenen Text ein, in 74 Sprachen.
• Agent am Telefon: Hier schreibt der Kunde den Hinweis in die erste Nachricht des KI-Telefonagenten. Der Editor erinnert mit einem Hinweis zu Art. 50 daran, und das Hilfecenter zeigt Beispielsätze. Unsere Nutzungsbedingungen verpflichten Kunden, die Offenlegung in ihrem Gesprächsdesign zu aktivieren und aktiviert zu lassen. [13]

EchoCall läuft auf IONOS-Servern in Frankfurt und Karlsruhe. Auftragsverarbeitungsvertrag und Subunternehmer finden Sie auf der DSGVO-Seite. Voice-Pakete beginnen bei 75 € netto für 250 Minuten, Chat-Pakete bei 40 €, alles auf der Preisseite.

Häufige Fragen

Gilt die KI-Hinweispflicht auch für kleine Unternehmen?

Ja. Art. 50 kennt keine Ausnahme nach Unternehmensgröße. Kleine und mittlere Unternehmen profitieren nur bei der Höhe möglicher Bußgelder: Für sie gilt der niedrigere der beiden Höchstwerte aus Betrag und Umsatzanteil (Art. 99 Abs. 6).

Reicht ein Hinweis in den AGB oder auf der Website?

Nein. Die Information muss die Person spätestens bei der ersten Interaktion erreichen, klar und eindeutig. Ein Satz in den AGB, den vor dem Anruf niemand liest, leistet das nicht. Der Hinweis gehört in die Begrüßung am Telefon oder sichtbar in das Chatfenster.

Muss der Hinweis bei jedem Anruf kommen?

Das Gesetz spricht von der ersten Interaktion. Ob ein zweiter Anruf derselben Person eine neue Interaktion ist, regelt es nicht ausdrücklich. In der Praxis ist der Hinweis bei jedem Anruf die sichere Wahl: Das System weiß oft nicht zuverlässig, wer anruft, und der Satz kostet nur wenige Sekunden.

Wer haftet, wenn mein Anbieter den Hinweis nicht einbaut?

Art. 50 Abs. 1 nennt dem Wortlaut nach den Anbieter. Ob Sie als einsetzendes Unternehmen eine eigene Pflicht trifft, lässt der Text offen. Für Ihre Kunden ist das zweitrangig, denn sie hören Ihr Unternehmen. Klären Sie deshalb vor dem Start, wer den Hinweis einrichtet, und halten Sie es im Vertrag fest.

Gilt der AI Act auch für Unternehmen außerhalb der EU?

In vielen Fällen ja. Er erfasst Anbieter, die KI-Systeme in der EU in Verkehr bringen oder in Betrieb nehmen, gleich wo sie sitzen. Er erfasst außerdem Anbieter und Betreiber in Drittstaaten, wenn die Ausgabe des Systems in der EU verwendet wird (Art. 2 Abs. 1).

Darf mein KI-Agent einen menschlichen Namen haben?

Das Gesetz verbietet es nicht. Entscheidend ist, dass niemand glaubt, mit einem Menschen zu sprechen. "Hier spricht Lea, die KI-Assistentin der Praxis" erfüllt beides: Der Agent hat einen Namen, und der Hinweis steht im selben Satz.

Muss ich KI-Texte oder Sprachbeispiele kennzeichnen?

Das hängt davon ab, wer Sie sind und was Sie veröffentlichen. Die maschinenlesbare Kennzeichnung nach Abs. 2 trifft den Anbieter des Systems, das den Inhalt erzeugt, bei älteren Systemen ab dem 2. Dezember 2026. Als Betreiber müssen Sie nach Abs. 4 Deepfakes offenlegen und KI-Texte zu Angelegenheiten von öffentlichem Interesse, wenn kein Mensch die redaktionelle Verantwortung trägt. Ein Sprachbeispiel mit einer frei erfundenen KI-Stimme ist in der Regel kein Deepfake, eines mit der geklonten Stimme einer realen Person kann es sein. Freiwillig zu kennzeichnen schadet nie.

Quellen

Die Quellen sind englischsprachig, sofern nicht anders angegeben.

1. Verordnung (EU) 2024/1689 über künstliche Intelligenz, Art. 2, 3, 5, 6, 25, 50, 70, 99, 111, 113 und Anhang III, auf Deutsch: eur-lex.europa.eu
2. Verordnung (EU) 2026/1744, Digital Omnibus zur KI, mit dem neuen Art. 111 Abs. 4: eur-lex.europa.eu
3. Europäisches Parlament, Legislative Train zum Digital Omnibus on AI, mit den verschobenen Hochrisiko-Fristen und den Verfahrensschritten: europarl.europa.eu
4. EU-Kommission, Leitlinien zu den Transparenzpflichten nach Art. 50 vom 20. Juli 2026: digital-strategy.ec.europa.eu
5. EU-Kommission, Fragen und Antworten zu Art. 50: digital-strategy.ec.europa.eu
6. EU-Kommission, Beginn der Durchsetzung am 2. August 2026: digital-strategy.ec.europa.eu
7. EU-Kommission, Verhaltenskodex zur Kennzeichnung KI-erzeugter Inhalte vom 10. Juni 2026: digital-strategy.ec.europa.eu
8. Gesetz gegen den unlauteren Wettbewerb, § 3a und § 8, auf Deutsch: gesetze-im-internet.de, gesetze-im-internet.de
9. FCC, Declaratory Ruling FCC 24-17 und Vorschlag FCC 24-84: docs.fcc.gov, docs.fcc.gov
10. Federal Register, Unified Agenda 2026: federalregister.gov
11. Maine, Utah, Kalifornien und New York: legislature.maine.gov, le.utah.gov, leginfo.legislature.ca.gov, leginfo.legislature.ca.gov, nysenate.gov
12. Strafgesetzbuch, § 201, auf Deutsch: gesetze-im-internet.de
13. EchoCall, Nutzungsbedingungen, Abschnitt zum EU AI Act, auf Deutsch: echocall.de/terms-conditions

Alle Links wurden am 6. Oktober 2026 geprüft. Dieser Beitrag ist keine Rechtsberatung. Für Ihren konkreten Einsatz fragen Sie eine Kanzlei mit Schwerpunkt IT-Recht.

Weiterlesen

• KI-Kaltakquise 2026: Was ist erlaubt? UWG, DSGVO, Robinsonliste und die Regeln in Österreich, der Schweiz, UK und den USA
• KI-Telefonagent 2026: Was er kostet, wie er arbeitet und wie Sie ihn einführen
• KI-Rezeptionistin 2026: Was ein KI-Empfang am Telefon und am Tresen kann, was er kostet und für wen er sich lohnt