EU AI Act Telefonassistent: KI-Hinweis ist Pflicht

Aktualisiert am 28. September 2026

Darf ich einen KI-Telefonassistenten nach dem EU AI Act einsetzen?

Kurz: ja. Du darfst ihn einsetzen. Seit dem 2. August 2026 muss dein KI-Telefonassistent Anrufern aber sagen, dass sie mit einer KI sprechen. So steht es in Art. 50 der KI-Verordnung (EU) 2024/1689, und der Digital-Omnibus hat daran nichts verschoben. Ein Assistent, der Anrufe annimmt, Termine bucht oder Anliegen aufnimmt, ist in der Regel keine Hochrisiko-KI. Ein Zulassungsverfahren, eine CE-Kennzeichnung oder eine Anmeldung bei einer Behörde brauchst du dafür nicht.

Wir bauen die KI-Ansage in jeden Voice Agent ein, ab dem ersten Satz. Dieser Artikel ordnet ein, was die Verordnung verlangt, wen sie trifft und was bei einem Verstoß droht. Wie du die Ansage praktisch formulierst, steht ausführlich auf unserer Seite zur Kennzeichnungspflicht.

Was Art. 50 genau verlangt

Nach Art. 50 Abs. 1 stellen die Anbieter sicher, dass Personen „informiert werden, dass sie mit einem KI-System interagieren", es sei denn, das ist für eine verständige Person „offensichtlich". Nach Abs. 5 muss der Hinweis „spätestens zum Zeitpunkt der ersten Interaktion" kommen, „in klarer und eindeutiger Weise", und er muss barrierefrei sein.

Für Telefonate empfiehlt die EU-Kommission in ihren Leitlinien zu Art. 50 vom 20. Juli 2026 eine gesprochene Ansage gleich zu Beginn des Gesprächs, etwa „Hier spricht ein KI-Assistent". Ein Signalton allein reicht nach den Leitlinien nicht, ein Satz in der Datenschutzerklärung ebenso wenig. Die Leitlinien sind nicht bindend, verbindlich legt die Verordnung nur der Europäische Gerichtshof aus. Sie zeigen aber, woran die Aufsicht sich orientiert.

Auf die Ausnahme für „offensichtliche" KI solltest du dich nicht verlassen. Die Kommission legt sie eng aus: Sie greift nur, wenn fast kein Zweifel bleibt. Eine natürlich klingende Stimme spricht gerade dagegen, und das allgemeine Wissen, dass es KI gibt, reicht nicht. Richtet sich dein Telefon an die Allgemeinheit, kannst du dich darauf ohnehin kaum berufen. Mit einer Ansage ab dem ersten Satz stellt sich die Frage gar nicht.

Wen die Pflicht trifft

Art. 50 Abs. 1 richtet sich an den Anbieter des KI-Systems, also an den, der es entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3). Für dich als Betrieb, der das System nutzt, gelten die Pflichten aus Abs. 3 und 4, etwa bei Emotionserkennung oder bei KI-erzeugten Texten zu Angelegenheiten von öffentlichem Interesse. Wer bei einem Telefonassistenten, der auf einer Plattform wie fonio.ai für deinen Betrieb eingerichtet wird, als Anbieter gilt, ist bislang nicht geklärt. Praktisch ist das zweitrangig, wenn die Ansage von Anfang an läuft.

Was seit dem 2. August 2026 gilt

Die KI-Verordnung ist seit August 2024 in Kraft, ihre Pflichten greifen gestaffelt. Die Verbote nach Art. 5 und die Regel zur KI-Kompetenz nach Art. 4 gelten seit Februar 2025, die Regeln für allgemeine KI-Modelle seit August 2025. Art. 50, einschließlich der Hinweispflicht bei der Interaktion mit Menschen, gilt seit dem 2. August 2026, auch für Telefonassistenten, die schon vorher im Einsatz waren.

Ein Punkt wird dabei oft verwechselt. Mit dem Digital-Omnibus, der Verordnung (EU) 2026/1744 (öffnet in neuem Tab) vom 8. Juli 2026, seit dem 27. Juli 2026 in Kraft, hat der EU-Gesetzgeber Fristen für Hochrisiko-Systeme verschoben: die Anforderungen für Systeme nach Anhang III auf den 2. Dezember 2027, die für Systeme nach Anhang I auf den 2. August 2028. Die Hinweispflicht nach Art. 50 Abs. 1 wurde nicht verschoben. Eine Übergangsfrist bis zum 2. Dezember 2026 gibt es nur für Abs. 2, die maschinenlesbare Kennzeichnung KI-erzeugter Inhalte, und auch das nur für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren. Für die Ansage am Telefon ändert der Omnibus nichts.

Ist ein Telefonassistent Hochrisiko-KI?

In der Regel nicht. Ein Telefonassistent für Termine, Anrufannahme, häufige Fragen und Weiterleitung steht nicht in Anhang III der Verordnung. Das ist eine Einordnung, kein Normtext, und sie hängt am Zweck. Anders kann es aussehen, wenn der Assistent Notrufe einordnet oder über die Dringlichkeit entscheidet (Anhang III Nr. 5 d), Bewerber auswählt (Nr. 4 a), die Kreditwürdigkeit bewertet (Nr. 5 b) oder Gefühle aus der Stimme auswertet (Nr. 1 c). Dann greifen deutlich strengere Pflichten.

Wer die Einhaltung prüft und was bei einem Verstoß droht

Zuständig für die Aufsicht ist in Deutschland seit dem 29. Juli 2026 in der Regel die Bundesnetzagentur. Grundlage ist das KI-Marktüberwachungsgesetz (KI-MIG). Sie ist zugleich die Stelle, bei der man sich beschweren kann.

Ein Verstoß gegen Art. 50 kann mit einer Geldbuße von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 4). Für kleine und mittlere Unternehmen und Start-ups gilt dagegen immer der niedrigere der beiden Beträge, seit dem Omnibus auch für kleine Midcaps. Das sind Obergrenzen, keine Regelsätze, möglich sind auch Verwarnungen. Die oft zitierten 35 Millionen Euro oder 7 % gelten nur für verbotene KI-Praktiken nach Art. 5, nicht für eine fehlende Ansage. Wer sonst noch haftet, steht unter Wer haftet beim KI-Telefonassistenten?.

Deine Checkliste für den Telefonassistenten

Vier Punkte decken den Standardfall ab:

• KI-Ansage zu Gesprächsbeginn: Der Assistent sagt im ersten Satz, dass eine KI spricht, bevor das eigentliche Anliegen startet. Klar formuliert, nicht versteckt, kein bloßer Signalton.
• Ansage dokumentieren: Halte fest, mit welcher Begrüßung dein Agent arbeitet. Ein Screenshot der Konfiguration und das Ansage-Skript helfen dir, die Umsetzung später zu belegen.
• Aufzeichnungshinweis, falls du mitschneidest: Wird das Gespräch aufgezeichnet, gehört der Hinweis ebenfalls an den Anfang. Eine heimliche Aufnahme verletzt § 201 StGB.
• Datenschutz sauber aufsetzen: Ein KI-Telefonassistent verarbeitet personenbezogene Daten. Der Auftragsverarbeitungsvertrag gehört dazu, mehr dazu auf der Seite zum fonio Auftragsverarbeitungsvertrag und zu DSGVO-konformen Voice Agents.

Prüfe außerdem einmal aktiv, ob dein Einsatzzweck nicht doch unter die Hochrisiko-Liste fällt. Und nach Art. 4 in der seit dem 27. Juli 2026 geltenden Fassung „ergreifen" Unternehmen „Maßnahmen, um die Entwicklung der KI-Kompetenz … zu unterstützen". Ein bestimmtes Niveau musst du nicht garantieren, eine kurze Einweisung für alle, die mit dem Assistenten arbeiten, ist trotzdem sinnvoll.

So setzen wir es um

Die Hinweispflicht ist kein Projekt, sondern ein Satz in der Begrüßung. Wir bauen die KI-Ansage in jeden Voice Agent ein, ab dem ersten Satz und in einer Formulierung, die zu deinem Betrieb passt. Dann musst du dich nicht auf die enge Ausnahme für „offensichtliche" KI verlassen, die bei einer natürlich klingenden Stimme ohnehin kaum trägt. Als offizieller fonio-Partner richtet FoxifAI den Assistenten mit EU-Hosting und sauberer Datenschutz-Grundlage ein. Wie der Voice Agent im Alltag arbeitet und was sich per KI-Automatisierung anschließen lässt, zeigen die jeweiligen Seiten.

Willst du fonio.ai selbst abschließen, hol dir vorher deinen persönlichen Partnercode (öffnet in neuem Tab). Die 10 % Rabatt löst du im Checkout mit diesem Code ein; ohne eingetragenen Code gilt der Listenpreis. Den Code bekommst du zusammen mit dem Einrichtungs-Guide per E-Mail. Die KI-Ansage stellst du dann in der Begrüßung selbst ein.

Häufige Fragen

Ist ein KI-Telefonassistent nach dem EU AI Act erlaubt? Ja. Ein Telefonassistent für Termine, Rückrufe und häufige Fragen ist in der Regel keine Hochrisiko-KI und braucht weder Zulassung noch CE-Kennzeichnung. Die zentrale Pflicht steht in Art. 50 Abs. 1: Anrufer müssen spätestens zu Beginn des Gesprächs klar und eindeutig erfahren, dass sie mit einer KI sprechen.

Was hat sich am 2. August 2026 geändert? Seit dem 2. August 2026 gilt Art. 50 der KI-Verordnung. Ein KI-Telefonassistent muss Anrufern seitdem sagen, dass sie mit einer KI sprechen, auch wenn er schon vorher im Einsatz war. Der Digital-Omnibus, die Verordnung (EU) 2026/1744, hat daran nichts verschoben. Verschoben wurden nur Fristen für Hochrisiko-Systeme und, für Altsysteme bis zum 2. Dezember 2026, die maschinenlesbare Kennzeichnung nach Art. 50 Abs. 2.

Reicht ein Hinweis in der Datenschutzerklärung oder ein Signalton? Nach den Leitlinien der EU-Kommission nicht. Sie empfiehlt für Telefonate eine gesprochene Ansage gleich zu Beginn des Gesprächs, etwa „Hier spricht ein KI-Assistent", und hält Signaltöne allein für nicht ausreichend. Die Leitlinien sind nicht bindend, zeigen aber, woran sich die Aufsicht orientiert. Wir bauen die gesprochene Ansage deshalb in jeden Voice Agent ein.

Wer ist verpflichtet, der Plattformanbieter oder ich? Art. 50 Abs. 1 richtet sich an den Anbieter des KI-Systems, nicht an den Betrieb, der es nur nutzt. Wer bei einem auf einer Plattform eingerichteten Telefonassistenten als Anbieter gilt, ist bislang nicht geklärt. Praktisch spielt das kaum eine Rolle, wenn die KI-Ansage von Anfang an läuft.

Ist mein KI-Telefonassistent ein Hochrisiko-System? In der Regel nicht. Ein Assistent, der Anrufe annimmt, Termine bucht und Anliegen aufnimmt, steht nicht in Anhang III der Verordnung. Anders kann es aussehen, wenn er Notrufe einordnet, Bewerber auswählt, die Kreditwürdigkeit bewertet oder Gefühle aus der Stimme auswertet.

Muss ich meinen Voicebot bei einer Behörde anmelden? Nein. Eine Registrierung in der EU-Datenbank ist nur für Hochrisiko-Systeme vorgesehen. Die Aufsicht liegt in Deutschland seit dem 29. Juli 2026 in der Regel bei der Bundesnetzagentur. Halte deine Ansage trotzdem intern fest, damit du die Umsetzung im Zweifel belegen kannst.

Was passiert bei einem Verstoß gegen die Hinweispflicht? Möglich ist eine Geldbuße von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt immer der niedrigere der beiden Beträge. Das sind Obergrenzen, möglich sind auch Verwarnungen. Die oft genannten 35 Millionen Euro oder 7 % gelten nur für verbotene KI-Praktiken, nicht für eine fehlende Ansage.

Keine Rechtsberatung, Stand 28.09.2026. Dieser Beitrag bietet allgemeine Orientierung und ersetzt keine Prüfung im Einzelfall. Die Leitlinien der EU-Kommission sind nicht bindend, verbindlich legt die KI-Verordnung nur der Europäische Gerichtshof aus. Quellen: KI-Verordnung (EU) 2024/1689 (öffnet in neuem Tab), Digital-Omnibus (EU) 2026/1744 (öffnet in neuem Tab), FAQ der EU-Kommission zu Art. 50 (öffnet in neuem Tab), KI-MIG (öffnet in neuem Tab).

Du willst deinen KI-Telefonassistenten von Anfang an mit sauberer KI-Ansage aufsetzen? Jetzt kostenloses Erstgespräch buchen (öffnet in neuem Tab).