Voicebot mit Übergabe an Menschen: Was die KI-Verordnung verlangt
KI-Hinweis ab 02.08.2026, Hochrisiko-Ausnahmen, Art. 22 DSGVO: was für Voicebots im Kundenservice gilt und wie eine gute Übergabe an Menschen aussieht.
Voicebots nehmen Standardanliegen an, bevor ein Mensch übernimmt: Adressänderungen, Bearbeitungsstände, Terminwünsche. Mit der KI-Verordnung stellt sich für viele Serviceverantwortliche die Frage, welche Pflichten neu hinzukommen und ob ein Mensch immer erreichbar sein muss. Dieser Beitrag ordnet die Regeln für den Kundenservice ein, zeigt, woraus sich die Übergabe an Menschen ergibt, und liefert eine Checkliste für den Go-live. Er ersetzt keine Rechtsberatung.
Ein KI-Voicebot muss sich ab dem 2. August 2026 als KI zu erkennen geben.
Die zentrale Pflicht für Voicebots steht in Art. 50 Abs. 1 der KI-Verordnung (EU) 2024/1689. KI-Systeme, die für die direkte Interaktion mit Menschen bestimmt sind, müssen so gestaltet sein, dass die Personen erfahren, dass sie mit einem KI-System sprechen. Eine Ausnahme gilt nur, wenn das für eine informierte, aufmerksame Person nach den Umständen offensichtlich ist. Bei natürlich klingenden Stimmen können Sie sich darauf kaum verlassen.
Die Information muss nach Art. 50 Abs. 5 spätestens bei der ersten Interaktion klar und eindeutig erfolgen und den Anforderungen an die Barrierefreiheit entsprechen. Praktisch bedeutet das eine kurze Ansage am Anfang des Gesprächs, zum Beispiel: „Sie sprechen mit einem digitalen Assistenten. Wenn Sie lieber mit einer Kundenberaterin oder einem Kundenberater sprechen möchten, sagen Sie ‚Mitarbeiter‘.“
Die Pflicht gilt ab dem 2. August 2026 und wurde durch den Digital-Omnibus nicht verschoben. Adressat ist in erster Linie der Anbieter, der das System entwickelt. Als Betreiber sollten Sie sich vertraglich zusichern lassen, dass der Hinweis umgesetzt ist, und ihn in der Abnahme prüfen. Die Rollen sind nicht immer eindeutig: Wer einen Voicebot selbst entwickelt oder entwickeln lässt und unter eigenem Namen in Betrieb nimmt, kann selbst Anbieter im Sinne der Verordnung sein (Art. 3 Nr. 3) und trägt die Gestaltungspflicht dann unmittelbar. Klären Sie die Rollenverteilung zwischen Ihnen, dem Softwarehersteller und einem eventuellen Dienstleister, bevor Sie Verträge schließen. Erzeugt das System synthetische Sprache, treffen den Anbieter nach Art. 50 Abs. 2 zusätzlich Kennzeichnungspflichten. Fragen Sie nach, wie er sie erfüllt.
Die meisten Voicebots im Kundenservice sind keine Hochrisiko-Systeme – mit wichtigen Ausnahmen.
Ein Voicebot, der Öffnungszeiten nennt, Anliegen aufnimmt oder Anrufe weiterleitet, fällt in der Regel nicht unter die Hochrisiko-Kategorien. Anhang III der KI-Verordnung nennt aber Einsatzfelder, die im Kundenservice vorkommen können:
| Einsatzfall | Vorläufige Einordnung | Folge |
|---|---|---|
| Auskunft, Anliegenaufnahme, Weiterleitung, Terminvereinbarung | In der Regel keine Hochrisiko-KI | Transparenzpflicht nach Art. 50, Datenschutz nach DSGVO |
| Behörde prüft mit KI, ob Anspruch auf öffentliche Unterstützungsleistungen besteht (Anhang III Nr. 5 lit. a) | Hochrisiko-KI möglich | Pflichten für Hochrisiko-Systeme, u. a. menschliche Aufsicht nach Art. 14 |
| Risikobewertung oder Preisbildung in der Lebens- und Krankenversicherung (Nr. 5 lit. c) | Hochrisiko-KI möglich | wie oben |
| Bewertung von Notrufen, Priorisierung von Rettungseinsätzen, Triage in der Notfallversorgung (Nr. 5 lit. d) | Hochrisiko-KI möglich | wie oben |
| Erkennen von Emotionen der Anrufenden | Informationspflicht nach Art. 50 Abs. 3, je nach Einsatz Hochrisiko | Vorab gesondert prüfen |
Wer Stimmungsanalysen plant, sollte außerdem beachten: Die Verordnung verbietet Emotionserkennung am Arbeitsplatz grundsätzlich (Art. 5 Abs. 1 lit. f). Wird ein Gespräch auf Stimmungen analysiert, darf das System deshalb nicht die Emotionen der Mitarbeitenden ableiten, auch nicht nebenbei. Wie Sprachanalyse mit klaren Grenzen funktioniert, beschreibt die Seite Sprachanalyse.
Nach dem Digital-Omnibus gelten die Pflichten für Hochrisiko-Systeme aus Anhang III ab dem 2. Dezember 2027. Wer einen Voicebot für einen der genannten Zwecke plant, sollte die Einordnung trotzdem jetzt klären, denn sie bestimmt Architektur, Dokumentation und Vertrag. Unabhängig davon gilt seit dem 2. Februar 2025 die Pflicht aus Art. 4, für ausreichende KI-Kompetenz des Personals zu sorgen, das mit dem System arbeitet.
Die Übergabe an Menschen ergibt sich aus Datenschutz, Service und Vertrag.
Für einen typischen Voicebot enthält die KI-Verordnung keine allgemeine Pflicht, an einen Menschen zu übergeben. Trotzdem gehört die Übergabe in fast jedes Projekt, aus drei Gründen:
- Automatisierte Entscheidungen: Nach Art. 22 DSGVO dürfen Personen grundsätzlich keiner ausschließlich automatisierten Entscheidung unterworfen werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Wo Ausnahmen greifen, gehört zu den Schutzmaßnahmen das Recht, das Eingreifen einer Person zu erwirken. Lässt der Bot nur Auskünfte zu und entscheidet ein Mensch, ist diese Grenze leichter einzuhalten.
- Grenzen der Automatisierung: Beschwerden, Härtefälle, unklare Anliegen, schwer verständliche Sprache oder aufgebrachte Anrufende überfordern jeden Bot. Ohne Ausstieg entstehen Abbrüche, Mehrfachanrufe und Beschwerden.
- Erwartung Ihrer Kunden und Auftraggeber: Gerade in regulierten Branchen wird die Erreichbarkeit eines Menschen oft vertraglich oder politisch erwartet, etwa bei Kassen, Versorgern oder Behörden.
Werden Gespräche mit dem Bot aufgezeichnet oder transkribiert, klären Sie die Rechtsgrundlage vorab. Eine Aufzeichnung setzt in der Regel die Einwilligung der Gesprächsbeteiligten voraus. Die Datenschutzinformationen nach Art. 13 DSGVO kommen zum KI-Hinweis hinzu.
Eine gute Übergabe lässt Anrufende nicht von vorn beginnen.
Die meisten Beschwerden über Voicebots betreffen nicht den Bot selbst, sondern den Moment, in dem er nicht weiterkommt. Diese Regeln haben sich bewährt:
- Ausstieg jederzeit: Ein Stichwort oder eine Taste führt immer zu einem Menschen oder, außerhalb der Servicezeiten, zu einem Rückrufangebot.
- Automatische Übergabe: Nach zwei nicht verstandenen Eingaben, bei bestimmten Themen wie Beschwerden oder Notlagen und bei erkennbarer Unzufriedenheit übergibt der Bot ohne Nachfrage.
- Kontext mitgeben: Anliegen, Identifikationsstatus und bisherige Schritte erscheinen im System der Kundenberaterin, bevor sie das Gespräch annimmt.
- Keine doppelte Identifikation: Was der Bot sicher geprüft hat, fragt der Mensch nicht erneut ab. Was er nicht sicher prüfen konnte, ist als offen markiert.
- Ehrliche Wartezeit: Bei der Übergabe sagt der Bot, ob gleich jemand übernimmt oder ob ein Rückruf sinnvoller ist.
- Messen: Weiterleitungsquote, Abbrüche im Bot und Fallabschluss nach der Übergabe regelmäßig auswerten und Dialoge anpassen.
Wie Sie Sprachmenüs grundsätzlich so gestalten, dass weniger Anrufende abbrechen, beschreibt der Beitrag IVR-Design für Callcenter. Welche Anliegen sich überhaupt für Self-Service eignen, lesen Sie unter Self-Service im Kundenservice.
Mit dieser Checkliste klären Sie die wichtigsten Punkte vor dem Go-live.
| Thema | Prüffrage |
|---|---|
| Einordnung | Ist dokumentiert, ob das System unter Anhang III fällt, und wer das geprüft hat? |
| Rollen | Ist geklärt, wer Anbieter und wer Betreiber im Sinne der KI-Verordnung ist? |
| Transparenz | Kommt der KI-Hinweis zu Beginn jedes Gesprächs, verständlich und ohne Umweg? |
| Ausstieg | Führt ein Stichwort oder eine Taste jederzeit zu einem Menschen oder Rückruf? |
| Entscheidungen | Trifft der Bot Entscheidungen mit rechtlicher Wirkung? Wenn ja, wie ist Art. 22 DSGVO berücksichtigt? |
| Daten | Werden Audio oder Transkripte gespeichert, wo, wie lange und auf welcher Rechtsgrundlage? |
| Auftragsverarbeitung | Sind Bot-Anbieter und Hosting im AVV und in den Datenschutzinformationen erfasst? |
| Kompetenz | Sind die Mitarbeitenden, die übernehmen, zum Bot und seinen Grenzen geschult? |
| Test | Wurden Dialoge im Testbetrieb mit echten Anliegen geprüft, auch Abbrüche und Sonderfälle? |
| Betrieb | Wer wertet Weiterleitungen aus und passt Dialoge an, in welchem Rhythmus? |
So setzt aLIVE Support Voicebots und Self-Service ein.
Wir legen uns nicht vorab auf ein Produkt fest, sondern prüfen mit Ihnen anhand Ihrer tatsächlichen Kontaktgründe, welche Anliegen häufig, einfach und regelbasiert sind. Nur diese kommen für eine Automatisierung infrage. Dialoge, Ausstiegspunkte und Regeln testen wir vor dem Go-live. Anrufende erfahren, dass sie mit einem automatisierten System sprechen, und der Ausstieg zu einem Mitarbeitenden ist in jedem Dialog vorgesehen, innerhalb der vereinbarten Servicezeiten. Wer übernimmt, spricht Deutsch mindestens auf C1-Niveau und sieht den bisherigen Sachstand. Dank eigener Software-Entwicklung setzen wir auf nachvollziehbare Regeln statt auf eine Blackbox.
Fazit: Transparenz ist Pflicht, die Übergabe ist Qualitätsmerkmal.
Die KI-Verordnung verlangt von typischen Voicebots im Kundenservice vor allem eines: den klaren Hinweis, dass eine KI spricht. Wer in Hochrisiko-Bereiche kommt, muss deutlich mehr leisten. Die Übergabe an Menschen folgt aus Datenschutz und Serviceanspruch. Planen Sie sie als festen Teil des Dialogs, mit Kontext und ohne Umwege, dann wird der Bot zur Entlastung statt zum Hindernis.
Wir betreiben Kundenservice für Unternehmen aus regulierten Branchen – von Magdeburg, Quedlinburg, Sibiu und Arad aus. Hier teilen wir, was wir im Tagesgeschäft lernen.
Verwandte Artikel.
