KI im Kundenservice: Was ist erlaubt und wo wird es kritisch?
KI wird im Kundenservice und Contact Center aktiv genutzt: Gespräche werden automatisch zusammengefasst, Tickets priorisiert und die Qualität von Kundeninteraktionen, aber vielleicht auch von Mitarbeitenden bewertet.
Gleichzeitig treten mit dem EU AI Act am 02. August 2026 neue Bestimmungen in Kraft.
Im AI Reality Check Webinar sehen wir uns deshalb drei typische KI-Anwendungsfälle im Kundenservice an und diskutieren gemeinsam mit Rechtsanwalt Dr. Michael Denis Witvoet, was erlaubt ist, wo Risiken entstehen und worauf Servicemitarbeitende und Unternehmen künftig achten müssen.
Zusätzlicher Vorteil: Der EU AI Act fordert den Aufbau von KI-Kompetenz. Dieses Webinar liefert Ihnen einen ersten Baustein dafür. Ihre Teilnahme lässt sich als Weiterbildungsmaßnahme dokumentieren.
In diesem Blogbeitrag stellen wir die wichtigsten Erkenntnisse dar.
Was ist der EU AI Act?
Kurz und knapp: Der EU AI Act soll sicherstellen, dass KI-Systeme verantwortungsvoll eingesetzt werden.
Nicht jeder KI-Einsatz ist gleich kritisch. Manche Anwendungen bringen kaum Risiken mit sich, für andere gelten deutlich strengere Regeln. Auf was ist dabei zu achten? Das sehen wir uns anhand von drei konkreten Use Cases an.
Use Case #1: Darf KI meine Service-Mitarbeitenden bewerten?
Viele moderne Service-Plattformen können heute Gespräche, E-Mails und Chats automatisch analysieren.
Die KI prüft beispielsweise:
- Freundlichkeit
- Einhaltung von Gesprächsleitfäden
- Servicequalität
- Vollständigkeit der Informationen
- Einhaltung interner Vorgaben
Am Ende entsteht häufig ein Score der als Bewertung der Mitarbeiter:innen interpretiert werden kann.
Praxisnutzen
- Gleichbleibende Qualitätsstandards
- Schnellere Identifikation von Verbesserungsmöglichkeiten
- Weniger manueller Aufwand bei Qualitätsprüfungen
Reality Check
Unter der Lupe des EU AI Acts: Darf KI Mitarbeitende bewerten?
Problematisch wird es dann, wenn die KI nicht mehr nur unterstützt, sondern automatisch Entscheidungen vorbereitet oder sogar trifft. Beispielsweise, wenn Mitarbeiterbewertungen unmittelbar für Kündigungen, Beförderungen oder Gehaltsentscheidungen verwendet werden.
Wo die Grenzen zwischen Unterstützung und automatisierter Entscheidung liegen, diskutieren wir weitergehend im Webinar.
Use Case #2: Darf KI Kundengespräche automatisch dokumentieren?
Einer der beliebtesten Anwendungsfälle im Kundenservice:
Die KI erstellt automatisch Gesprächsnotizen, Zusammenfassungen und Dokumentationen von Kundeninteraktionen.
Praxisnutzen
- Weniger Dokumentationsaufwand
- Schnellere Bearbeitung von Kundenanfragen
- Vollständige Historie aller Interaktionen
- Wissenssicherung über Teams hinweg
Reality Check
Technisch ist dieser Use Case meist unkompliziert. Es stellt sich hierbei die Frage, wie die gewonnenen Informationen weiterverwendet werden. Relevant wird dies, wenn transkribierte Inhalte analysiert, ausgewertet oder für weitere KI-gestützte Prozesse genutzt werden. Unternehmen sollten daher nachvollziehen können, welche Daten verarbeitet werden, zu welchem Zweck sie verwendet werden und welche Verantwortlichkeiten dabei bestehen.
Use Case #3: Darf KI entscheiden, welches Ticket zuerst bearbeitet wird?
Eine typische Verwendung von KI: Tickets automatisch zu priorisieren.
Die KI bewertet eingehende Anfragen und entscheidet beispielsweise:
- Was ist besonders dringend?
- Welcher Fall benötigt sofortige Bearbeitung?
- Welcher Mitarbeiter ist am besten geeignet?
- Welche Anfrage kann warten?
Praxisnutzen
- Kürzere Reaktionszeiten
- Optimierte Ressourcennutzung
- Entlastung der Service-Teams
Reality Check
Auf den ersten Blick wirkt dieser Use Case völlig unkritisch.
- Doch was passiert, wenn die KI falsch priorisiert?
- Was passiert, wenn wichtige Anliegen übersehen werden?
- Oder wenn Kunden unterschiedlich behandelt werden?
Hier zeigt sich ein Grundsatz des EU AI Acts:
KI darf unterstützen und Empfehlungen geben. Unternehmen müssen aber nachvollziehen können, warum Entscheidungen getroffen wurden und wer letztlich die Verantwortung trägt.
Das eigentliche Thema hinter allen Use Cases: Dokumentation
Ein Begriff zieht sich durch viele Diskussionen rund um den EU AI Act:
Dokumentation.
Unternehmen müssen künftig deutlich besser nachweisen können:
- welche KI-Systeme eingesetzt werden,
- wie diese verwendet werden,
- welche Risiken bewertet wurden und wie Entscheidungen zustande kommen.
Praxisnutzen
- Eine saubere Dokumentation schafft Sicherheit und Transparenz.
- Unternehmen können Entscheidungen besser erklären, Prozesse nachvollziehen und regulatorische Anforderungen leichter erfüllen.
Reality Check
- Für viele Serviceorganisationen und Unternehmen bedeutet das aber: Mehr Aufwand.
- KI macht viele Abläufe schneller und effizienter. Gleichzeitig steigen die Anforderungen an Nachweise und der Protokollierung.
Was zu tun ist: KI-Kompetenz aufbauen
Neben Technik und Prozessen rückt ein weiterer Punkt in den Mittelpunkt: KI-Kompetenz (Art. 4 KI-VO).
Der EU AI Act fordert, dass Personen, die mit KI-Systemen arbeiten, über ausreichende Kenntnisse verfügen.
Wie kann nachgewiesen werden, dass Schulungen besucht wurden? Interne Aufzeichnungen über Schulungen oder andere Initiativen sollten geführt werden. Ein Zertifikat ist aber nicht zwingend erforderlich.
Deshalb nicht vergessen: Die Teilnahme am Webinar kann als Weiterbildung rund um KI-Kompetenz und den verantwortungsvollen Einsatz von KI dokumentiert werden.
Fazit
Für den Kundenservice stellt sich unter dem EU AI Act künftig vor allem die Frage, unter welchen Voraussetzungen KI eingesetzt werden kann und wie sich dies nachvollziehbar dokumentieren lässt.
Entscheidend sind folgende Fragen:
- Wie wird die KI eingesetzt?
- Welche Entscheidungen trifft sie?
- Und wie gut ist alles dokumentiert?
Genau diese Fragen beantworten wir im Webinar weitergehend anhand der drei Use Cases. Anton Malischew und Stefan Elsigan diskutieren gemeinsam mit Rechtsanwalt Dr. Michael Denis Witvoet, welche Anforderungen der EU AI Act tatsächlich mit sich bringt und beantworten Ihre Fragen.
Der EU AI Act fordert den Aufbau von KI-Kompetenz. Dieses Webinar liefert Ihnen einen ersten Baustein dafür. Ihre Teilnahme lässt sich als Weiterbildungsmaßnahme dokumentieren.
