Der AI Act verpflichtet Serviceteams vor allem zu Transparenz: Wer mit einer KI chattet oder telefoniert, muss das erkennen können. Diese Pflicht ist seit dem 2. August 2026 anwendbar. Ein gewöhnlicher Support-Agent ist dagegen im Regelfall kein Hochrisiko-System — die strengen Auflagen greifen erst, wenn KI über Kreditwürdigkeit, Versicherungsrisiken oder Personalfragen mitentscheidet. Dazu kommt eine Pflicht, die viele übersehen: Wer KI einsetzt, muss die eigenen Mitarbeitenden im Umgang damit schulen.
Was der AI Act regelt — und wen er meint
Der AI Act ist eine Produktregulierung: Er ordnet KI-Systeme nach ihrem Risiko und knüpft die Pflichten an diese Einstufung. Für den Kundenservice ist dabei eine Unterscheidung zentral, die im Gesetzestext unscheinbar wirkt — die zwischen Anbieter und Betreiber.
Anbieter ist, wer das KI-System entwickelt und auf den Markt bringt. Betreiber ist, wer es einsetzt. Ein Unternehmen, das eine Kundenservice-Plattform mit KI-Agenten nutzt, ist Betreiber — mit eigenen Pflichten, die kein Softwarevertrag der Welt wegdelegieren kann. Die gute Nachricht: Diese Pflichten sind für den typischen Servicefall überschaubar.
Die vier Risikoklassen im Servicealltag
| Risikoklasse | Beispiel aus dem Service-Umfeld | Folge für das Team |
|---|---|---|
| Verbotene Praktiken | Manipulative Gesprächstechniken, Social Scoring | Im seriösen Kundenservice ohnehin ohne Anwendungsfall |
| Hochrisiko | KI entscheidet über Kreditwürdigkeit, Versicherungsrisiken oder Beschäftigung mit | Strenge Auflagen: Risikomanagement, menschliche Aufsicht, Dokumentation |
| Begrenztes Risiko | Chatbots, Voicebots, KI-generierte Antworten | Transparenzpflicht nach Art. 50 — der Regelfall im Support |
| Minimales Risiko | Rechtschreibhilfe, Spamfilter, interne Textentwürfe | Keine besonderen Pflichten |
Die Risikoklassen des AI Act, übersetzt in den Kundenservice. Die Einstufung hängt am Zweck des Systems, nicht an der Technologie dahinter.
Der Support-Agent, der Lieferstatus beauskunftet, Adressen ändert und Retouren anmeldet, landet in der dritten Zeile. Das ist keine Auslegungsfrage am Rand, sondern die Systematik der Verordnung: Hochrisiko ist in Anhang III abschließend über Einsatzzwecke definiert — und „Kundenanfragen beantworten und Routinevorgänge ausführen“ gehört nicht dazu.
Die Transparenzpflicht in der Praxis
Art. 50 verlangt, dass Personen erkennen können, wenn sie mit einem KI-System interagieren — es sei denn, das ist aus den Umständen ohnehin offensichtlich. Auf diese Ausnahme sollte sich niemand verlassen: Was für ein Produktteam offensichtlich ist, ist es für eine Kundin im Stress nicht.
Praktisch heißt das:
- Im Chat: ein klarer Hinweis zu Beginn der Unterhaltung, nicht in der Fußzeile. Eine Zeile genügt — „Du chattest mit unserem KI-Assistenten. Ein Mensch übernimmt jederzeit auf Wunsch.“
- Am Telefon: die Ansage gehört an den Gesprächsanfang, bevor das Anliegen aufgenommen wird.
- In der E-Mail: beantwortet der Agent selbstständig, gehört die Kennzeichnung in die Antwort selbst — nicht in eine Signatur-Klausel, die niemand liest.
Wann ein Service-Agent doch Hochrisiko wird
Die Grenzfälle liegen dort, wo der Service in Entscheidungen hineinreicht. Drei Beispiele:
Der Agent beauskunftet eine Bonitätsentscheidung — unkritisch, solange er nur wiedergibt, was ein anderes System entschieden hat. Trifft oder beeinflusst er die Bewertung selbst, ist das ein Hochrisiko-Einsatz.
Der Agent prüft Versicherungsansprüche — die Aufnahme des Anliegens und das Zusammentragen der Unterlagen sind Servicearbeit. Die Entscheidung über den Anspruch bei Lebens- und Krankenversicherungen fällt unter Anhang III.
Der Agent beantwortet Bewerberfragen — Auskünfte zum Verfahren sind unkritisch. Eine Vorauswahl von Bewerbungen wäre es nicht.
Die Faustregel: Solange der Agent ausführt und beauskunftet, bleibt es beim begrenzten Risiko. Sobald er über Menschen entscheidet, wechselt die Klasse — und dann gehört das Projekt in andere Hände als die des Serviceteams.
KI-Kompetenz: die Pflicht, die schon länger gilt
Art. 4 verpflichtet Unternehmen, die KI einsetzen, für ausreichende KI-Kompetenz der Mitarbeitenden zu sorgen — anwendbar bereits seit Februar 2025. Für ein Serviceteam heißt das nicht Hochschulzertifikat, sondern: Die Menschen, die mit dem Agenten arbeiten, verstehen, was er kann, wo er scheitert, wie sie eingreifen und wem sie Auffälligkeiten melden. Eine kurze Schulung, schriftlich festgehalten, deckt das ab — und ist im Prüfungsfall der Nachweis.
Checkliste vor dem Livegang
Die letzten beiden Punkte kommen streng genommen aus der DSGVO, nicht aus dem AI Act — in der Praxis werden sie in derselben Prüfung abgefragt. Wie die Dokumente zusammenspielen, steht im Beitrag zur KI-Governance im Kundenservice.
Was der AI Act nicht verlangt
Gegen die Aufregung hilft auch ein Blick auf das, was nicht im Gesetz steht. Der AI Act verbietet KI im Kundenservice nicht. Er verlangt keine behördliche Genehmigung vor dem Einsatz. Er schreibt nicht vor, dass ein Mensch jede Antwort freigibt. Und er zwingt niemanden, auf Automatisierung zu verzichten — er verlangt, ehrlich damit umzugehen.
Wer tiefer einsteigen will, findet die Grenzen und Freigaben, die ein Agent unabhängig vom Gesetz braucht, im Beitrag über Human-in-the-Loop — und die technischen Schutzmaßnahmen auf unserer Sicherheitsseite.
Häufige Fragen
Ist ein Chatbot im Kundenservice ein Hochrisiko-System?
Im Regelfall nein. Chatbots und Voicebots fallen unter die Transparenzpflichten des Art. 50, nicht unter die Hochrisiko-Auflagen des Anhangs III. Anders sieht es aus, wenn das System über Kreditwürdigkeit, Versicherungsrisiken oder Beschäftigungsfragen mitentscheidet — dann gelten die strengen Anforderungen an Hochrisiko-Systeme.
Reicht ein Hinweis im Impressum oder in der Datenschutzerklärung?
Nein. Die Information muss dort stehen, wo die Interaktion stattfindet — also zu Beginn der Unterhaltung im Chat, in der E-Mail oder am Telefon. Ein versteckter Hinweis in einem Rechtstext erfüllt den Zweck der Vorschrift nicht: Die Person soll im Moment des Gesprächs wissen, mit wem sie spricht.
Gilt der AI Act auch für kleine Unternehmen?
Ja. Die Transparenzpflicht knüpft an den Einsatz der Technologie an, nicht an die Unternehmensgröße. Erleichterungen für kleinere Unternehmen gibt es an anderen Stellen der Verordnung, etwa bei Dokumentations- und Meldepflichten für Hochrisiko-Systeme.
Wer ist verantwortlich — der Anbieter der Software oder wir?
Beide, in unterschiedlichen Rollen. Der Hersteller ist „Anbieter“ im Sinne der Verordnung und muss sein System regelkonform bauen. Das einsetzende Unternehmen ist „Betreiber“ und verantwortet den konkreten Einsatz: den Transparenzhinweis im eigenen Kanal, die Schulung der eigenen Mitarbeitenden, die Aufsicht über das, was das System tut.
Was passiert bei Verstößen?
Die Verordnung sieht behördliche Aufsicht und empfindliche, umsatzbezogene Bußgelder vor, gestaffelt nach Schwere des Verstoßes. Mindestens genauso relevant für den Alltag: Ein fehlender Transparenzhinweis ist sichtbar — für Kundinnen, Wettbewerber und Aufsichtsbehörden gleichermaßen.
Quellen
Weiterlesen
KI-Governance im Kundenservice: Rollen, Verträge, Nachweise
AVV, Verarbeitungsverzeichnis, Transparenzhinweis, Schulungsnachweis: die überschaubare Dokumentenliste, mit der KI im Kundenservice sauber betrieben wird.
WhatsApp im Kundenservice: die Business API — und was die DSGVO verlangt
Wann der Kundenservice die WhatsApp Business API braucht, wie Fenster und Vorlagen funktionieren und welche Datenschutz-Hausaufgaben vor dem Start anstehen.
KI im Kundenservice: was sie heute löst — und wo sie aufhört
Die vier Einsatzformen von KI im Kundenservice, was davon heute verlässlich funktioniert — und die Grenze, über die kein Anbieter gern spricht.