Zum Inhalt
SolvraONE

Wissen

Human in the Loop: Wann ein KI-Agent an Menschen übergibt.

KI-Illustration: zwei abgerundete Graphit-Blöcke nebeneinander; ein Kanal aus Bernstein-Licht verlässt den linken Block und läuft sauber in eine Fassung am rechten Block, wie bei einer Übergabe
KI-Illustration
Veröffentlicht Faktengeprüft 13. Nov. von einer zweiten KI (OpenAI) · 5 von 7 Fakten gegen die Originalquelle bestätigt, 1 vor Ort

Kurzfassung · 6 Min. Lesezeit

  • Ein KI-Agent sollte an einen Menschen abgeben, wenn er unsicher ist, der Kunde aufgebracht ist, ein Geldvorgang eine festgelegte Freigabegrenze überschreitet, eine rechtliche Frage vorliegt oder der Kunde ausdrücklich einen Menschen will.
  • Sauber ist die Übergabe, wenn der Mitarbeiter den ganzen Fall auf einen Blick sieht und der Kunde nichts doppelt erzählen muss.

Ein guter KI-Agent erledigt viel allein. Ein sehr guter KI-Agent weiß, wann er es nicht tun sollte. Die Übergabe an einen Menschen ist kein Fehler des Agenten, sondern ein fester Teil seiner Arbeit. Entscheidend ist, dass sie nach klaren Regeln passiert und dass der Mensch danach ohne Suchen weiterarbeiten kann.

Fünf Regeln: wann der Agent abgibt

Regel Woran der Agent es erkennt Warum
Unsicherheit Die Antwort steht nicht in der Wissensbasis, die Daten passen nicht zusammen oder die Frage ist mehrdeutig. Raten kostet mehr Vertrauen als eine ehrliche Übergabe.
Emotion Der Kunde ist wütend, verzweifelt oder schreibt zum wiederholten Mal zum selben Problem. Ein aufgebrachter Mensch braucht Verständnis und Spielraum, den ein Agent nicht hat.
Geld Erstattungen, Gutschriften, Kulanz, Zahlungsausfälle oder Änderungen am Vertrag, die über eine feste Grenze gehen. Hier entstehen echte Kosten und Haftung.
Recht Kündigung mit Streit, Widerruf, Beschwerde mit Anwalt, Datenschutz-Anfrage, Hinweis auf einen Schaden. Fehler haben rechtliche Folgen; das gehört in geschulte Hände.
Kunde will Mensch Der Kunde fragt nach einem Menschen, einem Mitarbeiter oder „jemandem, der mir hilft“. Der Wunsch des Kunden geht vor, ohne Diskussion.

Die letzte Regel ist die wichtigste. Ein Agent, der den Wunsch nach einem Menschen überhört oder dreimal umlenkt, beschädigt mehr, als er spart.

Bei Entscheidungen mit rechtlicher Wirkung kommt eine gesetzliche Seite dazu: Nach Art. 22 DSGVO haben Menschen in vielen Fällen das Recht, nicht allein einer automatisierten Entscheidung unterworfen zu sein, und dürfen das Eingreifen einer Person verlangen. Das ist keine Rechtsberatung; ob und wie es für Ihren Fall gilt, klären Sie mit Ihrer Datenschutzberatung.

So läuft eine saubere Übergabe ab

  1. Erkennen: Der Agent stellt fest, dass eine der fünf Regeln greift, und hört auf, selbst zu entscheiden.
  2. Ankündigen: Er sagt dem Kunden offen, dass sein Anliegen an einen Menschen geht, und warum, in einem Satz; dass ein Mensch sofort übernimmt, sagt er nur, wenn das wirklich so ist.
  3. Zusammenfassen: Er schreibt für den Mitarbeiter auf, worum es geht, was schon geprüft ist und was offen ist.
  4. Zuordnen: Der Fall landet bei der richtigen Stelle, etwa Buchhaltung, Technik oder Vertrieb, mit passender Dringlichkeit.
  5. Erwartung setzen: Der Kunde erfährt, wie es weitergeht und wann er ungefähr mit einer Antwort rechnen kann, nur so genau, wie Sie es auch halten können.
  6. Abschließen: Der Mitarbeiter löst den Fall und hält fest, warum abgegeben wurde. Das fließt zurück in die Wissensbasis.

Was der Kunde nie erleben sollte: ein Abbruch ohne Erklärung, ein leeres Formular oder die Bitte, alles noch einmal zu erzählen.

Was der Mensch bei der Übergabe sieht

Die beste Übergabe ist die, nach der der Mitarbeiter nicht nachfragen muss. Dafür gehören diese Angaben in den Fall:

Angabe Beispiel
Anliegen in einem Satz „Kunde möchte eine doppelt abgebuchte Zahlung zurück.“
Grund der Übergabe Regel „Geld“: Erstattung über der freigegebenen Grenze.
Was schon geprüft ist Kundennummer bestätigt, Buchung im System gefunden.
Was offen ist Ob die zweite Buchung ein Fehler oder eine eigene Bestellung ist.
Stimmung ruhig, aber in Eile
Ganzer Verlauf das komplette Gespräch, nicht nur der letzte Satz
Vorschlag des Agenten als Vorschlag gekennzeichnet, nie als Entscheidung

Wichtig ist die Trennung: Was der Agent belegt hat, steht anders da als das, was er vermutet. So sieht der Mitarbeiter sofort, worauf er sich verlassen kann.

Übergaben messen

Übergaben sind eine der wichtigsten Kennzahlen eines Agenten im Betrieb. Sinnvoll sind vier Werte:

Kennzahl Frage dahinter
Übergabequote Welcher Anteil der Gespräche geht an Menschen, und nach welcher Regel?
Übergaben ohne Grund Wie oft hätte der Agent den Fall selbst lösen können? Das kann auf Wissenslücken, unpassende Regeln oder technische Einschränkungen hinweisen; prüfen Sie die Ursache am konkreten Fall.
Fehlende Übergaben Wie oft hätte er abgeben müssen und hat es nicht getan? Diese Fälle wiegen am schwersten.
Zeit bis zur Übernahme Wie lange wartet der Kunde, bis ein Mensch antwortet?
Mehr dazu

Eine niedrige Übergabequote ist nicht automatisch gut. Sie kann bedeuten, dass der Agent zu viel selbst entscheidet. Prüfen Sie deshalb regelmäßig Stichproben der Gespräche, die er allein abgeschlossen hat.

Auch große Anbieter trennen das in ihren Zahlen: Zendesk etwa unterscheidet Fälle, die der Agent selbst gelöst hat, von Fällen, in denen er nur vorbereitet und ein Mensch gelöst hat, und rechnet nur die ersten als Lösung an. Wer nach gelösten Fällen bezahlt, sollte genau wissen, wie Übergaben gezählt werden. Mehr dazu auf der Seite Was kostet ein KI-Agent im Kundenservice?.

Was die KI-Verordnung dazu sagt

Art. 14 KI-Verordnung

Die KI-Verordnung der EU verlangt in Art. 14 KI-Verordnung menschliche Aufsicht für Hochrisiko-KI-Systeme.Quelle: eur-lex.europa.eu · Stand: 12. Juli 2024

Die KI-Verordnung der EU verlangt in Art. 14 KI-Verordnung menschliche Aufsicht für Hochrisiko-KI-Systeme. Ein üblicher Agent im Kundenservice gehört in vielen Fällen nicht zu dieser Gruppe. Unabhängig davon gilt seit 02.08.2026 die Pflicht aus Art. 50 Abs. 1 KI-Verordnung: Bei direkter Interaktion müssen Kunden über den KI-Einsatz informiert werden, sofern dieser aus Umständen und Kontext nicht bereits offensichtlich ist. Eine klare Übergabe an Menschen ist damit keine Pflicht für jeden Agenten, aber gute Praxis und die beste Antwort auf die Frage, wer am Ende verantwortlich ist. Das ist keine Rechtsberatung.

Ihr nächster Schritt

Ausführlich lesen

Sie wollen Übergaberegeln, die zu Ihrem Betrieb passen, oder prüfen, wie Ihr heutiger Chat abgibt? Darüber sprechen wir in einem Erstgespräch von 30 Minuten: Kontakt aufnehmen.

Was könnte KI bei Ihnen erledigen?

Im Erstgespräch (30 Minuten) schauen wir auf Ihre Arbeit und sagen Ihnen offen, was sich lohnt und was nicht.

Website-Check anfragen

Häufige Fragen.

Wann muss ein KI-Agent an einen Menschen übergeben?

Wenn er unsicher ist, wenn der Kunde aufgebracht ist, wenn ein Geldvorgang eine festgelegte Freigabegrenze überschreitet, wenn eine rechtliche Frage vorliegt und immer dann, wenn der Kunde einen Menschen verlangt. Diese Regeln sollten schriftlich festgelegt und im Betrieb geprüft werden.

Darf ein Kunde jederzeit einen Menschen verlangen?

Er sollte es immer können, ohne Umwege. Bei Entscheidungen mit rechtlicher Wirkung kann es zudem einen gesetzlichen Anspruch auf das Eingreifen einer Person geben.

Was muss bei der Übergabe mitgehen?

Das Anliegen in einem Satz, der Grund der Übergabe, was geprüft und was offen ist, die Stimmung des Kunden und der ganze Gesprächsverlauf. Vorschläge des Agenten sind als Vorschlag gekennzeichnet.

Ist eine hohe Übergabequote schlecht?

Nicht unbedingt. Entscheidend ist, ob die Übergaben berechtigt waren. Übergaben ohne Grund können auf Wissenslücken, unpassende Regeln oder technische Einschränkungen hinweisen; fehlende Übergaben sind das größere Risiko.

Schreibt der AI Act eine Übergabe an Menschen vor?

Menschliche Aufsicht verlangt die KI-Verordnung für Hochrisiko-KI-Systeme; ein üblicher Agent im Kundenservice gehört oft nicht dazu. Die Pflicht, über die KI-Interaktion zu informieren, gilt dagegen für jedes KI-System, das für die direkte Interaktion mit Menschen bestimmt ist, außer der KI-Einsatz ist offensichtlich. Das ist keine Rechtsberatung.

Wie schnell muss ein Mensch übernehmen?

Eine allgemeine Frist für die menschliche Übernahme gibt es nicht. Gesetzliche Bearbeitungs- und Antwortfristen gelten unabhängig davon, etwa bei Anträgen auf Auskunft oder Löschung: Nach Art. 12 Abs. 3 DSGVO informieren Sie über die ergriffenen Maßnahmen unverzüglich; als Frist gilt höchstens ein Monat ab Eingang des Antrags. Soweit es wegen der Komplexität oder der Anzahl der Anträge erforderlich ist, kann sie um zwei Monate verlängert werden; darüber informieren Sie die betroffene Person noch innerhalb der ersten Frist und nennen die Gründe. Nennen Sie dem Kunden nur eine Wartezeit, die Ihr Team auch halten kann, und messen Sie die Zeit bis zur Übernahme. Das ist keine Rechtsberatung.

Wie steht Ihre Website da?

Der Check ist kostenlos und ohne Verpflichtung. Den Bericht bekommen Sie per Mail.

Website-Check anfragenoder Erstgespräch anfragen

Quellen.

  1. EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 14 und Art. 50Hersteller / Primärquelle · Stand
  2. EUR-Lex: Verordnung (EU) 2016/679 (DSGVO), Art. 12 und Art. 22Hersteller / Primärquelle · Stand
Alle 3 Quellen
  1. Zendesk Help Center: About automated resolution tiersHersteller / Primärquelle · Stand