Human-in-the-Loop: Definition & Erklärung — Glossar

Was ist Human-in-the-Loop?

Human-in-the-Loop (HITL) bezeichnet Systeme und Prozesse, bei denen menschliches Urteilsvermögen gezielt in den Ablauf eines automatisierten oder KI-gestützten Prozesses eingebunden wird. Menschen übernehmen dabei Aufgaben, die KI-Systeme (noch) nicht zuverlässig genug lösen können: Qualitätssicherung, Entscheidung in Ausnahmefällen oder Bewertung unklarer Situationen.

HITL vs. vollständige Automatisierung

Vollautomatische Systeme sind effizienter, aber fehleranfällig bei seltenen oder komplexen Fällen. HITL kombiniert die Stärken: Routinefälle werden automatisch verarbeitet, kritische oder unsichere Fälle werden zur menschlichen Prüfung eskaliert. Der Schwellenwert für die Eskalation wird durch Konfidenzwerte oder Regelwerke gesteuert. Typisches Beispiel: E-Mail-Klassifizierung mit 95 % Automatisierungsquote und 5 % manueller Nachprüfung.

HITL im KI-Training

Human-in-the-Loop ist auch ein Trainingsparadigma: Menschen annotieren Daten, korrigieren Modellvorhersagen oder bewerten Outputs, die dann für weiteres Training genutzt werden (Active Learning). RLHF (Reinforcement Learning from Human Feedback) nutzt menschliche Präferenzen direkt als Trainingssignal — die Methode, mit der ChatGPT und ähnliche Modelle trainiert wurden.

Regulatorische Anforderungen

Die EU-KI-Verordnung schreibt für Hochrisiko-KI-Systeme (z. B. in Personalentscheidungen, Kreditvergabe) verpflichtend menschliche Aufsicht vor. HITL ist kein optionales Feature, sondern rechtliche Anforderung in vielen regulierten Bereichen. Für Unternehmen ist die Dokumentation, welche Entscheidungen automatisch und welche durch Menschen getroffen werden, Teil der KI-Compliance.