Human-in-the-Loop beschreibt ein Arbeitsprinzip für KI-Systeme, bei dem ein Mensch an einer oder mehreren Stellen im Prozess mitentscheidet, statt die KI vollständig autonom arbeiten zu lassen. Für KMU, Selbstständige und Freelancer ist der Begriff vor allem dann relevant, wenn KI-gestützte Tools Entscheidungen mit Wirkung auf Kunden, Bewerber oder Mitarbeitende treffen – etwa bei Bewerbungs-Screening, Kreditwürdigkeitsprüfung oder automatisierten Kundenantworten.
Kurze Antwort
Human-in-the-Loop (kurz: HITL) bedeutet, dass ein Mensch KI-generierte Ergebnisse vor deren Wirksamwerden prüft, freigibt, korrigiert oder ablehnt – die KI liefert einen Vorschlag, die endgültige Entscheidung bleibt beim Menschen.
Was bedeutet Human-in-the-Loop?
Bei einem Human-in-the-Loop-Prozess ist die KI nicht das letzte Glied in der Kette, sondern liefert einen Entwurf, eine Empfehlung oder eine Klassifizierung, die anschließend von einer Person gegengeprüft wird. Erst nach dieser menschlichen Prüfung wird das Ergebnis verwendet oder umgesetzt. Das unterscheidet HITL von vollautomatisierten Systemen, bei denen die KI-Ausgabe direkt und ohne weitere Kontrolle wirksam wird. In der Praxis reicht die Bandbreite von einfachen Freigabe-Klicks bis zu strukturierten Vier-Augen-Prüfungen mit Dokumentationspflicht. Wichtig: Eine bloß formale Durchsicht, bei der die KI-Ausgabe praktisch ungeprüft durchgewunken wird, gilt fachlich und rechtlich nicht als echtes menschliches Eingreifen – die Person muss tatsächlich die Möglichkeit und Kompetenz haben, das Ergebnis zu ändern oder abzulehnen.
Abzugrenzen ist HITL vom verwandten Konzept „Human-on-the-Loop”: Dort überwacht ein Mensch den automatisierten Prozess nur im Hintergrund und greift lediglich bei Auffälligkeiten ein, während die KI im Regelfall eigenständig entscheidet. In dieser Abgrenzung ist Human-in-the-Loop die striktere Variante mit verpflichtender menschlicher Prüfung vor der jeweiligen Entscheidung.
Human-in-the-Loop in der Praxis
Ein Beispiel: Ein kleines Unternehmen nutzt ein KI-Tool, um eingehende Bewerbungen vorzusortieren und Kandidat:innen nach Eignung zu bewerten. Ohne Human-in-the-Loop würde die KI automatisch Absagen verschicken oder Kandidat:innen aus dem Verfahren ausschließen. Mit HITL läuft es anders: Die KI erstellt eine Vorauswahl mit Begründung, doch eine Person aus dem HR-Team sichtet jede Einstufung, bevor eine Absage oder Einladung tatsächlich rausgeht. Fällt der KI ein Bewerber unplausibel niedrig ein – etwa wegen einer ungewöhnlichen Lebenslauf-Formatierung –, kann die Person das korrigieren, bevor ein Schaden entsteht. Ähnliche Muster finden sich bei automatisierten Angebotskalkulationen, KI-gestützter Rechnungsprüfung oder Chatbot-Antworten mit rechtlicher Tragweite (z. B. Zusagen zu Fristen oder Gewährleistung).
Human-in-the-Loop und die DSGVO
Der Begriff hat eine direkte Verbindung zum Datenschutzrecht. Nach Art. 22 Abs. 1 DSGVO hat jede betroffene Person grundsätzlich das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, wenn diese ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Das betrifft zum Beispiel automatisierte Kreditentscheidungen, automatisierte Personalauswahl oder Preisdifferenzierung durch ein KI-System.
Ist eine solche Ausnahme nach Art. 22 Abs. 2 DSGVO zulässig (etwa aufgrund einer vertraglichen Erforderlichkeit, gesetzlicher Grundlage oder ausdrücklicher Einwilligung), verlangt Art. 22 Abs. 3 DSGVO angemessene Schutzmaßnahmen. Dazu gehört mindestens das Recht der betroffenen Person, das Eingreifen einer Person seitens des Verantwortlichen zu erwirken, den eigenen Standpunkt darzulegen und die Entscheidung anzufechten. Ein wirksam implementierter Human-in-the-Loop-Prozess kann dabei eine wichtige Schutzmaßnahme sein – er deckt aber nicht automatisch alle in Art. 22 Abs. 3 DSGVO genannten Anforderungen ab und macht die Vorschrift auch nicht grundsätzlich unanwendbar; entscheidend bleibt, wie substanziell und eigenständig die menschliche Prüfung im Einzelfall tatsächlich ist.
Zusätzlich verlangt Art. 14 der EU-KI-Verordnung (AI Act) für sogenannte Hochrisiko-KI-Systeme eine wirksame menschliche Aufsicht durch dafür befähigte, geschulte Personen mit tatsächlicher Eingriffsmöglichkeit. Nicht jede KI-Anwendung mit menschlicher Bewertung – etwa beim Bewerbungs-Screening – ist damit automatisch ein Hochrisiko-System; die Einstufung hängt vom konkreten Einsatzzweck ab und sollte im Zweifel rechtlich geprüft werden, da pauschale Aussagen dazu wegen der vielen Fallkonstellationen nicht möglich sind.
Verwandte Begriffe
Human-in-the-Loop hängt eng mit weiteren Lexikon-Begriffen zusammen: der automatisierten Entscheidungsfindung als Gegenstück ohne menschliche Prüfung, dem Profiling als besonderer Form automatisierter Bewertung von Personen, dem KI-Bias, den Human-in-the-Loop-Prozesse abfedern sollen, sowie dem EU AI Act, der für Hochrisiko-Systeme konkrete Aufsichtspflichten vorgibt. Setzt ihr für eure KI-Tools externe Dienstleister ein, lohnt zudem ein Blick auf den AVV, sofern der Anbieter personenbezogene Prüfdaten in eurem Auftrag verarbeitet.
Häufige Fragen
Ist Human-in-the-Loop gesetzlich vorgeschrieben?
Pauschal nicht für jedes KI-Tool. Für Hochrisiko-KI-Systeme verlangt der EU AI Act wirksame menschliche Aufsicht, und die DSGVO verlangt bei ausschließlich automatisierten Entscheidungen mit rechtlicher Wirkung angemessene Schutzmaßnahmen wie das Recht auf menschliches Eingreifen. Ob euer konkretes System betroffen ist, solltet ihr im Einzelfall prüfen.
Reicht es, wenn ein Mensch die KI-Ausgabe nur kurz durchklickt?
Nein. Eine rein formale Durchsicht ohne tatsächliche Möglichkeit zur Korrektur gilt nicht als echtes menschliches Eingreifen. Die prüfende Person muss die Ausgabe inhaltlich nachvollziehen und bei Bedarf ändern oder ablehnen können.
In welchen Unternehmensbereichen ist Human-in-the-Loop besonders wichtig?
Überall dort, wo KI-Ergebnisse rechtliche oder wirtschaftliche Wirkung für Kunden, Bewerbende oder Mitarbeitende entfalten, etwa bei Bewerber-Screening, Kreditvergabe, Preisbildung oder verbindlichen Kundenantworten.
Was unterscheidet Human-in-the-Loop von Human-on-the-Loop?
Bei Human-in-the-Loop prüft ein Mensch jede Einzelentscheidung, bevor sie wirksam wird. Bei Human-on-the-Loop läuft die KI überwiegend eigenständig, während ein Mensch den Prozess nur überwacht und nur bei Auffälligkeiten eingreift.