Human-in-the-Loop.

Der Begriff wird oft mit «jemand schaut ab und zu drüber» verwechselt. Gemeint ist etwas Präziseres: Der Ablauf hält an einer festgelegten Stelle an und läuft erst nach einer Entscheidung weiter. Davon zu unterscheiden ist Human-on-the-Loop, wo der Prozess durchläuft und ein Mensch ihn beobachtet und notfalls stoppt, sowie der vollautomatische Betrieb ohne Eingriffsmöglichkeit. Welche Stufe richtig ist, hängt nicht vom Reifegrad der Technik ab, sondern vom Schaden bei einem Fehler und davon, ob sich dieser Fehler rückgängig machen lässt.

Kontrollpunkte gehören dorthin, wo etwas die Systemgrenze verlässt. Das sind vier Kategorien: Geld bewegt sich, Kommunikation geht nach aussen, Daten werden dauerhaft geändert oder gelöscht, und Inhalte werden veröffentlicht. Dazu kommen Bereiche mit besonderer Verantwortung — Gesundheit, Recht, Finanzen, Personalentscheide. Alles andere läuft ohne Halt durch. Eine brauchbare Abwägung: Der Kontrollpunkt lohnt sich, wenn der erwartete Schaden aus Eintrittswahrscheinlichkeit mal Folgekosten den Aufwand der Prüfung übersteigt. Bei einem Entwurfstext ist das selten der Fall, bei einer Zahlungsfreigabe fast immer.

Zu viele Freigaben schaden ebenfalls. Wer zwanzigmal am Tag bestätigen muss, klickt irgendwann durch, ohne zu lesen — die Kontrolle existiert dann nur noch auf dem Papier, im Schadensfall aber mit dokumentierter Zustimmung. Wirksam sind wenige, bewusst gesetzte Kontrollpunkte, die genügend Kontext zeigen: was genau passiert, mit welchen Daten, was die Alternative wäre. Ergänzend hilft, Umkehrbarkeit einzubauen, statt Freigaben zu vermehren. Eine Aktion mit fünfzehn Minuten Widerrufsfrist und sauberem Protokoll ist im Alltag oft mehr wert als eine zusätzliche Bestätigung vorab.

Ein Anwendungsfall: Ein Agent bereitet Antworten auf Kundenanfragen vor. Er recherchiert im internen Wissensbestand, formuliert eine Antwort und legt sie als Entwurf ab — versendet wird nichts automatisch. Nach einigen Wochen lässt sich messen, in welchen Kategorien die Entwürfe unverändert übernommen werden; dort kann der Kontrollpunkt gelockert werden, während er bei Reklamationen und Preisfragen bestehen bleibt. Regulatorisch weist der EU AI Act für Hochrisiko-Anwendungen in Artikel 14 eine wirksame menschliche Aufsicht ausdrücklich zu. Die Schweiz ist daran nicht direkt gebunden, für Unternehmen mit EU-Markt ist die Anforderung aber relevant.