Warum KI-Agenten ausgerechnet beim Programmieren zuerst funktionieren

Ein Software-Team gibt einem KI-Agenten abends eine Aufgabe: Manche Kunden bekommen beim Anmelden eine Fehlermeldung, die Ursache ist unbekannt. Am Morgen ist der Fehler behoben - der Agent hat die Nacht durchgearbeitet, niemand hat zugeschaut. Solche und ähnliche Berichte liest man immer häufiger und die Fähigkeiten heutiger KI-Agenten sind beeindruckend. Aber warum lässt sich das nicht einfach analog auf alle möglichen anderen Unternehmensbereiche bzw. Prozesse übertragen?

Nutzen Softwareentwickler die besseren KI-Modelle?

Nein. Die Modelle, die nachts Code reparieren, sind dieselben, die jedes Unternehmen heute nutzen kann - eine fähigere Version für Entwickler gibt es nicht. Dass Agenten zunächst vor allem beim Programmieren verlässlich arbeiten, hat seinen Grund nicht im Modell. Er liegt im Prozess.

Was unterscheidet Softwareerstellung von vielen anderen Prozessen?

Fehlversuche sind hier billig, und das Urteil über jeden Versuch fällt automatisch, in Sekunden. Von diesen beiden Eigenschaften lebt der Agent, der nachts den Anmelde-Fehler sucht. Er arbeitet in einer Schleife: planen, handeln, beobachten, neu planen - oder aufhören. Im Kern ist diese Schleife ein Suchverfahren: Der Weg zur Lösung ist unbekannt, also wird er durch Versuche gefunden. Er liest den Quelltext, stellt eine Vermutung an, ändert eine Stelle und lässt die Tests laufen - Prüfprogramme, die das Verhalten der Software mit dem erwarteten abgleichen. Vierzig bestehen, einer schlägt fehl. Fehlermeldung lesen, Änderung verwerfen, nächster Ansatz - fünfmal, zwanzigmal, so oft es nötig ist.

Möglich ist das, weil der Agent auf einer Kopie des Codes arbeitet: Kein Fehlversuch erreicht einen User, jeder verworfene Ansatz verschwindet spurlos. Das Urteil der Tests kennt keinen Ermessensspielraum - bestanden oder nicht bestanden, nach jedem Versuch, ohne dass jemand gefragt werden muss. Weiter als die Tests selbst reicht dieses Urteil nicht, aber es ist verlässlich. Hinzu kommt, dass die gesamte „Wahrheit" über das Problem dem Modell vollständig vorliegt: Quelltext, Fehlermeldungen, Änderungen sind Text und das Modell kann sie einlesen. Anrufe, E-Mails, Rückfragen, Urlaubsvertretung oder Wartezeiten kommen in diesem Prozess nicht vor.

Auch das Aufhören folgt daraus: Die Schleife endet, wenn die Tests bestanden melden - nicht, wenn das Modell sich selbst für fertig hält. Der Agent braucht keine laufende Begleitung, weil jeder Versuch gegen dieses eindeutige Urteil läuft. Die menschliche Kontrolle entfällt dabei nicht, sie verschiebt sich an den Morgen: Ein Entwickler prüft den fertigen Vorschlag, bevor er übernommen wird und dass ihm hundert verworfene Versuche vorausgingen, ist kein Makel, sondern der Normalfall dieser Arbeit.

Warum funktioniert dieselbe Schleife nicht in der Gehaltsabrechnung?

Angenommen, derselbe Agent bekommt abends eine neue Aufgabe: die Dezember-Gehälter. Die Gehaltsabrechnung steht dabei stellvertretend für das ganze Backoffice, vom Einkauf bis zur Buchhaltung - sie zeigt den Unterschied nur am schärfsten. Planen geht noch. Auch ein geschützter Raum ließe sich einrichten, die Gehaltsabrechnung kennt ihn seit Jahrzehnten: die Probeabrechnung, ein Durchlauf, bei dem nichts das Haus verlässt. Nur fehlt diesem Probelauf, was die Tests der Entwickler stark macht: das automatische Urteil. Eine Probeabrechnung zeigt, was passieren würde; ob es richtig ist, muss erst ein Mensch beurteilen. Beim Code steht die Erwartung vorher fest, aufgeschrieben als Test. Für die Dezember-Gehälter hat niemand vorher aufgeschrieben, was bei jedem einzelnen Fall herauskommen muss - eine Erwartung, gegen die eine Maschine prüfen könnte, existiert nicht. Plausibel prüfen lässt sich vieles: der Vergleich zum Vormonat, die Summen, die Ausreißer. Aber plausibel ist nicht richtig. Und damit zerfällt die Schleife: Jeder Versuch baut auf dem Urteil des vorherigen auf. Hier kann dieses Urteil nur ein Mensch fällen - die Schleife läuft nicht mehr im Sekundentakt, sondern im Takt der menschlichen Prüfung: zwei, drei Durchläufe im Monat statt hundert in einer Nacht.

Und was nach Prüfung und Freigabe das Haus verlässt, hat Rechtswirkung: Geld fließt auf Konten, Meldungen gehen an Krankenkassen und Finanzamt. Ein Fehler, der jetzt erst auffällt, verschwindet nicht spurlos wie ein verworfener Ansatz auf der Kopie - er steht in der Welt und muss zurückgeholt werden: Rückforderung, Korrekturmeldung, im Ernstfall Nachzahlung mit Zuschlägen. Und die Rückmeldung, die ihn auffliegen lässt, kommt spät und nur im Fehlerfall: der Mitarbeiter, dem 400 € fehlen, Tage später, per Anruf oder E-Mail. Niemand ruft an, wenn die Abrechnung stimmt. Wo der Entwickler ein aktives Ja bekommt, bekommt das Lohnbüro höchstens das Ausbleiben eines Neins.

Und die „Wahrheit"? Sie liegt nicht im System. Ob jemand krank war und ab wann, ob die Stunden stimmen, ob die Krankenkasse noch die richtige ist - das steht beim Mitarbeiter, beim Arzt, bei der Kasse, und es erreicht die Abrechnung über Telefonate, Post und Portale, oft mit Wochen Verzug. Eine Probeabrechnung rechnet mit den Daten, die im System stehen; ob die Daten der Wirklichkeit entsprechen, kann sie nicht wissen. Wer in der Payroll sorgfältig arbeitet, hält dagegen: mit einer Wiedervorlage je Abrechnungsmonat, in der alles Gemeldete steht - jede Veränderung, jede Stunde -, und gegen die die Probeabrechnung Position für Position verglichen wird, von Hand. So zeigt sich sofort, ob das Gemeldete richtig verarbeitet wurde. Nur was niemand gemeldet hat, steht auch in keiner Wiedervorlage. Damit bricht auch das Aufhören: Ob die Wirklichkeit draußen stimmt, erfährt auch die sorgfältigste Prüfung erst Wochen später, und oft ist die einzige Rückmeldung, dass keine kommt. Eine Schleife, die so lange auf ihr Urteil wartet, ist keine mehr.

Muss man also nur warten, bis die Modelle besser werden?

Nein. Ein besseres Modell kann ein fehlendes Urteil nicht ersetzen. Das nächste wird besser formulieren, besser planen, seltener danebenliegen. Aber es bringt keinen Test mit, der einer Abrechnung in Sekunden bestanden oder nicht bestanden bescheinigt, keine aufgeschriebene Erwartung, gegen die sich prüfen ließe - und die „Wahrheit" holt es auch nicht ins System. Was fehlt, ist ein Urteil vor der Wirkung, und das ist eine Eigenschaft des Prozesses, nicht der KI.

Dieselbe Eigenschaft zeigt aber auch den Ausweg: Prozesse können das Urteil liefern - von Menschen, an Prüfstellen, die es längst gibt. Die Gehaltsabrechnung hat das Muster vor Jahrzehnten selbst entwickelt: Die Probeabrechnung stellt jedes Ergebnis zur Prüfung, bevor Geld fließt. Die Freigabe vor dem Zahllauf lässt keinen ungeprüften Lauf hinaus. Das Vier-Augen-Prinzip verteilt das Urteil auf mehr als eine Person. Urteil vor Wirkung - nach diesem Prinzip wird hochautomatisierte Abrechnung mit Rechtswirkung beherrscht, lange bevor jemand „Agent" gesagt hat.

Neu an alledem ist nur der Grund zur Vorsicht: Ein Sprachmodell kann überzeugend falsch liegen. Deshalb ist die menschliche Freigabe, wo KI mitarbeitet, keine Übergangslösung, bis die Technik reifer wird - sie gehört zur Konstruktion, so wie sie seit jeher zum Zahllauf gehört.

Braucht es dann überhaupt einen Agenten?

Meist nicht, und genau genommen hat das Scheitern an den Dezember-Gehältern das schon gezeigt: Neben dem fehlenden Urteil hatte es eine zweite, tiefere Ursache - die Aufgabe war gar kein Suchproblem. Der Agent aus der Nacht ist ein Suchverfahren: Er lohnt sich, wenn der Weg unbekannt ist. Der Anmelde-Fehler war so ein Fall - niemand wusste, wo die Ursache liegt, also musste gesucht werden. Die Gehaltsabrechnung ist das Gegenteil: Der Weg ist bekannt, er ist sogar vorgeschrieben, und er ist jeden Monat derselbe. Wer den Weg kennt, muss nicht suchen - er baut ihn einmal richtig und lässt ihn laufen. Genau das ist ein Workflow: eine festgelegte Schrittfolge, bei der vor dem ersten Lauf feststeht, was wann geschieht. Ein Agent dagegen entscheidet unterwegs selbst, was als Nächstes dran ist. Die Unterscheidung stammt nicht von uns: Anthropic, das Unternehmen hinter Claude, definiert die beiden Bauformen in seinem Leitfaden „Building effective agents" genau so und empfiehlt dort, stets die einfachste Lösung zu wählen - Komplexität nur, wenn sie nachweislich bessere Ergebnisse bringt.^[1]

Deshalb wurde die Abrechnung selbst längst automatisiert, ganz ohne KI: Das Abrechnungsprogramm ist ein bewährter Workflow. Was jetzt mit KI neu hinzukommt, ersetzt dieses Programm nicht - es arbeitet ihm zu. Das Sprachmodell übernimmt die unscharfen Stellen des festen Wegs - ein Foto von einer Bescheinigung, ein formloser Antrag, eine Mail in freien Worten. Dort liest es, ordnet ein, schlägt vor; den festen Weg entlang läuft weiter der Workflow, und wo es darauf ankommt, entscheidet ein Mensch über die Freigabe. Für einen großen Teil der Abläufe in Verwaltung und Personal ist das die passende Bauform - nicht als Verzicht auf den Agenten, sondern als bewusste Werkzeugwahl: Man nimmt kein Suchverfahren für einen Weg, den man kennt.

Und wo wirklich gesucht werden muss - ein unklarer Fall, eine Ursache, die niemand kennt -, darf auch hier ein Agent arbeiten. Nur anders als der aus den nächtlichen Berichten: Er bereitet vor, statt zu vollenden - geht einer Unstimmigkeit nach, trägt zu einem Sonderfall die Unterlagen zusammen, entwirft die Antwort an die Kasse. Seine Ergebnisse haben keine Rechtswirkung, sie stehen zur Prüfung, bis ein Mensch sie freigibt. Und weil ein menschliches Urteil Minuten kostet, wo die Testsuite Sekunden braucht, kommt er mit wenigen guten Vorschlägen statt mit hundert Versuchen. Das ist die Übersetzung: weniger Durchläufe, dafür geprüfte.

Agenten suchen Lösungen, Workflows führen feste Lösungsschritte aus - sortiert eure Prozesse nach ihrer Form.

Worauf es ankommt

Die Berichte aus den Feeds beschreiben keine bessere Technik, sondern eine Umgebung, die das Urteil schon eingebaut hat. Dass andere Unternehmensteile bei der Nutzung von KI und insbesondere von Agenten langsamer vorankommen, ist deshalb kein technischer Rückstand oder Mangel an Mut - es ist die ehrliche Antwort von Prozessen, deren Ergebnisse wirken, sobald sie das Haus verlassen. Die Frage, auf die es ankommt, ist darum nicht, warum die Entwickler schneller sind. Sie lautet: Welche eurer Prozesse geben einem Agenten ein schnelles, verlässliches Urteil - und welche nicht? Wo der Weg bekannt ist, trägt der Workflow, mit dem Sprachmodell an den unscharfen Stellen und einer Freigabe davor. Wo wirklich gesucht werden muss, darf ein Agent suchen, und sein Urteil kommt von Menschen. Wer vorschnell Agenten einsetzt, überspringt genau diese Frage. Die Reihenfolge ist andersherum: erst die eigenen Prozesse durchleuchten und verstehen, dann das Werkzeug wählen. Die Gehaltsabrechnung war dafür nur der deutlichste Beweisfall - dieselbe Form haben viele Prozesse, deren Rückmeldung von Menschen kommt und deren Wahrheit außerhalb des Systems entsteht, im Personalbüro wie im Einkauf. Und das Prinzip - Urteil vor Wirkung - ist nirgends neu: Probeläufe, Freigaben und Vier-Augen gibt es in jedem ordentlich geführten Betrieb. Die Kontrollkultur habt ihr längst - sie muss nur in die neuen Abläufe übersetzt werden.