Agentische Systeme

Warum ein Skript hier an seine Grenze kommt

Ein Skript kennt seinen Weg. Es liest eine Datei, prüft drei Felder, schreibt ein Ergebnis. Wenn das vierte Feld fehlt, bricht es ab. Wenn ein Lieferant seine Rechnung anders aufbaut als im Monat davor, bricht es ab. Wenn eine Ausnahme auftaucht, die niemand vorhergesehen hat, bricht es ab.

Genau deshalb liegen in fast jedem Haus Vorgänge, die man automatisieren wollte und dann doch nicht automatisiert hat. Sie sind nicht kompliziert. Sie sind nur nicht immer gleich.

Ein Agent kennt seinen Weg nicht. Er kennt sein Ziel, seine Werkzeuge und seine Grenzen. Bei jeder Aufgabe entscheidet er neu, welches Werkzeug er aufruft, liest das Ergebnis und entscheidet wieder. Ein fehlendes Feld ist für ihn kein Abbruch, sondern eine Teilfrage: Wo steht diese Angabe sonst?

Der Preis dafür ist Unbestimmtheit. Zwei Läufe derselben Aufgabe können unterschiedliche Wege nehmen. Für einen Buchungslauf ist das inakzeptabel, dort gehört ein Skript hin. Für eine Angebotsprüfung, bei der jedes zweite Angebot anders aussieht, ist es der Punkt.

Die Frage vor jedem Vorhaben lautet deshalb nicht „Agent oder nicht", sondern: Ist dieser Vorgang immer gleich? Wenn ja, bauen wir ein Skript und sagen das. Wenn nein, wird ein Skript ihn auch beim dritten Versuch nicht abbilden.

Die fünf Schritte, die jeder Lauf durchläuft

Ein agentischer Lauf ist kein Nebel. Er hat eine Struktur, und sie ist dieselbe, ob er zwei Sekunden oder zwei Minuten dauert.

Planung. Die Aufgabe wird in Teilfragen zerlegt. „Ab wann läuft die Lieferfrist?" wird zu drei Fragen: Welcher Vertrag gilt, ab welchem Ereignis läuft die Frist, welche Ausnahmen greifen. Diese Zerlegung steht im Protokoll. Sie ist der erste Ort, an dem man sieht, ob der Agent die Frage verstanden hat.

Werkzeugaufruf. Der Agent ruft ein Werkzeug auf: eine Suche, eine Datenbankabfrage, einen Systemaufruf. Welche Werkzeuge ihm zur Verfügung stehen, entscheidet seine Rolle und nicht sein Text. Das ist der wichtigste Satz dieser Seite, und wir kommen darauf zurück.

Quelle. Was das Werkzeug zurückgibt, kommt mit Herkunft: Datei, Abschnitt, Zeitpunkt. Ein Ergebnis ohne Herkunft ist für den nächsten Schritt wertlos, weil es sich nicht mehr prüfen lässt.

Entscheidung. Auf dieser Grundlage entscheidet der Agent. Die Begründung steht im Protokoll, nicht nur das Ergebnis: sonst hat man am Ende eine Antwort und keinen Weg dorthin.

Ergebnis. Was herauskommt, samt Kosten des Laufs, gebucht auf die Kostenstelle des Fragenden.

Werkzeuge sind Rechte, keine Fähigkeiten

Der gefährlichste Denkfehler beim Bau agentischer Systeme ist, Werkzeuge als Fähigkeiten zu betrachten. Ein Agent, der „auf das ERP zugreifen kann", ist ein Agent, der auf alles im ERP zugreifen kann, auch auf das, was der Mensch, für den er gerade arbeitet, nicht sehen darf.

Werkzeuge sind Rechte. Sie hängen an der Rolle des Aufrufenden und nicht am Agenten. Derselbe Agent, aufgerufen von jemandem aus dem Einkauf, sieht das Vertragsarchiv; aufgerufen von jemandem aus dem Service, sieht er es nicht, und die Verweigerung steht im Protokoll.

Daraus folgt eine Bauregel: Ein Agent bekommt nie einen technischen Sammelzugang. Er arbeitet mit den Rechten der Person, die ihn beauftragt hat. Das ist aufwendiger einzurichten und die einzige Bauart, die einer Prüfung standhält.

Zweite Bauregel: Werkzeuge, die etwas verändern, brauchen eine ausdrückliche Freigabe. Lesen kann ein Agent selbstständig. Buchen, versenden, löschen nicht, dort steht ein Mensch dazwischen, und was er freigibt, steht mit seinem Namen im Protokoll.

Was das Protokoll leisten muss

Ein agentisches System ohne vollständiges Protokoll ist nicht prüfbar, und nicht prüfbar heißt in einem geprüften Unternehmen: nicht einsetzbar.

Vollständig heißt: jeder Schritt, mit Zeitstempel, mit der Rolle des Aufrufenden, mit dem Werkzeug, mit der Quelle, mit dem Modell und mit den Kosten. Auch die Schritte, die nichts ergeben haben. Auch die Werkzeuge, die verweigert wurden.

Der letzte Punkt wird gern übersehen und ist der wichtigste. Eine Verweigerung, die nicht protokolliert wird, ist von einem Fehler nicht zu unterscheiden. Wer in zwei Jahren nachvollziehen soll, warum eine bestimmte Auskunft so ausfiel, muss sehen, was der Agent nicht sehen durfte.

Die Aufbewahrungsdauer legen Sie fest, nicht wir. Sie steht im Vertrag, sie steht im Protokoll je Lauf, und sie wird eingehalten.

Kosten begrenzen, bevor sie entstehen

Ein Agent, der frei entscheidet, entscheidet auch über Ihre Modellkosten. Ein Lauf, der sich verrennt, ruft zwanzigmal dasselbe Werkzeug auf und kostet das Zwanzigfache.

Drei Grenzen, die von Anfang an stehen:

Eine Schrittgrenze je Lauf. Nach einer festgelegten Zahl von Schritten bricht der Agent ab und meldet, wie weit er gekommen ist. Ein Abbruch mit Zwischenstand ist besser als eine Rechnung mit Überraschung.

Ein Kostendeckel je Kostenstelle und Monat. Er gilt hart: Ist er erreicht, werden weitere Läufe abgelehnt, mit einer Meldung und nicht mit einem Fehler.

Eine Modellwahl je Schritt. Nicht jeder Schritt braucht das teuerste Modell. Die Zerlegung einer Frage kann ein kleines Modell, die Bewertung einer Vertragsklausel nicht. Diese Zuordnung ist Konfiguration und lässt sich ändern, ohne den Agenten anzufassen.

Womit ein Vorhaben anfängt

Nicht mit einer Plattform. Mit einem Vorgang.

Wir suchen den einen Vorgang, bei dem heute erkennbar Zeit verloren geht, der oft genug vorkommt, dass sich der Aufwand lohnt, und dessen Ergebnis sich prüfen lässt. Der läuft als Pilot an echten Daten durch, mit den Menschen, die ihn heute bearbeiten. Er zeigt den Nutzen oder er zeigt, dass es keinen gibt.

Erst danach kommt der zweite Vorgang. Ein System, das für zwölf Vorgänge gebaut wurde, bevor einer davon lief, wird für keinen davon gut sein.