Im Alltag heißt inzwischen fast alles „Agent“, was mit KI zu tun hat, vom Chatfenster auf der Website bis zur Rechnungsprüfung. Fachlich ist der Begriff enger. Anthropic unterscheidet in seinem Leitfaden „Building effective agents“ vom Dezember 2024 zwei Bauweisen: Workflows, in denen Sprachmodelle und Werkzeuge über vorher festgelegte Programmpfade zusammenarbeiten, und Agenten, in denen das Modell seinen Ablauf und den Einsatz der Werkzeuge selbst steuert. OpenAI zieht die Grenze in seinem Praxisleitfaden ähnlich und stellt ausdrücklich fest, dass ein einfacher Chatbot oder ein Klassifikator, der Stimmungen erkennt, kein Agent ist.
Der Unterschied liegt also nicht darin, wie klug das Modell ist, sondern darin, wer den Ablauf bestimmt. Im Workflow legen Menschen beim Bau fest, welcher Schritt auf welchen folgt. Beim Agenten entscheidet das Modell zur Laufzeit, was als Nächstes geschieht.
Wie ein Agent arbeitet
Im Kern steht eine Schleife. Das Modell erhält ein Ziel, eine Beschreibung der verfügbaren Werkzeuge und den bisherigen Verlauf. Es entscheidet, ob es ein Werkzeug aufruft, etwa eine Kundensuche im CRM, eine Lagerabfrage im ERP oder den Versand einer E-Mail. Die Anwendung führt den Aufruf aus und gibt das Ergebnis zurück. Das Modell liest es und entscheidet erneut. Technisch läuft das über Function Calling: Das Modell führt selbst nichts aus, es formuliert nur einen strukturierten Aufrufwunsch, den die umgebende Software prüft und ausführt.
Das Muster, Denkschritte und Handlungen abwechselnd zu erzeugen, haben Yao und Kollegen 2022 im Paper „ReAct“ beschrieben (Reasoning and Acting). Das Modell hält fest, was es vorhat, handelt, beobachtet das Ergebnis und passt seinen Plan an. Heutige Agenten folgen diesem Prinzip, auch wenn die Mechanik inzwischen fest in den Programmierschnittstellen der Anbieter steckt.
Jede Schleife braucht ein Ende. Übliche Abbruchbedingungen sind: Das Modell meldet das Ziel als erreicht, es antwortet ohne weiteren Werkzeugaufruf, ein Fehler tritt auf, oder eine Höchstzahl an Durchläufen ist erreicht. Die letzte Bedingung ist keine Formalie. Ohne sie dreht sich ein Agent, der ein Problem nicht lösen kann, im Kreis und erzeugt dabei Kosten.
Wann ein fester Ablauf die bessere Wahl ist
An dieser Stelle wird am häufigsten falsch entschieden. Ein Agent ist nicht die fortgeschrittene Version eines Workflows, sondern eine andere Bauweise mit anderem Preis. Anthropic rät, mit der einfachsten Lösung zu beginnen und Komplexität nur hinzuzufügen, wenn sie nachweislich gebraucht wird. OpenAI nennt drei Lagen, in denen ein Agent seine Stärken ausspielt: Entscheidungen mit viel Ermessen und Ausnahmen, Regelwerke, die so verästelt sind, dass ihre Pflege teuer und fehleranfällig wird, und Aufgaben, die stark von unstrukturierten Daten wie freiem Text abhängen. Trifft keiner dieser Fälle klar zu, genügt nach OpenAI oft eine deterministische Lösung.
Die meisten wiederkehrenden Büroabläufe sind gut beschreibbar. Eine Eingangsrechnung wird gelesen, gegen die Bestellung geprüft, gebucht oder zur Freigabe vorgelegt. Die Reihenfolge steht fest, nur das Lesen des Dokuments braucht ein Sprachmodell. Ein agentischer Workflow mit festen Schritten und einzelnen KI-Bausteinen ist hier billiger, schneller, leichter zu testen und für Prüfer nachvollziehbar.
| Fester Ablauf mit KI-Schritten | KI-Agent | |
|---|---|---|
| Wer bestimmt die Reihenfolge | die Entwickler, beim Bau | das Modell, zur Laufzeit |
| Passt zu | wiederkehrenden, beschreibbaren Vorgängen | offenen Aufgaben, deren Schritte vorab unklar sind |
| Kosten je Vorgang | gut planbar | schwankend, je nach Zahl der Durchläufe |
| Testen | Schritt für Schritt | nur über viele Testfälle und Stichproben |
| Fehlerbild | Fehler bleiben meist in ihrem Schritt | Fehler ziehen sich in spätere Schritte |
Ein Agent lohnt sich eher dort, wo der Weg vorher nicht feststeht: bei einer Recherche über mehrere Systeme hinweg oder bei einer ungewöhnlichen Reklamation, bei der erst herauszufinden ist, welche Unterlagen überhaupt relevant sind. Häufig ist eine Mischung am besten, also ein fester Ablauf, in dem an einer klar abgegrenzten Stelle ein Agent arbeitet.
Die Risiken, offen benannt
Fehler pflanzen sich fort. Anthropic nennt die Gefahr sich aufschaukelnder Fehler ausdrücklich. Ein Agent baut jeden Schritt auf dem vorigen auf. Liest er am Anfang eine Kundennummer falsch, arbeitet er danach gründlich und folgerichtig am falschen Kunden weiter. Weil die Folgeschritte plausibel aussehen, fällt der Fehler spät auf.
Die Kosten schwanken. Jeder Durchlauf schickt den bisherigen Verlauf erneut an das Modell. Was ein Vorgang kostet, hängt davon ab, wie viele Schritte der Agent braucht, und das weiß vorher niemand genau. Anthropic beschreibt höhere Kosten und längere Laufzeiten als den Preis, den man für bessere Ergebnisse bei offenen Aufgaben zahlt. Bei Routineaufgaben bekommt man für diesen Preis wenig.
Rechte werden zur Angriffsfläche. Ein Agent kann nur tun, was seine Werkzeuge erlauben, aber alles, was sie erlauben, kann er auch tun. Das OWASP GenAI Security Project führt das unter „Excessive Agency“ und nennt drei Ursachen: zu viele Funktionen, zu weit gefasste Berechtigungen und zu viel Autonomie ohne menschliche Kontrolle vor folgenreichen Aktionen. Wie man Werkzeuge entsprechend eng schneidet, beschreibt der Eintrag zum Function Calling. Hier gilt das Prinzip der minimalen Rechte.
Eingaben können manipuliert sein. Ein Agent liest E-Mails, Dokumente und Webseiten. Steht darin eine versteckte Anweisung, hält er sie unter Umständen für einen Auftrag. Diese Prompt Injection wiegt bei Agenten schwerer als bei einem Chatbot, weil auf die Täuschung eine Handlung folgen kann.
Was man vor dem Einsatz festlegen sollte
Die wirksamsten Schutzmaßnahmen liegen nicht im Modell, sondern in der Umgebung, in der es arbeitet:
- eng geschnittene Werkzeuge, lieber fünf spezifische Funktionen als eine allgemeine
- Zugriffe im Namen des jeweiligen Nutzers statt über ein Systemkonto mit Vollzugriff, wie OWASP empfiehlt
- eine menschliche Freigabe vor Aktionen, die sich schwer rückgängig machen lassen, etwa Zahlungen, Stornierungen oder Nachrichten an Kunden; OpenAI nennt genau solche Aktionen und überschrittene Fehlergrenzen als Anlässe, an einen Menschen zu übergeben, und diese Aufteilung beschreibt der Begriff Human in the Loop
- feste Obergrenzen für Schritte, Laufzeit und Kosten je Vorgang
- ein lückenloses Protokoll jedes Werkzeugaufrufs als Audit-Trail
- Tests in einer abgeschotteten Umgebung, bevor der Agent echte Systeme berührt
Wer einen Agenten angeboten bekommt, sollte nachfragen: Welche Werkzeuge hat er, mit welchen Rechten? Was geschieht, wenn er nach zehn Schritten nicht weiterkommt? An welcher Stelle wird ein Mensch gefragt? Lässt sich jeder Vorgang im Nachhinein Schritt für Schritt nachvollziehen? Und vor allem: Warum braucht diese Aufgabe einen Agenten und nicht einen festen Ablauf?
Quellen
- Building effective agents, Anthropic, 2024
- A practical guide to building agents, OpenAI
- ReAct: Synergizing Reasoning and Acting in Language Models, Yao et al., arXiv (ICLR 2023), 2022
- LLM06:2025 Excessive Agency, OWASP GenAI Security Project, 2025
Inhaltlich geprüft im Oktober 2026. Der Eintrag erklärt einen Begriff und ersetzt keine Rechts- oder Steuerberatung.

