Ein Sprachmodell kann von sich aus nur Text erzeugen. Es weiß nicht, wie der Lagerbestand heute aussieht, kann keinen Kunden im CRM anlegen und keine E-Mail verschicken. Function Calling schließt diese Lücke, ohne dem Modell direkten Zugriff auf irgendetwas zu geben. Die Anwendung beschreibt dem Modell, welche Funktionen es gibt. Das Modell antwortet, wenn es eine davon braucht, mit einem sauber geformten Aufrufwunsch. Die Anwendung entscheidet, ob und wie sie diesen Wunsch ausführt.
Die Anbieter nennen das unterschiedlich. OpenAI spricht von Function Calling und allgemeiner von Tools, Anthropic von Tool Use, Google ebenfalls von Function Calling. Gemeint ist im Kern dasselbe. Dass Sprachmodelle lernen können, wann ein externes Werkzeug wie ein Taschenrechner oder eine Suche weiterhilft, hatten Schick und andere 2023 im Paper „Toolformer“ gezeigt. Heute ist die Fähigkeit fester Bestandteil der Programmierschnittstellen aller großen Anbieter.
Der Ablauf in fünf Schritten
OpenAI beschreibt den Ablauf in seiner Dokumentation in fünf Schritten, und bei den anderen Anbietern ist er gleich aufgebaut:
- Die Anwendung schickt die Anfrage an das Modell und legt die Beschreibungen der verfügbaren Werkzeuge bei.
- Das Modell antwortet mit einem Werkzeugaufruf: dem Namen der Funktion und den Argumenten, zum Beispiel einer Auftragsnummer.
- Die Anwendung führt die Funktion aus, etwa eine Abfrage im ERP.
- Die Anwendung schickt das Ergebnis zurück an das Modell.
- Das Modell formuliert die Antwort oder fordert den nächsten Werkzeugaufruf an.
Der entscheidende Punkt steckt in Schritt drei. Das Modell führt nichts aus. Es hat keinen Zugang zum ERP, keine Zugangsdaten, keinen Netzwerkzugriff auf interne Systeme. Es schlägt vor, und die Software entscheidet. Anthropic unterscheidet zusätzlich Werkzeuge, die der Anbieter selbst auf seiner Infrastruktur ausführt, etwa eine Websuche. Für die Anbindung eigener Systeme bleibt es bei der Ausführung in der eigenen Anwendung.
Wie ein Werkzeug beschrieben wird
Jedes Werkzeug bekommt einen Namen, eine Beschreibung in natürlicher Sprache und eine Liste der Parameter in Form eines JSON-Schemas. Ein konstruiertes Beispiel: eine Funktion „lieferstatus_abrufen“, Beschreibung „Liefert den aktuellen Versandstatus zu einer Auftragsnummer“, ein Pflichtparameter „auftragsnummer“ vom Typ Text.
Das Modell entscheidet anhand der Beschreibung, wann es das Werkzeug nutzt. Deshalb ist die Beschreibung kein Kommentar für Entwickler, sondern eine Anweisung an das Modell. OpenAI empfiehlt klare und ausführliche Namen und Beschreibungen, die auch sagen, was das Ergebnis bedeutet, und rät, dem Modell keine Argumente abzuverlangen, die die Anwendung ohnehin schon kennt. Zur Zahl der Werkzeuge nennt OpenAI als weiche Richtgröße weniger als 20 gleichzeitig verfügbare Funktionen.
Die Anwendung kann außerdem steuern, ob das Modell ein Werkzeug nutzen darf, nutzen muss oder ein bestimmtes nutzen soll. Und sie kann festlegen, ob mehrere Aufrufe in einem Zug erlaubt sind.
Was Function Calling nicht garantiert
Dass die Argumente stimmen. Ein Modell kann eine Auftragsnummer falsch aus einer E-Mail übernehmen oder einen fehlenden Wert erfinden. Anthropic schreibt in seiner Dokumentation offen, dass manche Modelle bei fehlenden Pflichtangaben eher nachfragen und andere eher einen plausiblen Wert einsetzen. Die Anwendung muss jedes Argument prüfen, bevor sie handelt.
Dass das Format immer passt. Ohne weitere Vorkehrung erzeugt das Modell meistens, aber nicht zwingend, Argumente, die dem Schema entsprechen. Beide großen Anbieter bieten einen strikten Modus, der die Einhaltung des Schemas technisch erzwingt. Das ist dieselbe Technik wie bei der strukturierten Ausgabe, und auch sie sichert nur die Form, nicht den Inhalt.
Dass das Modell das richtige Werkzeug wählt. Je ähnlicher sich zwei Werkzeuge sind, desto häufiger greift ein Modell daneben. Das spricht für wenige, klar unterschiedene Funktionen.
Kosten
Die Werkzeugbeschreibungen werden bei jeder Anfrage mitgeschickt und als Eingabe-Token berechnet. Anthropic fügt bei Werkzeugnutzung zusätzlich einen eigenen Systemtext hinzu, dessen Umfang je Modell in der Dokumentation steht. OpenAI weist darauf hin, dass große Schemata die Kosten erhöhen, und empfiehlt, nicht alle Funktionen von Anfang an zu laden. In einer Schleife mit vielen Aufrufen summiert sich das.
Die Sicherheitsfrage gehört in die Funktion, nicht in den Prompt
Weil die Anwendung jeden Aufruf ausführt, liegt dort auch die Verantwortung. Eine Funktion, die ein Modell aufrufen darf, sollte genau so viel können, wie der Anwendungsfall braucht. „Lieferstatus abrufen“ ist harmlos. „Beliebige SQL-Abfrage ausführen“ ist es nicht, egal wie freundlich der Prompt um Vorsicht bittet. Dazu gehören:
- Rechte im Namen des Nutzers, für den das Modell gerade arbeitet, nicht über ein allmächtiges Dienstkonto; das ist das Prinzip der minimalen Rechte
- Prüfung jedes Arguments wie bei einer Eingabe aus einem Webformular
- eine Freigabe durch einen Menschen bei Aufrufen, die Geld bewegen, Daten löschen oder nach außen kommunizieren
- ein Protokoll jedes Aufrufs mit Argumenten und Ergebnis
Diese Regeln gelten umso mehr, wenn das Modell Texte von außen liest. Eine E-Mail mit eingeschleusten Anweisungen kann das Modell dazu bringen, einen Aufruf vorzuschlagen, den niemand wollte. Die Funktion muss so gebaut sein, dass auch ein solcher Vorschlag keinen großen Schaden anrichten kann.
Abgrenzung zu benachbarten Begriffen
Eine API ist die Schnittstelle eines Systems, über die Software es ansprechen kann. Function Calling ist der Mechanismus, mit dem ein Sprachmodell vorschlägt, eine solche Schnittstelle zu nutzen. Häufig ist eine Funktion nur eine dünne Hülle um einen API-Aufruf.
Das Model Context Protocol setzt eine Ebene darüber an. Es regelt, wie Werkzeuge einer Anwendung standardisiert angeboten werden, damit nicht jede KI-Anwendung jede Anbindung neu bauen muss. Der Aufruf selbst läuft am Ende wieder über Function Calling.
Ein KI-Agent schließlich ist ein System, das Function Calling in einer Schleife nutzt und selbst entscheidet, welcher Aufruf als Nächstes kommt. Function Calling allein macht noch keinen Agenten: Ein fester Ablauf, in dem das Modell an genau einer Stelle genau eine Funktion aufruft, ist ein völlig normaler Einsatz.
Quellen
- Function calling, OpenAI, API-Dokumentation
- Tool use with Claude, Anthropic, Claude-Dokumentation
- Function calling with the Gemini API, Google AI for Developers
- Toolformer: Language Models Can Teach Themselves to Use Tools, Schick et al., arXiv, 2023
Inhaltlich geprüft im Oktober 2026. Der Eintrag erklärt einen Begriff und ersetzt keine Rechts- oder Steuerberatung.

