Was ist Tool-Calling (Function Calling) bei LLMs?

Tool-Calling (auch Function Calling genannt) ist die Fähigkeit eines großen Sprachmodells (LLM), aus einer Anfrage zu erkennen, dass eine externe Funktion oder Schnittstelle nötig ist, und dafür einen strukturierten Aufruf samt passender Parameter zu erzeugen. Das Modell führt die Funktion nicht selbst aus, sondern erstellt eine Datenstruktur, die beschreibt, welche Funktion mit welchen Argumenten aufgerufen werden soll. Die eigentliche Ausführung übernimmt ein separates Programm.

Ein Sprachmodell kann von sich aus nur Text erzeugen. Es kann keine E-Mail versenden, keine Datenbank abfragen und kein CRM aktualisieren. Tool-Calling schließt diese Lücke: Es macht aus einem Modell, das nur „spricht", ein Modell, das Aktionen anstoßen kann. Damit ist Function Calling eine der zentralen Grundlagen für KI-Agenten und für unsere AI-Mitarbeiter, die Aufgaben nicht nur beschreiben, sondern erledigen sollen.

Warum Tool-Calling nötig ist

Ein Large Language Model wird auf einem festen Datenstand trainiert. Es kennt deshalb keine aktuellen Informationen und hat keinen Zugriff auf Systeme eines Unternehmens. Fragen wie „Wie ist der aktuelle Lagerbestand für Artikel 4711?" oder „Lege diesen Lead im CRM an" kann ein Modell allein nicht beantworten oder ausführen.

Tool-Calling löst zwei Probleme:

• Aktuelle und private Daten holen: Das Modell kann eine Funktion aufrufen, die etwa eine Datenbank, einen Kalender oder eine Web-Schnittstelle abfragt.
• Aktionen auslösen: Das Modell kann den Anstoß geben, eine Bestellung anzulegen, eine Nachricht zu versenden oder einen Datensatz zu ändern.

Wichtig: Das Modell entscheidet nur, dass und wie eine Funktion aufgerufen werden soll. Die Kontrolle über die Ausführung bleibt im umgebenden Programm.

Wie Tool-Calling Schritt für Schritt funktioniert

Der Ablauf folgt meist demselben Muster:

1. Funktionen beschreiben: Die Anwendung gibt dem Modell eine Liste verfügbarer Funktionen mit, jeweils mit Name, Zweck und erwarteten Parametern (z. B. „get_lagerbestand(artikelnummer)"). Das Modell weiß so, was ihm zur Verfügung steht.
2. Anfrage analysieren: Das Modell prüft die Nutzeranfrage und entscheidet, ob eine Funktion nötig ist und welche.
3. Strukturierten Aufruf erzeugen: Statt einer Textantwort liefert das Modell eine Datenstruktur, üblicherweise im JSON-Format, etwa: Funktion „get_lagerbestand", Parameter „artikelnummer: 4711".
4. Ausführen: Die Anwendung – nicht das Modell – führt die Funktion aus und ruft die echte Schnittstelle auf.
5. Ergebnis zurückgeben: Das Ergebnis kann an das Modell zurückgespielt werden, damit dieses eine verständliche Antwort für den Nutzer formuliert.

Dieser Kreislauf kann sich wiederholen. Ein Modell kann mehrere Funktionen nacheinander aufrufen, um mehrstufige Aufgaben zu lösen – die Basis für agentisches Verhalten, das wir im Beitrag zu Agentic AI genauer einordnen.

Strukturierte Ausgaben als verwandtes Konzept

Tool-Calling hängt eng mit dem Thema strukturierte Ausgaben zusammen. Damit ein Funktionsaufruf zuverlässig weiterverarbeitet werden kann, muss er einem festen Format folgen – sonst lässt er sich technisch nicht ausführen. Viele Anbieter erlauben es daher, dem Modell ein Schema vorzugeben, dem die Antwort folgen muss.

Der Unterschied in Kürze:

• Tool-Calling beantwortet die Frage: Welche Funktion soll mit welchen Argumenten aufgerufen werden?
• Strukturierte Ausgabe beantwortet die Frage: In welchem festen Format soll die Antwort vorliegen?

In der Praxis werden beide oft kombiniert, weil ein sauberer Funktionsaufruf ein verlässliches Format voraussetzt.

Abgrenzung zu RAG, MCP und Agenten

Tool-Calling wird leicht mit benachbarten Konzepten verwechselt:

• Retrieval-Augmented Generation (RAG) reichert die Antwort eines Modells mit gefundenen Textstellen an. Tool-Calling kann ein Baustein davon sein (etwa der Abruf), ist aber allgemeiner: Es deckt auch Aktionen ab, nicht nur das Holen von Wissen.
• Das Model Context Protocol (MCP) ist ein offener Standard, der regelt, wie ein Modell und externe Werkzeuge miteinander kommunizieren. Tool-Calling ist die Fähigkeit, MCP ist eine Möglichkeit, diese Werkzeuge anzubinden.
• KI-Agenten nutzen Tool-Calling als Mechanismus, um zwischen Entscheidung und Handlung zu wechseln. Frameworks wie LangGraph organisieren diese Abläufe.

Bedeutung für AI-Mitarbeiter

Tool-Calling ist der Punkt, an dem ein Sprachmodell vom Texterzeuger zum handelnden System wird – und damit die Voraussetzung für unsere AI-Mitarbeiter. Ein Beispiel: Damit unser Sales Assistant Carl Leads anreichern kann, muss er aus einer Anfrage erkennen, welche Datenquelle er ansteuern soll, die passenden Parameter erzeugen und das Ergebnis verarbeiten. Genau das leistet Function Calling.

Drei Aspekte sind in der Praxis entscheidend:

• Klare Funktionsbeschreibungen: Je präziser eine Funktion beschrieben ist, desto verlässlicher wählt das Modell die richtige.
• Kontrolle über die Ausführung: Da nicht das Modell, sondern die Anwendung ausführt, lassen sich Berechtigungen, Prüfungen und Protokollierung außerhalb des Modells durchsetzen – wichtig für Nachvollziehbarkeit und Datenschutz.
• Fehlertoleranz: Ein Aufruf kann scheitern oder unvollständig sein. Robuste Systeme behandeln solche Fälle, statt sie an den Nutzer durchzureichen.

So entsteht aus einem Sprachmodell ein Werkzeug, das konkrete Aufgaben in bestehenden Systemen übernimmt – etwa in der Lead-Qualifizierung oder in branchenspezifischen Abläufen im Vertrieb und Marketing einer Agentur.