Was ist Function Calling?

Function Calling klingt nach Entwickler-Jargon — ist aber die Technologie, die KI-Assistenten erst wirklich nützlich macht. Erst durch Function Calling kann eine KI nicht nur Texte generieren, sondern auch Termine buchen, Preise aus Datenbanken abrufen oder Bestellungen auslösen. Für KMU bedeutet das: KI-Tools können sich in bestehende Geschäftsprozesse einklinken, statt nur Antworten zu formulieren.

Kurze Antwort

Function Calling ist eine Funktion moderner KI-Modelle, mit der das Modell externe Programme, Datenbanken oder APIs aufrufen kann — und deren Ergebnisse direkt in seine Antwort einbezieht. Das KI-Modell selbst führt dabei keinen Code aus; es teilt dem System mit, welche Funktion mit welchen Parametern aufgerufen werden soll. Der eigentliche Aufruf erfolgt durch die umgebende Software.

Viele Nutzer verwechseln Function Calling mit ähnlichen KI-Konzepten:

Technik	Zweck
Prompt	Anfrage an die KI in natürlicher Sprache
RAG	Dokumente und Wissensdatenbanken abrufen
Function Calling	Aktionen ausführen und Live-Daten abrufen
KI-Agent	Mehrere Schritte autonom planen und ausführen

Function Calling ist das Bindeglied zwischen Sprache und Aktion — ohne es kann ein KI-Agent keine externen Systeme nutzen.

Definition

Function Calling beschreibt die Fähigkeit eines Sprachmodells, strukturierte Anfragen an externe Funktionen zu formulieren. Das Modell erkennt anhand der Nutzereingabe, welches Werkzeug benötigt wird, und gibt die gewünschten Parameter in einem definierten Format (meistens JSON) zurück.

Wie funktioniert es — Schritt für Schritt:

Der Entwickler definiert vorab, welche Funktionen verfügbar sind (z.B. get_order_status, send_email, search_products)
Der Nutzer stellt eine Anfrage in natürlicher Sprache (“Was ist der Status meiner Bestellung?”)
Das KI-Modell erkennt, dass die Funktion get_order_status passt, und gibt Parameter zurück (z.B. {"order_id": "12345"})
Die umgebende Anwendung ruft tatsächlich die Funktion auf
Das Ergebnis geht zurück ans Modell, das eine verständliche Antwort formuliert

Der Unterschied zu einfachen Chatbots: Ohne Function Calling kann ein Modell nur schätzen oder aus Trainingsdaten antworten. Mit Function Calling ruft es echte, aktuelle Daten ab.

Beispiel aus der Praxis

Eine Steuerberatungskanzlei nutzt einen KI-Assistenten für die Mandantenkommunikation. Ohne Function Calling: Der Assistent kann allgemeine Fragen beantworten, aber keine konkreten Mandantendaten abrufen — jede spezifische Auskunft muss ein Mitarbeiter manuell nachschauen.

Mit Function Calling: Der Assistent ist mit der Mandantendatenbank und dem Kalender verbunden. Wenn ein Mandant fragt “Wann ist mein nächster Termin?”, ruft der Assistent direkt die Funktion get_next_appointment(client_id) auf und antwortet mit dem tatsächlichen Datum. Was früher 3 Minuten Nachschlagen kostete, geht jetzt in Sekunden — bei gleichzeitig weniger Fehlern, weil das System direkt die Datenbank anfragt.

Ein weiteres Beispiel aus dem Handwerk: Ein Installationsbetrieb fragt seinen KI-Assistenten “Wie viele offene Angebote haben wir aktuell?”. Mit Function Calling ruft der Assistent direkt eine CRM-Abfrage (get_open_quotes()) auf und liefert die Zahl in Echtzeit — statt dass jemand die Software manuell öffnen und nach dem aktuellen Stand filtern muss.

Typische Anwendungsfälle

CRM-Integration: KI fragt aktuelle Kundendaten ab, ohne manuelle Suche im System
Kalender-Verwaltung: Termine buchen, prüfen oder verschieben per natürlicher Sprache
E-Commerce-Backend: Bestellstatus abfragen, Lagerbestände prüfen, Rechnungen generieren
Buchhaltungs-Software: Offene Rechnungen auflisten, Zahlungsstatus abfragen
Interne Wissensdatenbank: Aktuelle Dokumente und Prozessbeschreibungen abrufen
Wetter und externe APIs: Live-Daten einbinden, die das Modell allein nicht kennt
Workflow-Automatisierung: Mehrere Systeme (CRM + E-Mail + Kalender) in einer Anfrage koordinieren

Wann lohnt sich Function Calling?

✅ Gut geeignet wenn:

KI-Antworten auf Echtzeit-Daten angewiesen sind (Bestände, Termine, Status)
Repetitive Lookups in verschiedenen Systemen anfallen
Mitarbeiter regelmäßig zwischen mehreren Anwendungen wechseln
Die Firma bereits eine API zu internen Systemen hat

❌ Noch nicht nötig wenn:

Nur allgemeine Textaufgaben erledigt werden (Zusammenfassungen, E-Mails)
Kein technisches Team vorhanden ist, das die Integration einrichtet
Die genutzten Systeme keine API bieten
Datenschutzanforderungen eine enge Systemintegration erschweren

Faustregel: Erst Function Calling einsetzen, wenn klar ist, welche externen Daten die KI wirklich braucht — sonst einfacher mit Standard-Chatbots beginnen.

Warum ist Function Calling für KI-Agenten wichtig?

Ohne Function Calling kann ein KI-Agent keine externen Systeme nutzen. Er könnte zwar planen und antworten, aber weder Kalender noch CRM noch Datenbanken verwenden. Function Calling ist das Fundament, auf dem KI-Agenten erst handlungsfähig werden.

Ein Beispiel: Ein Buchhalter fragt seinen KI-Agenten: “Welche Rechnungen sind diese Woche fällig?” Der Agent braucht Function Calling, um die Buchhaltungssoftware abzufragen — ohne diese Verbindung kennt er nur das, was im Trainings-Datensatz steht, nicht den aktuellen Rechnungsstand.

Das erklärt auch, warum Function Calling und MCP (Model Context Protocol) eng zusammengehören: MCP standardisiert, wie Werkzeuge bereitgestellt werden — Function Calling ist der Mechanismus, mit dem das Modell diese Werkzeuge aufruft.

DSGVO-Relevanz

Function Calling berührt DSGVO-Anforderungen, weil das KI-Modell dabei auf echte Unternehmensdaten zugreift — oft auf personenbezogene Daten wie Kundennamen, Kontaktdaten oder Bestellhistorien.

Wenn ein KI-Anbieter als Auftragsverarbeiter tätig wird, ist ein Auftragsverarbeitungsvertrag (AVV) erforderlich — sofern personenbezogene Daten verarbeitet werden. Die abgerufenen Daten dürfen nur für den jeweiligen Zweck genutzt werden. Ein KI-Modell, das Kundendaten für Function-Calling-Anfragen verarbeitet, darf diese Daten nicht für Modell-Training verwenden, sofern der AVV das ausschließt.

Bei besonders schützenswerten Datenkategorien (z.B. Gesundheitsdaten, Finanzdaten nach Art. 9 DSGVO) gelten zusätzliche Anforderungen. Viele KMU bevorzugen in solchen Fällen lokale oder EU-basierte Verarbeitungsumgebungen, um das Risiko von Drittlandübermittlungen zu reduzieren.

Konkrete Handlungsempfehlung: Vor der Einrichtung von Function Calling festlegen, welche Datenkategorien abgerufen werden sollen. AVV prüfen, ob er KI-Training ausschließt. Bei Zugriff auf sensible Daten: Datenschutzbeauftragten einbeziehen.

Häufige Missverständnisse

“Die KI führt selbst Code aus.” Das stimmt nicht. Das KI-Modell gibt nur strukturierte Parameter zurück — die eigentliche Funktion führt die umgebende Software aus. Das Modell selbst hat keinen direkten Zugriff auf externe Systeme.
“Function Calling ist dasselbe wie ein KI-Agent.” Nicht ganz. Function Calling ist eine Basistechnologie; ein KI-Agent nutzt Function Calling, plant aber mehrstufige Aufgaben selbst und ruft dabei mehrere Funktionen in Folge auf.
“Das brauche ich nur als Entwickler.” Function Calling ist in fertigen Produkten bereits integriert — z.B. in Make oder n8n, wo man Workflow-Blöcke zusammenstellt, ohne Code zu schreiben.

Häufig gestellte Fragen

Welche KI-Modelle unterstützen Function Calling? Die großen kommerziellen Modelle unterstützen heute unterschiedliche Formen von Function Calling bzw. Tool-Nutzung — darunter GPT-4o (ChatGPT Plus), Claude (ab Claude 3) und Gemini. Die konkrete Implementierung unterscheidet sich je Anbieter, das Grundprinzip ist identisch.

Ist Function Calling dasselbe wie MCP? Nein. Function Calling beschreibt die Fähigkeit eines Modells, Funktionen aufzurufen. MCP (Model Context Protocol) ist ein offener Standard, der beschreibt, wie diese Werkzeuge bereitgestellt und übergeben werden — eine Art einheitliche Steckdose für Tools. Function Calling ist der Mechanismus; MCP ist die Norm, nach der Werkzeuge gebaut und angeboten werden. Wer Function Calling versteht, versteht auch, warum MCP sinnvoll ist.

Brauche ich Programmierkenntnisse? Für die direkte API-Integration ja. Wer keine Entwickler hat, kann auf No-Code-Tools wie Make oder n8n zurückgreifen, die Function Calling hinter grafischen Workflow-Blöcken abstrahieren.

Dürfen Kundendaten ans KI-Modell übermittelt werden? Nur wenn ein gültiger AVV besteht und die Datenübertragung dem vereinbarten Zweck entspricht. Sensible Daten (Gesundheit, Finanzen) erfordern besondere Sorgfalt — hier Datenschutzbeauftragten befragen.

Was kostet Function Calling? Jeder API-Aufruf erzeugt Token-Kosten — sowohl für die Anfrage als auch für die Funktionsbeschreibung. Bei häufigen Aufrufen lohnt ein Blick auf die aktuellen Preisseiten der jeweiligen KI-Anbieter.

Was passiert, wenn die aufgerufene Funktion einen Fehler zurückgibt? Das Modell kann den Fehler in seine Antwort einbeziehen und dem Nutzer erklären, was schiefgelaufen ist. Gute Implementierungen haben Fallback-Logik für solche Fälle.

Fazit

Function Calling macht KI-Assistenten aus Wissensmaschinen zu handlungsfähigen Helfern. Für KMU lohnt es sich, sobald repetitive Lookups in verschiedenen Systemen anfallen — dann spart die Integration messbar Zeit. Wer noch keine API zu den eigenen Systemen hat, startet besser mit No-Code-Werkzeugen wie Make. Wie gut einzelne Tools Function Calling in der Praxis umsetzen, zeigen unsere Tooltests.

Passende Tooltests

Weiterführende Begriffe