Function Calling Technologie Resumé

1. Definitioun

Function Calling ass e Mechanismus, deen Entwéckler erlaabt, iwwer e JSON Schema extern Tools (wéi APIen) fir e grousst Sproochmodell (LLM) ze beschreiwen. Wann de Modell decidéiert, datt en Tool gebraucht gëtt fir eng Fro ze beäntweren, gëtt en strukturéiert tool_calls JSON Daten eraus, déi den Numm vun der Funktioun an d'Parameteren uginn. Den Hostprogramm parst a féiert dësen Opruff aus, gëtt d'Resultat un de Modell zréck, deen dann déi definitiv Äntwert generéiert.

2. Kärprinzip a geléist Problemer

• Essenz: E Kreeslaf vun "zwou Ronnen Dialog + mëttler Ausféierung". An der éischter Ronn decidéiert de Modell a gëtt en Toolopruff eraus; am Mëttelpunkt féiert de Code d'Tool aus; an der zweeter Ronn generéiert de Modell op Basis vum Ausféierungsresultat déi definitiv Äntwert.
• Geléist Problemer: Virdrun huet et onbestänneg a fehlerufälleg natierlech Sproochparséierung (if/else Entscheedungen) gebraucht fir d'Toolopruff vum Modell ze handhaben. Duerch strukturéiert Ausgab gëtt Standardiséierung a Genauegkeet verbessert.

3. Aufgabenopdeelung (Analog zu Aufgabendéléguatioun)

• Entwéckler (HR): Definéiert Tools, schreift JSON Schemaen déi d'Funktioun, d'Parameteren asw. beschreiwen.
• LLM Modell (Manager): Versteet d'Toolbeschreiwungen, decidéiert ob en Tool gebraucht gëtt, wéi een a mat wéi enge Parameteren, a gëtt strukturéiert Opruffufuerderungen (tool_calls) eraus. De Modell macht nëmmen Entscheedungen a generéiert Text, féiert kee Code selwer aus.
• Ausféierer/Hostcode (Mataarbechter): Parst d'tool_calls Ufuerderunge vum Modell, féiert déi entspriechend Funktioun oder API Opruff aus a gëtt d'Resultat zréck.

4. Tool Definitioun (JSON Schema)

Schema ass d'"Instruktioun" vum Tool, mat Schlësselinformatiounen:
- name: Een eenzegaartegen Identifizéierer vum Tool.
- description: Extrem wichteg, de Modell verléisst sech komplett op dës Beschreiwung fir ze entscheeden ob d'Tool opgeruff gëtt. Wat d'Beschreiwung méi kloer a prezis ass, wat d'Decisioun vum Modell méi genee ass.
- parameters: Definéiert déi néideg Parameteren vum Tool an hir Typen, Beschreiwungen, Aschränkungen (z.B. Enumwäerter, ob obligatoresch asw.).

5. Vollstänneg Opruffprozess

Den Artikel weist mat engem Codebeispill fir Wiederufro, wéi de ganze Prozess vun der Benotzerfro, dem éischte Modellopruff mat Tooldefinitioun, dem Modell sengem tool_calls Réckgab, dem Code deen d'Funktioun ausféiert, dem Resultat dat als role: "tool" Message an d'Dialoggeschicht agefouert gëtt, bis zur leschter natierlecher Sproochäntwert vum Modell leeft.

6. Fortgeschratt Fonctioun - Parallel Toolopruff

Wann d'Benotzerfro verschidde Tools zesumme brauch (z.B. gläichzäiteg Wieder fir verschidde Stied ofruffen), kann de Modell an enger Äntwert eng Lëscht vu multiple tool_calls erausginn. Den Hostcode kann dës Opruff parallel ausféieren an dann all Resultater zesummen un de Modell ginn fir eng integréiert Äntwert, wat d'Effizienz erhéicht.