Function Calling Teknikal nga Sumaryo

1. Kahulugan

Ang Function Calling usa ka mekanismo nga nagtugot sa mga developer sa paghulagway sa magamit nga mga external nga himan (sama sa API) ngadto sa dako nga modelo sa pinulongan (LLM) pinaagi sa JSON schema. Kung ang modelo magdesisyon nga kinahanglan tawgon ang himan aron matubag ang pangutana sa tiggamit, kini mag-output og structured nga tool_calls JSON data, nga nagpaila sa ngalan sa function ug mga parameter nga tawgon. Ang host program mag-parse ug mag-execute niini nga tawag, ibalik ang resulta ngadto sa modelo, ug ang modelo mag-generate sa katapusang tubag.

2. Pangunang Prinsipyo ug mga Problema nga Nasulbad

• Kinaiya: Usa ka closed loop sa "duha ka round nga panag-istoryahanay + intermediate execution". Sa unang round, ang modelo mohimo og desisyon ug mag-output og hangyo sa pagtawag sa himan; ang intermediate code mag-execute sa himan; sa ikaduhang round, ang modelo mag-generate sa katapusang tubag base sa resulta sa execution.
• Nasulbad nga mga Problema: Nasulbad ang problema sa nangaging pamaagi diin ang pagtawag sa modelo sa mga himan nagsalig sa dili lig-on ug sayon nga masayop nga natural language parsing (if/else nga mga desisyon), pinaagi sa structured output nga nagdala sa standardisasyon ug pagtaas sa katukma.

3. Pagbahin sa mga Responsibilidad (Pag-analohiya sa Pagdelegar sa Buluhaton)

• Developer (HR): Naghubit sa mga himan, nagsulat sa JSON Schema nga naghulagway sa gamit, mga parameter, ug uban pang impormasyon sa himan.
• LLM Model (Manager): Nakasabot sa paghulagway sa himan, mohimo og desisyon kung kinahanglan bang tawgon ang himan, unsang himan ang tawgon, ug unsa ang mga parameter, ug mag-output og structured nga hangyo sa pagtawag (tool_calls). Ang modelo mohimo lang og desisyon ug mag-generate og teksto, dili mismo mag-execute og code.
• Executor/Host Code (Empleyado): Nag-parse sa tool_calls nga hangyo sa modelo, tinuod nga mag-execute sa katugbang nga function o API call, ug ibalik ang resulta.

4. Paghubit sa Himan (JSON Schema)

Ang Schema usa ka "manwal" sa himan, ang importanteng impormasyon naglakip sa:
- name: Ang unique identifier sa himan.
- description: Importante kaayo, ang modelo nagsalig lamang niini nga paghulagway aron mahibal-an kung tawgon ba ang himan. Kon mas klaro ug tukma ang paghulagway, mas tukma ang desisyon sa modelo.
- parameters: Naghubit sa mga parameter nga gikinahanglan sa himan, ilang tipo, paghulagway, ug mga limitasyon (sama sa enumerated values, kung gikinahanglan ba, ug uban pa).

5. Kompletong Proseso sa Pagtawag

Ang artikulo nagpakita pinaagi sa usa ka code example sa pagpangutana sa panahon, gikan sa pagpangutana sa tiggamit, pagdala sa paghubit sa himan sa unang tawag sa modelo, pagbalik sa modelo og tool_calls, pag-execute sa code sa function, pagbutang sa resulta isip role: "tool" nga mensahe balik sa kasaysayan sa panag-istoryahanay, hangtod sa pag-generate sa modelo sa katapusang natural language nga tubag.

6. Advanced nga Feature - Parallel Tool Calling

Kung ang pangutana sa tiggamit nagkinahanglan og kooperasyon sa daghang mga himan aron matubag (pananglitan, pagpangutana sa panahon sa daghang mga siyudad sa samang higayon), ang modelo makahimo og output nga lista nga adunay daghang tool_calls sa usa ka tubag. Ang host code makahimo sa pag-execute niini nga mga tawag nga parallel, dayon ibalik ang tanang resulta ngadto sa modelo alang sa paghiusa, sa ingon nagpauswag sa kahusayan.