Buod ng Teknolohiya ng Function Calling

1. Depinisyon

Ang Function Calling ay isang mekanismo na nagpapahintulot sa mga developer na ilarawan ang mga magagamit na panlabas na tool (tulad ng API) sa Large Language Model (LLM) gamit ang JSON schema. Kapag napagpasyahan ng modelo na kailangan nitong tumawag ng isang tool upang sagutin ang tanong ng user, naglalabas ito ng nakaayos na tool_calls JSON data na nagsasaad ng pangalan ng function at mga parameter na tatawagin. Pinapars at isinasagawa ng host program ang tawag na ito, ibinabalik ang resulta sa modelo, at pagkatapos ay bubuo ang modelo ng huling sagot.

2. Pangunahing Prinsipyo at Suliraning Nilulutas

• Kalikasan: Isang closed loop ng "dalawang round na pag-uusap + intermediate execution". Sa unang round, nagdedesisyon ang modelo at naglalabas ng kahilingan sa pagtawag ng tool; sa gitna, isinasagawa ng code ang tool; sa ikalawang round, bubuo ang modelo ng huling sagot batay sa resulta ng execution.
• Suliraning nilulutas: Nilulutas nito ang dating problema kung saan kailangan umasa sa hindi matatag at madaling magkamali na natural language parsing (if/else na pagdedesisyon) upang ipatawag ang modelo sa pagtawag ng tool. Sa pamamagitan ng structured output, nakakamit ang standardisasyon at pagtaas ng accuracy.

3. Paghahati ng Responsibilidad (Pagkakatulad sa Delegasyon ng Gawain)

• Developer (HR): Tumutukoy ng tool, sumusulat ng JSON Schema na naglalarawan ng function, parameter, at iba pang impormasyon ng tool.
• LLM Model (Manager): Nauunawaan ang deskripsyon ng tool, nagdedesisyon kung kailangan tumawag, aling tool ang tatawagin, at kung ano ang mga parameter, at naglalabas ng structured na kahilingan sa pagtawag (tool_calls). Ang modelo ay gumagawa lamang ng desisyon at bumubuo ng teksto, hindi nito isinasagawa ang code.
• Executor/Host Code (Empleyado): Pinapars ang tool_calls na kahilingan ng modelo, talagang isinasagawa ang kaukulang function o API call, at ibinabalik ang resulta.

4. Pagtukoy ng Tool (JSON Schema)

Ang Schema ay ang "manwal" ng tool, ang mga pangunahing impormasyon ay kinabibilangan ng:
- name: Ang natatanging identifier ng tool.
- description: Napakahalaga, ang modelo ay lubos na umaasa sa deskripsyong ito upang magpasya kung tatawagin ang tool. Kung mas malinaw at tumpak ang deskripsyon, mas tumpak ang desisyon ng modelo.
- parameters: Tinutukoy ang mga parameter na kailangan ng tool, ang kanilang uri, deskripsyon, at mga hadlang (tulad ng enum values, kung kinakailangan, atbp.).

5. Buong Daloy ng Pagtawag

Sa pamamagitan ng isang halimbawa ng code na nagtatanong ng panahon, ipinapakita ng artikulo ang buong proseso mula sa pagtatanong ng user, pagdadala ng tool definition sa unang model call, pagbabalik ng modelo ng tool_calls, pag-execute ng code ng function, pagbalik ng resulta bilang role: "tool" na mensahe sa conversation history, hanggang sa huling pagbuo ng modelo ng natural language na sagot.

6. Advanced na Tampok - Parallel Tool Calling

Kapag ang tanong ng user ay nangangailangan ng koordinasyon ng maraming tool (halimbawa, sabay na pagtatanong ng panahon sa maraming lungsod), ang modelo ay maaaring maglabas ng isang listahan na naglalaman ng maraming tool_calls sa isang tugon. Ang host code ay maaaring isagawa ang mga tawag na ito nang magkakasabay, at pagkatapos ay ibalik ang lahat ng resulta sa modelo para sa pagsasama-sama, na nagpapataas ng kahusayan.