Muhtasari wa Teknolojia ya Function Calling

1. Ufafanuzi

Function Calling ni utaratibu unaomruhusu msanidi programu kuelezea zana za nje (kama API) kwa modeli kubwa ya lugha (LLM) kwa kutumia JSON schema. Wakati modeli inaamua kwamba inahitaji kutumia zana kujibu swali la mtumiaji, inatoa data ya tool_calls iliyopangwa katika JSON, ikionyesha jina la kazi na vigezo. Programu mwenyeji inachambua na kutekeleza wito huu, kisha inarudisha matokeo kwa modeli, na modeli inazalisha jibu la mwisho.

2. Kanuni za Msingi na Matatizo Yanayotatuliwa

• Asili: Mzunguko wa "mazungumzo mawili + utekelezaji wa kati". Katika mzunguko wa kwanza, modeli inafanya uamuzi na kutoa ombi la kutumia zana; katika katikati, msimbo unatekeleza zana; katika mzunguko wa pili, modeli inazalisha jibu la mwisho kulingana na matokeo ya utekelezaji.
• Matatizo yanayotatuliwa: Inatatua tatizo la awali la kutegemea uchanganuzi wa lugha asilia (if/else) usio thabiti na wenye makosa wakati wa kutumia zana, kwa kutoa pato lililopangwa na kuongeza usawa na usahihi.

3. Mgawanyo wa Majukumu (Kulinganisha na Uwakilishi wa Kazi)

• Msanidi programu (HR): Anafafanua zana, anaandika JSON Schema inayoelezea utendaji wa zana, vigezo, n.k.
• Modeli ya LLM (Meneja): Anaelewa maelezo ya zana, anaamua kama inahitaji kutumia zana, ni zana gani na vigezo gani, na anatoa ombi la utumiaji lililopangwa (tool_calls). Modeli hufanya maamuzi na kuzalisha maandishi tu, haitekelezi msimbo yenyewe.
• Mtekelezaji / Msimbo mwenyeji (Mfanyakazi): Anachambua ombi la tool_calls la modeli, anatekeleza kazi au API inayolingana, na anarudisha matokeo.

4. Ufafanuzi wa Zana (JSON Schema)

Schema ni "kitabu cha maelekezo" cha zana, maelezo muhimu ni pamoja na:
- name: Kitambulisho cha kipekee cha zana.
- description: Muhimu sana, modeli inategemea kabisa maelezo haya kuamua kama kutumia zana. Maelezo yanavyokuwa wazi na sahihi, ndivyo uamuzi wa modeli unavyokuwa sahihi.
- parameters: Inafafanua vigezo vinavyohitajika na zana, aina zake, maelezo, na vikwazo (kama thamani za enum, kama ni lazima, n.k.).

5. Mchakato Kamili wa Wito

Makala yanaonyesha mfano wa msimbo wa kuangalia hali ya hewa, ikionyesha mchakato mzima kutoka kwa swali la mtumiaji, wito wa kwanza wa modeli ukiwa na ufafanuzi wa zana, modeli kurudisha tool_calls, msimbo kutekeleza kazi, matokeo kurudishwa kwenye historia ya mazungumzo kwa ujumbe wa role: "tool", na hatimaye modeli kuzalisha jibu la mwisho kwa lugha asilia.

6. Sifa za Juu - Wito Sambamba wa Zana

Wakati swali la mtumiaji linahitaji zana nyingi kushirikiana kujibu (kwa mfano, kuangalia hali ya hewa ya miji mingi kwa wakati mmoja), modeli inaweza kutoa orodha ya tool_calls nyingi katika jibu moja. Msimbo mwenyeji unaweza kutekeleza wito huu kwa sambamba, kisha kurudisha matokeo yote kwa modeli kwa muhtasari, hivyo kuongeza ufanisi.