Function Calling Texniki Xülasə

1. Tərif

Function Calling, tərtibatçılara JSON sxemi vasitəsilə böyük dil modellərinə (LLM) mövcud xarici alətləri (məsələn, API) təsvir etməyə imkan verən bir mexanizmdir. Model istifadəçinin sualına cavab vermək üçün aləti çağırmaq lazım olduğuna qərar verdikdə, çağırılacaq funksiyanın adını və parametrlərini göstərən strukturlaşdırılmış tool_calls JSON məlumatı çıxarır. Host proqramı bu çağırışı təhlil edir və icra edir, nəticəni modelə qaytarır, model də son cavabı yaradır.

2. Əsas Prinsiplər və Həll Edilən Problemlər

• Mahiyyət: “İki mərhələli dialoq + aralıq icra” qapalı dövrü. Birinci mərhələdə model qərar verir və alət çağırışı tələbini çıxarır; aralıq kod aləti icra edir; ikinci mərhələdə model icra nəticəsinə əsasən son cavabı yaradır.
• Həll Edilən Problem: Əvvəllər modeldən aləti çağırmaq üçün qeyri-sabit, səhvə meyilli təbii dil analizinə (if/else qərarları) etibar etmək lazım idi; strukturlaşdırılmış çıxış standartlaşdırma və dəqiqlik artımı təmin edir.

3. Vəzifə Bölgüsü (Tapşırıq Həvaləsinə Bənzətmə)

• Tərtibatçı (HR): Alətləri təyin edir, alətin funksiyasını, parametrlərini və s. təsvir edən JSON Sxemi yazır.
• LLM Modeli (Menecer): Alət təsvirini başa düşür, çağırışın lazım olub-olmadığına, hansı aləti və hansı parametrlərlə çağırmağa qərar verir və strukturlaşdırılmış çağırış tələbini (tool_calls) çıxarır. Model yalnız qərar verir və mətn yaradır, kodu özü icra etmir.
• İcraçı/Host Kodu (İşçi): Modelin tool_calls tələbini təhlil edir, müvafiq funksiyanı və ya API çağırışını həqiqətən icra edir və nəticəni qaytarır.

4. Alət Təyini (JSON Sxemi)

Sxem alətin “təlimat kitabçası”dır, əsas məlumatlar:
- name: Alətin unikal identifikatoru.
- description: Həyati əhəmiyyətlidir, model tamamilə bu təsvirə əsasən aləti çağırıb-çağırmamağa qərar verir. Təsvir nə qədər aydın və dəqiqdirsə, modelin qərarı bir o qədər dəqiq olar.
- parameters: Alət üçün tələb olunan parametrləri, onların növlərini, təsvirlərini, məhdudiyyətlərini (məsələn, enum dəyərləri, məcburi olub-olmaması) təyin edir.

5. Tam Çağırış Prosesi

Məqalə hava məlumatını sorğulayan kod nümunəsi vasitəsilə istifadəçinin sualından, alət təyini ilə ilk model çağırışından, modelin tool_calls qaytarmasından, kodun funksiyanı icra etməsindən, nəticənin role: "tool" mesajı kimi dialoq tarixçəsinə əlavə edilməsindən və nəhayət modelin son təbii dil cavabını yaratmasına qədər olan tam prosesi göstərir.

6. Qabaqcıl Xüsusiyyət - Paralel Alət Çağırışı

İstifadəçinin sualına cavab vermək üçün bir neçə alətin birgə işləməsi lazım olduqda (məsələn, eyni anda bir neçə şəhərin hava məlumatını sorğulamaq), model bir cavabda bir neçə tool_calls olan siyahı çıxara bilər. Host kodu bu çağırışları paralel icra edə bilər, sonra bütün nəticələri modelə qaytararaq ümumiləşdirmə aparar, beləliklə səmərəlilik artar.