Function Calling Teknik Ringkesan

1. Dhéfinisi

Function Calling iku sawijining mekanisme sing ngidini pangembang kanggo njlèntrèhaké piranti njaba (kayata API) sing kasedhiya menyang model basa gedhé (LLM) liwat JSON schema. Nalika model mutusaké yèn perlu ngundang piranti kanggo njawab pitakonan pangguna, dhèwèké ngasilaké data JSON tool_calls sing terstruktur, sing nuduhaké jeneng fungsi lan paramèter sing arep diundang. Kode inang banjur ngolah lan nglakokaké panggilan kasebut, ngasilaké asil menyang model, lan model banjur ngasilaké jawaban pungkasan.

2. Prinsip Inti lan Masalah sing Dirampungaké

• Inti: Puteran "rong babak obrolan + eksekusi tengahan". Babak pisanan model mutusaké lan ngasilaké panyuwunan panggilan piranti; tengahan kode nglakokaké piranti; babak kapindho model ngasilaké jawaban pungkasan adhedhasar asil eksekusi.
• Masalah sing dirampungaké: Ngatasi masalah sadurungé nalika ngundang piranti saka model, sing gumantung marang parsing basa alami sing ora stabil lan gampang salah (if/else), kanthi ngasilaké output terstruktur sing nambah standarisasi lan akurasi.

3. Pembagian Tugas (Analogi Delegasi Tugas)

• Pangembang (HR): Nemtokaké piranti, nulis JSON Schema sing njlèntrèhaké fungsi, paramèter, lsp.
• Model LLM (Manajer): Ngertèni deskripsi piranti, mutusaké apa perlu ngundang, piranti endi sing diundang lan paramèter apa, lan ngasilaké panyuwunan panggilan terstruktur (tool_calls). Model mung nggawé keputusan lan ngasilaké teks, ora nglakokaké kode dhéwé.
• Eksekutor/Kode Inang (Karyawan): Nggolèki panyuwunan tool_calls saka model, nglakokaké fungsi utawa panggilan API sing cocog, lan ngasilaké asil.

4. Dhéfinisi Piranti (JSON Schema)

Schema iku "buku pedoman" piranti, informasi penting kalebu:
- name: Pengenal unik piranti.
- description: Penting banget, model gumantung marang deskripsi iki kanggo mutusaké apa arep ngundang piranti kasebut. Deskripsi sing luwih cetha lan akurat, keputusan model luwih akurat.
- parameters: Nemtokaké paramèter sing dibutuhaké piranti lan jinis, deskripsi, watesan (kayata nilai enumerasi, apa wajib, lsp).

5. Alur Panggilan Lengkap

Artikel iki liwat conto kode nggolèki cuaca, nuduhaké saka pitakonan pangguna, nggawa dhéfinisi piranti kanggo panggilan model pisanan, model ngasilaké tool_calls, kode nglakokaké fungsi, asil dilebokaké manèh menyang sajarah obrolan minangka pesen role: "tool", nganti model ngasilaké jawaban basa alami pungkasan.

6. Fitur Lanjut - Panggilan Piranti Paralel

Nalika pitakonan pangguna mbutuhaké sawetara piranti kanggo njawab bebarengan (contone, nggolèki cuaca sawetara kutha bebarengan), model bisa ngasilaké dhaptar sing ngemot sawetara tool_calls ing siji respon. Kode inang bisa nglakokaké panggilan kasebut kanthi paralel, banjur ngasilaké kabèh asil menyang model kanggo digabung, saéngga nambah efisiensi.