Ringkasan Teknik Function Calling

1. Definisi

Function Calling adalah mekanisme yang membolehkan pembangun menerangkan alat luaran (seperti API) yang tersedia kepada Model Bahasa Besar (LLM) melalui skema JSON. Apabila model menilai bahawa alat perlu dipanggil untuk menjawab soalan pengguna, ia mengeluarkan data JSON tool_calls berstruktur yang menunjukkan nama fungsi dan parameter yang akan dipanggil. Program hos menghuraikan dan melaksanakan panggilan ini, mengembalikan hasil kepada model, dan model kemudian menjana jawapan akhir.

2. Prinsip Teras dan Masalah yang Diselesaikan

• Intipati: Gelung tertutup "dua pusingan perbualan + pelaksanaan pertengahan". Pusingan pertama: model membuat keputusan dan mengeluarkan permintaan panggilan alat; pertengahan: kod melaksanakan alat; pusingan kedua: model menjana jawapan akhir berdasarkan hasil pelaksanaan.
• Masalah yang diselesaikan: Menyelesaikan masalah sebelumnya di mana panggilan alat memerlukan penghuraian bahasa semula jadi yang tidak stabil dan mudah ralat (penghakiman if/else), mencapai penyeragaman dan peningkatan ketepatan melalui output berstruktur.

3. Pembahagian Tanggungjawab (Analogi Penugasan Tugas)

• Pembangun (HR): Mentakrifkan alat, menulis Skema JSON yang menerangkan fungsi alat, parameter, dll.
• Model LLM (Pengurus): Memahami penerangan alat, memutuskan sama ada perlu memanggil, alat mana yang hendak dipanggil dan parameternya, serta mengeluarkan permintaan panggilan berstruktur (tool_calls). Model hanya membuat keputusan dan menjana teks, tidak melaksanakan kod sendiri.
• Pelaksana/Kod Hos (Pekerja): Menghuraikan permintaan tool_calls model, melaksanakan fungsi atau panggilan API yang sepadan, dan mengembalikan hasil.

4. Definisi Alat (Skema JSON)

Skema adalah "manual" alat, maklumat utama termasuk:
- name: Pengecam unik alat.
- description: Sangat penting, model bergantung sepenuhnya pada penerangan ini untuk menilai sama ada hendak memanggil alat. Semakin jelas dan tepat penerangan, semakin tepat keputusan model.
- parameters: Mentakrifkan parameter yang diperlukan oleh alat serta jenis, penerangan, kekangan (seperti nilai enum, sama ada wajib, dll.).

5. Proses Panggilan Lengkap

Artikel ini menunjukkan melalui contoh kod pertanyaan cuaca, keseluruhan proses daripada soalan pengguna, panggilan model pertama dengan definisi alat, model mengembalikan tool_calls, kod melaksanakan fungsi, memasukkan hasil sebagai mesej role: "tool" ke dalam sejarah perbualan, hingga model menjana jawapan bahasa semula jadi akhir.

6. Ciri Lanjutan - Panggilan Alat Selari

Apabila soalan pengguna memerlukan kerjasama berbilang alat (contohnya, pertanyaan cuaca untuk beberapa bandar secara serentak), model boleh mengeluarkan senarai yang mengandungi berbilang tool_calls dalam satu respons. Kod hos boleh melaksanakan panggilan ini secara selari, kemudian mengembalikan semua hasil kepada model untuk sintesis, dengan itu meningkatkan kecekapan.