Function Calling Технологийн Тойм

1. Тодорхойлолт

Function Calling нь хөгжүүлэгчдэд JSON schema ашиглан том хэлний загварт (LLM) боломжтой гадаад хэрэгслүүдийг (жишээ нь API) тодорхойлох боломжийг олгодог механизм юм. Загвар хэрэглэгчийн асуултанд хариулахын тулд хэрэгсэл дуудах шаардлагатай гэж үзвэл, дуудах функцын нэр болон параметрүүдийг заасан бүтэцтэй tool_calls JSON өгөгдлийг гаргана. Хост програм энэ дуудлагыг задлан шинжилж, гүйцэтгэж, үр дүнг загварт буцааж, дараа нь загвар эцсийн хариултыг үүсгэдэг.

2. Үндсэн зарчим ба шийдвэрлэх асуудлууд

• Мөн чанар: "Хоёр үеийн яриа + завсрын гүйцэтгэл" гэсэн хаалттай цикл. Эхний үед загвар шийдвэр гаргаж, хэрэгсэл дуудах хүсэлтийг гаргана; завсрын код хэрэгслийг гүйцэтгэнэ; хоёр дахь үед загвар гүйцэтгэлийн үр дүнд үндэслэн эцсийн хариултыг үүсгэдэг.
• Шийдвэрлэх асуудлууд: Өмнө нь загварыг хэрэгсэл дуудахад тогтворгүй, алдаа гаргах магадлалтай байгалийн хэлний задлан шинжилгээнд (if/else шалгалт) найдах шаардлагатай байсан асуудлыг шийдэж, бүтэцтэй гаралтаар стандартчилал, нарийвчлалыг сайжруулсан.

3. Үүргийн хуваарилалт (даалгавар даатгалтай адил)

• Хөгжүүлэгч (HR): Хэрэгслийг тодорхойлж, түүний функц, параметр гэх мэт мэдээллийг тайлбарласан JSON Schema бичнэ.
• LLM загвар (менежер): Хэрэгслийн тайлбарыг ойлгож, дуудах шаардлагатай эсэх, аль хэрэгслийг дуудах, параметрүүдийг шийдвэрлэж, бүтэцтэй дуудах хүсэлтийг (tool_calls) гаргана. Загвар зөвхөн шийдвэр гаргаж, текст үүсгэдэг, кодыг өөрөө гүйцэтгэдэггүй.
• Гүйцэтгэгч/Хост код (ажилтан): Загварын tool_calls хүсэлтийг задлан шинжилж, харгалзах функц эсвэл API дуудлагыг бодитоор гүйцэтгэж, үр дүнг буцаана.

4. Хэрэгслийн тодорхойлолт (JSON Schema)

Schema нь хэрэгслийн "гарын авлага" бөгөөд гол мэдээлэлд:
- name: Хэрэгслийн өвөрмөц танигч.
- description: Маш чухал, загвар энэ хэрэгслийг дуудах эсэхээ бүрэн энэ тайлбар дээр тулгуурлан шийдвэрлэдэг. Тайлбар илүү тодорхой, нарийвчлалтай байх тусам загварын шийдвэр илүү нарийвчлалтай болно.
- parameters: Хэрэгсэлд шаардлагатай параметрүүд, тэдгээрийн төрөл, тайлбар, хязгаарлалтуудыг (жишээ нь тооллын утга, шаардлагатай эсэх) тодорхойлно.

5. Бүрэн дуудах процесс

Өгүүлэл цаг агаар шалгах кодын жишээгээр хэрэглэгчийн асуултаас эхлээд, хэрэгслийн тодорхойлолтыг ашиглан анхны загварын дуудлага хийх, загвараас tool_calls буцаах, код функцыг гүйцэтгэх, үр дүнг `role: "tool"" мессежээр ярианы түүхэнд буцаан оруулах, эцэст нь загвар байгалийн хэлээр эцсийн хариулт үүсгэх бүрэн процессыг харуулсан.

6. Дэвшилтэт онцлог - Зэрэгцээ хэрэгсэл дуудах

Хэрэглэгчийн асуултанд хариулахын тулд олон хэрэгсэл хамтран ажиллах шаардлагатай үед (жишээ нь, хэд хэдэн хотын цаг агаарыг нэгэн зэрэг шалгах), загвар нэг хариултанд олон tool_calls агуулсан жагсаалтыг гаргаж болно. Хост код эдгээр дуудлагыг зэрэгцүүлэн гүйцэтгэж, дараа нь бүх үр дүнг загварт нэгтгэн буцааж, үр ашгийг дээшлүүлдэг.