ສະຫຼຸບເຕັກນິກ Function Calling
ສະຫຼຸບເຕັກນິກ Function Calling
1. ນິຍາມ
Function Calling ແມ່ນກົນໄກທີ່ອະນຸຍາດໃຫ້ນັກພັດທະນາສາມາດອະທິບາຍເຄື່ອງມືພາຍນອກ (ເຊັ່ນ API) ທີ່ສາມາດໃຊ້ງານໄດ້ຜ່ານ JSON schema ໃຫ້ກັບຕົວແບບພາສາໃຫຍ່ (LLM). ເມື່ອຕົວແບບຕັດສິນໃຈວ່າຕ້ອງການເອີ້ນໃຊ້ເຄື່ອງມືເພື່ອຕອບຄຳຖາມຂອງຜູ້ໃຊ້, ມັນຈະສົ່ງອອກຂໍ້ມູນ JSON ທີ່ມີໂຄງສ້າງ tool_calls ເຊິ່ງລະບຸຊື່ຟັງຊັນ ແລະ ພາຣາມິເຕີທີ່ຈະເອີ້ນໃຊ້. ໂປຣແກຣມເຈົ້າພາບຈະວິເຄາະ ແລະ ດຳເນີນການເອີ້ນໃຊ້ນັ້ນ, ສົ່ງຜົນໄດ້ຮັບກັບຄືນໄປໃຫ້ຕົວແບບ, ແລະ ຕົວແບບຈະສ້າງຄຳຕອບສຸດທ້າຍ.
2. ຫຼັກການຫຼັກ ແລະ ບັນຫາທີ່ແກ້ໄຂ
- ແກ່ນແທ້: ວົງຈອນປິດ "ການສົນທະນາສອງຮອບ + ການດຳເນີນການກາງ". ຮອບທຳອິດຕົວແບບຕັດສິນໃຈ ແລະ ສົ່ງອອກຄຳຮ້ອງຂໍເອີ້ນໃຊ້ເຄື່ອງມື; ລະຫວ່າງກາງໂຄ້ດດຳເນີນການເຄື່ອງມື; ຮອບທີສອງຕົວແບບສ້າງຄຳຕອບສຸດທ້າຍໂດຍອີງໃສ່ຜົນໄດ້ຮັບ.
- ບັນຫາທີ່ແກ້ໄຂ: ແກ້ໄຂບັນຫາທີ່ຜ່ານມາເມື່ອໃຫ້ຕົວແບບເອີ້ນໃຊ້ເຄື່ອງມືຕ້ອງອາໄສການວິເຄາະພາສາທຳມະຊາດທີ່ບໍ່ໝັ້ນຄົງ ແລະ ມີຄວາມຜິດພາດງ່າຍ (if/else ຕັດສິນ), ໂດຍຜ່ານການສົ່ງອອກແບບມີໂຄງສ້າງເຮັດໃຫ້ມາດຕະຖານ ແລະ ຄວາມຖືກຕ້ອງເພີ່ມຂຶ້ນ.
3. ການແບ່ງໜ້າທີ່ຮັບຜິດຊອບ (ປຽບທຽບກັບການມອບໝາຍວຽກ)
- ນັກພັດທະນາ (HR): ກຳນົດເຄື່ອງມື, ຂຽນ JSON Schema ທີ່ອະທິບາຍໜ້າທີ່ ແລະ ພາຣາມິເຕີຂອງເຄື່ອງມື.
- ຕົວແບບ LLM (ຜູ້ຈັດການ): ເຂົ້າໃຈຄຳອະທິບາຍເຄື່ອງມື, ຕັດສິນໃຈວ່າຕ້ອງການເອີ້ນໃຊ້ ຫຼື ບໍ່, ເຄື່ອງມືໃດ ແລະ ພາຣາມິເຕີຫຍັງ, ແລະ ສົ່ງອອກຄຳຮ້ອງຂໍເອີ້ນໃຊ້ແບບມີໂຄງສ້າງ (
tool_calls). ຕົວແບບ ຕັດສິນໃຈ ແລະ ສ້າງຂໍ້ຄວາມເທົ່ານັ້ນ, ບໍ່ໄດ້ດຳເນີນການໂຄ້ດເອງ. - ຕົວດຳເນີນການ/ໂຄ້ດເຈົ້າພາບ (ພະນັກງານ): ວິເຄາະຄຳຮ້ອງຂໍ
tool_callsຈາກຕົວແບບ, ດຳເນີນການເອີ້ນໃຊ້ຟັງຊັນ ຫຼື API ທີ່ກ່ຽວຂ້ອງຢ່າງແທ້ຈິງ, ແລະ ສົ່ງຜົນໄດ້ຮັບກັບຄືນ.
4. ການກຳນົດເຄື່ອງມື (JSON Schema)
Schema ແມ່ນ "ຄູ່ມືການໃຊ້ງານ" ຂອງເຄື່ອງມື, ຂໍ້ມູນສຳຄັນລວມມີ:
- name: ຕົວລະບຸສະເພາະຂອງເຄື່ອງມື.
- description: ສຳຄັນທີ່ສຸດ, ຕົວແບບອາໄສຄຳອະທິບາຍນີ້ຢ່າງສິ້ນເຊີງເພື່ອຕັດສິນໃຈວ່າຈະເອີ້ນໃຊ້ເຄື່ອງມືນັ້ນ ຫຼື ບໍ່. ຄຳອະທິບາຍຍິ່ງຊັດເຈນ ແລະ ຖືກຕ້ອງຫຼາຍເທົ່າໃດ, ການຕັດສິນໃຈຂອງຕົວແບບກໍຍິ່ງຖືກຕ້ອງຫຼາຍເທົ່ານັ້ນ.
- parameters: ກຳນົດພາຣາມິເຕີທີ່ຕ້ອງການຂອງເຄື່ອງມື ແລະ ຊະນິດ, ຄຳອະທິບາຍ, ຂໍ້ຈຳກັດ (ເຊັ່ນ ຄ່າເລືອກ, ຈຳເປັນ ຫຼື ບໍ່).
5. ຂັ້ນຕອນການເອີ້ນໃຊ້ຢ່າງສົມບູນ
ບົດຄວາມໄດ້ສະແດງຕົວຢ່າງໂຄ້ດການສອບຖາມສະພາບອາກາດ, ສະແດງໃຫ້ເຫັນຂະບວນການທັງໝົດຕັ້ງແຕ່ຜູ້ໃຊ້ຖາມຄຳຖາມ, ນຳສົ່ງຄຳນິຍາມເຄື່ອງມືໄປພ້ອມກັບການເອີ້ນໃຊ້ຕົວແບບຄັ້ງທຳອິດ, ຕົວແບບສົ່ງຄືນ tool_calls, ໂຄ້ດດຳເນີນການຟັງຊັນ, ນຳຜົນໄດ້ຮັບກັບຄືນໃນຮູບແບບຂໍ້ຄວາມທີ່ມີ role: "tool" ໃສ່ໃນປະຫວັດການສົນທະນາ, ຈົນເຖິງຕົວແບບສ້າງຄຳຕອບພາສາທຳມະຊາດສຸດທ້າຍ.
6. ຄຸນສົມບັດຂັ້ນສູງ - ການເອີ້ນໃຊ້ເຄື່ອງມືແບບຂະໜານ
ເມື່ອຄຳຖາມຂອງຜູ້ໃຊ້ຕ້ອງການເຄື່ອງມືຫຼາຍອັນຮ່ວມກັນເພື່ອຕອບ (ຕົວຢ່າງ, ສອບຖາມສະພາບອາກາດຫຼາຍເມືອງພ້ອມກັນ), ຕົວແບບສາມາດສົ່ງອອກລາຍການ tool_calls ຫຼາຍອັນໃນການຕອບສະໜອງດຽວ. ໂຄ້ດເຈົ້າພາບສາມາດດຳເນີນການເອີ້ນໃຊ້ເຫຼົ່ານີ້ແບບຂະໜານ, ຈາກນັ້ນສົ່ງຜົນໄດ້ຮັບທັງໝົດກັບຄືນໃຫ້ຕົວແບບເພື່ອສັງລວມ, ເຊິ່ງຊ່ວຍເພີ່ມປະສິດທິພາບ.
评论
暂无已展示的评论。
发表评论(匿名)