Sommarju tat-Teknoloġija ta' Function Calling
Sommarju tat-Teknoloġija ta' Function Calling
1. Definizzjoni
Function Calling huwa mekkaniżmu li jippermetti lill-iżviluppaturi jiddeskrivu għodod esterni (bħal APIs) lil mudell lingwistiku kbir (LLM) permezz ta' JSON schema. Meta l-mudell jiddeċiedi li jeħtieġ juża għodda biex iwieġeb mistoqsija ta' utent, jipproduċi data strutturata tool_calls JSON, li tindika l-isem tal-funzjoni u l-parametri li għandhom jintużaw. Il-programm ospitanti janalizza u jeżegwixxi din is-sejħa, jirritorna r-riżultat lill-mudell, u l-mudell jiġġenera t-tweġiba finali.
2. Prinċipju Ewlieni u Problemi Solvuti
- Essenza: Ċirku magħluq ta' "żewġ konversazzjonijiet + eżekuzzjoni intermedja". L-ewwel rawnd il-mudell jiddeċiedi u jipproduċi talba għal sejħa ta' għodda; il-kodiċi intermedju jeżegwixxi l-għodda; it-tieni rawnd il-mudell jiġġenera t-tweġiba finali bbażata fuq ir-riżultat tal-eżekuzzjoni.
- Problemi solvuti: Jindirizza l-problema preċedenti fejn il-mudell kellu jiddependi fuq parsing ta' lingwa naturali instabbli u suxxettibbli għal żbalji (if/else) biex isejjaħ għodod, u permezz ta' output strutturat jikseb standardizzazzjoni u preċiżjoni mtejba.
3. Diviżjoni tar-Rwoli (Analogija ta' Delega ta' Kompiti)
- Żviluppatur (HR): Jiddefinixxi l-għodod, jikteb JSON Schema li jiddeskrivi l-funzjonalità, il-parametri, eċċ.
- Mudell LLM (Maniġer): Jifhem id-deskrizzjoni tal-għodda, jiddeċiedi jekk għandux isejjaħ għodda, liema għodda, u liema parametri, u jipproduċi talba strutturata (
tool_calls). Il-mudell biss jieħu deċiżjonijiet u jiġġenera test, ma jeżegwixxix kodiċi personalment. - Eżekutur/Kodiċi Ospitanti (Impjegat): Janalizza t-talba
tool_callstal-mudell, jeżegwixxi l-funzjoni jew is-sejħa API attwali, u jirritorna r-riżultat.
4. Definizzjoni tal-Għodda (JSON Schema)
Schema huwa "manwal" għall-għodda, b'informazzjoni ewlenija:
- name: Identifikatur uniku tal-għodda.
- description: Kruċjali, il-mudell jiddependi kompletament fuq din id-deskrizzjoni biex jiddeċiedi jekk isejjaħx l-għodda. Aktar ma tkun ċara u preċiża d-deskrizzjoni, aktar tkun preċiża d-deċiżjoni tal-mudell.
- parameters: Jiddefinixxi l-parametri meħtieġa mill-għodda, it-tip, id-deskrizzjoni, ir-restrizzjonijiet (bħal valuri enumerati, jekk humiex obbligatorji, eċċ.).
5. Proċess Sħiħ ta' Sejħa
L-artiklu juri eżempju ta' kodiċi għal mistoqsija dwar it-temp, li juri l-proċess kollu minn mistoqsija tal-utent, sejħa inizjali tal-mudell bid-definizzjoni tal-għodda, il-mudell jirritorna tool_calls, il-kodiċi jeżegwixxi l-funzjoni, ir-riżultat jiddaħħal lura fl-istorja tal-konverżazzjoni bħala messaġġ role: "tool", u finalment il-mudell jiġġenera t-tweġiba finali bil-lingwa naturali.
6. Karatteristika Avvanzata - Sejħiet ta' Għodda Parallel
Meta mistoqsija ta' utent teħtieġ kollaborazzjoni ta' diversi għodod (eż., mistoqsija dwar it-temp f'diversi bliet fl-istess ħin), il-mudell jista' jipproduċi lista ta' tool_calls multipli f'rispons wieħed. Il-kodiċi ospitanti jista' jeżegwixxi dawn is-sejħiet b'mod parallel, imbagħad jirritorna r-riżultati kollha lill-mudell għal sinteżi, u b'hekk itejjeb l-effiċjenza.
评论
暂无已展示的评论。
发表评论(匿名)