Function Calling tækni samantekt

1. Skilgreining

Function Calling er kerfi sem gerir þróunaraðilum kleift að lýsa ytri verkfærum (eins og API) fyrir stór tungumálalíkön (LLM) með JSON schema. Þegar líkanið metur að það þurfi að kalla á verkfæri til að svara spurningu notanda, framleiðir það skipulagða tool_calls JSON gögn, sem tilgreina nafn fallsins og breytur. Forritið túlkar og framkvæmir kallið, skilar niðurstöðunni til líkansins, sem síðan myndar lokasvar.

2. Kjarnaregla og vandamál sem leyst eru

• Kjarni: Lokaður hringur „tveggja umferða samtals + milliframkvæmd“. Fyrri umferð: líkanið tekur ákvörðun og framleiðir beiðni um verkfærakall. Milliframkvæmd: kóði framkvæmir verkfærið. Seinni umferð: líkanið myndar lokasvar byggt á niðurstöðunni.
• Vandamál leyst: Leysir vandamálið við að láta líkanið kalla á verkfæri með óstöðugri og villugjarnri náttúrulegri málsgreiningu (if/else), með því að nota skipulagða úttak til að auka stöðlun og nákvæmni.

3. Verkaskipting (líking við verkefnaúthlutun)

• Þróunaraðili (HR): Skilgreinir verkfæri, skrifar JSON schema sem lýsir virkni verkfæris, breytum o.s.frv.
• LLM líkan (stjóri): Skilur verkfæralýsinguna, tekur ákvörðun um hvort kalla eigi á verkfæri, hvaða verkfæri og hvaða breytur, og framleiðir skipulagða beiðni (tool_calls). Líkanið tekur aðeins ákvarðanir og framleiðir texta, framkvæmir ekki kóða sjálft.
• Framkvæmdaraðili/forrit (starfsmaður): Túlkar tool_calls beiðni líkansins, framkvæmir raunverulega fallið eða API kallið, og skilar niðurstöðunni.

4. Verkfæraskilgreining (JSON Schema)

Schema er „notkunarhandbók“ verkfærisins, lykilupplýsingar:
- name: Einkvæmur auðkenni verkfæris.
- description: Mjög mikilvægt, líkanið treystir alfarið á þessa lýsingu til að ákveða hvort kalla eigi á verkfærið. Því skýrari og nákvæmari lýsing, því betri ákvörðun líkansins.
- parameters: Skilgreinir breytur sem verkfærið þarfnast, ásamt gerð, lýsingu, skorðum (eins og upptalningargildi, hvort nauðsynlegt sé o.s.frv.).

5. Heildar kallferli

Greinin sýnir með kóðadæmi um veðurspurningu ferlið frá spurningu notanda, fyrsta líkanakalli með verkfæraskilgreiningu, líkanið skilar tool_calls, kóði framkvæmir fallið, niðurstaðan sett inn í samtalsferilinn sem role: "tool" skilaboð, og að lokum líkanið myndar lokasvar á náttúrulegu máli.

6. Háþróaður eiginleiki - Samhliða verkfæraköll

Þegar spurning notanda krefst samvinnu margra verkfæra (t.d. að spyrja um veður í mörgum borgum samtímis), getur líkanið í einu svari framleitt lista með mörgum tool_calls. Forritið getur framkvæmt þessi köll samhliða, og skilað öllum niðurstöðunum saman til líkansins til samantektar, sem eykur skilvirkni.