Përmbledhje e Teknikës Function Calling

1. Përkufizimi

Function Calling është një mekanizëm që u lejon zhvilluesve të përshkruajnë mjete të jashtme (si API) për modelin e madh gjuhësor (LLM) përmes një skeme JSON. Kur modeli gjykon se duhet të thërrasë një mjet për t'iu përgjigjur pyetjes së përdoruesit, ai nxjerr të dhëna të strukturuara JSON tool_calls, duke treguar emrin e funksionit dhe parametrat që do të thirren. Programi pritës analizon dhe ekzekuton këtë thirrje, ia kthen rezultatin modelit, dhe modeli gjeneron përgjigjen përfundimtare.

2. Parimi Thelbësor dhe Problemet që Zgjidh

• Thelbi: Një cikël i mbyllur "dy biseda + ekzekutim i ndërmjetëm". Në raundin e parë, modeli vendos dhe nxjerr kërkesën për thirrje mjeti; kodi i ndërmjetëm ekzekuton mjetin; në raundin e dytë, modeli gjeneron përgjigjen përfundimtare bazuar në rezultatin e ekzekutimit.
• Problemet që zgjidh: Zgjidh problemet e mëparshme kur modeli duhej të thërriste mjete duke u mbështetur në analizë të paqëndrueshme dhe të gabueshme të gjuhës natyrore (if/else), duke arritur standardizim dhe përmirësim të saktësisë përmes daljes së strukturuar.

3. Ndarja e Përgjegjësive (Analogjia e Delegimit të Detyrave)

• Zhvilluesi (HR): Përcakton mjetet, shkruan skemën JSON që përshkruan funksionalitetin, parametrat, etj.
• Modeli LLM (Menaxheri): Kuptoni përshkrimin e mjeteve, vendos nëse duhet të thërrasë, cilin mjet të thërrasë dhe cilat janë parametrat, dhe nxjerr një kërkesë të strukturuar për thirrje (tool_calls). Modeli vetëm vendos dhe gjeneron tekst, nuk ekzekuton kodin vetë.
• Ekzekutuesi/Kodi pritës (Punonjësi): Analizon kërkesën tool_calls të modelit, ekzekuton funksionin ose thirrjen API përkatëse dhe ia kthen rezultatin modelit.

4. Përkufizimi i Mjeteve (JSON Schema)

Skema është "manual udhëzimi" i mjetit, informacioni kyç përfshin:
- name: Identifikues unik i mjetit.
- description: Thelbësor, modeli mbështetet tërësisht në këtë përshkrim për të vendosur nëse do të thërrasë mjetin. Sa më i qartë dhe i saktë përshkrimi, aq më i saktë vendimi i modelit.
- parameters: Përcakton parametrat e nevojshëm për mjetin, llojin e tyre, përshkrimin, kufizimet (si vlerat e numëruara, nëse janë të detyrueshme, etj.).

5. Procesi i Plotë i Thirrjes

Artikulli, përmes një shembulli kodi për kërkimin e motit, tregon procesin e plotë nga pyetja e përdoruesit, thirrja e parë e modelit me përkufizimin e mjetit, modeli që kthen tool_calls, kodi që ekzekuton funksionin, shtimi i rezultatit si mesazh me role: "tool" në historikun e bisedës, deri te modeli që gjeneron përgjigjen përfundimtare në gjuhë natyrore.

6. Veçori e Avancuar - Thirrje Paralele e Mjeteve

Kur pyetja e përdoruesit kërkon bashkëpunimin e disa mjeteve (p.sh., kërkimi i motit në disa qytete njëkohësisht), modeli mund të nxjerrë një listë me tool_calls të shumta në një përgjigje të vetme. Kodi pritës mund t'i ekzekutojë këto thirrje paralelisht, pastaj t'i kthejë të gjitha rezultatet modelit për përmbledhje, duke rritur efikasitetin.