Function Calling Техникалык Жыйынтык

1. Аныктама

Function Calling - бул механизм, ал иштеп чыгуучуларга JSON схемасы аркылуу чоң тил моделине (LLM) жеткиликтүү тышкы куралдарды (мисалы, API) сүрөттөөгө мүмкүндүк берет. Модель колдонуучунун суроосуна жооп берүү үчүн куралды чакыруу керек деп чечсе, ал структураланган tool_calls JSON маалыматтарын чыгарат, алар чакырыла турган функциянын атын жана параметрлерин көрсөтөт. Хост программасы бул чакырууну талдап, аткарат, натыйжаны моделге кайтарат, андан кийин модель акыркы жоопту түзөт.

2. Негизги принцип жана чечилүүчү маселелер

• Негизи: "Эки раунддук сүйлөшүү + орто аткаруу" цикли. Биринчи раундда модель чечим кабыл алып, куралды чакыруу өтүнүчүн чыгарат; ортодо код куралды аткарат; экинчи раундда модель аткаруунун натыйжасынын негизинде акыркы жоопту түзөт.
• Чечилүүчү маселелер: Буга чейин моделди куралды чакырууга мажбурлоо үчүн туруксуз, ката кетирүүчү табигый тилди талдоого (if/else чечимдери) көз каранды болгон маселени чечет, структураланган чыгаруу аркылуу стандартташтырууну жана тактыкты жогорулатат.

3. Милдеттердин бөлүштүрүлүшү (тапшырманы өткөрүүгө окшош)

• Иштеп чыгуучу (HR): Куралдарды аныктайт, куралдын функциясын, параметрлерин ж.б. сүрөттөгөн JSON схемасын жазат.
• LLM модели (менеджер): Куралдын сүрөттөлүшүн түшүнөт, чакыруу керекпи, кайсы куралды жана кандай параметрлер менен чакыруу керектигин чечет, жана структураланган чакыруу өтүнүчүн (tool_calls) чыгарат. Модель чечим кабыл алат жана текст түзөт, бирок кодду өзү аткарбайт.
• Аткаруучу/хост коду (кызматкер): Моделдин tool_calls өтүнүчүн талдайт, тиешелүү функцияны же API чакыруусун чыныгы аткарат, жана натыйжаны кайтарат.

4. Куралды аныктоо (JSON Schema)

Схема - бул куралдын "колдонмосу", негизги маалыматтар:
- name: Куралдын уникалдуу идентификатору.
- description: Өтө маанилүү, модель ушул сүрөттөлүшкө таянып, куралды чакыруу керекпи же жокпу деген чечим кабыл алат. Сүрөттөлүш канчалык так жана туура болсо, модельдин чечими ошончолук так болот.
- parameters: Курал үчүн керектүү параметрлерди жана алардын түрүн, сүрөттөлүшүн, чектөөлөрүн (мисалы, энумерациялык маанилер, милдеттүү же жокпу) аныктайт.

5. Толук чакыруу процесси

Макала аба ырайын суроо мисалындагы код аркылуу колдонуучунун суроосунан, куралдын аныктамасын камтыган биринчи моделди чакыруудан, модель tool_calls кайтаруудан, коддун функцияны аткаруусунан, натыйжаны role: "tool" билдирүүсү катары сүйлөшүү тарыхына кошуудан, акыры модель акыркы табигый тилдеги жоопту түзгөнгө чейинки толук процессти көрсөтөт.

6. Өркүндөтүлгөн өзгөчөлүк - Параллелдүү курал чакыруу

Колдонуучунун суроосу бир нече куралдын биргелешип жооп беришин талап кылганда (мисалы, бир нече шаардын аба ырайын бир эле учурда суроо), модель бир жоопто бир нече tool_calls камтыган тизмени чыгара алат. Хост коду бул чакырууларды параллелдүү аткара алат, андан кийин бардык натыйжаларды моделге бирге кайтарып, жалпылоо үчүн колдонот, натыйжада эффективдүүлүк жогорулайт.