Function Calling প্রযুক্তি সারসংক্ষেপ

1. সংজ্ঞা

Function Calling হল একটি প্রক্রিয়া যা ডেভেলপারদের JSON স্কিমার মাধ্যমে বড় ভাষা মডেলের (LLM) কাছে উপলব্ধ বাহ্যিক সরঞ্জাম (যেমন API) বর্ণনা করতে দেয়। যখন মডেলটি ব্যবহারকারীর প্রশ্নের উত্তর দেওয়ার জন্য একটি সরঞ্জাম কল করার প্রয়োজন মনে করে, তখন এটি কাঠামোবদ্ধ tool_calls JSON ডেটা আউটপুট করে, যা কল করতে হবে এমন ফাংশনের নাম এবং প্যারামিটার নির্দেশ করে। হোস্ট প্রোগ্রাম এই কলটি পার্স করে এবং কার্যকর করে, ফলাফল মডেলটিতে ফেরত দেয় এবং মডেলটি চূড়ান্ত উত্তর তৈরি করে।

2. মূল নীতি ও সমাধানকৃত সমস্যা

• মূলনীতি: "দুই-রাউন্ড কথোপকথন + মধ্যবর্তী নির্বাহ" এর একটি ক্লোজড লুপ। প্রথম রাউন্ডে মডেল সিদ্ধান্ত নেয় এবং টুল কলের অনুরোধ আউটপুট করে; মাঝখানে কোড টুলটি কার্যকর করে; দ্বিতীয় রাউন্ডে মডেল নির্বাহের ফলাফলের ভিত্তিতে চূড়ান্ত উত্তর তৈরি করে।
• সমাধানকৃত সমস্যা: এটি পূর্ববর্তী সমস্যার সমাধান করে যেখানে মডেলকে টুল কল করতে অস্থির এবং ত্রুটিপূর্ণ প্রাকৃতিক ভাষা পার্সিং (if/else শর্ত) এর উপর নির্ভর করতে হতো, কাঠামোবদ্ধ আউটপুটের মাধ্যমে মানককরণ এবং নির্ভুলতা বৃদ্ধি করে।

3. দায়িত্ব বিভাজন (কাজ অর্পণের উপমা)

• ডেভেলপার (HR): সরঞ্জাম সংজ্ঞায়িত করে, সরঞ্জামের কার্যকারিতা, প্যারামিটার ইত্যাদি বর্ণনাকারী JSON স্কিমা লেখে।
• LLM মডেল (ম্যানেজার): সরঞ্জামের বর্ণনা বুঝতে পারে, সিদ্ধান্ত নেয় যে কল প্রয়োজন কিনা, কোন সরঞ্জাম কল করতে হবে এবং প্যারামিটার কী হবে, এবং কাঠামোবদ্ধ কল অনুরোধ (tool_calls) আউটপুট করে। মডেল শুধু সিদ্ধান্ত নেয় এবং টেক্সট তৈরি করে, কোড নিজে কার্যকর করে না।
• নির্বাহক/হোস্ট কোড (কর্মচারী): মডেলের tool_calls অনুরোধ পার্স করে, প্রকৃতপক্ষে সংশ্লিষ্ট ফাংশন বা API কল কার্যকর করে এবং ফলাফল ফেরত দেয়।

4. সরঞ্জাম সংজ্ঞা (JSON স্কিমা)

স্কিমা হল সরঞ্জামের "নির্দেশিকা পুস্তিকা", মূল তথ্য অন্তর্ভুক্ত:
- name: সরঞ্জামের অনন্য শনাক্তকারী।
- description: অত্যন্ত গুরুত্বপূর্ণ, মডেল সম্পূর্ণরূপে এই বর্ণনার উপর নির্ভর করে সরঞ্জাম কল করবে কিনা তা নির্ধারণ করতে। বর্ণনা যত স্পষ্ট এবং নির্ভুল, মডেলের সিদ্ধান্ত তত নির্ভুল।
- parameters: সরঞ্জামের প্রয়োজনীয় প্যারামিটার এবং তাদের ধরন, বর্ণনা, সীমাবদ্ধতা (যেমন এনাম মান, প্রয়োজনীয় কিনা ইত্যাদি) সংজ্ঞায়িত করে।

5. সম্পূর্ণ কল প্রক্রিয়া

নিবন্ধটি একটি আবহাওয়া অনুসন্ধানের কোড উদাহরণের মাধ্যমে দেখায় যে কীভাবে ব্যবহারকারীর প্রশ্ন থেকে, সরঞ্জাম সংজ্ঞা সহ প্রথম মডেল কল, মডেলের tool_calls ফেরত, কোড ফাংশন নির্বাহ, role: "tool" বার্তা হিসাবে ফলাফল কথোপকথন ইতিহাসে ফেরত দেওয়া, এবং শেষ পর্যন্ত মডেলের চূড়ান্ত প্রাকৃতিক ভাষার উত্তর তৈরি করার সম্পূর্ণ প্রক্রিয়া।

6. উন্নত বৈশিষ্ট্য - সমান্তরাল সরঞ্জাম কল

যখন ব্যবহারকারীর প্রশ্নের উত্তর দেওয়ার জন্য একাধিক সরঞ্জামের সমন্বয় প্রয়োজন হয় (যেমন, একাধিক শহরের আবহাওয়া একসাথে অনুসন্ধান), মডেল একটি প্রতিক্রিয়ায় একাধিক tool_calls সম্বলিত একটি তালিকা আউটপুট করতে পারে। হোস্ট কোড এই কলগুলি সমান্তরালভাবে কার্যকর করতে পারে, তারপর সমস্ত ফলাফল একসাথে মডেলকে ফেরত দেয় সমন্বয়ের জন্য, যার ফলে দক্ষতা বৃদ্ধি পায়।