Tambayar AI ta Biyu: Yadda Ake Tabbatar da Dogaro da Kayan Aiki na Babban Samfurin Harshe (LLM)

Yadda ake tabbatar da cewa Babban Samfurin Harshe (LLM) yana aiki da dogaro da sarrafawa yayin amfani da kayan aiki, ba wai kawai dogaro da kalmomin sha'awa don "shawo kan" samfurin ba. Ana buƙatar bayar da tsarin ƙuntatawa mai matakai da yawa.

Misali na tambayar yanayi, nau'ikan "ƙirƙira" guda uku da samfurin ke yi yayin amfani da kayan aiki:
1. Rashin amfani da kayan aiki, kai tsaye ƙirƙirar amsa.
2. Amfani da kayan aiki amma aika sigogi marasa daidai (kamar kayan aiki baya goyan bayan "jibi", amma ya aika date="jibi").
3. Canza tsarin sigogi da son rai (kamar canza "jibi" zuwa takamaiman kwanan wata), ko da kayan aiki baya buƙatar haka.

Tushen matsalar shine cewa fitar da samfurin a zahiri mai yiwuwa ne, kalmomin sha'awa kawai suna sanya "ƙuntatawa mai laushi" akan rarraba yiwuwar, ba tsarin tilastawa da ke tabbatar da samfurin ya bi ba. A yanayi masu rikitarwa, wannan "ƙuntatawa mai laushi" na iya gazawa cikin sauki.

Don magance wannan matsala, ana buƙatar maganin injiniya mai matakai da yawa:

1. Mataki na Farko: Inganta Kalmomin Sha'awa (Ƙuntatawa Mai Laushi)

   • Matsayinsa shine mafarin tsarin ƙuntatawa, amma ba ƙarshensa ba.
   • Ya kamata a ɗauki kalmomin sha'awa a matsayin "kwangilar aiki", a bayyana amfanin kayan aiki, nau'in kowane siga, iyakoki, da kuma misalan ƙimar da ba ta dace ba.
   • Ya kamata a ƙara Misalai-Few-shot, ta hanyar nuna misalan "shigar daidai → kira daidai", ta amfani da koyo na mahallin don kafa tsarin halayen samfurin.

2. Mataki na Biyu: Gabatar da JSON Schema (Ƙuntatawa Mai Tsauri)

   • Wannan shine mataki mai mahimmanci daga "yin magana" zuwa "sanya shinge".
   • Yi amfani da ma'anar tsari mai iya karantawa da tabbatarwa (JSON Schema) maimakon bayanin sigogi na harshe na halitta. Ana iya ƙayyade nau'in fili, ko wajibi ne, kewayon ƙimar zaɓi, kuma ana iya hana samfurin fitar da kowane filin da ba a bayyana ba ta hanyar saita additionalProperties: false.
   • Manyan dandamali na API suna goyan bayan wannan ƙuntatawa na tsari a lokacin ɓangaren warware samfurin, don guje wa rashin bin ƙa'ida daga tushen samarwa.

3. Mataki na Uku: Kafa Tsarin Tabbatarwa-Gyara-Sake Gwadawa (Aiwatar da Ƙarshe)

   • Ko da akwai Schema, har yanzu ana buƙatar yin tabbatarwa na nahawu da Schema bayan samun fitar da samfurin.
   • Lokacin da tabbatarwa ta gaza, ya kamata a tsara tsarin tsaftacewa da sake gwadawa (tare da iyaka), a mayar da bayanan kuskure ga samfurin don gyara fitarwa. Bayan wuce adadin sake gwadawa, ya kamata a sami tsarin rage daraja ko sarrafa mutum.

4. Matakin Tsarin: Rarraba Ayyuka

   • Ya kamata a raba yanke shawara da aiwatarwa, samar da tsari mai matakai uku:
     • Matakin Samfurin: Kawai yanke shawara (yanke shawarar wane kayan aiki ya kira, waɗanne sigogi ya samar).
     • Matakin Tsarin: Aiwatar da tsarin, gami da tabbatarwa na Schema, kiran kayan aiki, sarrafa sake gwadawa, da haɗa sakamako. Wannan yana tabbatar da cewa kuskuren samfurin bai shafi amincin kayan aiki kai tsaye ba, kuma canjin kayan aiki baya buƙatar gyara kalmomin sha'awa akai-akai.
     • Matakin Kayan Aiki: Aiwatar da iyawar kasuwanci ta musamman.
   • LangChain, LlamaIndex, da sauran tsarin suna yin irin wannan aikin.

Iyakokin hanyar yanzu: Zai iya magance matsalar tsarin sigogi da kyau, amma har yanzu bai isa ya rufe tabbatar da ma'anar sigogi ba (kamar daidaiton "Shanghai" da "Hu"). Wannan zai zama ƙalubalen injiniya da za a fuskanta a nan gaba.

Ƙarshe Mai Muhimmanci: Tabbatar da LLM ya kira kayan aiki da dogaro, a zahiri matsalar injiniyan software ce, ana buƙatar kafa tsarin injiniya na tsari daga ƙuntatawa mai laushi, ƙuntatawa mai tsauri, aiwatar da ƙarshe, zuwa ƙirar tsarin, ba wai kawai dogaro da inganta kalmomin sha'awa ba.