AI Ibeere Keji: Bawo ni a Ṣe Ṣe Idaniloju pe Ipe Irinṣẹ LLM jẹ Oluroninu

Bawo ni a ṣe le rii daju pe Awoṣe Èdè Nla (LLM) n ṣiṣẹ ni igbẹkẹle ati iṣakoso nigba ti o n pe irinṣẹ, kii ṣe gbigbekele awọn ọrọ itọka nikan lati "da” awoṣe naa loju. O nilo lati funni ni eto igbala kan ti o ni ipele pupọ.

Gẹgẹbi apẹẹrẹ ti ibeere oju-ọjọ, awọn ihuwasi “iro” mẹta ti o wọpọ ninu ipe irinṣẹ:
1. Ko pe irinṣẹ, o dahun ni iro taara.
2. Nigba ti o n pe irinṣẹ, o n gbejade awọn paramita ti ko ni ọna kika (fun apẹẹrẹ, irinṣẹ ko gba "ọla", ṣugbọn o gbejade date="ọla").
3. O n yi ọna kika paramita pada laisi aṣẹ (fun apẹẹrẹ, o yi “ọla” pada si ọjọ kan pato), paapaa ti irinṣẹ ko ba nilo eyi.

Iwọn orisun ti iṣoro naa ni pe iṣelọpọ awoṣe jẹ iṣeeṣe ni ipilẹ, awọn ọrọ itọka nikan n fi “iṣakoso rirọ” sori pinpin iṣeeṣe, kii ṣe ẹrọ ti o mu ki awoṣe tẹle ni lile. Ni awọn oju iṣẹlẹ idiju, “iṣakoso rirọ” yii le kuna ni irọrun.

Lati yanju iṣoro yii, a nilo ojutu imọ-ẹrọ ti o ni ipele pupọ:

1. Ipele akọkọ: Imudara awọn ọrọ itọka (iṣakoso rirọ)

   • Ipo rẹ jẹ ibẹrẹ ti eto iṣakoso, ṣugbọn kii ṣe opin.
   • Awọn ọrọ itọka yẹ ki a wo bi “adehun iṣẹ”, ti o ṣalaye ni kedere idi irinṣẹ, iru paramita kọọkan, aala rẹ, ati ṣiṣe akojọ awọn apẹẹrẹ iye arufin.
   • O yẹ ki o ṣafikun Awọn apẹẹrẹ diẹ (Few-shot), nipa fifihan apẹẹrẹ “iṣẹ to tọ → ipe to tọ”, lo ẹkọ ọrọ-ọrọ lati fi idi ihuwasi awoṣe mulẹ.

2. Ipele keji: Ṣafihan JSON Schema (iṣakoso lile)

   • Eyi jẹ igbesẹ pataki lati “sọrọ ọgbọn” si “fi ọpa”.
   • Lo asọye ti a ṣeto, ti a le ṣayẹwo (JSON Schema) dipo apejuwe paramita eda eniyan. O le ṣalaye ni lile iru aaye, boya o jẹ dandan, iwọn iye akojọ, ati nipa ṣiṣeto additionalProperties: false lati ṣe idiwọ awoṣe lati gbejade eyikeyi aaye ti a ko ṣalaye.
   • Awọn iru ẹrọ API pataki ṣe atilẹyin iru iṣakoso iṣelọpọ ti a ṣeto ni ipele iyọkuro awoṣe, lati yago fun irufin ọna kika lati orisun.

3. Ipele kẹta: Ṣe agbekalẹ pipade ayẹwo-ṣatunṣe-aturun (ipaniyan ipari)

   • Paapaa pẹlu Schema, o tun nilo lati ṣe ayẹwo girama ati Schema lẹhin gbigba iṣelọpọ awoṣe.
   • Nigba ti ayẹwo ba kuna, o yẹ ki o ṣe apẹrẹ ẹrọ mimọ ati aturun (pẹlu iye to pọju), ti o n fi alaye aṣiṣe pada si awoṣe lati ṣatunṣe iṣelọpọ. Lẹhin ti o ti kọja iye aturun, o nilo eto idinku tabi iṣẹ eniyan.

4. Ipele faaji: Iyapa ojuse

   • O yẹ ki o ya ipinnu ati ipaniyan sọtọ, ti o ṣe agbekalẹ faaji ipele mẹta:
     • Ipele awoṣe: O n ṣe ipinnu nikan (ṣe idajọ iru irinṣẹ lati pe, iru awọn paramita lati ṣe).
     • Ipele fireemu: O n ṣe ipaniyan fireemu, pẹlu ayẹwo Schema, ipe irinṣẹ, ṣiṣe aturun ati isọpọ awọn abajade. Eyi ṣe idaniloju pe aṣiṣe awoṣe ko ni ipa taara lori aabo irinṣẹ, ati pe iyipada irinṣẹ ko nilo lati ṣatunṣe awọn ọrọ itọka nigbagbogbo.
     • Ipele irinṣẹ: Imuse agbara iṣowo kan pato.
   • LangChain, LlamaIndex, ati awọn fireemu miiran n ṣe iru iṣẹ yii.

Awọn idiwọn ti ojutu lọwọlọwọ: O le ṣe itọju daradara ọna kika paramita, ṣugbọn idaniloju itumọ paramita (gẹgẹbi deede laarin “Shanghai” ati “沪”) ko ni agbara to. Eyi yoo jẹ ipenija imọ-ẹrọ ti o nilo lati koju ni ọjọ iwaju.

Ipari pataki: Lati jẹ ki LLM pe irinṣẹ ni igbẹkẹle, ni ipilẹ, o jẹ iṣoro imọ-ẹrọ sọfitiwia, ti o nilo lati ṣe agbekalẹ eto imọ-ẹrọ ti o ni ọna ṣiṣe lati iṣakoso rirọ, iṣakoso lile, ipaniyan ipari, si apẹrẹ faaji, kii ṣe gbigbekele imudara awọn ọrọ itọka nikan.