← 返回列表

AI Serye Interbyu 12: Unsaon Pag-optimize ang Prompt?

Ang pag-optimize sa Prompt (Prompt Engineering / Optimization) usa ka kritikal nga kahanas aron ang dagkong modelo sa pinulongan "motuman" sa mga instruksyon, labi na sa RAG nga sistema, direktang mopatino kung ang modelo andam nga masaligan nga mosunod sa nakuha nga sulod, malikayan ang hallucination, ug mosunod sa pormat sa output.


Unang Bahin: Pangunang mga Prinsipyo sa Pag-optimize sa Prompt

  1. Katin-aw > Kakomplikado: Ang yano ug prangka nga mga instruksyon kasagarang mas epektibo kaysa mga komplikadong kadena sa panghunahuna.
  2. Paghatag og Igong mga Balabag: Isulti sa tin-aw sa modelo ang "unsay mahimo, unsay dili mahimo".
  3. Paghatag og mga Pananglitan: Ang Few-shot mas lig-on kaysa Zero-shot.
  4. Mapamatud-an: Himoa nga ang modelo mag-output og mga citation o confidence aron sayon alang sa sunod nga lakang ang pag-validate.
  5. Iterative Optimization: Sugdi sa baseline, usba usa ka variable matag higayon, itandi ang mga resulta.

Ikaduhang Bahin: Espesipikong mga Teknik sa Pag-optimize (Gikan sa Sayon ngadto sa Lisod)

1. Pag-set sa Papel (System Prompt)

Ikaw usa ka propesyonal nga assistant sa customer service. Ikaw makatubag lamang base sa [Mga Reperensya] nga gihatag sa ubos.
Kung wala ka kabalo sa tubag, sultihi direkta nga "walay may kalabotan nga impormasyon sa mga reperensya", ayaw paghimo-himo.
  • Epekto: Magtakda og utlanan ug tono.
  • Mga Punto sa Pag-optimize: Tono (propesyonal/mahigalaon), kakusog sa balabag (strikto/humok).

2. Tin-aw nga mga Instruksyon

❌ Dili maayo: “Tubaga ang pangutana sa tiggamit.”
✅ Maayo: “Base lamang sa [Mga Reperensya] sa ubos. Kung wala ang tubag sa mga reperensya, tubaga og ‘Dili nako matubag kining pangutana’.”

3. Pagkontrol sa Pormat sa Output

Palihug i-output sa mosunod nga JSON nga pormat:
{
  "answer": "imong tubag",
  "confidence": "taas/tunga/ubos",
  "sources": [1, 3]
}
  • Gamit: Alang sa sayon nga parsing, pag-refer, ug debugging.

4. Mga Pananglitan sa Few-shot (Epektibo kaayo)

Pananglitan 1:
Pangutana: Pila ka adlaw ang leave?
Mga Reperensya: Lagda sa leave: 1 ka tuig = 5 ka adlaw, 10 ka tuig = 10 ka adlaw.
Tubag: 1 ka tuig = 5 ka adlaw, 10 ka tuig = 10 ka adlaw.

Pananglitan 2:
Pangutana: Unsaon pagkalkulo ang overtime pay?
Mga Reperensya: Overtime sa semana = 1.5x, katapusan sa semana = 2x.
Tubag: 1.5x sa semana, 2x sa katapusan sa semana.

Karon tubaga:
Pangutana: {pangutana sa tiggamit}
Mga Reperensya: {nakuha nga sulod}
Tubag:
  • Teknik: Ang mga pananglitan kinahanglan maglakip sa lain-laing lebel sa kalisud, labing maayo maglakip og usa ka pananglitan sa "dili matubag".

5. Mapugos nga Pag-cite

Sa katapusan sa tubag, gamita ang [citation:X] sa pagtimaan sa numero sa tinubdan. Pananglitan: “Ang leave kay 5 ka adlaw[citation:1].”
Kung nagkombinar og daghang mga butang, i-marka ang matag usa.

6. Pagtakda og Threshold sa Pagdumili sa Pagtubag

  • Hard Constraint: “Kung ang mga reperensya walay kalabotan sa pangutana, tubaga og ‘Ang mga materyal dili may kalabotan’.”
  • Soft Constraint: I-kombinar ang confidence score sa retrieval, kung ubos sa threshold, awtomatikong muadto sa pagdumili sa pagtubag.

7. Chain-of-Thought para sa Multi-hop Reasoning

Pangutana: Kinsa ang boss ni Juan?
Mga Lakang: 1. Pangitaa una ang departamento ni Juan. 2. Pangitaa ang responsable sa maong departamento. 3. Ihatag ang kataposang tubag.
Palihug sunda ang mga lakang sa paghunahuna sa dili pa mag-output.

8. Negative Prompting

Ayaw paghimo-himo og tubag. Ayaw gamita ang mga pulong sama sa “tingali” o “basin”. Ayaw i-output ang bisan unsang numero nga wala sa mga reperensya.

Ikatulong Bahin: Unsaon Pagsukod sa Kaayohan sa Prompt?

Indikator Kahulugan Giunsa Pagsukod
Katapatan Ang tubag ba hugot nga nagsunod sa mga reperensya Manwal o Faithfulness sa RAGAS
Katukma sa Pagdumili Kung angay bang motubag o molimud Sukda sa test set nga walay tubag
Pagsunod sa Pormat Kung misunod ba sa JSON / citation ang output Regular expression matching
Katagbawan sa Gumagamit Mapuslanon ba ang tubag Online feedback / A/B testing

Sugyot: Pag-andam og gamay nga test set (20-50 ka edge cases), padagana kini human sa matag pag-ilis sa prompt, irekord ang mga kausaban.

Ikaupat nga Bahin: Kasagarang mga Pitfall ug mga Direksyon sa Pag-optimize

Problema Posibleng Rason Paagi sa Pag-optimize
Wala gisunod sa modelo ang mga reperensya, naghimo-himo og tubag Dili igo ka mapugos ang instruksyon Gamita ang “base lamang” ug magpakita og pananglitan sa pagdumili
Kanunay mag-ingon “wala ko kabalo” Taas kaayo ang threshold sa pagdumili Paubosa ang threshold o susiha ang kalidad sa retrieval
Dili maayo ang pormat sa output, dili JSON Dili klaro ang instruksyon Idugang ang estriktong pananglitan sa pormat, o gamita ang function calling
Taas kaayo/mubo kaayo ang tubag Wala gispecify ang gitas-on “Tubaga sa dili mosobra sa 3 ka sentence”
Nasayop ang multi-hop reasoning Dili igo ang abilidad sa paghinapos sa modelo Hangyoa nga ipakita ang hinay-hinay nga paghunahuna, o gamita ang mas kusgan nga modelo
Naghallucinate og numero/petsa Nagsalig sa kaugalingong kahibalo ang modelo I-emphasize ang “ayaw gamita ang imong nahinumdoman nga numero, tan-awa lang ang mga materyal”

评论

暂无已展示的评论。

发表评论(匿名)