← 返回列表

AI interjúsorozat 12: Hogyan optimalizáljuk a Prompt-ot?

A Prompt optimalizálás (Prompt Engineering / Optimization) kulcsfontosságú készség a nagy nyelvi modellek „engedelmességre” bírásához, különösen a RAG rendszerekben, ahol közvetlenül meghatározza, hogy a modell hajlandó-e hűen követni a lekérdezett tartalmat, elkerülni a hallucinációkat és betartani a kimeneti formátumot.


1. A Prompt optimalizálás alapelvei

  1. Világosság > Bonyolultság: Az egyszerű, közvetlen utasítások gyakran hatékonyabbak, mint a díszes gondolkodási láncok.
  2. Adj elég korlátozást: Pontosan mondd meg a modellnek, „mit tehet és mit nem”.
  3. Adj példákat: A kevés példás (Few-shot) tanulás stabilabb, mint a nulla példás (Zero-shot).
  4. Legyen ellenőrizhető: Kérd a modellt, hogy adjon hivatkozásokat vagy megbízhatósági szintet, hogy az alsóbb rétegek ellenőrizhessék.
  5. Iteratív optimalizálás: Kezdd egy alaptól, és minden alkalommal csak egy változót módosíts, összehasonlítva az eredményeket.

2. Konkrét optimalizálási technikák (egyszerűtől a bonyolultig)

1. Szerepbeállítás (System Prompt)

你是一个专业的客服助手。你只能根据下面提供的【参考资料】回答问题。
如果你不知道答案,请直接说“资料中没有相关信息”,不要自己编造。
  • Szerep: Határok és hangnem beállítása.
  • Optimalizálási pont: Hangnem (szakmai/barátságos), korlátozás erőssége (szigorú/laza).

2. Világos utasítás

❌ Rossz: „Válaszolj a felhasználó kérdésére.”
✅ Jó: „Kizárólag az alábbi [Referenciaanyag] alapján válaszolj. Ha a referenciaanyag nem tartalmazza a választ, válaszold: „Nem tudok válaszolni erre a kérdésre.”

3. Kimeneti formátum vezérlése

请按以下 JSON 格式输出:
{
  "answer": "你的答案",
  "confidence": "高/中/低",
  "sources": [1, 3]
}
  • Cél: Könnyebb alsóbb rétegbeli elemzés, hivatkozás, hibakeresés.

4. Kevés példás (Few-shot) bemutatás (nagyon hatékony)

示例1:
问题:年假有几天?
参考资料:年假规则:满1年5天,满10年10天。
答案:满1年5天,满10年10天。

示例2:
问题:加班费怎么算?
参考资料:工作日加班1.5倍,周末2倍。
答案:工作日1.5倍,周末2倍。

现在请回答:
问题:{用户问题}
参考资料:{检索内容}
答案:
  • Tipp: A példák fedjenek le különböző nehézségi szinteket, és lehetőleg tartalmazzanak egy „nem tudok válaszolni” példát is.

5. Kényszerített hivatkozás

在答案末尾用[citation:X]标注来源编号。例如:“年假为5天[citation:1]。”
如果综合多个资料,分别标注。

6. Visszautasítási küszöb beállítása

  • Merev korlátozás: „Ha a referenciaanyag teljesen irreleváns a kérdéshez, válaszold: „Az anyag nem releváns.””
  • Laza korlátozás: Kombináld a keresési megbízhatósági pontszámmal; ha a küszöb alatt van, automatikusan a visszautasítási ágba kerül.

7. Gondolkodási lánc (Chain-of-Thought) többugrásos következtetéshez

问题:张三的老板是谁?
步骤:1. 先找出张三的部门。2. 再找出该部门负责人。3. 给出最终答案。
请按步骤思考后输出。

8. Negatív utasítás (Negative Prompting)

不要编造答案。不要使用“可能”“也许”等模糊词。不要输出任何参考资料以外的数字。

3. Hogyan értékeljük a Prompt minőségét?

Mutató Jelentés Mérés módja
Hűség A válasz szigorúan a referenciaanyagon alapul-e Emberi ellenőrzés vagy RAGAS Faithfulness metrika
Visszautasítási pontosság Visszautasít-e a modell, amikor kellene Számítás egy olyan tesztkészleten, amelyen nincs válasz
Formátumkövetési arány A kimenet követi-e a kért JSON/hivatkozás formátumot Reguláris kifejezés illesztés
Felhasználói elégedettség Hasznos-e a válasz Online visszajelzés / A/B tesztelés

Javaslat: Készíts egy kis tesztkészletet (20-50 határeset), és minden prompt módosítás után futtasd le, jegyezve a változásokat.

4. Gyakori buktatók és optimalizálási irányok

Probléma Lehetséges ok Optimalizálási módszer
A modell figyelmen kívül hagyja a referenciaanyagot és saját maga válaszol Az utasítás nem elég erős Változtasd „Kizárólag az alábbi anyag alapján” formára, és mutass few-shot példát a visszautasításra
A modell mindig „nem tudom”-ot mond Túl magas a visszautasítási küszöb Csökkentsd a küszöböt, vagy ellenőrizd a keresési minőséget
A kimeneti formátum kaotikus, nem JSON Az utasítás nem világos Adj szigorú formátumpéldát, vagy használj function calling-et
A válasz túl hosszú/rövid Nincs megadva hossz „Válaszolj legfeljebb 3 mondatban”
Többugrásos következtetés hibás A modell érvelési képessége gyenge Kérd, hogy lépésről lépésre mutassa be a gondolkodást, vagy válts erősebb modellre
Hallucinált számok/dátumok A modell saját tudására támaszkodik Hangsúlyozd: „Ne használj semmilyen, az emlékezetedből származó számot, csak az anyagot nézd”

评论

暂无已展示的评论。

发表评论(匿名)