AI interjúsorozat 12: Hogyan optimalizáljuk a Prompt-ot?
A Prompt optimalizálás (Prompt Engineering / Optimization) kulcsfontosságú készség a nagy nyelvi modellek „engedelmességre” bírásához, különösen a RAG rendszerekben, ahol közvetlenül meghatározza, hogy a modell hajlandó-e hűen követni a lekérdezett tartalmat, elkerülni a hallucinációkat és betartani a kimeneti formátumot.
1. A Prompt optimalizálás alapelvei
- Világosság > Bonyolultság: Az egyszerű, közvetlen utasítások gyakran hatékonyabbak, mint a díszes gondolkodási láncok.
- Adj elég korlátozást: Pontosan mondd meg a modellnek, „mit tehet és mit nem”.
- Adj példákat: A kevés példás (Few-shot) tanulás stabilabb, mint a nulla példás (Zero-shot).
- Legyen ellenőrizhető: Kérd a modellt, hogy adjon hivatkozásokat vagy megbízhatósági szintet, hogy az alsóbb rétegek ellenőrizhessék.
- Iteratív optimalizálás: Kezdd egy alaptól, és minden alkalommal csak egy változót módosíts, összehasonlítva az eredményeket.
2. Konkrét optimalizálási technikák (egyszerűtől a bonyolultig)
1. Szerepbeállítás (System Prompt)
你是一个专业的客服助手。你只能根据下面提供的【参考资料】回答问题。
如果你不知道答案,请直接说“资料中没有相关信息”,不要自己编造。
- Szerep: Határok és hangnem beállítása.
- Optimalizálási pont: Hangnem (szakmai/barátságos), korlátozás erőssége (szigorú/laza).
2. Világos utasítás
❌ Rossz: „Válaszolj a felhasználó kérdésére.”
✅ Jó: „Kizárólag az alábbi [Referenciaanyag] alapján válaszolj. Ha a referenciaanyag nem tartalmazza a választ, válaszold: „Nem tudok válaszolni erre a kérdésre.”
3. Kimeneti formátum vezérlése
请按以下 JSON 格式输出:
{
"answer": "你的答案",
"confidence": "高/中/低",
"sources": [1, 3]
}
- Cél: Könnyebb alsóbb rétegbeli elemzés, hivatkozás, hibakeresés.
4. Kevés példás (Few-shot) bemutatás (nagyon hatékony)
示例1:
问题:年假有几天?
参考资料:年假规则:满1年5天,满10年10天。
答案:满1年5天,满10年10天。
示例2:
问题:加班费怎么算?
参考资料:工作日加班1.5倍,周末2倍。
答案:工作日1.5倍,周末2倍。
现在请回答:
问题:{用户问题}
参考资料:{检索内容}
答案:
- Tipp: A példák fedjenek le különböző nehézségi szinteket, és lehetőleg tartalmazzanak egy „nem tudok válaszolni” példát is.
5. Kényszerített hivatkozás
在答案末尾用[citation:X]标注来源编号。例如:“年假为5天[citation:1]。”
如果综合多个资料,分别标注。
6. Visszautasítási küszöb beállítása
- Merev korlátozás: „Ha a referenciaanyag teljesen irreleváns a kérdéshez, válaszold: „Az anyag nem releváns.””
- Laza korlátozás: Kombináld a keresési megbízhatósági pontszámmal; ha a küszöb alatt van, automatikusan a visszautasítási ágba kerül.
7. Gondolkodási lánc (Chain-of-Thought) többugrásos következtetéshez
问题:张三的老板是谁?
步骤:1. 先找出张三的部门。2. 再找出该部门负责人。3. 给出最终答案。
请按步骤思考后输出。
8. Negatív utasítás (Negative Prompting)
不要编造答案。不要使用“可能”“也许”等模糊词。不要输出任何参考资料以外的数字。
3. Hogyan értékeljük a Prompt minőségét?
| Mutató | Jelentés | Mérés módja |
|---|---|---|
| Hűség | A válasz szigorúan a referenciaanyagon alapul-e | Emberi ellenőrzés vagy RAGAS Faithfulness metrika |
| Visszautasítási pontosság | Visszautasít-e a modell, amikor kellene | Számítás egy olyan tesztkészleten, amelyen nincs válasz |
| Formátumkövetési arány | A kimenet követi-e a kért JSON/hivatkozás formátumot | Reguláris kifejezés illesztés |
| Felhasználói elégedettség | Hasznos-e a válasz | Online visszajelzés / A/B tesztelés |
Javaslat: Készíts egy kis tesztkészletet (20-50 határeset), és minden prompt módosítás után futtasd le, jegyezve a változásokat.
4. Gyakori buktatók és optimalizálási irányok
| Probléma | Lehetséges ok | Optimalizálási módszer |
|---|---|---|
| A modell figyelmen kívül hagyja a referenciaanyagot és saját maga válaszol | Az utasítás nem elég erős | Változtasd „Kizárólag az alábbi anyag alapján” formára, és mutass few-shot példát a visszautasításra |
| A modell mindig „nem tudom”-ot mond | Túl magas a visszautasítási küszöb | Csökkentsd a küszöböt, vagy ellenőrizd a keresési minőséget |
| A kimeneti formátum kaotikus, nem JSON | Az utasítás nem világos | Adj szigorú formátumpéldát, vagy használj function calling-et |
| A válasz túl hosszú/rövid | Nincs megadva hossz | „Válaszolj legfeljebb 3 mondatban” |
| Többugrásos következtetés hibás | A modell érvelési képessége gyenge | Kérd, hogy lépésről lépésre mutassa be a gondolkodást, vagy válts erősebb modellre |
| Hallucinált számok/dátumok | A modell saját tudására támaszkodik | Hangsúlyozd: „Ne használj semmilyen, az emlékezetedből származó számot, csak az anyagot nézd” |
评论
暂无已展示的评论。
发表评论(匿名)