第 4 章:生成模組與增強
檢索到資料之後,怎麼組成提示詞交給 LLM,並且讓答案有根據、標得出處。
前面三章解決了「怎麼找到對的資料」。這一章換成後半段:找到之後,要怎麼交給 LLM,才能讓它寫出有根據、有出處的答案。這一步就是 RAG 名字裡的「增強」和「生成」。
你會學到
01生成器在 RAG 裡扮演什麼角色
02一份好的 RAG 提示詞怎麼組成
03把資料放進提示詞的方法
04資料太多放不下時怎麼辦
05怎麼讓答案標出來源
6 篇,照順序讀
01
→4.1 生成器(LLM)在 RAG 中的作用
在 RAG 裡,LLM 的工作從「憑記憶回答」變成「根據資料整理出答案」。
02
→4.2 RAG 提示詞的結構化
一份好的 RAG 提示詞有固定的結構:指示、參考資料、問題。
03
→4.3 上下文注入方法
把檢索到的資料放進提示詞,看起來只是貼上去,但放法和順序都有差。
04
→4.4 管理上下文長度限制
模型一次能讀的長度有限,資料放不下的時候該怎麼取捨。
05
→4.5 生成最終回覆
提示詞交給模型之後,怎麼控制輸出、讓答案穩定,以及拿到答案之後的處理。
06
→4.6 生成內容中的來源歸屬
讓答案說明它是根據哪段資料,使用者才能查證,也才有辦法信任。