1.1 標準大型語言模型的限制

LLM 可以把話說得很順，也記得大量常識，但這兩件事都不能保證答案正確。真正把它接進產品後，問題通常出在四個地方：資料不夠新、內容可能是編的、專業知識不夠深，而且答案很難追溯來源。

知識截止

模型的知識，停在訓練資料收集完的那一天。在那之後發生的事，它沒有任何管道可以得知，也不會自己去學。

舉個例子：一個 2023 年初訓練完成的模型，你問它「2023 年底某場大型賽事誰拿了冠軍」，或是「上個月才發布的那個軟體套件有什麼新功能」。它並不是故意不回答，而是根本沒看過這些資訊。比較好的情況，它會說不知道；比較糟的情況，它會照著舊資料的規律，編一個看起來合理的答案。

這代表模型會一天比一天過時。只要任務需要「現在」的資訊，光靠模型本身就不可靠。

幻覺與事實錯誤

LLM 本質上是一個非常厲害的「模式配對機器」。它學的是詞與詞之間的統計關係，訓練的目標是：看到前面的字，預測下一個最可能出現的字。

這讓它寫出來的句子很流暢、很有條理，但流暢不保證正確。模型在生成的時候，並沒有一個步驟是拿去對照真實世界、或查證可信來源的。所以它會產生幻覺（hallucination）：聽起來合理又有自信，但其實是錯的、沒意義的，甚至是完全捏造的內容。

常見的幻覺長這樣：

• 編出某個人的經歷或成就。
• 引用根本不存在的論文，或不存在的法律判例。
• 很有自信地講出錯誤的規格數字或歷史日期。

注意　幻覺最麻煩的是語氣。對的和錯的都講得一樣篤定，光看文字分不出來。

在醫療、金融、法律這些容錯率很低的領域，這個傾向是真正的風險。

通用有餘，專業不足

模型雖然讀過很多主題的資料，但它的知識通常是廣而不深。越冷門、越專門的領域，訓練資料裡的覆蓋就越少。

一個標準的 LLM 不太可能知道：

• 你公司的內部文件、程式碼規範、專案歷史。
• 剛發表、非常專門的研究論文細節。
• 某個地方性法規在網路上很少人討論的細節。

這些資料有的是私有的，有的是太新、太小眾，總之不在模型的訓練資料裡。拿通用模型去問這類問題，常常只會得到籠統、模糊，甚至不正確的回答。它沒辦法去翻你的私有資料庫，也不會知道你的內部知識長什麼樣。

難以追溯來源

標準的 LLM 給出答案的時候，通常不會告訴你它是根據什麼資料得出這個結論。整個生成過程像一個黑盒子，你沒辦法確認它講的每一句話是從哪來的。

使用者自然會問：它為什麼這樣說？依據是什麼？可靠嗎？在法律或醫療這類場合，如果不知道資訊的依據，就沒辦法判斷可不可以相信。缺乏透明度和可追溯性，會直接影響大家對系統的信任。

四個限制放在一起看

局限	一句話
知識截止	訓練之後的新資訊，模型不知道
幻覺	沒把握也會編，而且語氣很篤定
專業不足	私有、冷門的資料不在它腦袋裡
難以追溯	說不出答案的依據

這四個問題有一個共同點：模型回答時，手上不一定有正確、最新而且可驗證的資料。 在生成答案前先補進相關資料，可以緩和這些限制；RAG 做的就是這件事。