第 3 章:準備檢索所需資料
把 PDF、網頁、文字檔,處理成檢索器找得到、找得準的一小塊一小塊資料。
檢索器再厲害,也只能找到你給它的東西。原始的文件不能直接丟進去,得先經過一番整理:讀進來、清乾淨、切成小塊、附上標籤,最後才存進向量資料庫。這一章就是這整套資料準備的流程。
你會學到
01怎麼從不同來源把文字讀進來
02為什麼文件一定要切成小塊
03固定大小和內容感知兩種分塊方法
04metadata 要記哪些東西
05親手實作分塊並存進向量資料庫
7 篇,照順序讀
01
→3.1 從不同來源載入文件
知識庫的資料有各種格式,第一步是把它們都讀成乾淨的純文字,並且記得它是從哪來的。
02
→3.2 文件分塊的必要性
為什麼不能把整份文件當成一筆資料,以及塊的大小怎麼取捨。
03
→3.3 固定大小分塊策略
最簡單的切法:每隔固定的字數切一刀,相鄰的塊再重疊一點。
04
→3.4 內容感知的分塊方法
順著文件本來的結構來切,讓每一塊都是一個完整的意思。
05
→3.5 資料塊的元資料(metadata)關聯
每一塊除了內容,還要記得它從哪來、屬於什麼,後面的過濾、引用、權限都靠它。
06
→3.6 將處理後的資料儲存到向量資料庫
把每一塊的向量、原文和 metadata 一起存進去,以及資料更新時怎麼處理。
07
→3.7 動手實踐:文件分塊
用純 Python 實作三種分塊方法,並用同一份文件比較它們切出來的結果。