「把公司文件丟進去，AI 就會回答」，這句話有一半是真的。真的部分是技術已經成熟，不用自己訓練模型；假的部分是「丟進去」。我們幫客戶建 AI 知識庫的經驗裡，八成的時間花在把文件整理成 AI 讀得懂、而且只讓該看的人看到的狀態，模型本身反而是最不用煩惱的一環。這篇把我們的實作順序寫下來，適合正在考慮要不要做、或者做了第一版但答得不準的公司。
重點摘要
- 企業 AI 知識庫答得準不準，取決於文件整理得好不好，而不是用哪個模型。
- 資料整理的順序是盤點、選定唯一正確版本、切分段落、標記來源與維護人。
- 權限要在檢索階段就過濾，只在提問者有權看的文件裡找答案。
- 建議從問題重複、答案穩定、資料集中的部門開始，並指定專人持續維護文件。
AI 知識庫怎麼運作？先弄懂，決策才不會被名詞牽著走
目前企業知識庫主流的做法叫做檢索增強生成（RAG）：使用者提問時，系統先從你的文件裡找出最相關的幾段，再把這幾段連同問題交給語言模型產生回答。模型不會「記住」你的文件，每次都是現場查、現場答。這代表兩件事：文件有更新，答案馬上跟著變；文件裡沒有的東西，它要嘛說不知道，要嘛開始編。Google Cloud 的 RAG 說明 對這個流程有清楚的說明，建議決策者花十分鐘看過。
理解這點之後，你會發現「知識庫答得準不準」幾乎完全取決於「找出來的那幾段對不對」，而這又取決於文件整理得好不好。所以我們一律從資料開始。
資料整理：盤點、去重、切分、標來源
第一步是盤點。把散在 Google Drive、NAS、LINE 群組、個人電腦裡的文件列出來，你會發現同一份 SOP 有五個版本，三個是舊的。這時候不要急著全部匯入，先決定每個主題的「唯一正確版本」是哪份，其他的直接排除。我們有位製造業客戶第一版把所有檔案都丟進去，結果 AI 在回答報價規則時同時引用了 2021 年與 2025 年兩份價目表，答案自然是錯的。
第二步是切分。系統會把長文件切成小段落來檢索，切得太碎會失去上下文，切得太大又會混進不相關的內容。實務上以「一個段落回答一個問題」為原則，並保留標題層級當作段落的上下文。表格、掃描的 PDF、簡報裡的圖片這三種格式最容易出問題，需要另外轉成純文字或加上說明。
第三步是標來源。每段內容要記錄它來自哪份文件、哪個版本、誰負責維護。這不只是為了讓 AI 回答時能附上出處，更是為了半年後文件更新時，你知道要換掉哪一段。沒有這層的知識庫，上線三個月後就會開始答舊資料。
權限：AI 不能變成繞過部門牆的後門
這是我們最堅持的一點。原本業務看不到人資的薪資表、工讀生看不到採購成本，這些限制在知識庫裡必須原封不動保留。做法是在「檢索」那一步就先過濾：系統只在提問者有權限看的文件裡找答案，而不是找完再遮。後者聽起來差不多，實際上模型很可能在回答裡不小心透露它「看過」的內容。
我們的建議是把權限直接對應到現有的組織架構（部門、職級、專案），與公司登入系統整合，不要另外維護一套帳號。文件匯入時就標好可見範圍，新文件沒標的預設不公開。這件事在第一版就要做，事後補權限幾乎等於重建。
導入前檢查清單
- 每個主題是否已指定唯一正確版本與維護負責人？
- 掃描 PDF、簡報圖表、Excel 表格是否已轉成可讀文字？
- 文件可見範圍是否對應到現有部門與職級？
- 含個資的文件（員工、客戶名單）是否已排除或去識別化？
- 使用者問了知識庫沒有的內容時，系統會說「查無資料」還是自行發揮？
- 誰負責每季檢查答案品質並更新文件？
安全：資料去哪裡、誰能問、問了會不會外流
老闆最常問的是「我的資料會不會被拿去訓練」。這要看合約與服務條款，主流的企業級 API 服務通常明文承諾不用客戶資料訓練模型，但你必須自己確認所用方案的條款，而不是聽業務口頭保證。第二個問題是資料存放地：如果知識庫裡有客戶個資，《個人資料保護法》對國際傳輸與委外處理有規範，可在 全國法規資料庫 查到條文，建議在選型階段就請法務或顧問看過。
第三個容易被忽略的是「提示注入」：有人在文件裡或提問中夾帶指令，試圖讓 AI 吐出不該說的內容。防護的基本做法包括限制 AI 只能引用檢索到的段落、對輸出做敏感字過濾、以及保留完整的問答紀錄供稽核。美國 NIST 的 AI 風險管理框架 把這類風險整理得很完整，不需要全部照做，但拿來當檢查表很好用。
AI 知識庫該從哪個部門開始？
我們通常建議從「問題重複、答案穩定、資料集中」的部門起步：客服的常見問題、業務的產品規格與報價規則、人資的請假與報帳流程。這些領域文件相對完整、答錯的代價可控，三到六週就能看到成果。等團隊習慣了維護文件的節奏，再擴到研發或財務這類權限複雜的區塊。
如果第一個場景是對外客服，知識庫建好後下一步自然是接到 LINE 或網站上直接回客人，那又是另一組要考慮的問題，我們整理在 AI 客服導入前必問的 7 個問題。至於對內的業務訓練場景，我們自己的 JDeal 就是把產品知識與成交話術做成 AI 教練，讓新人不用翻資料夾就能練習。
知識庫不是專案，是一個需要有人持續照顧的資產。建置只佔三成，剩下七成是讓文件保持正確。這句話我們會在每次啟動會議上講一次，因為它決定了半年後這套系統是還在用，還是變成另一個沒人打開的內部工具。
常見問題
文件不多的小公司，也適合做 AI 知識庫嗎？
適合，文件少反而容易做好。重點不在數量，而是有沒有一批常被重複詢問、答案穩定的內容。如果同事每週都在回答同樣的問題，就值得做。
AI 知識庫答錯了怎麼辦？
先查它引用了哪一段，多數錯誤出在來源文件而不是模型。把過期或互相矛盾的文件修正、排除後，答案就會跟著改。所以回答一定要附出處，並保留問答紀錄方便追查。
AI 知識庫和一般的文件搜尋有什麼不同？
搜尋給的是文件清單，知識庫給的是整理過的答案並附上出處，使用者不用自己打開好幾份檔案比對。但兩者依賴的都是文件品質，文件亂，兩種都不會好用。