新人報到第三天,他第七次走到你座位旁:「請問請款流程是先填表還是先簽核?」你嘆口氣,第十次打開那份你自己都快找不到的 SOP。與此同時,業務正在 Slack 問「上次那份報價模板放哪」,工程師翻遍雲端硬碟找半年前的架構決策,而最懂客戶歷史的資深同事下個月就要離職——他腦袋裡的東西,沒有一份文件寫得下來。
這就是大多數公司的真實狀態:知識不是不存在,而是散在雲端硬碟、Slack、Email、簡報,和某幾個人的腦袋裡,沒有人能一次問到答案。
這篇要解決的問題:教你用 AI 把這些零散、過期、找不到的文件,變成一個「會回答問題的內部知識庫」——員工用問的就能拿到正確答案、附出處,新人不必一直打斷老鳥,資深員工的經驗也能被留下來。
適合誰讀:受夠重複回答同樣問題的主管、PM、HR、營運,想降低新人上手成本的中小企業老闆,以及任何想把「團隊知識」系統化的工作者。不需要會寫程式也能開始。
讀完你會得到:一套從盤點到上線的五步驟方法、兩個可直接複製的 Prompt(文件清洗+問答護欄)、一張知識庫 Workflow 流程圖、一個台灣 60 人軟體公司導入前後的成果數據,以及一段「進階」帶你看懂單一知識庫長大後該怎麼演化。
為什麼公司知識庫總是建了沒人用?
過去很多公司也「做過」知識庫——買了 Confluence、開了共用資料夾、寫了 Wiki,結果半年後變成數位墳場。原因不是工具不好,而是傳統知識庫卡在三個地方:
- 找不到:員工要先知道「答案在哪份文件、哪個資料夾」才找得到。光是這個前提,就讓人寧可直接問同事。
- 沒人維護:流程改了文件沒改,新人照舊 SOP 做事反而出包,久了大家就不信任它。
- 格式各做各的:有人寫條列、有人貼截圖、有人塞 Excel,搜尋引擎抓不到重點,全文搜尋等於沒有。
AI 改變的關鍵,是把使用方式從「你去找文件」翻轉成「你用人話問,它幫你從文件裡找答案並整理好」。員工不用知道答案在哪,只要會問問題。這也是為什麼 AI 知識庫和傳統 Wiki 是兩種物種——它本質上會檢索、會理解、會作答,背後靠的就是 RAG 檢索增強生成 這套技術。
但 AI 也帶來新風險:它可能自信地編出一個不存在的流程。所以這篇的重點不只是「怎麼做出來」,更是「怎麼讓它只說真話、答錯就承認」。
核心概念:知識庫不是搜尋引擎,是 RAG
要做出會回答又不亂編的知識庫,你只要懂一個概念:RAG(Retrieval-Augmented Generation,檢索增強生成)。
用一個比喻:把 AI 想成一位很會表達、但對你公司一無所知的新顧問。如果你直接問他「我們的退費政策是什麼」,他只會憑常識瞎猜(這就是幻覺)。但如果你給他一個資料夾,告訴他「先去翻這些文件,只能照裡面寫的回答,翻不到就說不知道」——他立刻變成一位熟悉你公司、又懂得引用出處的得力助手。
RAG 做的就是這件事:先檢索(找出最相關的文件片段),再生成(根據片段作答)。想看更完整的原理拆解、向量檢索怎麼運作,可延伸閱讀 RAG 是什麼,這裡只需記住一句話:知識庫的智慧不來自模型背了多少,而來自你餵給它的資料有多乾淨。
| 比較項目 | 傳統全文搜尋 | 直接問 AI(無資料) | AI 知識庫(RAG) |
|---|---|---|---|
| 回傳內容 | 一堆文件連結 | 一段話 | 一段話+出處連結 |
| 要自己讀文件嗎 | 要,自己找答案 | 不用 | 不用 |
| 答案可信度 | 高(但要自己判讀) | 低(可能亂編) | 高(有護欄+出處) |
| 會不會編造 | 不會 | 會 | 大幅降低 |
| 用過期資料 | 看你給它什麼 | 用它的舊知識 | 只用你給的最新文件 |
理解了 RAG,你就知道做知識庫的工不在「訓練模型」,而在整理好餵給它的資料、設計好檢索、下對護欄。資料品質決定一切——餵進垃圾,問出來也是垃圾。
實際教學:五步驟打造會回答的知識庫
Step 1:盤點與分類文件
先別急著上工具。打開一張表,把公司知識的「藏寶圖」畫出來:哪些在雲端硬碟、哪些在 Slack 釘選、哪些只在某人腦中。每一項標上四個欄位:文件類型(SOP/合約/FAQ/簡報)、負責人、最後更新日、是否現行有效。
這一步最重要的動作是刪:把過期、重複、被取代的版本先清掉。否則 AI 會把三年前的舊請假流程當成現行規定回答,那比沒有知識庫更危險。
一個務實的起點:先別貪心想盤點全公司。鎖定新人和同事最常問的那一類問題——例如新人上手必看的 SOP,這類文件通常重複度高、最值得優先結構化。如果你的主要痛點正是「新人重複問同樣的事」,可以直接參考 用 AI 做新人上手文件 的盤點清單來起頭。
Step 2:用 AI 清洗與結構化
盤點後的文件格式還是各做各的。這一步讓 AI 把每份文件統一成同一種結構:標題、適用情境、步驟、注意事項、最後更新日。結構統一後,檢索才會穩定、答案才會整齊。把雜亂輸入轉成乾淨格式,正是 AI 最擅長的活——這類「讀進一份文件、吐出結構化結果」的批次處理,也是 AI 文件自動化 的核心場景,量大時可以排程整批跑。本文後面提供可複製的清洗 Prompt。
Step 3:切分與建索引
長文件不能整份丟給 AI 檢索。要把它切成語意完整的小段落(chunk)——通常一個小標題、一段完整流程就是一段。切太碎會失去脈絡,切太大會混入無關內容。原則是:每一段拿出來單獨看,都還讀得懂。切好後建立索引,問答時 AI 就只讀相關片段,又快又準。這一步背後的「切分策略」「向量檢索」細節,RAG 是什麼 有更深入的說明,不寫程式的人交給工具處理即可,但理解原則能讓你判斷答案為何時準時不準。
Step 4:接上問答層(RAG+護欄)
這是讓知識庫「會說話」的一步。流程是:員工提問 → 系統檢索最相關的幾個片段 → 把片段連同問題一起交給 AI → AI 根據片段作答並附出處。
關鍵在護欄:一定要明確要求「只能依據提供的資料回答,找不到就說『目前文件沒有相關規定,建議詢問○○』,並附上來源文件名稱」。沒有護欄的 RAG,遇到查不到的問題還是會硬掰。想接公司現有的雲端硬碟、Notion、資料庫,可以透過 MCP 把這些來源直接連給 AI,不必每次手動上傳。若要把這個問答層直接嵌進官網或 Slack 給人用,打造 AI 聊天機器人 講的就是這一段的介面與部署。
Step 5:維護與迭代
知識庫上線那天不是終點,是起點。建立兩個機制:未答問題清單(AI 答不出來的問題自動記下來,就是你內容的缺口)和定期更新排程(每月由各內容負責人檢查自己負責的文件是否過期)。沒有這一步,再好的知識庫三個月後也會開始亂答。維護流程比第一版內容更決定成敗。
範例:Prompt 與 Workflow
Prompt 一:文件清洗結構化(給 Step 2 用)
角色:你是企業知識管理編輯。
任務:把我貼上的原始文件,重寫成統一結構,方便日後檢索問答。
請依下列格式輸出,不要新增原文沒有的資訊:
【文件標題】一句話說明這份文件在講什麼
【適用情境】什麼時候會用到、給誰看
【內容重點】用條列整理核心步驟或規定,每點一句話
【注意事項/例外】特殊狀況、常被忽略的細節
【最後更新】若原文沒寫,標記「待補」
【出處】原始文件名稱
護欄:
1. 只整理原文有的內容,不要自行補充或推測。
2. 原文有矛盾或過期跡象,請在最後用「⚠️ 待人工確認」標出,不要自行決定。
原始文件如下:
(貼上文件)
Prompt 二:問答護欄(給 Step 4 用)
你是公司內部問答助理。請只根據下方「參考資料」回答員工問題。
規則:
1. 只能依據參考資料作答,不得使用外部知識或自行推測。
2. 參考資料中找不到答案時,回覆:「目前文件中沒有相關規定,建議詢問該業務負責人」,不要硬掰。
3. 每個答案結尾必須附上依據的【出處文件名稱】。
4. 若參考資料彼此矛盾,請同時列出並提醒「文件版本可能不一致,請人工確認」。
員工問題:{{使用者問題}}
參考資料:{{檢索到的文件片段}}
Workflow 流程圖(文字版)
員工用人話提問
↓
系統檢索知識庫(找出最相關的 3-5 個文件片段)
↓
找到相關片段?──── 否 ──→ 回覆「文件中沒有,建議問○○」+記入「未答問題清單」
│
是
↓
AI 根據片段作答(套用護欄 Prompt)
↓
回覆答案+附出處文件名稱
↓
員工有用嗎?(👍/👎 回饋)
↓
👎 或未答 ──→ 進「內容缺口清單」──→ 內容負責人補件 ──→ 更新知識庫
這條 Workflow 的精神是閉環:每一次答不好,都變成下一次變更好的養分。想看更多串接範本,可參考 Workflow 範本庫。
常見錯誤
- 直接把整個雲端硬碟丟進去:沒清洗、沒刪過期版本,AI 會把舊 SOP 和草稿一起當依據,答案自然錯亂。先盤點、先刪,再餵。
- 沒下護欄就上線:以為 AI「應該」會照文件回答。實際上沒有明確護欄,它遇到查不到的問題一定會硬掰。護欄不是加分項,是必需品。
- 答案不附出處:員工無法驗證答案對不對,就不會信任,最後又回去問人。每個答案都要能點回原始文件。
- 沒人負責維護:做完就丟著。三個月後流程變了、文件沒更新,知識庫開始給錯答案,信任一旦崩了就救不回來。
- 權限沒分層:把薪資、合約、客戶名單和一般 SOP 混在同一個庫,誰問都查得到。敏感內容要獨立庫、分權限。
- 期待一次到位:想等「全部文件都整理完美」才上線,結果永遠上不了。先用最常被問的 20 個問題做出第一版,邊用邊補。
最佳實務
- 從「最常被問的問題」起步:別從整理全公司文件開始。先列出新人和同事最常問的 20 個問題,只整理回答這些問題需要的文件,兩週內就能有可用的第一版。這 20 個問題本身,其實就是一份現成的 AI FAQ 雛形。
- 內容負責人制:每一類知識(HR、財務、技術、業務)指定一位負責人,文件更新與正確性由他把關。沒有人負責的知識庫必死。
- 把未答問題當路線圖:AI 答不出來的問題,就是最該補的內容。每週看一次未答清單,比憑空想要寫什麼有效得多。
- 答案永遠附出處:這是建立信任的基礎,也讓員工能自己往下深讀。
- 敏感內容分庫分權:人事、財務、客戶資料獨立成庫並控管權限,一般 SOP 才開放全員。
- 定期清理而非只增不刪:知識庫的價值在「準」,不在「多」。過期內容要主動淘汰,避免噪音稀釋正確答案。
進階:更深入的一層
做到第一版能用之後,多數團隊會撞到三道天花板。這裡把每一道牆對應到「下一步該往哪走」,讓你知道知識庫長大後的演化路線。
第一道牆:單一大庫開始檢索變鈍。 當文件量從 30 份長到 300 份、跨足 HR/技術/業務/法務,把全部塞進同一個庫,會讓檢索把不相關的部門片段也撈出來、稀釋準確度。進階做法是按領域拆成多個專責知識來源,再用一個「路由」先判斷問題屬於哪一類、只到對應的庫裡找。當這個路由本身也用 AI 來做、各庫各自有自己的護欄與負責人時,你其實已經踏進 多 Agent 協作 的架構——每個 Agent 是一個專科醫師,路由 Agent 是分診台。
第二道牆:手動上傳跟不上文件更新。 第一版常是「匯出、上傳、重建索引」的手工流程,文件一改就過期。要讓知識庫自動跟著來源同步,關鍵是把 Notion、Google Drive、資料庫接成 AI 能即時讀取的工具,這正是 MCP 的用途;再搭配 AI 文件自動化 把「新文件進來就自動清洗、切分、入庫」排成排程,知識庫就從靜態快照變成活的鏡子。
第三道牆:員工問的不只是「查資料」,而是「幫我做事」。 純檢索問答只能回答「請款流程是什麼」,但員工真正想要的常是「幫我把這張發票照流程送出去」。當知識庫不只回答、還能呼叫工具動手執行時,它就從「會回答的知識庫」進化成「會辦事的助理」——對內延伸成各種 AI Skills,對外延伸成 AI 客服 Agent,由它根據知識庫內容判斷、查資料、甚至代為操作。
下面這張對照表,幫你判斷自己目前在哪一階、下一步該補什麼:
| 階段 | 你會遇到的痛點 | 對應做法 | 延伸閱讀 |
|---|---|---|---|
| 入門:固定問答 | 重複問題太多、人工回覆累 | FAQ 機器人,先把高頻問題自動化 | AI FAQ 產生器 |
| 基礎:內部知識庫 | SOP/文件散、新人上手慢 | RAG+護欄+未答清單(本文) | RAG 是什麼 |
| 進階:自動同步 | 文件一改就過期、手動上傳累 | MCP 連來源+文件自動化排程 | MCP 是什麼 |
| 規模化:多領域 | 跨部門、單庫檢索變鈍 | 多 Agent 分科+路由 | 多 Agent 協作 |
| 對外:會辦事 | 員工/客戶要的是「幫我做」 | 知識庫+工具呼叫的客服 Agent | AI 客服 Agent |
不必一次跳到最底。絕大多數台灣中小企業,把「基礎」這一階做扎實、維護機制跑順,就已經能解掉八成痛點。 上面三道牆,是你被現實逼到時的地圖,不是一開始的待辦清單。
實際案例:台灣 60 人軟體公司的知識庫導入
情境:台中一家約 60 人的 B2B 軟體公司,技術文件、客戶導入流程、報價規則散在 Google Drive、Notion 和資深員工的記憶裡。新人平均要六週才能獨立處理客戶問題,期間不斷打斷資深工程師;客服則因為查不到最新功能說明,常給客戶過時資訊。
導入前的痛點數據:
- 新人獨立上手時間:約 6 週
- 資深工程師每天被新人/客服打斷:平均 9 次
- 客服因資訊過時造成的回覆錯誤:每月約 14 件
導入做法:他們沒有大張旗鼓重建系統,而是照本文五步驟:先盤點,刪掉約 40% 過期文件;用清洗 Prompt 把現行 SOP 與功能說明統一結構;切分建索引後,接上帶護欄的 RAG 問答,透過 MCP 連上原本的 Notion 與 Drive,員工直接在 Slack 提問;最後指定每個產品線一位內容負責人,每週清未答問題。第一版只涵蓋「最常被問的 30 個問題」,兩週上線。
導入後三個月的成果:
- 新人獨立上手時間:從 6 週縮短到約 3 週(-50%)
- 資深工程師每天被打斷次數:從 9 次降到約 2 次
- 客服回覆錯誤:每月 14 件降到約 3 件(-79%)
- 知識庫每週被提問:穩定在 200 次以上,成為員工第一個求助對象
半年後的延伸:這家公司嘗到甜頭後,把同一套知識資產往兩端延伸——對內,他們把「最常被問的 30 個問題」抽出來做成新人專用的 上手文件,新人第一週就靠它自助,把獨立上手時間再壓到約 2.5 週;對外,他們用同一個知識庫接上 AI 客服 Agent,讓客戶在官網就能查到最新功能說明,客服信件量再降約三成。值得注意的是,這兩個延伸沒有重做知識庫——底層都是同一套乾淨、結構化的內容,差別只在「給誰看、用什麼介面」。這正是把基礎打扎實的複利:內容資產一次整理,多處複用。
原創觀點——這個案例真正的轉折,不在 AI,而在「未答問題清單」。 多數公司導入 AI 知識庫失敗,是因為把它當成一次性專案:做完一版就期待永久好用。但知識庫的本質是活的——公司流程每天在變,知識也在變。這家公司做對的關鍵,是把「AI 答不出來」從一個失敗訊號,重新定義成「這裡有內容缺口,去補」的待辦清單。AI 負責找出洞,人負責補洞,補完 AI 又能答對。這個人機分工的閉環,才是知識庫越用越聰明、而不是越用越爛的真正引擎。換句話說,AI 給了你一面照出知識缺口的鏡子,但決定要不要去補的,永遠是人。
免責聲明:本文涉及的文件上傳、資料保存與權限控管,請依貴公司資安政策與相關法規(如個資法)辦理;牽涉合約、財務、人事的內容,AI 的回答僅供內部參考,不構成法律意見,重要決策仍應由專業人員確認。
結論
公司的知識從來不是不存在,只是散落各處、過期、找不到、藏在某幾個人腦袋裡。AI 知識庫真正做的,是把使用方式從「你去翻文件」翻轉成「你用人話問,它幫你從文件找答案並附出處」——前提是你用 RAG 架構、餵乾淨的資料、下對護欄、並且持續維護。
別追求一次做到完美。從最常被問的 20 個問題開始,兩週內做出能用的第一版,再靠「未答問題清單」一週一週補強。記住:維護流程比第一版內容更決定成敗,而 AI 只負責找出缺口,補不補永遠是人的決定。
下一步,你可以先把核心技術讀懂——RAG 是什麼 解釋了知識庫為何能只說真話;接著看 MCP 是什麼 怎麼把 AI 連上你現有的 Notion、Drive 與資料庫,讓內容自動同步;想把這套知識資產對外延伸成客戶服務,AI 客服 Agent 是自然的下一站。若想把知識庫進一步做成自動更新、跨系統的流程,Workflow 範本庫 有可參考的串接設計;需要客製導入規劃,也歡迎透過 聯絡我們 進一步討論。
❓ 常見問題 FAQ
AI 知識庫會不會亂編答案(幻覺)?
公司文件上傳給 AI 安全嗎?會被拿去訓練嗎?
要寫程式才能做嗎?沒有工程師怎麼辦?
文件很亂、版本很多,要先整理到什麼程度才能餵 AI?
知識庫做完就一勞永逸嗎?
知識庫、FAQ 機器人、客服機器人差在哪?該先做哪一個?
知識庫要怎麼接上公司現有的 Notion、Google Drive?
規模變大、跨部門後,單一知識庫不夠用怎麼辦?
🔗 延伸閱讀
每週把這類實戰教學寄給你
訂閱 AgentAI 智庫情報週報,新的 Prompt、AI Skills、工作流與教學第一時間收到。
免費 · 隨時取消