RAG(Retrieval-Augmented Generation,檢索增強生成)係一種 AI 技術——喺 AI 回答問題之前,先從你嘅私有資料庫(文件、網頁、數據庫)檢索相關資訊,再將呢啲資訊連同問題一齊交畀 LLM 生成答案。
簡單比喻:普通 AI 係「閉卷考試」——只靠記憶回答,唔識就亂估;RAG 係「開卷考試」——回答前先搵參考書,答案自然準確好多。
RAG 由 Facebook AI Research(而家嘅 Meta AI)喺 2020 年提出,而家已經成為企業級 AI 應用最主流嘅技術之一。
RAG 主要解決 LLM 嘅 3 個痛點:
普通 LLM 遇到唔識嘅問題會「估」答案,講得好肯定但實際係錯。AI 幻覺係目前 LLM 最大嘅問題。RAG 透過提供真實資料,大幅減少幻覺。
每個 LLM 都有訓練截止日期——例如 GPT-4o 嘅訓練數據去到某個時間點,之後發生嘅事佢唔知。RAG 可以接入最新資料,等 AI 可以回答時效性問題。
LLM 唔可以訪問你公司嘅內部文件、客戶數據、產品手冊。RAG 可以將呢啲私有資料接入 AI,等佢可以基於你嘅專屬知識回答。
| 組件 | 作用 | 常見工具 |
|---|---|---|
| 文件預處理 | 將 PDF、Word、網頁等切成細片段(Chunking) | LangChain、LlamaIndex |
| Embedding 模型 | 將文字轉換成數學向量(語意表示) | OpenAI text-embedding、BGE、Cohere |
| 向量數據庫 | 儲存向量,支援語意相似度搜尋 | Pinecone、Weaviate、Milvus、pgvector |
| 檢索器 | 根據問題向量搵出最相關嘅文件片段 | LangChain Retriever、混合檢索 |
| LLM | 基於檢索到嘅資料生成最終答案 | GPT-4o、Claude、Gemini |
| 維度 | RAG(檢索增強生成) | 微調(Fine-tuning) |
|---|---|---|
| 原理 | 回答時先搵資料 | 預先將知識訓練入模型 |
| 知識更新 | 即時更新(換資料就得) | 需要重新訓練 |
| 成本 | 低(只需檢索+生成) | 高(訓練需要大量算力同數據) |
| 可追溯性 | 可以列明答案來源 | 無法列明來源 |
| 適合場景 | 補充知識、問答系統、文件檢索 | 改變模型風格、行為、專業術語 |
| 幻覺控制 | 好(基於真實資料) | 一般(仍然可能幻覺) |
| 技術門檻 | 中等 | 高 |
90% 嘅企業場景用 RAG 就夠。如果你只係想 AI 可以讀你嘅文件、回答公司內部問題,RAG 係性價比最高嘅選擇。微調只適用於需要改變模型行為嘅場景——例如你想 AI 用特定語氣回答、或者學會某種專業格式。
最佳做法其實係RAG + 輕微調:用 RAG 補充知識,用輕微調改變風格。
| 工具 | 類型 | 特點 | 適合邊個 |
|---|---|---|---|
| LangChain | 開源框架 | 最流行,生態最豐富,彈性高 | 有開發團隊嘅企業 |
| LlamaIndex | 開源框架 | 專注數據連接同索引,上手易 | 初學者同中小企業 |
| Dify | 可視化平台 | 拖放式 RAG 搭建,無需寫太多代碼 | 非技術人員、快速原型 |
| Haystack | 開源框架 | 企業級,深度檢索優化 | 大型企業 |
| Pinecone | 向量數據庫 | 全託管,擴展性強 | 需要大規模向量檢索 |
| Weaviate | 向量數據庫 | 開源,支援混合檢索 | 想自架向量數據庫 |
數據來源:各工具官方網站(2026 年核實)。功能同價格可能隨版本更新而變化。
員工問「公司嘅年假政策係咩?」→ RAG 從員工手冊搵出相關條文 → AI 基於條文回答,並列明來源頁碼。唔使再 HR 逐條答。
客戶問「呢個產品點樣保養?」→ RAG 從產品手冊同 FAQ 搵出答案 → AI 用自然語言回答。比傳關鍵字配對準確好多。
律師問「過往有冇類似案例?」→ RAG 從判例數據庫搵出相關案例 → AI 總結重點。節省幾個鐘嘅文書研究時間。
醫生問「呢個藥物有咩副作用?」→ RAG 從藥物手冊同臨床指南搵出資料 → AI 整理成摘要。注意:只作輔助,最終診斷必須由醫生負責。
✅ 正確:唔係。RAG 可以大幅減少幻覺,但唔可以完全消除。如果檢索到嘅資料本身有錯,或者 LLM 誤讀資料,仍然會出錯。RAG 係「大幅減少」而唔係「完全消除」。
✅ 正確:唔一定。而家有 Dify 呢類可視化平台,拖幾下拉桿就可以搭到 RAG 系統。當然,如果你需要高度自訂,寫程式(LangChain/LlamaIndex)會更靈活。
✅ 正確:唔係。向量數據庫只係 RAG 其中一個組件。完整嘅 RAG 系統仲包括文件預處理、Embedding、檢索策略、Prompt 工程、LLM 生成等多個部分。
A:RAG(Retrieval-Augmented Generation,檢索增強生成)係一種 AI 技術——喺 AI 回答問題之前,先從你嘅私有資料庫(文件、網頁、數據庫)檢索相關資訊,再將呢啲資訊連同問題一齊交畀 LLM 生成答案。咁 AI 就可以基於真實資料回答,大幅減少幻覺。
A:普通 LLM 只係靠訓練時學到嘅知識回答,遇到唔識嘅問題就會「估」,產生幻覺。RAG 就係喺回答前先搵出真實資料,然後要求 LLM「只可以基於呢啲資料回答」。等於考試時俾參考書你睇,答案自然準確好多。
A:3 個核心分別:1) RAG 係「回答時先搵資料」,微調係「預先將知識訓練入模型」;2) RAG 資料可以即時更新,微調需要重新訓練;3) RAG 成本低、可以列明來源,微調成本高、適合改變模型風格同行為。一般企業用 RAG 就夠,微調留畀需要改變模型行為嘅場景。
A:3 步:1) 檢索(Retrieval)——將用戶問題轉成向量,喺向量數據庫搵出最相關嘅文件片段;2) 增強(Augmented)——將搵到嘅資料連同問題組合成 Prompt;3) 生成(Generation)——LLM 基於呢份 Prompt 生成答案,並且可以列明資料來源。
A:2026 年主流工具包括:LangChain(最流行嘅開源框架)、LlamaIndex(專注數據連接)、Dify(可視化 RAG 平台,易用)、Haystack(企業級)、Pinecone(向量數據庫)。初學者建議用 Dify 或 LlamaIndex,有技術團隊可以用 LangChain 自建。
A:主要限制:1) 檢索質素決定答案質素——如果搵唔到相關資料,答案一樣唔好;2) 長文件處理需要分段,可能遺漏上下文;3) 向量檢索可能語意相近但內容唔相關;4) 設置同維護需要一定技術能力;5) 唔可以改變模型嘅風格同行為,只係補充知識。