微調 vs 提示工程：Fine-tuning vs Prompt Engineering

📅 發佈：2026-10-12｜🔄 更新：2026-10-12｜✍️ AIToolMart 編輯團隊
📊 閱讀時間：約 8 分鐘

一句話定義

提示工程（Prompt Engineering）係「點樣問問題」——透過設計 Prompt 嚟引導模型輸出，唔改模型本身。微調（Fine-tuning）係「點樣訓練模型」——用你嘅數據重新訓練模型嘅參數，改變模型本身嘅行為同風格。

簡單比喻：Prompt 係教模型「點答問題」——你可以叫佢「用港式中文回答」「一步一步諗」「格式要係 JSON」。微調係改變模型「係邊個」——訓練完之後，模型本身就變成咗一個帶有你嘅風格同知識嘅新模型。

再簡單啲：Prompt 係「考試前俾貼士」，微調係「請補習老師重新教過」。

核心分別：7 個維度對比

維度	提示工程（Prompt Engineering）	微調（Fine-tuning）
原理	改變輸入（Prompt），模型不變	改變模型參數，模型本身變咗
改變咩	每次回答嘅方式同內容	模型嘅風格、行為、專業傾向
成本	零額外成本（只係寫 Prompt）	訓練成本 + 推理成本可能更高
更新速度	即時（改幾個字就得）	需要重新訓練（幾十分鐘到幾日）
需要數據	唔需要	最少 50-100 條，理想 500+
技術門檻	低（識寫字就得）	中高（需要準備數據、訓練、評估）
適合場景	大多數日常應用	需要穩定風格/格式/專業行為

提示工程（Prompt Engineering）詳解

咩係提示工程？

提示工程係透過精心設計輸入文字（Prompt），嚟引導 LLM 產生你想要嘅輸出。Prompt 就係你俾 AI 嘅指令——可以係問題、任務描述、範例、或者系統設定。

常用 Prompt 技巧

角色扮演：「你係一個有 20 年經驗嘅資深律師…」
一步一步推理：「請一步一步諗，解釋你嘅推理過程」
少樣本學習（Few-shot）：俾 2-3 個範例，模型就會跟住格式
結構化輸出：「請用 JSON 格式回答，包含呢幾個欄位…」
系統提示（System Prompt）：設定模型嘅角色同行為準則
檢索增強（RAG）：將相關資料放入 Prompt，減少幻覺

提示工程嘅優點

✅ 零成本——唔使額外付費
✅ 即時見效——改完即刻可以測試
✅ 易於迭代——A/B 測試唔同 Prompt 好方便
✅ 無需數據——唔使準備訓練集
✅ 可以隨時更新——知識變咗改 Prompt 就得

提示工程嘅限制

❌ 模型風格唔會真正改變——只係呢一次回答跟足
❌ Prompt 太長會增加成本同延遲
❌ 有時模型唔會完全跟從指令（特別係複雜格式）
❌ 每次都要重複同樣嘅指示（雖然 System Prompt 可以解決部分）

微調（Fine-tuning）詳解

咩係微調？

微調係用你自己嘅數據，進一步訓練一個已經預訓練好嘅 LLM，令模型嘅參數適應你嘅特定任務。微調完之後，你會得到一個「新模型」——佢嘅行為、風格、甚至專業知識都會同原模型唔同。

微調嘅主要方法

方法	說明	適合場景
全量微調（Full Fine-tuning）	更新模型所有參數	有大量數據同算力，需要最大改變
LoRA / QLoRA	只訓練少量低秩矩陣，唔動原模型	最常用，效率高，效果好
指令微調（Instruction Tuning）	用「指令-回答」配對訓練	改善模型跟從指令嘅能力
對齊微調（RLHF / DPO）	用人類反饋訓練模型偏好	改善模型嘅回答質素同安全性

數據來源：Hugging Face、OpenAI 官方文檔（2026 年核實）。

微調嘅優點

✅ 模型行為真正改變——唔使每次重複指令
✅ 可以學識特定風格同語氣（品牌語氣、專業術語）
✅ 輸出格式更穩定（特別係 JSON、代碼等結構化輸出）
✅ 可以用細模型做到大模型嘅效果（降低推理成本）
✅ 大量重複任務時，總體成本可能更低

微調嘅限制

❌ 需要高質素訓練數據（50-100 條最少，500+ 理想）
❌ 訓練需要時間同成本
❌ 知識更新需要重新訓練
❌ 可能引入「災難性遺忘」——微調後模型忘記咗原本識嘅嘢
❌ 技術門檻較高——數據準備、訓練、評估都需要專業知識

決策樹：幾時用邊個？

決策流程

你只係想 AI 答得好啲？ → 用提示工程（90% 場景）
你需要 AI 用特定品牌語氣回答？ → 先試 Prompt，唔得先微調
你需要 AI 嚴格輸出特定格式（JSON/XML）？ → 先試 Prompt + 結構化輸出功能，唔得先微調
你有 500+ 條高質素訓練數據？ → 可以考慮微調
你每日處理幾萬次重複任務？ → 微調細模型可能更慳錢
你嘅知識需要每週更新？ → 用 RAG，唔好微調

成本對比

項目	提示工程	微調（GPT-4o mini）	微調（GPT-4o）
訓練成本	$0	~$0.30-3 / 1M tokens	~$25 / 1M tokens
推理成本（每 1M tokens）	原模型價格	~$0.30-1.20	~$10-30
典型專案成本	$0	$5-100	$100-1000+
準備時間	幾分鐘	幾小時到幾日	幾日到幾星期

數據來源：OpenAI 官方定價頁（2026 年核實）。實際成本視乎數據量同使用量。自建開源模型（Llama 等）需要 GPU 成本，但長期可能更慳。

黃金組合：微調 + Prompt + RAG

最先進嘅 AI 應用唔係三揀一，而係三者結合：

技術	負責咩	比喻
微調	改變模型嘅風格、語氣、輸出格式	請補習老師重新教過，改變學生本身
提示工程	控制每次具體要做咩任務	考試前俾貼士，教佢點答呢一題
RAG	補充最新知識同私有資料	開卷考試，俾參考書佢睇

真實例子：法律 AI 助手

微調：用 1000 條真實法律問答訓練，令模型用專業法律語氣回答，並且嚴格按照「問題→法條→分析→建議」格式輸出
Prompt：每次用戶提問時，Prompt 入面指定「呢個用戶喺香港，請引用香港法例」
RAG：從最新嘅香港法例數據庫檢索相關條文，放入 Prompt，確保答案基於最新法律

常見誤解

❌ 誤解：微調可以令模型學識新知識

✅ 正確：微調主要改變模型嘅行為同風格，唔係灌入新知識嘅最佳方法。如果你想 AI 知道你公司嘅產品資料，用 RAG 先係正路。微調灌入嘅知識可能唔準確、容易過時，而且無法列明來源。

❌ 誤解：微調一定比 Prompt 好

✅ 正確：唔係。多數情況下，一個寫得好嘅 Prompt 已經可以達到微調 80-90% 嘅效果，而且成本幾乎為零。微調應該係「Prompt 已經做到極致但仍然唔夠」先考慮嘅下一步。

❌ 誤解：微調需要好多數據（幾萬條）

✅ 正確：唔一定。對於改變風格同格式，50-100 條高質素數據已經可以見到明顯效果。關鍵係數據質素——每一條都要涵蓋你想模型學識嘅場景，雜亂嘅數據反而會令模型變差。

❌ 誤解：微調完就一勞永逸

✅ 正確：唔係。基礎模型會更新（例如 GPT-4o 出新版本），你嘅微調模型可能需要重新做。而且業務需求變咗，微調模型都要跟住更新。建議每 3-6 個月檢討一次。

常見問題（FAQ）

Q：微調同提示工程有咩分別？

A：提示工程（Prompt Engineering）係「點樣問問題」——透過設計 Prompt 嚟引導模型輸出，唔改模型本身。微調（Fine-tuning）係「點樣訓練模型」——用你嘅數據重新訓練模型嘅參數，改變模型本身嘅行為同風格。簡單講：Prompt 係教模型「點答」，微調係改變模型「係邊個」。

Q：幾時應該用微調？

A：微調適合呢啲場景：1) 需要改變模型嘅風格同語氣（例如用特定品牌語氣回答）；2) 需要模型學識特定格式同結構（例如嚴格嘅 JSON 輸出）；3) Prompt 已經好長但效果仍然唔穩定；4) 需要降低推理成本（微調後嘅小模型可以媲美大模型）；5) 需要處理大量重複性任務。

Q：幾時應該用提示工程？

A：提示工程適合呢啲場景：1) 大多數日常應用——寫作、翻譯、總結、問答；2) 需要快速驗證想法（幾分鐘就可以改 Prompt）；3) 知識需要經常更新（Prompt 可以即時改，微調要重新訓練）；4) 預算有限（Prompt 零額外成本）；5) 需要列明答案來源（配合 RAG 使用）。

Q：微調大概要幾多錢？

A：視乎模型同數據量。OpenAI GPT-4o mini 微調大約 USD $0.30-3 每 100 萬 tokens（訓練），推理成本大約 USD $0.30-1.20 每 100 萬 tokens。GPT-4o 微調大約 USD $25 每 100 萬 tokens（訓練）。一般 1000-5000 條訓練數據嘅微調，成本大約 USD $5-100。自建模型微調（Llama 等）需要 GPU，成本更高但可以完全控制。

Q：微調需要幾多訓練數據？

A：一般建議最少 50-100 條高質素訓練數據先可以見到明顯效果。理想係 500-1000 條以上。數據質素比數量更重要——100 條精心編寫嘅數據，好過 10000 條雜亂數據。數據需要涵蓋你想模型學識嘅各種場景同邊界情況。

Q：可以同時用微調同提示工程嗎？

A：可以，而且係最佳做法。常見策略係「微調改風格 + Prompt 改內容」：用微調令模型學識你嘅品牌語氣同輸出格式，再用 Prompt 控制每次具體要做咩。再配合 RAG 補充知識，就係「微調 + Prompt + RAG」嘅黃金組合。