微調 vs 提示工程：Fine-tuning vs Prompt Engineering

📅 發佈：2026-10-12｜🔄 更新：2026-10-12｜✍️ AIToolMart 編輯團隊
📊 閱讀時間：約 8 分鐘

一句話定義

提示工程（Prompt Engineering）是「怎麼問問題」——透過設計 Prompt 來引導模型輸出，不改變模型本身。微調（Fine-tuning）是「怎麼訓練模型」——用你的資料重新訓練模型的參數，改變模型本身的行為跟風格。

簡單比喻：Prompt 是教模型「怎麼答問題」——你可以叫它「用繁體中文回答」「一步一步想」「格式要是 JSON」。微調是改變模型「是誰」——訓練完之後，模型本身就變成了一個帶有你的風格跟知識的新模型。

再簡單一點：Prompt 是「考試前給提示」，微調是「請補習老師重新教過」。

核心分別：7 個維度比較

維度	提示工程（Prompt Engineering）	微調（Fine-tuning）
原理	改變輸入（Prompt），模型不變	改變模型參數，模型本身變了
改變什麼	每次回答的方式跟內容	模型的風格、行為、專業傾向
成本	零額外成本（只是寫 Prompt）	訓練成本 + 推理成本可能更高
更新速度	即時（改幾個字就行）	需要重新訓練（幾十分鐘到幾天）
需要資料	不需要	最少 50-100 條，理想 500+
技術門檻	低（會寫字就行）	中高（需要準備資料、訓練、評估）
適合場景	大多數日常應用	需要穩定風格/格式/專業行為

提示工程（Prompt Engineering）詳解

什麼是提示工程？

提示工程是透過精心設計輸入文字（Prompt），來引導 LLM 產生你想要的輸出。Prompt 就是你給 AI 的指令——可以是問題、任務描述、範例、或者系統設定。

常用 Prompt 技巧

角色扮演：「你是一個有 20 年經驗的資深律師…」
一步一步推理：「請一步一步想，解釋你的推理過程」
少樣本學習（Few-shot）：給 2-3 個範例，模型就會跟著格式
結構化輸出：「請用 JSON 格式回答，包含這幾個欄位…」
系統提示（System Prompt）：設定模型的角色跟行為準則
檢索增強（RAG）：將相關資料放入 Prompt，減少幻覺

提示工程的優點

✅ 零成本——不用額外付費
✅ 即時見效——改完立刻可以測試
✅ 易於迭代——A/B 測試不同 Prompt 很方便
✅ 無需資料——不用準備訓練集
✅ 可以隨時更新——知識變了改 Prompt 就行

提示工程的限制

❌ 模型風格不會真正改變——只是這一次回答聽話
❌ Prompt 太長會增加成本跟延遲
❌ 有時模型不會完全聽從指令（特別是複雜格式）
❌ 每次都要重複同樣的指示（雖然 System Prompt 可以解決部分）

微調（Fine-tuning）詳解

什麼是微調？

微調是用你自己的資料，進一步訓練一個已經預訓練好的 LLM，讓模型的參數適應你的特定任務。微調完之後，你會得到一個「新模型」——它的行為、風格、甚至專業知識都會跟原模型不同。

微調的主要方法

方法	說明	適合場景
全量微調（Full Fine-tuning）	更新模型所有參數	有大量資料跟算力，需要最大改變
LoRA / QLoRA	只訓練少量低秩矩陣，不動原模型	最常用，效率高，效果好
指令微調（Instruction Tuning）	用「指令-回答」配對訓練	改善模型聽從指令的能力
對齊微調（RLHF / DPO）	用人類回饋訓練模型偏好	改善模型的回答品質跟安全性

資料來源：Hugging Face、OpenAI 官方文件（2026 年核實）。

微調的優點

✅ 模型行為真正改變——不用每次重複指令
✅ 可以學會特定風格跟語氣（品牌語氣、專業術語）
✅ 輸出格式更穩定（特別是 JSON、程式碼等結構化輸出）
✅ 可以用小模型做到大模型的效果（降低推理成本）
✅ 大量重複任務時，總體成本可能更低

微調的限制

❌ 需要高品質訓練資料（50-100 條最少，500+ 理想）
❌ 訓練需要時間跟成本
❌ 知識更新需要重新訓練
❌ 可能引入「災難性遺忘」——微調後模型忘記了本來會的東西
❌ 技術門檻較高——資料準備、訓練、評估都需要專業知識

決策樹：什麼時候用哪個？

決策流程

你只是想 AI 答得好一點？ → 用提示工程（90% 場景）
你需要 AI 用特定品牌語氣回答？ → 先試 Prompt，不行才微調
你需要 AI 嚴格輸出特定格式（JSON/XML）？ → 先試 Prompt + 結構化輸出功能，不行才微調
你有 500+ 條高品質訓練資料？ → 可以考慮微調
你每天處理幾萬次重複任務？ → 微調小模型可能更省錢
你的知識需要每週更新？ → 用 RAG，不要微調

成本比較

項目	提示工程	微調（GPT-4o mini）	微調（GPT-4o）
訓練成本	$0	~$0.30-3 / 1M tokens	~$25 / 1M tokens
推理成本（每 1M tokens）	原模型價格	~$0.30-1.20	~$10-30
典型專案成本	$0	$5-100	$100-1000+
準備時間	幾分鐘	幾小時到幾天	幾天到幾星期

資料來源：OpenAI 官方定價頁（2026 年核實）。實際成本視乎資料量跟使用量。自建開源模型（Llama 等）需要 GPU 成本，但長期可能更省。

黃金組合：微調 + Prompt + RAG

最先進的 AI 應用不是三選一，而是三者結合：

技術	負責什麼	比喻
微調	改變模型的風格、語氣、輸出格式	請補習老師重新教過，改變學生本身
提示工程	控制每次具體要做什麼任務	考試前給提示，教他怎麼答這一題
RAG	補充最新知識跟私有資料	開卷考試，給參考書他看

真實例子：法律 AI 助手

微調：用 1000 條真實法律問答訓練，讓模型用專業法律語氣回答，並且嚴格按照「問題→法條→分析→建議」格式輸出
Prompt：每次使用者提問時，Prompt 裡面指定「這個使用者在香港，請引用香港法例」
RAG：從最新的香港法例資料庫檢索相關條文，放入 Prompt，確保答案基於最新法律

常見誤解

❌ 誤解：微調可以讓模型學會新知識

✅ 正確：微調主要改變模型的行為跟風格，不是灌入新知識的最佳方法。如果你想 AI 知道你公司的產品資料，用 RAG 才是正路。微調灌入的知識可能不準確、容易過時，而且無法列明來源。

❌ 誤解：微調一定比 Prompt 好

✅ 正確：不是。多數情況下，一個寫得好的 Prompt 已經可以達到微調 80-90% 的效果，而且成本幾乎為零。微調應該是「Prompt 已經做到極致但仍然不夠」才考慮的下一步。

❌ 誤解：微調需要很多資料（幾萬條）

✅ 正確：不一定。對於改變風格跟格式，50-100 條高品質資料已經可以見到明顯效果。關鍵是資料品質——每一條都要涵蓋你想模型學會的場景，雜亂的資料反而會讓模型變差。

❌ 誤解：微調完就一勞永逸

✅ 正確：不是。基礎模型會更新（例如 GPT-4o 出新版本），你的微調模型可能需要重新做。而且業務需求變了，微調模型也要跟著更新。建議每 3-6 個月檢討一次。

常見問題（FAQ）

Q：微調跟提示工程有什麼分別？

A：提示工程（Prompt Engineering）是「怎麼問問題」——透過設計 Prompt 來引導模型輸出，不改變模型本身。微調（Fine-tuning）是「怎麼訓練模型」——用你的資料重新訓練模型的參數，改變模型本身的行為跟風格。簡單講：Prompt 是教模型「怎麼答」，微調是改變模型「是誰」。

Q：什麼時候應該用微調？

A：微調適合這些場景：1) 需要改變模型的風格跟語氣（例如用特定品牌語氣回答）；2) 需要模型學會特定格式跟結構（例如嚴格的 JSON 輸出）；3) Prompt 已經很長但效果仍然不穩定；4) 需要降低推理成本（微調後的小模型可以媲美大模型）；5) 需要處理大量重複性任務。

Q：什麼時候應該用提示工程？

A：提示工程適合這些場景：1) 大多數日常應用——寫作、翻譯、總結、問答；2) 需要快速驗證想法（幾分鐘就可以改 Prompt）；3) 知識需要經常更新（Prompt 可以即時改，微調要重新訓練）；4) 預算有限（Prompt 零額外成本）；5) 需要列明答案來源（配合 RAG 使用）。

Q：微調大概要多少錢？

A：視乎模型跟資料量。OpenAI GPT-4o mini 微調大約 USD $0.30-3 每 100 萬 tokens（訓練），推理成本大約 USD $0.30-1.20 每 100 萬 tokens。GPT-4o 微調大約 USD $25 每 100 萬 tokens（訓練）。一般 1000-5000 條訓練資料的微調，成本大約 USD $5-100。自建模型微調（Llama 等）需要 GPU，成本更高但可以完全控制。

Q：微調需要多少訓練資料？

A：一般建議最少 50-100 條高品質訓練資料才可以見到明顯效果。理想是 500-1000 條以上。資料品質比數量更重要——100 條精心編寫的資料，好過 10000 條雜亂資料。資料需要涵蓋你想模型學會的各種場景跟邊界情況。

Q：可以同時用微調跟提示工程嗎？

A：可以，而且是最佳做法。常見策略是「微調改風格 + Prompt 改內容」：用微調讓模型學會你的品牌語氣跟輸出格式，再用 Prompt 控制每次具體要做什麼。再配合 RAG 補充知識，就是「微調 + Prompt + RAG」的黃金組合。