提示工程(Prompt Engineering)是「怎么问问题」——通过设计 Prompt 来引导模型输出,不改模型本身。微调(Fine-tuning)是「怎么训练模型」——用你的数据重新训练模型的参数,改变模型本身的行为与风格。
简单比喻:Prompt 是教模型「怎么答问题」——你可以叫它「用中文回答」「一步一步想」「格式要是 JSON」。微调是改变模型「是谁」——训练完之后,模型本身就变成了一个带有你的风格与知识的新模型。
再简单点:Prompt 是「考试前给贴士」,微调是「请补习老师重新教过」。
| 维度 | 提示工程(Prompt Engineering) | 微调(Fine-tuning) |
|---|---|---|
| 原理 | 改变输入(Prompt),模型不变 | 改变模型参数,模型本身变了 |
| 改变什么 | 每次回答的方式与内容 | 模型的风格、行为、专业倾向 |
| 成本 | 零额外成本(只是写 Prompt) | 训练成本 + 推理成本可能更高 |
| 更新速度 | 即时(改几个字就行) | 需要重新训练(几十分钟到几天) |
| 需要数据 | 不需要 | 最少 50-100 条,理想 500+ |
| 技术门槛 | 低(会写字就行) | 中高(需要准备数据、训练、评估) |
| 适合场景 | 大多数日常应用 | 需要稳定风格/格式/专业行为 |
提示工程是通过精心设计输入文字(Prompt),来引导 LLM 产生你想要的输出。Prompt 就是你给 AI 的指令——可以是问题、任务描述、范例、或者系统设定。
微调是用你自己的数据,进一步训练一个已经预训练好的 LLM,令模型的参数适应你的特定任务。微调完之后,你会得到一个「新模型」——它的行为、风格、甚至专业知识都会与原模型不同。
| 方法 | 说明 | 适合场景 |
|---|---|---|
| 全量微调(Full Fine-tuning) | 更新模型所有参数 | 有大量数据与算力,需要最大改变 |
| LoRA / QLoRA | 只训练少量低秩矩阵,不动原模型 | 最常用,效率高,效果好 |
| 指令微调(Instruction Tuning) | 用「指令-回答」配对训练 | 改善模型跟从指令的能力 |
| 对齐微调(RLHF / DPO) | 用人类反馈训练模型偏好 | 改善模型的回答质量与安全性 |
数据来源:Hugging Face、OpenAI 官方文档(2026 年核实)。
| 项目 | 提示工程 | 微调(GPT-4o mini) | 微调(GPT-4o) |
|---|---|---|---|
| 训练成本 | $0 | ~$0.30-3 / 1M tokens | ~$25 / 1M tokens |
| 推理成本(每 1M tokens) | 原模型价格 | ~$0.30-1.20 | ~$10-30 |
| 典型项目成本 | $0 | $5-100 | $100-1000+ |
| 准备时间 | 几分钟 | 几小时到几天 | 几天到几星期 |
数据来源:OpenAI 官方定价页(2026 年核实)。实际成本视乎数据量与使用量。自建开源模型(Llama 等)需要 GPU 成本,但长期可能更省。
最先进的 AI 应用不是三选一,而是三者结合:
| 技术 | 负责什么 | 比喻 |
|---|---|---|
| 微调 | 改变模型的风格、语气、输出格式 | 请补习老师重新教过,改变学生本身 |
| 提示工程 | 控制每次具体要做什么任务 | 考试前给贴士,教它怎么答这一题 |
| RAG | 补充最新知识与私有资料 | 开卷考试,给参考书它看 |
✅ 正确:微调主要改变模型的行为与风格,不是灌入新知识的最佳方法。如果你想 AI 知道你公司的产品资料,用 RAG 才是正路。微调灌入的知识可能不准确、容易过时,而且无法列明来源。
✅ 正确:不是。多数情况下,一个写得好 Prompt 已经可以达到微调 80-90% 的效果,而且成本几乎为零。微调应该是「Prompt 已经做到极致但仍然不够」才考虑的下一步。
✅ 正确:不一定。对于改变风格与格式,50-100 条高质量数据已经可以见到明显效果。关键是数据质量——每一条都要涵盖你想模型学会的场景,杂乱的数据反而会令模型变差。
✅ 正确:不是。基础模型会更新(例如 GPT-4o 出新版本),你的微调模型可能需要重新做。而且业务需求变了,微调模型也要跟着更新。建议每 3-6 个月检讨一次。
A:提示工程(Prompt Engineering)是「怎么问问题」——通过设计 Prompt 来引导模型输出,不改模型本身。微调(Fine-tuning)是「怎么训练模型」——用你的数据重新训练模型的参数,改变模型本身的行为与风格。简单讲:Prompt 是教模型「怎么答」,微调是改变模型「是谁」。
A:微调适合这些场景:1) 需要改变模型的风格与语气(例如用特定品牌语气回答);2) 需要模型学会特定格式与结构(例如严格的 JSON 输出);3) Prompt 已经很长但效果仍然不稳定;4) 需要降低推理成本(微调后的小模型可以媲美大模型);5) 需要处理大量重复性任务。
A:提示工程适合这些场景:1) 大多数日常应用——写作、翻译、总结、问答;2) 需要快速验证想法(几分钟就可以改 Prompt);3) 知识需要经常更新(Prompt 可以即时改,微调要重新训练);4) 预算有限(Prompt 零额外成本);5) 需要列明答案来源(配合 RAG 使用)。
A:视乎模型与数据量。OpenAI GPT-4o mini 微调大约 USD $0.30-3 每 100 万 tokens(训练),推理成本大约 USD $0.30-1.20 每 100 万 tokens。GPT-4o 微调大约 USD $25 每 100 万 tokens(训练)。一般 1000-5000 条训练数据的微调,成本大约 USD $5-100。自建模型微调(Llama 等)需要 GPU,成本更高但可以完全控制。
A:一般建议最少 50-100 条高质量训练数据才可以见到明显效果。理想是 500-1000 条以上。数据质量比数量更重要——100 条精心编写的数据,好过 10000 条杂乱数据。数据需要涵盖你想模型学会的各种场景与边界情况。
A:可以,而且是最佳做法。常见策略是「微调改风格 + Prompt 改内容」:用微调令模型学会你的品牌语气与输出格式,再用 Prompt 控制每次具体要做什么。再配合 RAG 补充知识,就是「微调 + Prompt + RAG」的黄金组合。