什麼是上下文窗口?AI Context Window 解釋

📅 發佈:2026-10-12|🔄 更新:2026-10-12|✍️ AIToolMart 編輯團隊
📊 閱讀時間:約 5 分鐘

🏠 回首頁(新分頁)

一句話定義

上下文窗口(Context Window)係 AI 模型一次可以處理嘅 Token 上限。即係模型「睇到嘅嘢」嘅總量——包括你輸入嘅 Prompt、之前嘅對話歷史、同模型自己生成嘅回覆。超過呢個上限,模型就會「忘記」之前嘅內容。

簡單比喻:上下文窗口就係 AI 嘅「短期記憶容量」。如果窗口係 128K,即係 AI 最多記得 128,000 個 Token 嘅嘢——再多就會好似人類咁,記得開頭同結尾,但中間嘅細節就模糊咗。

上下文窗口包含啲咩?

一次對話中,上下文窗口嘅容量被以下幾部分瓜分:

  1. System Prompt(系統提示):設定模型角色同規則,通常 100-1000 Token
  2. 對話歷史:之前所有嘅問答,隨住對話進行不斷增加
  3. 你嘅最新 Prompt:而家呢條問題
  4. 模型嘅回覆(生成中都會佔用)

所以「128K 上下文」唔係你可以輸入 128K 字——而係所有嘢加埋唔可以超過 128K。

各模型上下文窗口對比(2026)

模型上下文窗口大約中文字數大約頁數
GPT-4o128K Token9-10 萬字~300 頁
GPT-4o mini128K Token9-10 萬字~300 頁
Claude Opus 4.x200K Token14-15 萬字~450 頁
Claude Sonnet 4.x200K Token14-15 萬字~450 頁
Gemini 1.5/2.0 Pro1M+ Token70-75 萬字~2000 頁
Gemini Flash1M Token70-75 萬字~2000 頁

數據來源:OpenAI、Anthropic、Google 官方文檔(2026 年核實)。實際可用窗口可能因 API 設定而異。

實際例子

如果你用 GPT-4o(128K 窗口)分析一份 50 頁嘅合約:

但如果係一份 500 頁嘅書(≈ 250,000 Token),就超過 128K 窗口,需要分段處理或者用 Gemini 1M+。

超出上下文窗口會點?

三種常見情況:

1. 自動截斷(最常見)

模型會自動「忘記」最舊嘅對話內容。你可能發覺 AI 突然唔記得你之前講過咩,或者答非所問。

2. 報錯

API 調用會返回 context_length_exceeded 錯誤,話你知輸入太長。

3. 「迷失中間」(Lost in the Middle)

⚠️ 重要認知

即使未超出窗口,當上下文好長時,模型對中間部分嘅記憶同理解會明顯下降。研究顯示,模型對開頭同結尾嘅資訊記得最牢,中間嘅細節容易被忽略。呢個叫「Lost in the Middle」現象。

上下文窗口越大越好嗎?

唔一定。大窗口有好處,但都有代價:

維度小窗口(32K)大窗口(200K+)
處理長文件❌ 要分段✅ 一次過
成本✅ 平❌ 貴(按 Token 收費)
速度✅ 快❌ 慢
準確度✅ 高(短上下文更精準)⚠️ 中間內容易遺忘
適合場景日常對話、寫作、翻譯長文件分析、合約審閱

結論:大部分日常任務 32K-128K 已經足夠。只有真係需要處理成百頁文件時,先需要 200K 或 1M+。

點樣有效利用長上下文?5 個技巧

  1. 重要資訊放開頭同結尾:模型對開頭同結尾記得最牢(啞鈴效應)。將關鍵要求、限制條件放喺 Prompt 嘅最前同最後
  2. 長文件先摘要:唔好將 100 頁 PDF 直接餵入。先用摘要工具濃縮到 2-3 頁,再畀模型分析
  3. 用 RAG 技術:只擷取同問題相關嘅片段放入上下文,而唔係成份文件。呢個係企業級應用嘅標準做法
  4. 定期總結對話:長對話中,不時叫模型「總結我哋之前講過嘅重點」,然後用總結代替完整歷史
  5. 分段處理 + 合併:將長文件分成多段,分別分析,最後叫模型合併結果。比一次過塞入更可靠

常見誤解

❌ 誤解:上下文窗口 = 可以輸入嘅字數

✅ 正確:上下文窗口係「輸入 + 輸出 + 對話歷史」嘅總和。你可以輸入嘅字數 = 窗口大小 - 預留輸出空間 - 已有對話。

❌ 誤解:1M 上下文嘅模型一定比 128K 好

✅ 正確:唔一定。1M 窗口嘅模型處理短任務時可能反而慢同貴,而且「迷失中間」問題更嚴重。視乎任務選擇。

❌ 誤解:只要唔超出窗口,模型就記得所有嘢

✅ 正確:唔係。即使喺窗口內,模型對中間內容嘅注意力都會下降。重要嘢要反覆強調或者放喺顯眼位置。

相關術語

常見問題(FAQ)

Q:上下文窗口係咩意思?

A:上下文窗口(Context Window)係 AI 模型一次可以處理嘅 Token 上限,即係模型「睇到嘅嘢」嘅總量——包括你輸入嘅 Prompt、之前嘅對話、同模型生成嘅回覆。超過呢個上限,模型就會「忘記」之前嘅內容。

Q:128K 上下文窗口等於幾多字?

A:128K Token 大約等於 9-10 萬個中文字,或者 9.6 萬個英文單字。足夠處理大約 300 頁書嘅內容。

Q:邊個模型上下文窗口最大?

A:2026 年主流模型中,Gemini 1.5/2.0 Pro 支援 1M+ Token(大約 75 萬字),Claude Opus/Sonnet 係 200K,GPT-4o 係 128K。但上下文越大,成本越高、速度越慢。

Q:超出上下文窗口會點?

A:三種可能:1) 模型自動截斷最舊嘅內容(你會「失去」之前嘅對話);2) 報錯話 context length exceeded;3) 模型質素下降,因為中間內容被遺忘(「迷失中間」問題)。

Q:上下文窗口越大越好嗎?

A:唔一定。大窗口可以處理長文件,但成本更高、回應更慢,而且模型容易「迷失中間」——忘記上下文中間嘅內容。大部分日常任務 32K-128K 已經足夠。

Q:點樣有效利用長上下文?

A:1) 重要資訊放開頭同結尾(模型記得最牢);2) 長文件先摘要再餵入;3) 用 RAG 技術只擷取相關片段;4) 定期總結對話,避免無限累積。

相關閱讀

想知邊個 AI 工具最適合你?

用一句話描述你嘅需求,AI 直接幫你配對。

✨ AI 幫你搵工具 →

🏠 回首頁(新分頁)