跳到主要内容

AI营销工作方法 / 知识与检索

上下文窗口(Context Window)

上下文窗口是模型在一次请求中可引用的工作记忆容量;材料、工具和输出都要共同占用这份预算。

TimZhang踢木桩 Wiki术语信息

AI营销工作方法 / 知识与检索

上下文窗口

Context Window

术语信息

英文名称
Context Window
内容类型
技术机制
适用主题
AI营销工作方法 · 知识与检索

机制输入

  • 当前任务规则与买家问题
  • 经确认的资料片段、历史消息与必要工具结果
  • 模型规格和预期输出长度

可检查的输出

  • 带来源与适用范围的任务上下文
  • 有足够空间按约定格式完成的初稿或摘要
  1. 01

    组成当前请求

    系统规则、问题、资料、对话和工具信息进入本次模型调用。

  2. 02

    共同占用窗口

    输入内容与本轮输出共享模型可引用的有限 token 容量。

  3. 03

    选择与组织材料

    保留当前、相关且可追溯的片段,移除过期、重复和无关历史。

  4. 04

    生成并复核输出

    在预留输出空间内生成结构化结果,关键事实回到来源与责任人确认。

采用与核验条件

  • 核对所用模型的上下文窗口、最大输出和接口限制。
  • 列出本轮系统规则、资料、历史、工具结果和预期输出,确认总量有余量。
  • 资料片段保留型号、市场、版本、来源和有效范围;无关或过期内容不进入当前请求。
  • 使用真实 B2B 问题检查输出是否仍能标出依据、未知项和需人工确认的内容。

使用边界

何时值得纳入判断

  • 要让模型基于长手册、多个资料片段或连续对话起草、归纳或回答问题。
  • 要接入检索、工具调用或多轮智能体,并需要保证输出仍有足够空间时。

判断时不宜据此推断

  • 模型在训练过程中见过的全部知识,或企业知识库本身。
  • 把所有 PDF、历史聊天和工具结果放进去后就会自动得到准确结论的保证。
  • 对认证、性能、价格、交期、合规或客户承诺的事实审核替代品。
  • 只看模型标称窗口,不为输出和工具结果留出预算:请求可能超限或无法完成格式。
  • 把完整历史与全部文件都带入:当前事实被重复、过期或无关材料淹没。
  • 把能放入窗口误当成能对外使用:认证、报价、交期和合规仍需来源与责任人复核。

窗口保存的是这一次任务的工作记忆

上下文窗口不是模型的大脑容量,也不是训练语料的总和。Anthropic 将它说明为模型生成回应时可引用的全部文本,包括回应本身,因此更接近一次任务中的工作记忆。模型能否引用某个事实,取决于它是否仍在这次请求的上下文中,以及该资料是否真的适用于当前问题。

参考:Claude Platform Docs

窗口大小是模型规格的一部分。OpenAI 的模型文档分别列出上下文窗口与最大输出 token;不同模型和接口的上限不同。选模型时只看一个“长上下文”数字不够,还要问:本轮要输入多少已批准材料、预期产物有多长,以及是否有工具或历史消息同时占用空间。

参考:OpenAI API

输入和输出必须共用同一份预算

一次请求的输入可包括系统规则、对话历史、用户问题、检索片段、工具定义、工具结果、图片和文档;本轮生成的回答也会占用窗口。若只计算上传文件而没有为回答留出空间,模型可能无法完成预期格式,或请求在发送前就超过限制。Anthropic 的文档明确提示,所有这些组成部分都计入窗口。

参考:Claude Platform Docs

组成部分B2B 内容团队要检查什么
任务规则是否只保留本次页面、语言、市场和不可主张事项。
事实资料是否来自当前型号、版本与授权范围,并能回到原始来源。
历史与工具旧对话、搜索结果和工具返回值是否仍服务当前判断。
输出预留FAQ、表格或摘要需要多少字段与长度,是否还有人工复核标记。

需要处理大量材料时,Google 将长上下文作为一种能力:模型可以接受更大的文本、文件或多模态输入。但容量不是资料质量规则;团队仍要按当前问题选择片段、说明来源,并检查模型与接口的实际限制。

参考:Google AI for Developers

先筛选和组织资料,再扩大窗口

把全部资料放进上下文,会同时带入过期参数、重复说法和不适用市场的信息。窗口只说明模型可以看到什么,不说明它应当相信什么。对外内容应优先放入经确认的事实、问题相关的片段和可见的来源;不确定的内容改为待确认项,而不是让模型用相邻文本补全。

更多上下文也不自动带来更好的回忆或判断。Anthropic 在其上下文管理说明中提示,随着 token 增多,准确性和回忆可能下降;因此需要管理历史内容,而非仅追求最大容量。对团队来说,这意味着每轮都应判断哪些内容仍有用,而不是把一次失败归因于“窗口不够大”。

参考:Claude Platform Docs

  • 先固定任务:一个型号、一个市场、一个买家问题或一个可检查交付物。
  • 只带入当前有效的片段,并保留来源、版本、适用范围和负责人。
  • 为输出字段留出空间;若需要引用、表格或待确认项,应在任务设计时写明。
  • 超过预算时,先压缩或分步处理,再决定是否需要更长上下文或额外的检索流程。

把窗口放在检索和人工复核之间使用

上下文窗口回答“模型此刻能看到多少”,知识检索回答“应从资料中找回哪些候选内容”,提示词工程回答“要完成什么任务、受哪些约束”。三者不能互相替代:检索找回的片段仍需选择进入窗口,提示词仍需说明输出与例外,关键事实仍由拥有业务信息的人确认。

当任务扩展为可调用工具的智能体时,工具定义、调用结果和会话历史也会消耗预算。应将每次工具返回限制为后续判断真正需要的字段,并在连续任务中检查旧结果是否还适用。这样既保留可追溯依据,也避免无关历史挤占当前对买家问题的回答空间。

参考:Claude Platform Docs

窗口管理的完成标准不是“塞进最多文件”,而是审核者能看出本次回答依据了哪些当前资料、哪些信息被标为待确认,以及模型是否仍有足够空间按约定格式交付。

资料来源

以下资料支持本页的技术事实、口径或工作定义。

  1. 01
    Context windows

    Claude Platform Docs · 核验于 2026年8月11日

  2. 02
    Long context

    Google AI for Developers · 核验于 2026年8月11日

  3. 03
    Models

    OpenAI API · 核验于 2026年8月11日

作者与复核

作者:Tim Zhang

最后复核:2026年8月11日

相关概念