GPT Researcher 用 Claude、GPT-5 等长输出模型报告被截断时怎么调整 SMART_TOKEN_LIMIT【免费下载链接】gpt-researcherAn autonomous agent that conducts deep research on any data using any LLM providers项目地址: https://gitcode.com/GitHub_Trending/gp/gpt-researcher用 GPT Researcher 跑研究时如果把SMART_LLM换成 Claude 4.x 或 GPT-5 这类输出能力更强的模型生成的报告可能在段落中间突然结束、内容不完整。官方文档明确说明默认的 token 限制是按 GPT-4o 级别模型16k 最大输出校准的对于输出容量更大的模型需要把SMART_TOKEN_LIMIT及相关变量提高到默认值之上否则会出现截断报告truncated reports。LLM 配置文档 中专门用一段引用块提示了这一点并指向 配置文档 的推荐值表格。本文按确认问题 → 选值 → 配置 → 验证的顺序给出操作路径。确认截断是否由 token 限制引起SMART_TOKEN_LIMIT控制 smart LLM 响应的最大 token 数即研究报告、推理这类 smart 操作的输出上限config.md 中对它的定义是 Maximum token limit for smart LLM responses。研究报告生成时SMART_TOKEN_LIMIT会作为max_tokens传入 LLM 调用见 report_generation.py所以报告长度被卡在这个值上时模型就会在中途停写。两个文档中记录过的截断现象可以作为判断参考深度研究报告不完整、结果不一致issue 归因于 token limits 和 provider TPM caps维护者的处理建议就是调高SMART_TOKEN_LIMITISSUE_BACKLOG.md 中 #1378。多 Agent 场景下reviewer 的 JSON 输出因SMART_TOKEN_LIMIT过低被截断、无法修复导致修复循环一直转同上文件 #1137。另外SMART_TOKEN_LIMIT有硬性上限 200000防止写错的 sanity guard。如果值被误配得超过 200kllm.py 中的create_chat_completion会直接抛出ValueError错误信息会提示max_tokens... exceeds the largest output limit of any currently available model (128k as of late 2025). Check your FAST_TOKEN_LIMIT / SMART_TOKEN_LIMIT / STRATEGIC_TOKEN_LIMIT env vars for typos.出现这条报错时问题不是值太小而是环境变量写错了。一个需要注意的默认值差异config.md 写SMART_TOKEN_LIMIT默认值是6000而仓库内 default.py 当前默认值是12000同文件中FAST_TOKEN_LIMIT为6000、STRATEGIC_TOKEN_LIMIT为8000。两处不一致判断当前环境实际生效的默认值时以你安装的版本中default.py为准。按所用模型选择推荐值config.md 给出的长输出模型推荐值如下模型系列最大输出推荐 SMART_TOKEN_LIMITGPT-4o / GPT-4.116k8000Claude Haiku 4.564k16000Claude Sonnet 4.664k16000Claude Opus 4.7128k32000GPT-5 系列128k32000两点配套说明均来自同一文档如果你的FAST_LLM、STRATEGIC_LLM用的是不同的模型需要给FAST_TOKEN_LIMIT和STRATEGIC_TOKEN_LIMIT按同样比例设置相应数值。对于 reasoning 模型这个限制在 default.py 的注释中说明会映射到max_completion_tokens该额度同时覆盖 reasoning tokens因此在可见输出之上还需要预留余量llm.py 中对应注释也说预算需要额外的 headroom。配置方法文档给出两条路径改.env/ 手动 export或者提供外部 JSON 配置文件。方式一环境变量.env 或 exportconfig.md 说明可以直接在.env文件中添加与配置项同名的变量或在本地手动 export。以 GPT-5 系列模型为例export SMART_TOKEN_LIMIT32000如果 fast/strategic 角色也换了长输出模型按比例追加例如export FAST_TOKEN_LIMIT16000 export STRATEGIC_TOKEN_LIMIT16000方式二外部 config.json也可以在config_path参数中指定一个自定义 JSON 文件格式需与默认 config 的键一致下面按文档示例格式裁剪只保留与本文相关的键SMART_TOKEN_LIMIT按上表 GPT-5 系列的推荐值 32000 填写{ SMART_LLM: openai:gpt-5.4, FAST_TOKEN_LIMIT: 16000, SMART_TOKEN_LIMIT: 32000, STRATEGIC_TOKEN_LIMIT: 16000 }启动时指定该文件命令来自 config.mdpython gpt_researcher/main.py --config_path my_config.json如果同时使用 Anthropic 模型SMART_LLM等变量需按 llms.md 的 Anthropic 章节设置如SMART_LLManthropic:claude-3-opus-20240229并确保安装了langchain-anthropicDocker 场景需要把该依赖加入 requirements.txt。验证配置是否生效用官方 LLM 连通性脚本做基础验证testing-your-llm.md 提供了一个验证 LLM 环境变量配置是否正确的代码片段仓库中对应文件为 test-your-llm.py它读取当前Config里的smart_token_limit并实际发起一次调用from gpt_researcher.config.config import Config from gpt_researcher.utils.llm import create_chat_completion import asyncio from dotenv import load_dotenv load_dotenv() async def main(): cfg Config() try: report await create_chat_completion( modelcfg.smart_llm_model, messages [{role: user, content: sup?}], temperature0.35, llm_providercfg.smart_llm_provider, streamTrue, max_tokenscfg.smart_token_limit, llm_kwargscfg.llm_kwargs ) except Exception as e: print(fError in calling LLM: {e}) # Run the async function asyncio.run(main())这个脚本的作用是确认 provider、模型名和 token 限制这套组合能正常调通出现Error in calling LLM: ...说明环境变量或依赖有问题需要先解决它再谈报告截断。重跑研究任务确认报告完整基础调通后用与截断时相同的研究任务重跑一次。文档给出的目标结果就是avoid truncated reports报告应能完整生成而不是在半句处中断。注意 llms.md 同时提醒GPT Researcher 是在 GPT 模型上优化和大量测试的其他模型可能会遇到 context limit 错误和异常响应——如果调高SMART_TOKEN_LIMIT后问题依旧先核对模型名是否被 provider 正确支持而不是继续加大这个值。边界与已知限制硬性上限 200kSMART_TOKEN_LIMIT超过 200000 会触发ValueError见上文报错信息这是防笔误的保护不是可突破的配额。reasoning 模型额度共享对 reasoning 模型max_completion_tokens同时覆盖 reasoning tokens 和可见输出文档注释建议在可见输出之上预留余量取值时不要只按最终报告长度估算。provider 侧限制仍然存在issue #1378 中截断的成因除了 token limits还包括 provider TPM caps。调高SMART_TOKEN_LIMIT解决的是本项目侧的输出上限provider 的配额限制需要另行处理。多 Agent 场景低SMART_TOKEN_LIMIT导致 JSON 被截断还会引发 reviewer 修复循环issue #1137调高该值是消除这一现象的前提。【免费下载链接】gpt-researcherAn autonomous agent that conducts deep research on any data using any LLM providers项目地址: https://gitcode.com/GitHub_Trending/gp/gpt-researcher创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
GPT Researcher 用 Claude、GPT-5 等长输出模型报告被截断时怎么调整 SMART_TOKEN_LIMIT
GPT Researcher 用 Claude、GPT-5 等长输出模型报告被截断时怎么调整 SMART_TOKEN_LIMIT【免费下载链接】gpt-researcherAn autonomous agent that conducts deep research on any data using any LLM providers项目地址: https://gitcode.com/GitHub_Trending/gp/gpt-researcher用 GPT Researcher 跑研究时如果把SMART_LLM换成 Claude 4.x 或 GPT-5 这类输出能力更强的模型生成的报告可能在段落中间突然结束、内容不完整。官方文档明确说明默认的 token 限制是按 GPT-4o 级别模型16k 最大输出校准的对于输出容量更大的模型需要把SMART_TOKEN_LIMIT及相关变量提高到默认值之上否则会出现截断报告truncated reports。LLM 配置文档 中专门用一段引用块提示了这一点并指向 配置文档 的推荐值表格。本文按确认问题 → 选值 → 配置 → 验证的顺序给出操作路径。确认截断是否由 token 限制引起SMART_TOKEN_LIMIT控制 smart LLM 响应的最大 token 数即研究报告、推理这类 smart 操作的输出上限config.md 中对它的定义是 Maximum token limit for smart LLM responses。研究报告生成时SMART_TOKEN_LIMIT会作为max_tokens传入 LLM 调用见 report_generation.py所以报告长度被卡在这个值上时模型就会在中途停写。两个文档中记录过的截断现象可以作为判断参考深度研究报告不完整、结果不一致issue 归因于 token limits 和 provider TPM caps维护者的处理建议就是调高SMART_TOKEN_LIMITISSUE_BACKLOG.md 中 #1378。多 Agent 场景下reviewer 的 JSON 输出因SMART_TOKEN_LIMIT过低被截断、无法修复导致修复循环一直转同上文件 #1137。另外SMART_TOKEN_LIMIT有硬性上限 200000防止写错的 sanity guard。如果值被误配得超过 200kllm.py 中的create_chat_completion会直接抛出ValueError错误信息会提示max_tokens... exceeds the largest output limit of any currently available model (128k as of late 2025). Check your FAST_TOKEN_LIMIT / SMART_TOKEN_LIMIT / STRATEGIC_TOKEN_LIMIT env vars for typos.出现这条报错时问题不是值太小而是环境变量写错了。一个需要注意的默认值差异config.md 写SMART_TOKEN_LIMIT默认值是6000而仓库内 default.py 当前默认值是12000同文件中FAST_TOKEN_LIMIT为6000、STRATEGIC_TOKEN_LIMIT为8000。两处不一致判断当前环境实际生效的默认值时以你安装的版本中default.py为准。按所用模型选择推荐值config.md 给出的长输出模型推荐值如下模型系列最大输出推荐 SMART_TOKEN_LIMITGPT-4o / GPT-4.116k8000Claude Haiku 4.564k16000Claude Sonnet 4.664k16000Claude Opus 4.7128k32000GPT-5 系列128k32000两点配套说明均来自同一文档如果你的FAST_LLM、STRATEGIC_LLM用的是不同的模型需要给FAST_TOKEN_LIMIT和STRATEGIC_TOKEN_LIMIT按同样比例设置相应数值。对于 reasoning 模型这个限制在 default.py 的注释中说明会映射到max_completion_tokens该额度同时覆盖 reasoning tokens因此在可见输出之上还需要预留余量llm.py 中对应注释也说预算需要额外的 headroom。配置方法文档给出两条路径改.env/ 手动 export或者提供外部 JSON 配置文件。方式一环境变量.env 或 exportconfig.md 说明可以直接在.env文件中添加与配置项同名的变量或在本地手动 export。以 GPT-5 系列模型为例export SMART_TOKEN_LIMIT32000如果 fast/strategic 角色也换了长输出模型按比例追加例如export FAST_TOKEN_LIMIT16000 export STRATEGIC_TOKEN_LIMIT16000方式二外部 config.json也可以在config_path参数中指定一个自定义 JSON 文件格式需与默认 config 的键一致下面按文档示例格式裁剪只保留与本文相关的键SMART_TOKEN_LIMIT按上表 GPT-5 系列的推荐值 32000 填写{ SMART_LLM: openai:gpt-5.4, FAST_TOKEN_LIMIT: 16000, SMART_TOKEN_LIMIT: 32000, STRATEGIC_TOKEN_LIMIT: 16000 }启动时指定该文件命令来自 config.mdpython gpt_researcher/main.py --config_path my_config.json如果同时使用 Anthropic 模型SMART_LLM等变量需按 llms.md 的 Anthropic 章节设置如SMART_LLManthropic:claude-3-opus-20240229并确保安装了langchain-anthropicDocker 场景需要把该依赖加入 requirements.txt。验证配置是否生效用官方 LLM 连通性脚本做基础验证testing-your-llm.md 提供了一个验证 LLM 环境变量配置是否正确的代码片段仓库中对应文件为 test-your-llm.py它读取当前Config里的smart_token_limit并实际发起一次调用from gpt_researcher.config.config import Config from gpt_researcher.utils.llm import create_chat_completion import asyncio from dotenv import load_dotenv load_dotenv() async def main(): cfg Config() try: report await create_chat_completion( modelcfg.smart_llm_model, messages [{role: user, content: sup?}], temperature0.35, llm_providercfg.smart_llm_provider, streamTrue, max_tokenscfg.smart_token_limit, llm_kwargscfg.llm_kwargs ) except Exception as e: print(fError in calling LLM: {e}) # Run the async function asyncio.run(main())这个脚本的作用是确认 provider、模型名和 token 限制这套组合能正常调通出现Error in calling LLM: ...说明环境变量或依赖有问题需要先解决它再谈报告截断。重跑研究任务确认报告完整基础调通后用与截断时相同的研究任务重跑一次。文档给出的目标结果就是avoid truncated reports报告应能完整生成而不是在半句处中断。注意 llms.md 同时提醒GPT Researcher 是在 GPT 模型上优化和大量测试的其他模型可能会遇到 context limit 错误和异常响应——如果调高SMART_TOKEN_LIMIT后问题依旧先核对模型名是否被 provider 正确支持而不是继续加大这个值。边界与已知限制硬性上限 200kSMART_TOKEN_LIMIT超过 200000 会触发ValueError见上文报错信息这是防笔误的保护不是可突破的配额。reasoning 模型额度共享对 reasoning 模型max_completion_tokens同时覆盖 reasoning tokens 和可见输出文档注释建议在可见输出之上预留余量取值时不要只按最终报告长度估算。provider 侧限制仍然存在issue #1378 中截断的成因除了 token limits还包括 provider TPM caps。调高SMART_TOKEN_LIMIT解决的是本项目侧的输出上限provider 的配额限制需要另行处理。多 Agent 场景低SMART_TOKEN_LIMIT导致 JSON 被截断还会引发 reviewer 修复循环issue #1137调高该值是消除这一现象的前提。【免费下载链接】gpt-researcherAn autonomous agent that conducts deep research on any data using any LLM providers项目地址: https://gitcode.com/GitHub_Trending/gp/gpt-researcher创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
