为什么多轮对话必须带上 `assistant` 角色的历史回复

为什么多轮对话必须带上 `assistant` 角色的历史回复

我们会把标记为assistant角色、也就是模型之前输出过的所有回复,重新追加到对话历史中。

为什么必须带上模型自己生成的消息? 因为模型在两次接口调用之间不存在任何记忆留存。 每一次 API 请求都是无状态独立运行,模型每次都会从零开始、完全清空上下文。 模型唯一能读取到的 “记忆”,就是你手动填入消息列表(messages list)里的全部内容。 因此,如果想要实现连贯的多轮对话,你必须手动把完整历史上下文随请求一并传入。

你需要携带的内容包括:系统提示词、用户第一轮提问、模型上一轮给出的回复,以及用户本次新的追问。

模型会读取完整的整段对话记录。当它读到 “这座城市人口是多少?” 时,能明白句里的 “这座城市” 指代巴黎 —— 因为前一轮对话内容完整存放在消息列表中。 如果历史记录里缺少模型输出的 assistant 消息,模型完全无法判断 “这座城市” 究竟指代什么。

所有聊天机器人都是依靠这套机制维持上下文连贯性的: 它没有真正意义上的持久记忆,而是每一次调用接口时,都把整段聊天记录完整重传给模型。

为什么多轮对话必须带上assistant角色的历史回复

1. 底层核心:大模型 API 是无状态(Stateless)

大模型服务端不会保存任何对话缓存、会话记忆。 每一次你调用 API 发送请求,都是一次全新、孤立的运算:

  • 模型进程不会记住上一轮对话;
  • 两次请求之间没有共享内存、没有持久化聊天记录;
  • 它唯一的输入,就是你本次请求里完整的messages数组。

所有对话上下文,只能由调用方(你的代码)手动拼接、完整传给模型

2. 指代、上下文依赖完全依靠完整对话链理解

拿图里的例子拆解:

[ {"role": "system", "content": "Travel assistant"}, {"role": "user", "content": "Capital of France?"}, {"role": "assistant", "content": "Paris."}, {"role": "user", "content": "Population of that city?"} ]

用户第二句里的that city(这座城市)指代代词,必须依靠上文才能确定指代对象:

  1. 若缺失assistant: Paris.这条记录: 模型只能看到:法国首都是什么?→ 这座城市人口多少? 中间缺少模型给出的答案 “巴黎”,模型无法推断that city指巴黎,会出现语义断裂、答非所问。
  2. 带上完整assistant回复: 对话逻辑闭环:用户提问→模型给出答案→用户基于模型的答案继续追问,代词的指代关系完整可追溯。

3. 对话角色规则要求:交替 user /assistant

主流大模型(OpenAI、通义千问、DeepSeek、GLM 等)都强制要求messages遵循交替结构:system → user → assistant → user → assistant ...

  • 角色顺序错乱、缺少assistant消息,会触发接口报错;
  • 即使不报错,模型也会混淆 “谁说了什么”,分不清哪些是用户指令、哪些是自己之前的回答,逻辑混乱。

4. 模型学习逻辑:区分双方发言边界

训练时,模型通过role字段区分两种身份:

  • user:人类用户的提问、需求;
  • assistant:模型自身输出的回答。

当它生成新一轮回复时,会模仿自己历史assistant消息的语气、格式、回答风格; 如果删掉历史assistant内容,模型丢失自己之前的输出样本,回答风格、上下文承接都会脱节。

5. 通俗总结

模型没有 “大脑记忆”,每一轮对话都要你把完整聊天剧本发给它。 剧本里不能只写用户说的话,必须同时写上模型自己上一轮说了什么,否则它不知道自己之前给出了什么结论,看不懂你后续带指代、承接上文的追问。

简单类比: 你每次和模型聊天,都要把完整聊天记录截图发给它,它只看这张截图来回答;截图里少了它自己上一句的回答,它就看不懂你接下去的话。