推理模型的能力,与 AI 智能体必须处理的挑战高度契合。
一个智能体需要:
- 感知环境
- 处理信息
- 采取行动
- 在需要时进行调整
而这正是推理模型,或者基于推理的提示技术,所擅长应对的事情。
案例研究:客户服务智能体
设想一个用于客户服务的 Agentic AI 系统。
一位用户提交了一条投诉:
我今天收到了自行车架,但支臂损坏了,无法扣紧。
系统可以使用一个推理模型,把这个问题拆解成一系列子任务,并制定逐步计划:
- 查找客户在 CRM 中的订单记录
- 检查公司关于退货和损坏商品的政策
- 决定最终解决方案,例如退款或换货
委派与执行
一种高效的方法是:
让推理模型负责规划,而把具体工作委派给更小、更便宜的模型来完成。
例如:
- 第一个任务会发送给一个轻量级 GPT 模型,由它去查询 CRM,找出客户最近的订单
- 第二个任务也可以交给同一个模型,让它查找相关公司政策,检索信息并做摘要
- 最后,决策任务再交给另一个模型,由它综合所有已收集的信息,判断最终应该给出退款还是换货
复核
最终的决策结果会返回给推理模型进行复核。
然后,模型可以:
- 结束整