Octop用量统计功能详解:Token消耗与成本监控怎么做 📅 发布时间:2026/9/20 14:25:23 👁 浏览次数: Octop用量统计功能详解Token消耗与成本监控怎么做【免费下载链接】OctopA smarter, self-hosted AI assistant — multi-user, multi-agent.项目地址: https://gitcode.com/GitHub_Trending/oct/OctopOctop 是一款自托管self-hosted的多用户、多智能体 AI 助手。它内置了用量统计模块把每一次对话的 Token 消耗自动记账输入/输出 Token、缓存命中、推理 Token、模型调用次数一应俱全支持按天、按专家、按模型三个维度汇总还能一键导出 Excel。对于想搞清楚我的 AI 每月到底花了多少钱的团队来说这是一套开箱即用的成本监控方案。用量统计到底记录了什么Octop 在每轮对话结束后都会把该轮的模型调用数据写入usage_log账本。数据来自模型返回的 usage 字段经过归一化处理统一拆成互不重叠的桶核心字段如下字段含义input_tokens输入 Token 总量uncached_input_tokens未命中缓存的输入 Token真实计费大头cache_read_tokens缓存命中读取的 Token通常更便宜cache_write_tokens写入缓存的 Tokenoutput_tokens输出 Tokenreasoning_tokens推理模型消耗的推理 Tokenmodel_calls本轮实际调用模型次数记账逻辑在 usage_record.py 中实现账本查询层在 usage.py两者保证了聊天流程不会因为统计出错而中断。三步打开 Token 统计面板登录 Octop 控制台Docker 部署方式可参考 docker/README.md。在左侧导航栏进入控制台 → Token 统计英文版显示为 Token Usage。页面默认展示最近 30 天的按天明细切换顶部分段控件即可查看不同视图。面板源码位于 dashboard/src/pages/Control/TokenUsage/index.tsx前端基于 Recharts 绘制图表无需任何额外配置。四种视图概览、按天、按专家、按模型统计面板提供四种粒度对应 API 的granularity参数概览summary总 Token、模型调用次数、平均单轮消耗、缓存命中率配合环形图一目了然。按天by_day每日输入/输出 Token 堆叠柱状图快速发现哪一天用量异常。按专家by_agent看每个智能体Agent各消耗了多少 Token找出吃 Token 大户。按模型by_model看每个模型提供商/模型的消耗占比评估换更便宜的模型是否划算。时间窗口怎么选统计接口支持灵活的时间范围window参数定义见 usage.py快捷预设today、yesterday、last_7d、last_30d、all精确指定day:2026-09-01、month:2026-09自定义区间range:2026-09-01:2026-09-15时间解析按服务器时区计算见 usage.py 中的resolve_usage_window跨时区团队也能对齐账单周期。一键导出 Excel 账单面板右上角的下载按钮会调用GET /api/usage/export.xlsx生成与当前筛选条件一致的 Excel 明细文件。文件内包含三个工作表逐条明细、按天汇总、按专家/模型汇总方便直接丢进财务系统做成本分摊。导出实现位于 xlsx_export.py明细导出上限为 5 万行普通团队完全够用。管理员全局成本监控管理员额外拥有全局视角GET /api/admin/usage/summary全服务器 Token 汇总可用user_id、agent_id参数进一步筛选到某个用户或某个智能体。GET /api/admin/usage/export.xlsx导出全局 Excel 账单。普通用户接口也支持?as_userN仅管理员可以代查指定用户的用量。也就是说团队管理员可以回答哪个用户最烧钱哪个 Agent 性价比最低这类问题而普通用户只能看到自己的账本——权限模型在 usage.py 中通过_resolve_user_scope严格控制。API 完整清单可查阅 docs/api.md。成本监控实战建议每周看一眼缓存命中率命中率越高未缓存输入越少实际账单越低如果持续偏低考虑优化提示词前缀的稳定性。按模型对比单价用按模型视图算出各模型 Token 占比结合供应商定价折算真实成本。给 Agent 设预算节奏导出月度 Excel 后按专家维度做趋势线为每个智能体设定月度预算基线。管理员定期巡检用全局视图 as_user参数把异常用户的用量单独拉出来分析。常见问题Q统计会影响聊天速度吗不会。记账采用尽力而为策略record_turn_usage中异常被静默吞掉即使某次模型未返回 usage 字段也不会影响正常对话。QToken 数据和模型账单一定相等吗Octop 统计的是模型 API 返回的 usage 数值与供应商计费口径基本一致具体金额还需结合供应商定价含缓存折扣自行折算。Q数据存在哪里usage_log表由内置数据库管理支持 SQLite/PostgreSQL 双后端架构说明见 docs/adr/002-database-backends.md。掌握 Octop 的用量统计功能你就能看到每一分 Token 花在了哪里——这也是自托管 AI 助手从能用走向用得起的关键一步。【免费下载链接】OctopA smarter, self-hosted AI assistant — multi-user, multi-agent.项目地址: https://gitcode.com/GitHub_Trending/oct/Octop创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考