从 2024 年开始大模型从一个“炫技品”变成了真正能写代码、跑流程、扛业务的生产力工具。但随之而来的一个尴尬问题也越来越明显AI 账单到底是怎么变大的谁都说不清楚。很多人只看到月底一张数字惊人的云账单但钱花在了哪个模型、哪个成员、哪次调用上完全是一团黑盒。ChatGPT 订阅、Claude API、通义千问、文心一言、Kimi、OpenRouter各家计费单位还不统一有时按 token有时按 credits有时按请求次数。此时如果你和室友、朋友或一个小团队共享某个 AI 服务月底平摊费用时很容易产生“我根本没怎么用为什么也要付这么多”的争执。TokenMaxxer 这个项目正是在这个场景下出现的。它想做的事很简单把 AI 使用情况变成一个朋友之间的排行榜让每一个人花掉的 token、产生的费用、调用的模型都公开可见。表面上看这是一个“带点娱乐性质”的排行榜工具但深一层看它解决的是 AI 基础设施长期缺失的一块拼图费用可观测性。这篇文章会围绕 TokenMaxxer 做一次完整的技术拆解重点包括这类工具到底解决了什么真实问题适合谁用想自己实现一个“AI 消费排行榜”核心架构该怎么设计从零写一个最小可运行的 AI 用量追踪服务包含数据采集、存储和排行榜展示实际落地时的选型判断、常见坑和工程建议。如果你也正在被“AI 账单不透明”“团队里不知道谁在烧钱”“不同模型计费口径不统一”这些问题困扰这篇教程可以直接拿去参考。1. 这篇文章真正要解决的问题TokenMaxxer 的字面意思是“Token 最大者”。排行榜这种形式会让人第一时间联想到运动步数、游戏成就这类“社交激励”玩法。但它的本质并不是娱乐而是把 AI 成本这个抽象概念变成可感知、可对比、可管理的数据。为什么这件事重要因为在真实开发环境中AI 支出的增长速度和可观测性是严重不匹配的。以一个小团队为例代码里接了 OpenAI 的 GPT-4o分析场景接了 Claude前端做摘要用了一个国产大模型还有同事在后台跑批量实验每次调用几千条文本。这种情况下你很难回答一个问题“这周我们到底烧了多少钱谁烧得最多”很多人以为登录云厂商后台看账单就行但实际上各模型的计费字段不同。OpenAI 返回prompt_tokens和completion_tokensAnthropic 返回input_tokens和output_tokens有的平台还标成credits。云端账单往往延迟数小时甚至一天不适合做实时排行。账单按账号维度聚合看不到**“哪个人/哪个项目”**花了多少钱。TokenMaxxer 的排行榜设计恰好把这些信息从“账单后台”搬到了“日常社交场景”里。每周看到自己在排行榜上位居第一自然会思考我是不是调用了太多高成本模型有哪些请求是可以缓存或降级的这里最值得开发者关注的不只是“排行榜”这个产品形态而是它背后的AI 费用可观测性思路。即使不打算用这个工具把它的数据采集、聚合、展示逻辑理解清楚也能为你自己的 AI 应用中增加一个非常有价值的“成本监控模块”。2. 核心概念Token、计费方式与用量字段在动手写代码之前需要先把几个基础概念理解清楚。很多人在实现“AI 消费排行榜”时卡住不是因为代码不会写而是因为不同平台的用量数据长得不一样。2.1 什么是 TokenToken 是大模型的最小文本处理单位。它可以是一个单词的一部分、一个标点、或一个汉字。大体上一个英文单词约等于 1 到 2 个 token一个中文汉字可能对应 1 到 2 个 token。理解 token 的关键是它不是“字数”那么简单。不同模型使用不同的 tokenizer分词器导致同一个句子在 GPT-4 和 Claude 里统计出的 token 数可能不同。因此排行榜上如果要对比不同模型的使用量不能只看 token 总数还要参考“模型单价”或“等效成本”。2.2 不同平台的计费结构从实际接口返回来看目前主流平台通常会在每次请求的响应里带上 usage 字段常见结构如下平台/协议输入字段输出字段说明OpenAI 兼容协议prompt_tokenscompletion_tokens多数框架都会转换成这种结构Anthropic APIinput_tokensoutput_tokens结构类似字段名不同部分聚合平台credits无直接把用量换算成积分或额度关于credits一些 AI 平台为了简化用户理解不直接暴露 token 数而是把每次请求折算成credits积分。这个值通常是“输入 token 数量 输出 token 数量 × 权重”之类算出来的。在做排行榜时如果拿不到原始 token也可以直接以 credits 作为排行指标但需要在展示上标注清楚。2.3 排行榜的核心指标一个 AI 消费排行榜数据维度不能只有“总花费”。不同角色的关注点不同普通成员想知道自己这个月调用了多少次、消耗了多少 token是不是某次循环写错了导致用量激增。团队负责人更关心总费用、人均费用、各模型费用占比。技术负责人关心哪些调用可以被缓存、哪些场景可以换更便宜的模型。因此一次有效的用量记录至少应该包含调用者标识用户 ID / API Key 别名调用的模型名称输入 token 数、输出 token 数请求时间本次请求的预估费用可按本地维护的单价表计算有了这些原始数据任何排行指标都可以后期聚合出来不必在设计表结构时就把所有维度定死。3. 实现思路与整体架构TokenMaxxer 这类“AI 消费排行榜”工具核心链路可以拆成四段AI 请求 - 用量采集 - 存储聚合 - 排行榜展示关键在于“用量采集”这一环。根据你的使用场景不同有三种常用方案3.1 方案一网关代理模式如果你控制着团队统一的 API 入口可以在网关层拦截所有 AI 请求记录用量后再转发到真实模型服务。优点改动对业务代码透明。可以统一处理不同平台的 usage 结构。在没有修改业务代码的情况下实现成本追踪。缺点需要维护一个代理服务有一定部署成本。需要保证代理的高可用否则会成为单点故障。3.2 方案二客户端埋点模式如果项目本身就是一个内部工具直接在业务代码中当调用完大模型接口后把响应里的 usage 发到统计服务。优点实现最简单不需要代理层。可以作为 SDK 集成到现有代码里。缺点必须改业务代码。如果团队里有多个项目需要重复接入容易遗漏。3.3 方案三云账单 API 拉取模式一些平台提供账单明细导出或查询 API可以定时拉取再聚合。优点数据最权威不需要自己采集。可靠不怕漏记。缺点延迟高不适合实时排行。只能按账号维度看通常看不到“哪个具体成员”的调用。不同平台 API 差异大开发成本高。如果从零做一个像 TokenMaxxer 这样的工具且希望朋友间都能用最合适的是方案一因为它不需要每个成员都改自己的代码。下面本文的示例也会按“网关代理模式”来实现一个最小但完整可跑通的服务。4. 环境准备与前置条件为了降低阅读成本下面示例技术栈选择比较通用的 Node.js Express SQLite。这三个组件普及率高安装简单也足够支撑一个小型排行榜服务。4.1 环境要求建议准备Node.js 18 或更高版本示例使用 CommonJS 模块低版本也能跑。npm 或 yarn。一个可用的 OpenAI 兼容 API Key用于转发测试没有也不影响看代码逻辑。本地能访问外网能调用到 AI 模型服务。如果你团队用的不是 Node.js换成 Python Flask/FastAPI 实现同样可以核心思路完全一致拦截请求、读取 usage、写入存储、聚合展示。4.2 项目结构建议这样组织代码方便后续扩展tokenmaxxer/ ├── package.json ├── .env ├── src/ │ ├── server.js # Express 入口 代理转发 │ ├── db.js # SQLite 初始化与写入方法 │ ├── leaderboard.js # 排行榜查询 API │ └── public/ │ └── index.html # 前端排行榜页面下面所有代码都按这个目录结构来写。5. 核心流程拆解实现一个最小 AI 消费排行榜核心流程分四步。每一步都不复杂但细节决定成败。5.1 拦截请求并转发客户端本来直接请求https://api.openai.com/v1/chat/completions现在改成请求我们的本地服务例如http://localhost:3000/v1/chat/completions。我们使用http-proxy-middleware之类的库将请求转发到真实 API同时在收到响应后把响应体解析出来提取usage字段。这一步的关键点在于不能破坏原有响应结构。也就是说调用方拿到的响应应该和直接调官方接口完全一致只是多复制了一份用量数据到本地数据库。5.2 用量归一化不同的模型服务usage 的字段名不同。为了统一存库需要在记录前做一次转换prompt_tokens completion_tokens total_tokens如果是 Anthropic 平台的响应将其input_tokens、output_tokens映射为上面的统一结构。5.3 成本估算排行榜如果只显示 token 数不够直观。最好能估算出费用。由于各模型单价差异很大网上也没有固定价格表更稳妥的做法是在当地配置文件里维护一份模型单价表按“美元 / 百万 token”为单位填写。这样既不依赖外部接口也方便学校、公司内部调整价格。5.4 聚合与展示SQLite 里按用户和日期聚合出总 token、总费用、调用次数然后按费用倒序排列返回给前端渲染。6. 完整示例代码实现下面给出一个最小可运行的完整示例。它实现了一个“本地 AI 网关 消费排行榜”服务。你可以直接复制到本地跑通再按需改造。6.1 初始化项目并安装依赖mkdir tokenmaxxer cd tokenmaxxer npm init -y npm install express http-proxy-middleware sqlite3 dotenv6.2 数据库初始化与用量写入文件路径src/db.jsconst sqlite3 require(sqlite3).verbose(); const path require(path); const dbPath path.join(__dirname, usage.db); const db new sqlite3.Database(dbPath); function init() { db.run( CREATE TABLE IF NOT EXISTS usage_log ( id INTEGER PRIMARY KEY AUTOINCREMENT, user_name TEXT NOT NULL, model TEXT NOT NULL, prompt_tokens INTEGER DEFAULT 0, completion_tokens INTEGER DEFAULT 0, total_tokens INTEGER DEFAULT 0, estimated_cost REAL DEFAULT 0, created_at TEXT DEFAULT (datetime(now, localtime)) ) ); } function insertUsage(record) { return new Promise((resolve, reject) { const { user_name, model, prompt_tokens, completion_tokens, total_tokens, estimated_cost } record; db.run( INSERT INTO usage_log (user_name, model, prompt_tokens, completion_tokens, total_tokens, estimated_cost) VALUES (?, ?, ?, ?, ?, ?), [user_name, model, prompt_tokens, completion_tokens, total_tokens, estimated_cost], function (err) { if (err) { reject(err); } else { resolve(this.lastID); } } ); }); } function queryLeaderboard(startDate, endDate) { return new Promise((resolve, reject) { db.all( SELECT user_name, COUNT(*) AS call_count, SUM(prompt_tokens) AS total_prompt, SUM(completion_tokens) AS total_completion, SUM(total_tokens) AS total_tokens, SUM(estimated_cost) AS total_cost FROM usage_log WHERE created_at ? AND created_at ? GROUP BY user_name ORDER BY total_cost DESC , [startDate, endDate], (err, rows) { if (err) { reject(err); } else { resolve(rows); } } ); }); } module.exports { init, insertUsage, queryLeaderboard };这段代码的核心动作是建表时使用了created_at记录本地时间。insertUsage负责把一次调用产生的 token 数和费用写入数据库。queryLeaderboard按用户分组统计按总费用倒序这就是排行榜的数据源。6.3 代理转发与用量采集文件路径src/server.jsconst express require(express); const { createProxyMiddleware } require(http-proxy-middleware); const { init, insertUsage } require(./db); const app express(); const PORT process.env.PORT || 3000; // 代理目标默认 OpenAI可按需改为企业内网统一入口 const TARGET process.env.AI_PROXY_TARGET || https://api.openai.com; // 模型单价表单位美元 / 百万 token // 请根据你实际使用的模型和维护价格修改 const MODEL_PRICE { gpt-4o: { input: 2.5, output: 10 }, gpt-4o-mini: { input: 0.15, output: 0.6 }, claude-3-5-sonnet: { input: 3, output: 15 } }; function estimateCost(model, promptTokens, completionTokens) { const price MODEL_PRICE[model]; if (!price) { return 0; } return ( (promptTokens / 1000000) * price.input (completionTokens / 1000000) * price.output ); } init(); // 解析 JSON 请求体 app.use(express.json()); // 记录每个请求对应的用户标识 // 演示用从 Header 读取 X-User-Name app.use(/v1/chat/completions, (req, res, next) { req.userName req.headers[x-user-name] || anonymous; next(); }); // 代理转发并在响应结束后读取 usage app.use( /v1/chat/completions, createProxyMiddleware({ target: TARGET, changeOrigin: true, on: { proxyRes(proxyRes, req, res) { const chunks []; proxyRes.on(data, (chunk) chunks.push(chunk)); proxyRes.on(end, async () { try { const body Buffer.concat(chunks).toString(utf8); const data JSON.parse(body); if (data.usage) { const { prompt_tokens, completion_tokens, total_tokens } data.usage; const cost estimateCost( data.model, prompt_tokens, completion_tokens ); await insertUsage({ user_name: req.userName, model: data.model, prompt_tokens: prompt_tokens || 0, completion_tokens: completion_tokens || 0, total_tokens: total_tokens || 0, estimated_cost: cost }); } } catch (err) { console.error(记录 usage 失败, err.message); } }); } } }) ); // 排行榜 API const { queryLeaderboard } require(./db); app.get(/api/leaderboard, async (req, res) { const today new Date(); const weekAgo new Date(today.getTime() - 7 * 24 * 60 * 60 * 1000); const startDate req.query.start || weekAgo.toISOString().slice(0, 19).replace(T, ); const endDate req.query.end || today.toISOString().slice(0, 19).replace(T, ); try { const rows await queryLeaderboard(startDate, endDate); res.json({ code: 0, data: rows }); } catch (err) { res.status(500).json({ code: 1, message: err.message }); } }); app.use(express.static(src/public)); app.listen(PORT, () { console.log(TokenMaxxer 服务已启动http://localhost:${PORT}); });这里有几个实现细节值得注意第一proxyRes事件里读取响应体是异步的。直接拿proxyRes流可能会因为 body 被消费掉而影响之后返回给客户端的响应。上面的写法是把响应体先聚合到chunks再在end事件里解析使用上一般没问题。第二MODEL_PRICE只是演示用。你可以在.env或配置文件里维护自己的价格表。部分平台的模型 ID 非常多可以先对常用的做映射。第三用户标识的设计。这里用最简方式从X-User-NameHeader 读取用户名。如果希望更安全应该改成由你控制的鉴权服务签发身份信息避免乱传用户名。6.4 排行榜查询接口上面的server.js里已经写入了/api/leaderboard接口。它的逻辑是默认查询最近 7 天的排行支持通过start和end参数指定时间范围。返回的 JSON 结构示意如下{ code: 0, data: [ { user_name: alice, call_count: 120, total_prompt: 320000, total_completion: 88000, total_tokens: 408000, total_cost: 1.234 } ] }6.5 前端排行榜页面文件路径src/public/index.html这是一个极简页面通过浏览器内置的fetch请求排行榜 API然后渲染成表格。实际项目中你可以在 Vue/React 里做更丰富的图表这里只演示数据链路。!DOCTYPE html html langzh-CN head meta charsetUTF-8 / titleAI 消费排行榜/title style body { font-family: sans-serif; max-width: 800px; margin: 40px auto; padding: 0 16px; } table { width: 100%; border-collapse: collapse; margin-top: 20px; } th, td { border: 1px solid #eee; padding: 10px; text-align: left; } th { background: #f7f7f7; } .rank-1 { background: #fff9e6; } /style /head body h2AI 消费排行榜本周/h2 button idrefreshBtn刷新/button table idleaderboard thead tr th排名/th th用户/th th调用次数/th th总 Token/th th估算费用/th /tr /thead tbody/tbody /table script async function loadLeaderboard() { const res await fetch(/api/leaderboard); const json await res.json(); const tbody document.querySelector(#leaderboard tbody); tbody.innerHTML ; json.data.forEach((row, index) { const tr document.createElement(tr); if (index 0) { tr.className rank-1; } tr.innerHTML td${index 1}/td td${row.user_name}/td td${row.call_count}/td td${row.total_tokens}/td td$${Number(row.total_cost).toFixed(4)}/td ; tbody.appendChild(tr); }); } document.getElementById(refreshBtn).addEventListener(click, loadLeaderboard); loadLeaderboard(); /script /body /html这个页面没有引入任何外部依赖适合作为最小原型首先跑通。7. 运行结果与效果验证环境准备好后按下面步骤启动和验证。7.1 启动服务node src/server.js终端会输出TokenMaxxer 服务已启动http://localhost:30007.2 模拟一次带用量的请求由于我们要测试“排行榜服务”不需要真的消耗大量模型额度可以先用官方兼容接口的模拟方式来验证。最直接的方法是往代理路径发送一个真实的 chat completion 请求curl -X POST http://localhost:3000/v1/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer YOUR_API_KEY \ -H X-User-Name: alice \ -d { model: gpt-4o-mini, messages: [{role: user, content: 你好请用一句话介绍你自己}] }如果你希望完全离线验证则可以在本地再启动一个假的“AI 服务”让它返回固定的 usage 结构然后把AI_PROXY_TARGET指向它。这里给一个最小的 mock 服务写法const express require(express); const app express(); app.use(express.json()); app.post(/v1/chat/completions, (req, res) { const { model } req.body; res.json({ id: mock-completion, model, choices: [{ message: { role: assistant, content: mock reply } }], usage: { prompt_tokens: 150, completion_tokens: 60, total_tokens: 210 } }); }); app.listen(4000, () console.log(mock AI server at 4000));启动这个 mock 服务后再启动 TokenMaxxer 时指定AI_PROXY_TARGEThttp://localhost:4000 node src/server.js这样你完全不用真实 API Key 就能验证整个数据链路。7.3 验证排行榜浏览器打开http://localhost:3000点击“刷新”按钮如果刚才发过请求就会看到 alice 的调用记录和 token 统计。或者直接访问curl http://localhost:3000/api/leaderboard如果返回code: 0且data数组里出现刚才的记录说明整个链路正确。7.4 判断成功的标准一个最小系统跑通按下面四个标准判断请求转发正常业务调用方拿到的响应与直连模型服务一致。数据库中插入了一条或多条 usage 记录。排行榜接口能按用户聚合出 token 和费用。前端页面能正确渲染数据。如果某一步断了优先检查代理目标地址、API Key 是否有效、usage字段是否真的存在。8. 常见问题与排查思路下面整理实际实现这类排行榜工具时最常遇到的几个问题。问题现象可能原因排查方式解决方案没有记录到 usage请求转发成功但响应里没有 usage 字段查看代理返回的原始响应体确认服务端确实开启用量统计流式请求下 need 特殊处理排行榜费用为 0模型 ID 不在MODEL_PRICE清单查看数据库里记录的 model 字段补全模型价格映射并发请求偶尔丢失记录异步写入没有做队列控制查看日志是否有记录 usage 失败写入操作改为队列或批量异步落库用户身份都是 anonymous调用方没有传X-User-Name查看请求头在接入方统一设置请求拦截器流式输出下统计不准使用了stream: true时响应被分段检查响应组装逻辑流式模式需要在on(data)中拼接全部完成后统一解析时区显示不一致SQLite 使用 UTC 或本地时间不一致查看created_at值统一存储 UTC展示时在前端转换时区关于流式输出这里额外展开说明。很多生产环境会开启stream: true此时proxyRes拿到的是 SSEServer-Sent Events流不是一段完整的 JSON。上面的示例代码直接拼 JSON 的方式只适用于非流式场景。如果需要支持流式一种做法是在客户端完成整个流接收后从最后一段数据里提取 usage部分服务会在流末尾带 usage或者由模型服务在业务层单独异步记录用量。实际项目里建议先明确排行榜统计是否能接受放弃流式请求的用量或者等响应结束后异步补齐。9. 最佳实践与工程建议把上面的最小实现放到真实项目里之前还有几个工程层面的问题值得认真考虑。9.1 数据安全与隐私限制排行榜天然带有“公开”属性但 AI 调用日志里通常含有提示词内容。这里强烈建议只记录 token 数和费用这类元数据不要把请求体和响应体写入排行榜数据库。如果一定要保存必须做脱敏处理并设置访问权限。同时用户身份最好通过鉴权服务注入而不是依赖客户端随便传一个 Header。否则成员可以伪造别人的用户名污染排行榜数据。9.2 定价模型的灵活性不要把所有模型价格硬编码在代码里。建议把价格表放到 JSON 或配置中心按“模型 ID - 输入单价、输出单价”的格式维护。如果某个模型没有配置价格排行榜可以先标记为“未计费”再提示管理员补全而不是擅自填 0。9.3 时间口径统一聚合功能依赖时间字段不同服务器的本地时间如果不一致会导致日榜、周榜数据错位。更稳妥的做法是统一存储 UTC 时间展示时按用户时区转换。9.4 从“提示词日志”到“可观测系统”如果团队里已经有 Prometheus 或 Grafana 这类监控体系可以把 usage 记录作为 metrics 上报用现成的看板展示调用量趋势。TokenMaxxer 的排行榜更偏“人与人的对比”适合小团队和周报而监控看板更偏“系统指标”适合全局监控。两者可以互补使用。9.5 授权与合规提醒如果你的 AI 服务是代理企业内部合规网关在部署这类转发服务前需要确认是否获得内部运维和管理团队授权是否遵循模型服务提供商的平台规则是否对敏感数据和提示词内容有脱敏策略。在生产环境变更时先在小范围灰度再逐步切流量保持随时回滚到直连模式的能力。10. 总结与后续探索方向TokenMaxxer 看起来只是一个“朋友间 AI 消费排行榜”但它背后代表了一个正在变重要的工程方向把 AI 使用成本从模糊估算变成可视化数据。通过这篇文章你应该掌握了几件具体的事理解 token、credits、input_tokens、output_tokens 这些不同平台的计费口径差异知道“网关代理采集”和“客户端埋点”两种主要用量采集方式各自的优缺点能从一个最小示例出发跑通“转发请求 - 记录 usage - 聚合排行 - 页面展示”的完整链路知道流式请求、并发写入、时区、鉴权、隐私这些真实项目里的坑。如果你想继续深挖可以考虑这几个方向把排行榜统计从周维度扩展到自定义日期范围并支持导出 CSV 做月报把单纯的费用排行扩展成“哪种模型调用最频繁”“哪个时间段 token 消耗最高”等热力分析接入飞书、钉钉、Slack 机器人让每周排行自动推送到群里给不同成员设置预算上限接近阈值时发送提醒。如果你正在和一群朋友共享同一个 AI 服务或者同事之间经常因为“谁烧的 token 多”而互相疑惑不妨从上面的最小实现开始花一个周末把第一版 AI 消费排行榜跑起来。这不只是解决一次“分账”问题也是在为自己的 AI 应用补齐一块容易忽略但长期有用的基础设施。
AI消费排行榜实战：基于TokenMaxxer的费用可观测性设计与实现
从 2024 年开始大模型从一个“炫技品”变成了真正能写代码、跑流程、扛业务的生产力工具。但随之而来的一个尴尬问题也越来越明显AI 账单到底是怎么变大的谁都说不清楚。很多人只看到月底一张数字惊人的云账单但钱花在了哪个模型、哪个成员、哪次调用上完全是一团黑盒。ChatGPT 订阅、Claude API、通义千问、文心一言、Kimi、OpenRouter各家计费单位还不统一有时按 token有时按 credits有时按请求次数。此时如果你和室友、朋友或一个小团队共享某个 AI 服务月底平摊费用时很容易产生“我根本没怎么用为什么也要付这么多”的争执。TokenMaxxer 这个项目正是在这个场景下出现的。它想做的事很简单把 AI 使用情况变成一个朋友之间的排行榜让每一个人花掉的 token、产生的费用、调用的模型都公开可见。表面上看这是一个“带点娱乐性质”的排行榜工具但深一层看它解决的是 AI 基础设施长期缺失的一块拼图费用可观测性。这篇文章会围绕 TokenMaxxer 做一次完整的技术拆解重点包括这类工具到底解决了什么真实问题适合谁用想自己实现一个“AI 消费排行榜”核心架构该怎么设计从零写一个最小可运行的 AI 用量追踪服务包含数据采集、存储和排行榜展示实际落地时的选型判断、常见坑和工程建议。如果你也正在被“AI 账单不透明”“团队里不知道谁在烧钱”“不同模型计费口径不统一”这些问题困扰这篇教程可以直接拿去参考。1. 这篇文章真正要解决的问题TokenMaxxer 的字面意思是“Token 最大者”。排行榜这种形式会让人第一时间联想到运动步数、游戏成就这类“社交激励”玩法。但它的本质并不是娱乐而是把 AI 成本这个抽象概念变成可感知、可对比、可管理的数据。为什么这件事重要因为在真实开发环境中AI 支出的增长速度和可观测性是严重不匹配的。以一个小团队为例代码里接了 OpenAI 的 GPT-4o分析场景接了 Claude前端做摘要用了一个国产大模型还有同事在后台跑批量实验每次调用几千条文本。这种情况下你很难回答一个问题“这周我们到底烧了多少钱谁烧得最多”很多人以为登录云厂商后台看账单就行但实际上各模型的计费字段不同。OpenAI 返回prompt_tokens和completion_tokensAnthropic 返回input_tokens和output_tokens有的平台还标成credits。云端账单往往延迟数小时甚至一天不适合做实时排行。账单按账号维度聚合看不到**“哪个人/哪个项目”**花了多少钱。TokenMaxxer 的排行榜设计恰好把这些信息从“账单后台”搬到了“日常社交场景”里。每周看到自己在排行榜上位居第一自然会思考我是不是调用了太多高成本模型有哪些请求是可以缓存或降级的这里最值得开发者关注的不只是“排行榜”这个产品形态而是它背后的AI 费用可观测性思路。即使不打算用这个工具把它的数据采集、聚合、展示逻辑理解清楚也能为你自己的 AI 应用中增加一个非常有价值的“成本监控模块”。2. 核心概念Token、计费方式与用量字段在动手写代码之前需要先把几个基础概念理解清楚。很多人在实现“AI 消费排行榜”时卡住不是因为代码不会写而是因为不同平台的用量数据长得不一样。2.1 什么是 TokenToken 是大模型的最小文本处理单位。它可以是一个单词的一部分、一个标点、或一个汉字。大体上一个英文单词约等于 1 到 2 个 token一个中文汉字可能对应 1 到 2 个 token。理解 token 的关键是它不是“字数”那么简单。不同模型使用不同的 tokenizer分词器导致同一个句子在 GPT-4 和 Claude 里统计出的 token 数可能不同。因此排行榜上如果要对比不同模型的使用量不能只看 token 总数还要参考“模型单价”或“等效成本”。2.2 不同平台的计费结构从实际接口返回来看目前主流平台通常会在每次请求的响应里带上 usage 字段常见结构如下平台/协议输入字段输出字段说明OpenAI 兼容协议prompt_tokenscompletion_tokens多数框架都会转换成这种结构Anthropic APIinput_tokensoutput_tokens结构类似字段名不同部分聚合平台credits无直接把用量换算成积分或额度关于credits一些 AI 平台为了简化用户理解不直接暴露 token 数而是把每次请求折算成credits积分。这个值通常是“输入 token 数量 输出 token 数量 × 权重”之类算出来的。在做排行榜时如果拿不到原始 token也可以直接以 credits 作为排行指标但需要在展示上标注清楚。2.3 排行榜的核心指标一个 AI 消费排行榜数据维度不能只有“总花费”。不同角色的关注点不同普通成员想知道自己这个月调用了多少次、消耗了多少 token是不是某次循环写错了导致用量激增。团队负责人更关心总费用、人均费用、各模型费用占比。技术负责人关心哪些调用可以被缓存、哪些场景可以换更便宜的模型。因此一次有效的用量记录至少应该包含调用者标识用户 ID / API Key 别名调用的模型名称输入 token 数、输出 token 数请求时间本次请求的预估费用可按本地维护的单价表计算有了这些原始数据任何排行指标都可以后期聚合出来不必在设计表结构时就把所有维度定死。3. 实现思路与整体架构TokenMaxxer 这类“AI 消费排行榜”工具核心链路可以拆成四段AI 请求 - 用量采集 - 存储聚合 - 排行榜展示关键在于“用量采集”这一环。根据你的使用场景不同有三种常用方案3.1 方案一网关代理模式如果你控制着团队统一的 API 入口可以在网关层拦截所有 AI 请求记录用量后再转发到真实模型服务。优点改动对业务代码透明。可以统一处理不同平台的 usage 结构。在没有修改业务代码的情况下实现成本追踪。缺点需要维护一个代理服务有一定部署成本。需要保证代理的高可用否则会成为单点故障。3.2 方案二客户端埋点模式如果项目本身就是一个内部工具直接在业务代码中当调用完大模型接口后把响应里的 usage 发到统计服务。优点实现最简单不需要代理层。可以作为 SDK 集成到现有代码里。缺点必须改业务代码。如果团队里有多个项目需要重复接入容易遗漏。3.3 方案三云账单 API 拉取模式一些平台提供账单明细导出或查询 API可以定时拉取再聚合。优点数据最权威不需要自己采集。可靠不怕漏记。缺点延迟高不适合实时排行。只能按账号维度看通常看不到“哪个具体成员”的调用。不同平台 API 差异大开发成本高。如果从零做一个像 TokenMaxxer 这样的工具且希望朋友间都能用最合适的是方案一因为它不需要每个成员都改自己的代码。下面本文的示例也会按“网关代理模式”来实现一个最小但完整可跑通的服务。4. 环境准备与前置条件为了降低阅读成本下面示例技术栈选择比较通用的 Node.js Express SQLite。这三个组件普及率高安装简单也足够支撑一个小型排行榜服务。4.1 环境要求建议准备Node.js 18 或更高版本示例使用 CommonJS 模块低版本也能跑。npm 或 yarn。一个可用的 OpenAI 兼容 API Key用于转发测试没有也不影响看代码逻辑。本地能访问外网能调用到 AI 模型服务。如果你团队用的不是 Node.js换成 Python Flask/FastAPI 实现同样可以核心思路完全一致拦截请求、读取 usage、写入存储、聚合展示。4.2 项目结构建议这样组织代码方便后续扩展tokenmaxxer/ ├── package.json ├── .env ├── src/ │ ├── server.js # Express 入口 代理转发 │ ├── db.js # SQLite 初始化与写入方法 │ ├── leaderboard.js # 排行榜查询 API │ └── public/ │ └── index.html # 前端排行榜页面下面所有代码都按这个目录结构来写。5. 核心流程拆解实现一个最小 AI 消费排行榜核心流程分四步。每一步都不复杂但细节决定成败。5.1 拦截请求并转发客户端本来直接请求https://api.openai.com/v1/chat/completions现在改成请求我们的本地服务例如http://localhost:3000/v1/chat/completions。我们使用http-proxy-middleware之类的库将请求转发到真实 API同时在收到响应后把响应体解析出来提取usage字段。这一步的关键点在于不能破坏原有响应结构。也就是说调用方拿到的响应应该和直接调官方接口完全一致只是多复制了一份用量数据到本地数据库。5.2 用量归一化不同的模型服务usage 的字段名不同。为了统一存库需要在记录前做一次转换prompt_tokens completion_tokens total_tokens如果是 Anthropic 平台的响应将其input_tokens、output_tokens映射为上面的统一结构。5.3 成本估算排行榜如果只显示 token 数不够直观。最好能估算出费用。由于各模型单价差异很大网上也没有固定价格表更稳妥的做法是在当地配置文件里维护一份模型单价表按“美元 / 百万 token”为单位填写。这样既不依赖外部接口也方便学校、公司内部调整价格。5.4 聚合与展示SQLite 里按用户和日期聚合出总 token、总费用、调用次数然后按费用倒序排列返回给前端渲染。6. 完整示例代码实现下面给出一个最小可运行的完整示例。它实现了一个“本地 AI 网关 消费排行榜”服务。你可以直接复制到本地跑通再按需改造。6.1 初始化项目并安装依赖mkdir tokenmaxxer cd tokenmaxxer npm init -y npm install express http-proxy-middleware sqlite3 dotenv6.2 数据库初始化与用量写入文件路径src/db.jsconst sqlite3 require(sqlite3).verbose(); const path require(path); const dbPath path.join(__dirname, usage.db); const db new sqlite3.Database(dbPath); function init() { db.run( CREATE TABLE IF NOT EXISTS usage_log ( id INTEGER PRIMARY KEY AUTOINCREMENT, user_name TEXT NOT NULL, model TEXT NOT NULL, prompt_tokens INTEGER DEFAULT 0, completion_tokens INTEGER DEFAULT 0, total_tokens INTEGER DEFAULT 0, estimated_cost REAL DEFAULT 0, created_at TEXT DEFAULT (datetime(now, localtime)) ) ); } function insertUsage(record) { return new Promise((resolve, reject) { const { user_name, model, prompt_tokens, completion_tokens, total_tokens, estimated_cost } record; db.run( INSERT INTO usage_log (user_name, model, prompt_tokens, completion_tokens, total_tokens, estimated_cost) VALUES (?, ?, ?, ?, ?, ?), [user_name, model, prompt_tokens, completion_tokens, total_tokens, estimated_cost], function (err) { if (err) { reject(err); } else { resolve(this.lastID); } } ); }); } function queryLeaderboard(startDate, endDate) { return new Promise((resolve, reject) { db.all( SELECT user_name, COUNT(*) AS call_count, SUM(prompt_tokens) AS total_prompt, SUM(completion_tokens) AS total_completion, SUM(total_tokens) AS total_tokens, SUM(estimated_cost) AS total_cost FROM usage_log WHERE created_at ? AND created_at ? GROUP BY user_name ORDER BY total_cost DESC , [startDate, endDate], (err, rows) { if (err) { reject(err); } else { resolve(rows); } } ); }); } module.exports { init, insertUsage, queryLeaderboard };这段代码的核心动作是建表时使用了created_at记录本地时间。insertUsage负责把一次调用产生的 token 数和费用写入数据库。queryLeaderboard按用户分组统计按总费用倒序这就是排行榜的数据源。6.3 代理转发与用量采集文件路径src/server.jsconst express require(express); const { createProxyMiddleware } require(http-proxy-middleware); const { init, insertUsage } require(./db); const app express(); const PORT process.env.PORT || 3000; // 代理目标默认 OpenAI可按需改为企业内网统一入口 const TARGET process.env.AI_PROXY_TARGET || https://api.openai.com; // 模型单价表单位美元 / 百万 token // 请根据你实际使用的模型和维护价格修改 const MODEL_PRICE { gpt-4o: { input: 2.5, output: 10 }, gpt-4o-mini: { input: 0.15, output: 0.6 }, claude-3-5-sonnet: { input: 3, output: 15 } }; function estimateCost(model, promptTokens, completionTokens) { const price MODEL_PRICE[model]; if (!price) { return 0; } return ( (promptTokens / 1000000) * price.input (completionTokens / 1000000) * price.output ); } init(); // 解析 JSON 请求体 app.use(express.json()); // 记录每个请求对应的用户标识 // 演示用从 Header 读取 X-User-Name app.use(/v1/chat/completions, (req, res, next) { req.userName req.headers[x-user-name] || anonymous; next(); }); // 代理转发并在响应结束后读取 usage app.use( /v1/chat/completions, createProxyMiddleware({ target: TARGET, changeOrigin: true, on: { proxyRes(proxyRes, req, res) { const chunks []; proxyRes.on(data, (chunk) chunks.push(chunk)); proxyRes.on(end, async () { try { const body Buffer.concat(chunks).toString(utf8); const data JSON.parse(body); if (data.usage) { const { prompt_tokens, completion_tokens, total_tokens } data.usage; const cost estimateCost( data.model, prompt_tokens, completion_tokens ); await insertUsage({ user_name: req.userName, model: data.model, prompt_tokens: prompt_tokens || 0, completion_tokens: completion_tokens || 0, total_tokens: total_tokens || 0, estimated_cost: cost }); } } catch (err) { console.error(记录 usage 失败, err.message); } }); } } }) ); // 排行榜 API const { queryLeaderboard } require(./db); app.get(/api/leaderboard, async (req, res) { const today new Date(); const weekAgo new Date(today.getTime() - 7 * 24 * 60 * 60 * 1000); const startDate req.query.start || weekAgo.toISOString().slice(0, 19).replace(T, ); const endDate req.query.end || today.toISOString().slice(0, 19).replace(T, ); try { const rows await queryLeaderboard(startDate, endDate); res.json({ code: 0, data: rows }); } catch (err) { res.status(500).json({ code: 1, message: err.message }); } }); app.use(express.static(src/public)); app.listen(PORT, () { console.log(TokenMaxxer 服务已启动http://localhost:${PORT}); });这里有几个实现细节值得注意第一proxyRes事件里读取响应体是异步的。直接拿proxyRes流可能会因为 body 被消费掉而影响之后返回给客户端的响应。上面的写法是把响应体先聚合到chunks再在end事件里解析使用上一般没问题。第二MODEL_PRICE只是演示用。你可以在.env或配置文件里维护自己的价格表。部分平台的模型 ID 非常多可以先对常用的做映射。第三用户标识的设计。这里用最简方式从X-User-NameHeader 读取用户名。如果希望更安全应该改成由你控制的鉴权服务签发身份信息避免乱传用户名。6.4 排行榜查询接口上面的server.js里已经写入了/api/leaderboard接口。它的逻辑是默认查询最近 7 天的排行支持通过start和end参数指定时间范围。返回的 JSON 结构示意如下{ code: 0, data: [ { user_name: alice, call_count: 120, total_prompt: 320000, total_completion: 88000, total_tokens: 408000, total_cost: 1.234 } ] }6.5 前端排行榜页面文件路径src/public/index.html这是一个极简页面通过浏览器内置的fetch请求排行榜 API然后渲染成表格。实际项目中你可以在 Vue/React 里做更丰富的图表这里只演示数据链路。!DOCTYPE html html langzh-CN head meta charsetUTF-8 / titleAI 消费排行榜/title style body { font-family: sans-serif; max-width: 800px; margin: 40px auto; padding: 0 16px; } table { width: 100%; border-collapse: collapse; margin-top: 20px; } th, td { border: 1px solid #eee; padding: 10px; text-align: left; } th { background: #f7f7f7; } .rank-1 { background: #fff9e6; } /style /head body h2AI 消费排行榜本周/h2 button idrefreshBtn刷新/button table idleaderboard thead tr th排名/th th用户/th th调用次数/th th总 Token/th th估算费用/th /tr /thead tbody/tbody /table script async function loadLeaderboard() { const res await fetch(/api/leaderboard); const json await res.json(); const tbody document.querySelector(#leaderboard tbody); tbody.innerHTML ; json.data.forEach((row, index) { const tr document.createElement(tr); if (index 0) { tr.className rank-1; } tr.innerHTML td${index 1}/td td${row.user_name}/td td${row.call_count}/td td${row.total_tokens}/td td$${Number(row.total_cost).toFixed(4)}/td ; tbody.appendChild(tr); }); } document.getElementById(refreshBtn).addEventListener(click, loadLeaderboard); loadLeaderboard(); /script /body /html这个页面没有引入任何外部依赖适合作为最小原型首先跑通。7. 运行结果与效果验证环境准备好后按下面步骤启动和验证。7.1 启动服务node src/server.js终端会输出TokenMaxxer 服务已启动http://localhost:30007.2 模拟一次带用量的请求由于我们要测试“排行榜服务”不需要真的消耗大量模型额度可以先用官方兼容接口的模拟方式来验证。最直接的方法是往代理路径发送一个真实的 chat completion 请求curl -X POST http://localhost:3000/v1/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer YOUR_API_KEY \ -H X-User-Name: alice \ -d { model: gpt-4o-mini, messages: [{role: user, content: 你好请用一句话介绍你自己}] }如果你希望完全离线验证则可以在本地再启动一个假的“AI 服务”让它返回固定的 usage 结构然后把AI_PROXY_TARGET指向它。这里给一个最小的 mock 服务写法const express require(express); const app express(); app.use(express.json()); app.post(/v1/chat/completions, (req, res) { const { model } req.body; res.json({ id: mock-completion, model, choices: [{ message: { role: assistant, content: mock reply } }], usage: { prompt_tokens: 150, completion_tokens: 60, total_tokens: 210 } }); }); app.listen(4000, () console.log(mock AI server at 4000));启动这个 mock 服务后再启动 TokenMaxxer 时指定AI_PROXY_TARGEThttp://localhost:4000 node src/server.js这样你完全不用真实 API Key 就能验证整个数据链路。7.3 验证排行榜浏览器打开http://localhost:3000点击“刷新”按钮如果刚才发过请求就会看到 alice 的调用记录和 token 统计。或者直接访问curl http://localhost:3000/api/leaderboard如果返回code: 0且data数组里出现刚才的记录说明整个链路正确。7.4 判断成功的标准一个最小系统跑通按下面四个标准判断请求转发正常业务调用方拿到的响应与直连模型服务一致。数据库中插入了一条或多条 usage 记录。排行榜接口能按用户聚合出 token 和费用。前端页面能正确渲染数据。如果某一步断了优先检查代理目标地址、API Key 是否有效、usage字段是否真的存在。8. 常见问题与排查思路下面整理实际实现这类排行榜工具时最常遇到的几个问题。问题现象可能原因排查方式解决方案没有记录到 usage请求转发成功但响应里没有 usage 字段查看代理返回的原始响应体确认服务端确实开启用量统计流式请求下 need 特殊处理排行榜费用为 0模型 ID 不在MODEL_PRICE清单查看数据库里记录的 model 字段补全模型价格映射并发请求偶尔丢失记录异步写入没有做队列控制查看日志是否有记录 usage 失败写入操作改为队列或批量异步落库用户身份都是 anonymous调用方没有传X-User-Name查看请求头在接入方统一设置请求拦截器流式输出下统计不准使用了stream: true时响应被分段检查响应组装逻辑流式模式需要在on(data)中拼接全部完成后统一解析时区显示不一致SQLite 使用 UTC 或本地时间不一致查看created_at值统一存储 UTC展示时在前端转换时区关于流式输出这里额外展开说明。很多生产环境会开启stream: true此时proxyRes拿到的是 SSEServer-Sent Events流不是一段完整的 JSON。上面的示例代码直接拼 JSON 的方式只适用于非流式场景。如果需要支持流式一种做法是在客户端完成整个流接收后从最后一段数据里提取 usage部分服务会在流末尾带 usage或者由模型服务在业务层单独异步记录用量。实际项目里建议先明确排行榜统计是否能接受放弃流式请求的用量或者等响应结束后异步补齐。9. 最佳实践与工程建议把上面的最小实现放到真实项目里之前还有几个工程层面的问题值得认真考虑。9.1 数据安全与隐私限制排行榜天然带有“公开”属性但 AI 调用日志里通常含有提示词内容。这里强烈建议只记录 token 数和费用这类元数据不要把请求体和响应体写入排行榜数据库。如果一定要保存必须做脱敏处理并设置访问权限。同时用户身份最好通过鉴权服务注入而不是依赖客户端随便传一个 Header。否则成员可以伪造别人的用户名污染排行榜数据。9.2 定价模型的灵活性不要把所有模型价格硬编码在代码里。建议把价格表放到 JSON 或配置中心按“模型 ID - 输入单价、输出单价”的格式维护。如果某个模型没有配置价格排行榜可以先标记为“未计费”再提示管理员补全而不是擅自填 0。9.3 时间口径统一聚合功能依赖时间字段不同服务器的本地时间如果不一致会导致日榜、周榜数据错位。更稳妥的做法是统一存储 UTC 时间展示时按用户时区转换。9.4 从“提示词日志”到“可观测系统”如果团队里已经有 Prometheus 或 Grafana 这类监控体系可以把 usage 记录作为 metrics 上报用现成的看板展示调用量趋势。TokenMaxxer 的排行榜更偏“人与人的对比”适合小团队和周报而监控看板更偏“系统指标”适合全局监控。两者可以互补使用。9.5 授权与合规提醒如果你的 AI 服务是代理企业内部合规网关在部署这类转发服务前需要确认是否获得内部运维和管理团队授权是否遵循模型服务提供商的平台规则是否对敏感数据和提示词内容有脱敏策略。在生产环境变更时先在小范围灰度再逐步切流量保持随时回滚到直连模式的能力。10. 总结与后续探索方向TokenMaxxer 看起来只是一个“朋友间 AI 消费排行榜”但它背后代表了一个正在变重要的工程方向把 AI 使用成本从模糊估算变成可视化数据。通过这篇文章你应该掌握了几件具体的事理解 token、credits、input_tokens、output_tokens 这些不同平台的计费口径差异知道“网关代理采集”和“客户端埋点”两种主要用量采集方式各自的优缺点能从一个最小示例出发跑通“转发请求 - 记录 usage - 聚合排行 - 页面展示”的完整链路知道流式请求、并发写入、时区、鉴权、隐私这些真实项目里的坑。如果你想继续深挖可以考虑这几个方向把排行榜统计从周维度扩展到自定义日期范围并支持导出 CSV 做月报把单纯的费用排行扩展成“哪种模型调用最频繁”“哪个时间段 token 消耗最高”等热力分析接入飞书、钉钉、Slack 机器人让每周排行自动推送到群里给不同成员设置预算上限接近阈值时发送提醒。如果你正在和一群朋友共享同一个 AI 服务或者同事之间经常因为“谁烧的 token 多”而互相疑惑不妨从上面的最小实现开始花一个周末把第一版 AI 消费排行榜跑起来。这不只是解决一次“分账”问题也是在为自己的 AI 应用补齐一块容易忽略但长期有用的基础设施。
