大模型备案“拦截关键词”咋做？一份干货避坑指南
最近在知乎上看到不少朋友在问大模型备案的事，尤其是那个让人头疼的“拦截关键词列表”。作为做过几次备案咨询的从业者（纯分享经验，不接广告），我来系统聊聊这个东西。备案不是走过场，拦截关键词直接关系到内容安全红线，处理不好，轻则补材料重来，重则直接驳回。希望这篇能帮大家少踩坑。
先来看看整体备案流程，帮助大家有个大局观：
简单说，拦截关键词就是大模型内置的一套“黑名单”词汇表。当用户输入或模型生成的内容中出现这些词时，系统会自动触发过滤机制：要么拒答、要么屏蔽、要么替换成*，防止有害信息输出。
在《生成式人工智能服务管理暂行办法》和配套的《生成式人工智能服务安全基本要求》里，它是内容安全的核心措施之一。备案时必须提交《拦截关键词列表》作为附件，审核人员会重点看这个列表是否全面、有效。
为什么这么重要？因为大模型生成内容的能力太强了，不设护栏很容易输出违法不良信息，影响舆论或社会稳定。拦截关键词就是第一道硬防护。
分类：一般分成几大类？
根据安全基本要求的附录A，风险分为A.1（主要风险17类）和A.2（其他风险14类），拦截关键词也要对应覆盖。
常见分类大致这样（实际备案时要严格对标标准）：
- 政治敏感类：涉及国家主权、政权、分裂、颠覆等。
- 暴力恐怖类：描述爆炸、袭击、伤害等的词。
- 色情低俗类：明确性描写、器官、行为等词汇。
- 赌博毒品类：赌场、投注、毒品等。
- 谣言虚假类：容易引发社会恐慌的虚假信息关键词。
- 宗教极端类：极端组织、思想传播相关。
- 其他：侮辱诽谤、隐私泄露、封建迷信、违法犯罪指导等。
每类都要有足够数量，备案时建议A.1的17类每类至少200-300词，A.2每类100+，总规模起步1万+。北京等严管地区甚至要求20万+，得看属地网信办具体反馈。
关键词列表长啥样？这里举例（模糊处理，不然过不了审核。。。）
注意事项：建库时必须注意这些
- 覆盖要全但不能乱：不能只抄网上现成的列表，得结合自家模型场景细化。比如教育类模型多加校园暴力词，电商类多加虚假宣传词。
- 变体要考虑：用户爱绕弯，像谐音、符号替换都要收录。
- 多语言支持：不止中文，英文敏感词也要有，尤其是模型支持多语。
- 动态更新机制：备案不是一次性，需承诺每月或根据热点更新词库，并留拦截日志（近3个月拦截率、误伤率数据要能提供）。
- 分级拦截：不是一刀切，高危词直接拒答，中危词警告或模糊处理。
常见坑点：很多人就是在这里翻车
- 数量不够或分类不全：提交只几千词，或者漏掉某类，直接被退回补材料。
- 误伤率太高：词太宽泛，比如把“鸡”全拦截了，导致正常对话崩掉。审核时测试账号一用就露馅。
- 没实际效果：列表有了，但系统没集成好，审核人员用测试题一测，发现敏感内容还是能输出。
- 不更新：备案后不管了，后续抽检发现词库过时，容易被要求整改甚至影响后续业务。
- 只靠关键词不靠模型：现在审核越来越看重多层防护，纯关键词容易被语义绕过，得结合分类模型（比如毒性检测模型）一起用。
驳回原因：拦截关键词相关的常见反馈
从我经手的案例和圈内反馈看，拦截部分导致驳回的比例不低：
- 关键词规模不足或覆盖不全（最常见，占一半以上）。
- 拦截有效性差：测试时发现高危提示还能生成有害内容。
- 误伤严重：正常问题被误拦，导致拒答率异常高。
- 数据不全：没提供分类逻辑文档、拦截统计（拦截率<99%、误伤率>1%容易被挑）。
- 机制缺失：没说明更新流程或用户举报复核闭环。
属地网信办初审就很严，材料不完善直接退，中央复审更看实际测试表现。
应对方法：怎么高效通过？
- 提前自测：用标准附录的测试题库（应拒答+非拒答题）跑几千轮，算准拦截率和误伤率。
- 多层防护：关键词+语义分类模型+Prompt工程（如系统提示拒答敏感话题）结合，效果更好。
- 日志完整：留好近3个月真实拦截数据，证明机制在跑。
- 分类文档写清：列表别光扔Excel，要附分类说明、来源依据、更新制度。
- 地域差异注意：北京、上海、广东要求更高，提前咨询属地网信办。
- 迭代思维：备案后也别松懈，建立热点监控，快速加词。
专业服务机构的优势
自己弄备案尤其是拦截部分，耗时耗力：建库要人力、测试要技术、写材料要经验，一不小心就补好几轮，拖几个月。
专业机构（这里不点名）优势在于：
- 有成熟词库模板（上万甚至几十万规模，已分类验证），直接适配节省时间。
- 懂测试题库和审核偏好，能精准优化拦截逻辑，降低误伤。
- 熟悉各省差异，一站式搞定材料+测试账号+沟通网信办，成功率高很多。
- 后续还能帮维护更新、应对抽检，避免后期麻烦。
总之，拦截关键词不是简单堆词，是系统工程。做好了，备案顺利，通过后用着也放心。