公司要上线一个AI客服，要不要先做备案｜生成式人工智能服务的合规义务
问：下个月上线一个生成式人工智能客服，要不要先做备案？
答：先别问要不要备案，先回答两件事——服务是否面向境内公众提供；是否具有舆论属性或者社会动员能力。多数企业内部客服不触发备案义务，但合规要求远不止备案一项。这篇按问答写，把上线前要过一遍的问题列清楚。
一、实务场景还原
结论：AI客服的合规风险，通常不来自“有没有备案”，而来自训练数据来源、内容标识和用户数据处理。
某电商公司计划用自研大模型做在线客服，采购第三方基座模型，灌入近三年客服对话记录与商品知识库做微调，对外以“智能助手”形象出现。
这里藏着四组问题：供应商协议是否允许商用微调？三年对话记录含不含个人信息、能否作训练语料？AI回复要不要标识、用户能否拒绝？投诉类提问有没有人工兜底？任何一组没答案，上线都会留下隐患。
二、核心法律争议焦点梳理
合规可以拆成四个板块逐个过。
1. 问：备案到底备什么？
答：备案不是一个笼统动作，而是算法备案与安全评估两条线。《生成式人工智能服务管理暂行办法》对具有舆论属性或者社会动员能力的服务提供者，规定了安全评估与算法备案的义务。判断的落点是服务属性，不是技术形态；内部使用、不对外提供的模型能力，一般不触发这一义务。
《互联网信息服务算法推荐管理规定》第二十四条写得更具体：具有舆论属性或者社会动员能力的算法推荐服务提供者，应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者名称、服务形式、应用领域、算法类型、算法自评估报告等信息，履行备案手续。第二十六条还要求，完成备案者应在其网站、应用程序等显著位置标明备案编号并提供公示信息链接。这一项常被遗漏。
2. 问：训练数据从哪来才算合法？
合法来源与知识产权合规必须同时满足。《生成式人工智能服务管理暂行办法》要求服务提供者使用来源合法的数据和基础模型，涉及知识产权的不得侵害他人依法享有的知识产权，涉及个人信息的应当取得个人同意或者符合其他合法性基础。
《中华人民共和国数据安全法》第三十二条规定，任何组织、个人收集数据应当采取合法、正当的方式，不得窃取或者以其他非法方式获取数据——这一条对“爬来的语料”“买来的数据包”尤其敏感。《网络数据安全管理条例》第十八条还规定，使用自动化工具访问、收集网络数据应当评估对网络服务带来的影响，不得非法侵入他人网络、不得干扰网络服务正常运行。
3. 问：AI生成的回复要不要标识？
要，标识义务分布在多份文件里。《人工智能生成合成内容标识办法》针对人工智能生成合成内容作了专门规范，包括显式标识与隐式标识的要求。对AI客服而言，最直接的动作是在对话框或服务界面明确告知用户当前由人工智能生成，并在生成内容中添加可追溯的标识信息。
《互联网信息服务算法推荐管理规定》第九条也规定，发现未作显著标识的算法生成合成信息的，应当作出显著标识后方可继续传输。此外，《互联网信息服务深度合成管理规定》对深度合成服务的标识、用户告知与安全评估同样有要求。
4. 问：用户数据怎么处理才算合规？
告知同意、最小必要、自动化决策透明，三项缺一不可。《中华人民共和国个人信息保护法》第十三条规定了处理个人信息的合法性基础；第十七条要求处理前以显著方式、清晰易懂的语言真实、准确、完整地告知处理目的、方式、个人信息种类、保存期限等事项。把历史客服对话用于训练属于新的处理目的，需要单独告知并取得同意。
《中华人民共和国个人信息保护法》第二十四条规定，利用个人信息进行自动化决策应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。
三、实务裁判口径/合规要点解析
审查顺序应当是：定性、数据、标识、应急，而不是先问罚款。
《中华人民共和国网络安全法》第九条确立了网络运营者的网络安全保护义务；第四十一条要求收集、使用个人信息遵循合法、正当、必要的原则并公开规则、经被收集者同意；第四十七条要求加强对用户发布信息的管理，发现法律、行政法规禁止发布或者传输的信息时立即停止传输、消除处置并报告。这三条构成AI客服内容安全机制的法律底稿。（本地法规库留存文本为2016年版，引用请以现行有效文本为准。）
《中华人民共和国数据安全法》第二十一条确立了数据分类分级保护制度。对AI客服而言，知识库、对话日志、用户画像应当分级管理。《网络数据安全管理条例》第九条要求在网络安全等级保护基础上采取加密、备份、访问控制、安全认证等措施。
一个误区要澄清：有人认为“模型是第三方提供的，责任就在第三方”。对外承担责任的是服务提供者，内部可依据合同向供应商追偿，但不能对抗监管与用户。
四、企业实操防控方案
上线前按这份清单逐项打勾。
1. 服务定性：判断是否向境内公众提供、是否具有舆论属性或社会动员能力；如适用，在提供服务之日起十个工作日内办理算法备案，并在界面显著位置标明备案编号。
2. 供应商尽调：核查基座模型许可协议，明确是否允许商用、微调、二次分发及侵权责任分配。
3. 语料清洗：建立训练语料台账，记录来源、授权文件、清洗规则，删除来源不明的抓取数据与未授权个人信息。
4. 内容标识：显著告知用户当前为人工智能生成，并在生成内容中加入符合要求的显式与隐式标识。
5. 用户机制：提供关闭或不针对个人特征的选项，设置便捷的投诉举报入口，配置人工客服兜底。
6. 未成年人保护：如服务可能被未成年人使用，应设置内容过滤与使用时段的限制措施。
7. 安全评估：上线前完成内容安全与数据安全评估并保留报告。
8. 应急预案：建立违规内容处置、模型失效、数据泄露三类预案，明确责任人、流程与报告路径。
五、律师提示
三种情况建议委托律师参与，不宜仅由技术团队自行判断。
一是服务面向公众开放、可能触及舆论属性认定的；二是训练语料含大量用户个人信息或第三方内容、来源难以追溯的；三是涉及外资背景或数据跨境传输安排的。
生成式人工智能领域的规则更新较快，义务边界会随监管口径调整。本文所引《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》在本地法规库中未收录全文，仅作名称与义务内容列示，具体条文以官方发布文本为准。涉上海地区的备案受理安排，建议以主管部门最新要求为准。
六、结语
备案只是入场券，不是免责说明。对产品负责人而言，最经济的做法是把合规检查前移到方案设计阶段：定性一次、语料清洗一次、标识做透一次，胜过上线后被要求整改的反复折腾。
延伸问答
Q1：只在内部员工使用的AI助手，需要备案吗？
一般不面向公众提供的内部工具通常不触发备案义务，但仍需遵守数据安全与个人信息保护的一般要求。
Q2：用境外模型接口搭建客服，有哪些额外注意点？
除供应商尽调外，还需关注数据出境路径，评估个人信息与重要数据是否出境、是否需要履行相应安全评估义务。
Q3：AI客服说错话造成用户损失，谁担责？
通常由服务提供者对外承担，内部依据与供应商的合同约定追偿。建议在合同中明确输出错误的责任分配与赔付上限。
免责声明：本文为普法知识分享，仅供参考，不构成任何法律意见。具体法律问题请结合案件实际情况，咨询专业律师。