公司上线了AI客服，它说错话谁担责｜AI智能体自主行为的责任归属与防控
AI智能体对外说的每一句话，法律后果都由部署它的企业承担。这是当前处理此类纠纷的基本立场——模型不是责任主体，企业才是。所谓“AI自己说的”不构成免责事由。
这个结论看似简单，落地却很复杂。企业要同时处理两层关系：对外，如何面对消费者、用户与监管；对内，如何把风险在模型供应商、部署方、业务部门之间分摊。本文按这两层展开。
一、实务场景还原
某家居电商上线了一套AI客服，用于自动答复退换货、价保、发货时间等问题。上线两个月后，出现四类投诉：
一是AI在对话中承诺了“三十天无理由退换”，而实际政策是七天，消费者据此要求退货被拒；二是AI在用户询问保修期时给出了错误的年限，用户据此放弃购买延保服务；三是AI在收集用户手机号与住址时未作任何说明，被用户投诉违规收集个人信息；四是AI在比价场景中，对老用户报出了高于新用户的价格。
企业法务的第一反应是“这是模型胡说”，但投诉平台、市场监管和法院看到的却是另一幅图景：这些话是以企业名义、在企业自有渠道、面向企业客户说出的。
二、核心法律争议焦点梳理
1. 对外责任：企业是第一顺位责任主体
《中华人民共和国民法典》第一千一百六十五条规定，行为人因过错侵害他人民事权益造成损害的，应当承担侵权责任。企业部署AI客服并选择其对客话术，属于自主经营行为，过错判断落在其是否尽到合理注意义务，而不是落在模型本身。
《中华人民共和国民法典》第一千一百九十四条规定，网络用户、网络服务提供者利用网络侵害他人民事权益的，应当承担侵权责任。企业同时具备网络用户与网络服务提供者双重身份时，两条路径都可能被援引。
《中华人民共和国民法典》第一千一百九十五条则规定了通知—删除（屏蔽、断开链接）机制：权利人有权通知网络服务提供者采取必要措施，通知应当包括构成侵权的初步证据及权利人的真实身份信息。企业收到通知后的响应速度与处置记录，会直接影响后续责任的认定。
2. 格式条款风险：AI给出的承诺算不算数
《中华人民共和国消费者权益保护法》第二十六条规定，经营者在经营活动中使用格式条款的，应当以显著方式提请消费者注意商品或者服务的数量和质量、价款或者费用、履行期限和方式、安全注意事项和风险警示、售后服务、民事责任等与消费者有重大利害关系的内容，并按照消费者的要求予以说明。
AI客服输出的是标准化答复，天然具有格式条款的属性。若涉及售后、价款、责任限制等内容却未作显著提示，相关条款存在不被采纳的风险；反过来，若AI作出了超出企业政策的承诺，消费者主张按承诺履行的争议也会随之而来。
3. 自动化决策：说明义务与拒绝权
《中华人民共和国个人信息保护法》第二十四条规定，个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。
前述场景中的“老用户高价”，正落在这一条的射程内。需要区分的是：单纯的信息答复通常不构成自动化决策，但基于用户画像给出差异化报价、差异化权益，就进入了需要说明并保障拒绝权的范围。
4. 生成式AI的特别合规义务
《生成式人工智能服务管理暂行办法》对服务提供者提出了内容合规、训练数据合法来源、用户投诉举报机制、以及生成内容标识等方面的要求（具体条文以现行文本为准）。
《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》同样围绕生成合成内容的标识义务与可追溯性作出安排。企业在选型与部署时，应把供应商是否满足上述义务写入尽调清单。
三、合规要点解析
几个判断要点值得单独拎出来。
第一，责任不因技术中介而转移。企业与供应商之间的合同约定，只解决内部分摊，不能对抗外部权利人。消费者起诉时，被告通常是对外经营的企业。
第二，过错判断看的是流程而非结果。是否做了上线前测试、是否设置了高风险问题的人工兜底、是否保留日志、是否建立了纠错与撤回机制，这些才是判断企业是否尽到注意义务的实质材料。
第三，标识义务正在成为硬要求。合成内容不标识、不可追溯，会同时触发行政层面的合规风险与民事层面的举证不利。
第四，自动化决策与普通答复要分开管理。定价、授信、个性化推荐、简历筛选这类场景，需要单独设置说明入口与拒绝通道，不能混在通用客服话术里。
四、企业实操防控方案
建议按上线前、运行中、事后三个阶段建立清单。
上线前：
梳理高风险问答域，列出“禁止AI独立作答”清单，包括价格承诺、退换货政策、保修期限、医疗与金融建议、法律结论。
对这些领域设置强制人工转接或固定标准答案，不允许模型自由生成。
与模型供应商签订合同，明确内容合规义务、训练数据来源合法性、知识产权侵权赔偿、日志留存期限与配合举证义务。
完成个人信息影响评估，明确收集字段、保存期限、第三方共享范围。
运行中：
全量留存对话日志与模型版本记录，做到可追溯、可复原。
建立关键词拦截与敏感词库，定期更新。
对生成内容按规范添加标识，并在用户协议与界面提示中说明AI身份。
设置人工复核抽检比例，对高风险场景提高抽检频次。
对差异化定价等自动化决策场景，提供说明入口与拒绝方式。
事后：
建立投诉快速响应流程，接到通知后及时采取删除、屏蔽、更正等措施并留痕。
对已造成用户损失的情形，主动提供补救与更正说明，避免损失扩大。
定期复盘错误答复，回写知识库与提示词，形成闭环。
五、律师提示
以下情形建议尽早委托律师介入。
其一，AI输出涉及医疗、金融、投资、招聘等受监管领域，可能同时触发行业监管规定，民事与行政风险叠加。
其二，出现集体投诉、媒体关注或监管问询时，口径与证据固定需要专业把关，自行回应容易形成不利自认。
其三，与模型供应商就责任分摊发生争议的，需要结合合同条款、技术架构与实际控制力综合判断，不宜单方面停服或删改日志。
其四，涉及跨境部署或使用境外模型的，还要处理数据出境与境外主体责任的衔接问题。
六、结语
AI智能体不会替企业承担责任，它只是把企业的注意义务放大了。部署方真正要做的，不是指望模型不出错，而是把“出错之后怎么办”设计成一套可执行的流程。
对外担责这一点无法改变；能改变的，是出事之后企业手里有没有完整的证据链，以及向供应商追偿时合同能不能兜得住。
免责声明：本文为普法知识分享，仅供参考，不构成任何法律意见。具体法律问题请结合案件实际情况，咨询专业律师。