出事之后，法院会看什么？——写给AI合规法务的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》重点条款解读
2026-10-10
2026年9月7日，最高人民法院发布《最高人民法院关于依法审理涉人工智能纠纷案件的意见》（法发〔2026〕10号，以下简称“《意见》”）。这是首部由最高审判机关发布的涉人工智能司法裁判规则文件。
对合规法务而言，《意见》的价值不在于新增了多少义务，而在于回答了一个更实际的问题：纠纷发生后，法院用什么标准判断企业有没有过错？企业又能拿什么证明自己没有？本文按这个思路，挑出与AI产品开发、落地关系最紧的四组条款进行分析，并给出可直接执行的合规建议。
先看结论
• 归责：以过错责任为原则；无过错责任、过错推定责任必须有法律明文规定（第3条）。
• 生成内容：引入“避风港规则”，无需事前审查，但收到有效通知后的“必要措施”扩展为停止生成、屏蔽相关生成指令（第7条）。
• 训练数据：合理范围内处理已公开个人信息可以用于模型训练，但要同时过四道门槛（第6条）。
• 证据：法院可责令企业提供训练数据来源、训练记录等，也可依职权调查；无正当理由拒不提交的，可能承担不利后果（第12条、第17条）。留痕，是这份《意见》下真正的合规底线。
一、原则上有过错才担责，但“原则”之外有两档例外
《意见》第3条规定，法律没有明确规定适用无过错责任或者过错推定责任的，应当依照民法典第一千一百六十五条第一款规定的过错责任原则，认定行为人是否承担侵权责任。三种归责原则对企业的严格程度逐层递进：
《意见》强调，法院不能随意扩大后两档的适用范围。结合AI产业，可以用三个例子体会差别：
（一）过错责任：以“毒蘑菇”为例
某生成式AI应用告知用户某种蘑菇无毒，实际有毒，用户食用后中毒。用户需要证明企业存在过错——比如该蘑菇有毒属于行业常识，而应用未作任何风险提示——企业才承担侵权责任。
（二）过错推定责任：个人信息处理
某生成式AI应用在检索某人信息时，同时展示其住址、电话号码，既未取得本人同意，也不具备其他合法性基础，造成损害。依据《个人信息保护法》第69条，用户无需证明过错，应用需要自己证明“已具备合法性基础、已履行告知义务、已采取必要安全措施”，举证不能就要担责。这类场景下，个人信息保护影响评估报告、处理活动记录是最直接的抗辩材料。
（三）无过错责任：实物载体的AI产品
具身智能机器人、自动驾驶汽车等以实物为载体的AI产品，适用产品责任；单纯的生成式AI服务不属于“产品”。假设某服务机器人因传感器缺陷伤人，受害人无需证明生产者的过错。
实务中要留意第9条的另一层含义：判断产品缺陷时，除自主学习能力、升级更新、用户控制程度、标准符合性外，法院会重点审查企业是否真实说明并明确警示了适用场景、固有局限和可预见风险。说明书与警示，不只是合规文件，也是产品责任中的抗辩证据。
合规法务的第一步：给产品“分档”
• 纯软件服务 → 以过错责任为主；软硬一体产品 → 硬件缺陷适用产品责任；处理个人信息 → 另叠加过错推定。
同一款产品可能同时落入多档。例如带摄像头的陪伴机器人：硬件缺陷看产品责任，人脸与语音数据处理看《个人信息保护法》第69条。
二、过错如何认定：澄清三个常见误解
误解一：只要遵守法律明文规定，就不会有过错？
法院主要根据企业的客观行为判断过错，核心是看其是否违反了法律义务。法律义务分为两类：
• 法定义务：法律规范明文设定的义务。例如《生成式人工智能服务管理暂行办法》要求训练数据来源合法、不侵害他人知识产权，处理个人信息应取得同意或符合法律规定等机制；《人工智能拟人化互动服务管理暂行办法》则明确提供者负有未成年人权益保护义务，并配套安全评估、算法备案等制度。
• 注意义务：法院在既有法律原则与行业惯例基础上，创设的行为人应尽的谨慎和合理义务。例如：在医疗、金融、法律等高风险场景作显著风险提示。
AI技术迭代快，规范难免滞后，而法院又不能以此为由拒绝裁判，因此司法实践中创设了大量针对AI企业的注意义务。也就是说，企业即使遵守了法律明文规定，仍可能因违反注意义务被认定有过错。合规方案如果只对照条文逐条打勾，是不够的。
误解二：过错认定漫无边际，无法预测？
《意见》在总结既有司法实践的基础上，于第3条规定了涉AI侵权案件判断过错的一般因素，又在第12条规定了侵害知识产权案件的特殊因素。整合后如下表，右栏是企业可以提前准备的证明材料：
回到“毒蘑菇”例子，假设涉案应用并非专门的植物识别类垂直应用，也未向用户收费；是在用户刻意诱导后才给出“无毒”结论，同时提示结论可能不准确；其调用国家权威蘑菇数据库，并采用检索增强生成等技术尽力提升准确率。按上述因素衡量，企业通常难以被认定存在过错。
这与已有判例的裁判思路一致。在全国首例AI“幻觉”侵权案中，杭州互联网法院一审驳回诉请，认为AI不是民事主体，案涉场景适用过错责任原则；在当前技术条件下生成内容不准确难以完全避免，服务提供者尽到注意义务的，通常不认定有过错；而医疗、金融、法律等高风险领域，则应适用更严格的标准。
实务建议：把七个因素改写成上线前的评估表，嵌入数据收集、模型训练、上线运营各阶段，每次重大版本变更或新增场景时复评，并保留评估结论。这样，评估记录本身就是日后抗辩时最有说服力的材料。
误解三：过错责任下，企业完全不需要“自证清白”？
过错责任遵循“谁主张、谁举证”，但庭审中举证责任会随案件实际情况动态调整，主要有三种情形：
第一，举证责任转移。原告提供初步证据，使法官确信企业存在过错的可能性很高时，法官可能直接要求企业证明已尽到注意义务。第12条对此有明确体现：开发者提出不侵权抗辩的，应当责令其提供训练数据来源、训练过程记录、模型运行模式以及科学理论依据等佐证。
第二，法院主动调查。AI的核心数据与算法由企业单方掌握，原告往往只有应用截图或现场操作结果，很难找到更深层的证据。针对这种困境，第17条规定，当事人因客观原因不能自行收集的证据，可申请法院调查收集；必要时，法院可依职权调查收集。
第三，拒不提交的不利后果。第17条还规定，当事人无正当理由拒不提交其控制的证据，对方主张的证据内容不利于控制人的，法院可以认定该主张成立。换言之，“我们没有留存”或“属于商业秘密”并不当然是一个安全的回答。
因此，日常研发和运营中必须同步做好留痕存档。结合《意见》精神、相关规定和司法实践，以下材料都可能成为证据：
三、原则上无需主动审查生成内容，但“必要措施”升级了
《意见》第7条规定，生成式AI自动生成，或因用户恶意诱导而生成侵权内容的，服务者在接到权利人有效通知后，未及时采取停止生成侵权内容、屏蔽相关生成指令等必要措施的，应依法承担相应责任。同时，该条明确通知应包含初步侵权证据和权利人真实身份信息；因用户恶意诱导（如输入侵权提示词）生成侵权内容的，用户承担责任，但服务者在接到通知后仍不采取措施的，权利人可请求二者共同担责。
1. 原则：避风港规则
AI具有“黑箱”属性，要求服务者精准预见生成内容或全面审核海量实时输出，在现有技术条件下成本极高、难以做到。《意见》因此正式在生成式AI领域引入“避风港规则”：不要求事前主动审查，工作重点放在事后处置。其包括三个环节：
第一，通知。生成内容往往无法精准复现，企业应在交互界面嵌入一键投诉举报按钮，方便用户就具体生成内容直接反馈，同时设立专门的对外投诉举报入口。受理时应对照第7条的要求，审查通知是否附有初步证据和权利人身份信息；材料不全的，应及时告知补正，并留存沟通记录。
第二，采取必要措施。《意见》将必要措施由传统网络领域的“删除、屏蔽、断开链接”，扩展为“停止生成侵权内容、屏蔽相关生成指令”。服务者不能止步于“一删了之”，还须建立机制，防止同类侵权内容再次生成，这是《意见》对避风港规则的重要创新。技术团队需要提前评估：能否在不下线整个模型的前提下，按提示词、按角色或风格、按插件实施精准拦截？
第三，转通知。企业收到通知后应分类处置：一是针对系统自动生成的内容，在技术条件具备（如依托RAG检索或日志留存）时，追溯推理路径与调用的基础数据，核验侵权风险；二是针对其他用户生成的内容，运用隐式水印、数字标签等溯源技术核验，能精准定位具体用户的，须及时转送通知，并要求其提交不构成侵权的声明。《意见》虽未明文列举“转通知”，但属于避风港规则的题中应有之义，建议作为内部流程一并设置。
2. 例外：红旗规则的“影子”
《意见》未明确引入“红旗规则”（对明显侵权行为应主动采取必要措施）。据《意见》起草组成员的权威观点，原因是理论上尚存争议。但这不意味着司法实践中可以一律免除企业的审查义务，已有法院从不同角度提出了审查要求：
四、公开个人信息可以训练模型，但“拿来即用”行不通
《意见》第6条规定，为模型训练，在合理范围内处理个人自行公开或者其他已经合法公开的个人信息，且个人未明确拒绝的，一般不认定为侵害个人信息权益；对个人权益有重大影响的，应当依法取得个人同意。企业需同时满足以下条件：
第一，合理范围内。综合考量处理目的与模型功能的必要性和适当性，个人信息的类型、敏感程度及对个人权益的潜在影响，个人公开信息时的场景及可合理预期的使用范围等因素。
第二，信息属于个人自行公开，或通过其他合法方式（如新闻报道、裁判文书）公开。“公开”的核心是面向不特定公众，设有特定阅读权限的内容（如仅好友可见的朋友圈）通常不属于公开。
第三，个人未明确拒绝。拒绝分事前与事后两种形态：事前拒绝要求企业抓取时同步审查上下文语境；事后拒绝则要求企业通过有效通知、公告等方式保障知情权，让个人能够切实触达并便捷行使拒绝权。
第四，对个人权益有重大影响的，开展个人信息保护影响评估，并依法取得同意。符合法律规定的特定情形时，取得同意的义务可以豁免。例如新闻AI应用处理公众人物依法公开的违法犯罪记录，直接服务于新闻报道、舆论监督，企业可依据《个人信息保护法》第13条规定的其他合法处理基础。
落地时可以这样做
• 数据源分级：区分完全公开渠道、需登录可见渠道、有明示限制的渠道，后两类默认不纳入。
• 抓取环节设置过滤规则，识别网站声明、协议中的拒绝信号，并留存过滤日志。
• 设立面向训练数据的拒绝与删除响应渠道，明确答复时限；对已训练进模型的数据，提前与技术团队确认可行的处理方式。
涉及敏感个人信息或可能重大影响个人权益的场景，单独做影响评估，不与一般训练数据混同。
此外，实践中还存在一个值得讨论的合规争议。推荐性国家标准《数据安全技术 敏感个人信息处理安全要求》提出，不应通过技术手段自动收集互联网中的敏感个人信息。我们认为，该要求在现行法律体系中缺乏明确的法律支撑，客观上对产业创新构成了过度限制；如前述处理公众人物犯罪记录的场景，一概禁止自动化收集，与公共利益导向下的数据利用需求相悖。但推荐性标准虽无强制力，仍可能在监管沟通或诉讼中被引为判断“合理范围”的参照，企业若选择不遵循，宜形成书面的论证记录。
五、总结：下一步可以做的五件事
《意见》在总结已有司法经验的基础上，明确了涉AI侵权的归责原则，将避风港规则引入生成式AI服务，回答了模型训练中如何使用已公开个人信息的问题；既为产业留出了包容审慎的空间，也划出了不可触碰的底线。对合规法务来说，合规工作的验收标准，正在从“有没有制度”转向“出事时是否能拿得出证据”。
可以从这五件事开始：
1. 给产品分档：梳理现有产品是纯服务、实物产品还是涉及个人信息处理，对应各自的归责原则与抗辩重点。
2. 做评估表：把过错认定的七个因素落成上线前评估表，并与研发流程挂钩。
3. 通一条链路：打通“一键投诉—有效通知审查—停止生成/屏蔽指令—转通知—结果反馈”，明确责任人与时限，并验证技术上确实做得到。
4. 建一本台账：训练数据来源台账，加上公开个人信息的拒绝、删除响应机制。
5. 定一套规则：证据留存与诉讼保留规则，兼顾数据最小化。
同时也要看到，《意见》刻意留白了一部分问题：AI生成内容的可版权性，以及未经许可使用作品训练大模型如何定性，因分歧较大暂未作规定，留待司法实践发展。这两个问题的走向，会直接影响训练数据合规的上限，值得持续跟踪。
本文作者：
声明：
本文由德恒律师事务所律师原创，仅代表作者本人观点，不得视为德恒律师事务所或其律师出具的正式法律意见或建议。如需转载或引用本文的任何内容，请注明出处。
