最高法《意见》下的企业AI开发及应用合规 ——责任边界、证据管理与业务自查
2026-09-10
2026年9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》（法发〔2026〕10号，以下简称《意见》），共五个部分、二十四条。最高人民法院将其称为首部由国家最高审判机构发布的涉人工智能司法裁判规则文件。[1]对开发、采购、部署或者使用人工智能的企业而言，《意见》的直接意义，是把企业此前主要从监管和内部治理角度理解的AI合规，进一步推向民事责任与证据判断层面。
此前，我们分别从法务AI助手搭建、AI赋能合规管理和智能体监管规则三个角度，讨论了本地部署、知识库、权限控制、人工复核、供应链和运行留痕等企业AI应用合规的实务问题。[3][4][5]《意见》把视角继续向争议端推进：当AI应用造成损害或者发生权利冲突时，法院将如何识别责任主体、适用何种归责规则、判断注意义务是否履行，以及要求谁提交什么证据。
因此，企业的AI开发及应用合规，当前需要依次回答五个问题：自身在AI业务链条中是什么角色；受影响的是什么权利或者利益；该场景适用一般过错责任还是特别归责规则；企业在当时具有何种风险预见和控制能力；争议发生后能否拿出与业务事实、技术状态和处置过程相对应的证据。AI开发及应用合规不能停留在“有制度、有审批”，还要能够说明制度如何运行、措施为何与风险相适应，并在需要时加以证明。
本文在《意见》文本及最高人民法院答记者问基础上，从文件定位、责任识别、归责规则、重点业务场景、证据管理和企业实施六个层面展开。下文所称条次均指《意见》；文中流程、岗位和留存措施属于合规建议，应结合具体业务、监管要求和合同安排适用。
一、文件定位：裁判规则文件，不是独立的“人工智能责任法”
最高人民法院在发布会上将《意见》定位为“涉人工智能司法裁判规则文件”。从形式上看，《意见》不属于《最高人民法院关于司法解释工作的规定》第六条所列的“解释、规定、规则、批复、决定”等司法解释形式。[1][6]因此，将《意见》直接等同于司法解释并不准确；企业在合同、合规意见和诉讼抗辩中，仍应回到《民法典》《个人信息保护法》《产品质量法》《消费者权益保护法》《反不正当竞争法》等现行法律确定具体权利义务。
这并不降低《意见》的实务重要性。它把现行法律中的一般规则放入AI场景，给出了法院识别责任主体、判断过错、审查产品缺陷、处理通知后责任、分配部分举证负担以及审查AI证据的具体路径。第二十二条还要求对具有规则确立意义、需要统一法律适用标准的案件规范适用提级管辖，并充分运用人民法院案例库加强指导。对企业而言，《意见》应当被直接转化为诉讼风险识别和证据准备标准。
最高人民法院同时明确，对目前难以形成共识的问题作了留白处理。[1][2]企业因此需要区分三类事项：已有明确法律规则且《意见》进一步细化的事项；《意见》只提供判断因素、仍需个案衡量的事项；《意见》明确暂不作规定、需要继续跟踪裁判和立法发展的事项。把第三类问题写成已经稳定形成的裁判结论，风险较大。
二、责任识别：先看实际行为和控制能力，再看合同称谓
《意见》分别处理了生成式AI服务、以实物为载体的AI产品、模型训练、数据使用、自动驾驶、开源软件和技术合同等不同场景。一个项目可能同时包含多种法律关系。智能硬件接入生成式功能后，设备本身可能涉及产品缺陷，云端输出可能涉及人格权或者著作权，用户数据处理涉及个人信息，模型与插件采购又涉及合同和供应链责任。不能因为项目统一被称为“AI产品”或者“AI平台”，就用一套责任规则覆盖全部争议。
企业在内部评审和合同安排中，应按实际行为识别开发者、提供者、生产者、销售者、运营者和使用者等角色：谁决定训练数据和模型功能，谁控制生成和过滤机制，谁面向用户提供服务，谁能够停止生成、屏蔽指令或者下线功能，谁掌握版本和运行日志，谁能够调取事件数据。责任判断越来越依赖这些实际控制事实，而不是采购合同中给各方贴了什么标签。
合同仍然重要，但其功能主要是明确资料提供、通知协作、技术整改、证据保存、审计、赔偿和内部追偿。合同不能当然改变对第三人的法定责任，也不能替代法院对实际行为和控制能力的判断。企业接入外部模型或者智能体平台时，如果底层资料完全由供应商控制，合同中至少应预留训练来源说明、版本信息、日志调取、争议协助和保密提交机制。
三、归责规则：过错责任是一般规则，不是唯一规则
第三条确立的判断顺序是：先看法律是否明确规定无过错责任或者过错推定责任；没有特别规定时，再依《民法典》第一千一百六十五条第一款适用过错责任。因此，“AI侵权原则上适用过错责任”可以作为概括，但不能据此忽略个人信息侵权、产品缺陷等已有特别规则。[7][8][9]
例如，《个人信息保护法》第六十九条规定，处理个人信息侵害个人信息权益造成损害，个人信息处理者不能证明自己没有过错的，应承担损害赔偿等侵权责任。AI训练或者用户数据处理争议进入这一规则时，企业的证明任务与一般过错责任并不相同。AI产品存在缺陷造成损害时，也应依产品责任规则判断，生产者承担责任并不以受害人证明其主观过错为前提。
对于适用一般过错责任的场景，第三条要求综合考量应用场景、自主化程度、技术与信息透明度、潜在风险及影响范围、预防和减少侵权的措施及技术可能性，以及使用者对损害的预见和控制能力。企业可以把这些因素直接转化为上线评审字段：系统在什么场景使用；已知风险是什么；当时有哪些技术措施可行；企业采取了哪些措施；为什么认为措施与风险等级相匹配；发生异常后如何发现和处置。
这也意味着，内部“合规审批通过”本身不是免责事实。争议中仍须分别审查是否存在侵权行为、损害、因果关系、主观过错或者法定特别责任要件。制度、审批、测试和日志的价值，在于证明企业当时的风险判断与实际措施，而不是给业务盖一枚可以对抗一切责任的“合规章”。
四、七类重点业务场景：规则、风险与企业动作
（一）训练数据与个人信息：公开可访问，不等于可以直接训练
第六条允许在一定条件下将个人自行公开或者其他已经合法公开的个人信息用于模型训练：处理须处于合理范围，个人未明确拒绝；对个人权益有重大影响的，应依法取得个人同意。判断“合理范围”时，还要结合处理目的与模型功能的必要性、适当性，信息类型和敏感程度，对个人权益的潜在影响，以及个人公开信息时的场景和可合理预期的使用范围。[1][7]
企业不能仅用“网上可以搜索到”证明数据来源和训练用途合法。自建或者采购训练集时，建议至少保留来源网址或取得渠道、采集时间、公开场景、授权或其他处理依据、用途限制、拒绝处理请求的处置记录，并使数据来源台账能够关联至训练批次和模型版本。供应商只有一份笼统的“数据合法”保证，通常不足以应对后续权利主张和举证要求。
人脸、声纹等生物识别信息属于敏感个人信息，应结合《个人信息保护法》第十三条、第二十八至三十条审查处理依据、特定目的、充分必要性和保护措施；依法以同意为处理依据的，还须落实单独同意等要求。涉及敏感个人信息等法定高风险场景的，应在事前开展个人信息保护影响评估并按法定期限留存记录。[7]
（二）人格权益与禁令：授权范围要覆盖“训练—生成—使用”完整链条
第四条分别处理虚拟数字形象、合成人声、名誉侵害和死者人格利益。企业进行数字人、仿声、虚拟代言、AI复活逝者等业务时，授权审查不能停留在“素材是否取得”。普通照片、录音或者视频的使用许可，不当然包括模型训练、形象合成、声音克隆、商业代言、公开传播和转授权。对外使用前，应核对权利主体、授权行为、使用范围、期限、地域、商业用途和再许可安排。
第八条进一步引入人格权侵害禁令机制。权利人有证据证明行为人正在实施或者即将实施人格权益侵害，且不及时制止将造成难以弥补损害的，可以申请法院责令停止有关行为或者停止提供有关服务。措施不得超过必要限度。企业需要预置针对具体内容、生成指令、账号、模型能力或局部功能的快速处置能力，避免只有“整个平台关闭”与“什么都不做”两个选项。
对法务、技术、内容审核和运营团队，建议提前建立司法文书响应流程，明确收到权利通知、保全材料或禁令裁定后的内部升级路径、执行责任、技术验证和证据留存。内部审批时限不构成对司法裁定的宽限期。
（三）生成式AI服务提供者：通知后的措施能力将成为责任判断重点
第七条区分两类情形。第一类是生成式人工智能自动生成的内容侵害他人人格权益，权利人通知后，服务提供者未及时采取停止生成侵权内容等必要措施的，应对造成的损害依法承担责任。第二类是用户通过侵权提示词等方式恶意诱导生成侵权内容，用户依法承担责任；服务提供者收到合格通知后仍未及时采取必要措施的，权利人可以依据《民法典》第一千一百九十五条主张责任。[1][8]
最高人民法院在答记者问中将后一机制概括为对生成式AI服务提供者参照适用“避风港规则”。[2]但两类情形的责任结构不应混同。尤其在用户侵权场景下，《民法典》第一千一百九十五条直接指向通知后损害扩大部分的连带责任；自动生成情形则由第七条第一款另行规定“对造成的损害依法承担侵权责任”。企业在产品规则和争议处理时，应分别识别侵权来源、通知内容、可采取措施和损害发生时间。
投诉机制应形成可审计链条：通知接收和身份核验、初步证据审查、必要补正、风险分级、措施选择、执行时间、效果验证、反馈以及复核。技术端应尽可能支持停止特定生成、屏蔽相关指令、限制特定能力、暂停账号或者局部功能。未收到通知并不当然构成完整抗辩；在符合《民法典》第一千一百九十七条等适用条件时，是否已经知道或者应当知道相关侵权，仍可能需要结合服务机制、风险信息和控制能力判断。
（四）AI产品与智能驾驶：说明警示重要，但不能替代产品安全
第九条要求依据《产品质量法》关于“产品”的定义，识别以实物为载体的AI产品。判断是否存在不合理危险时，需要综合产品性质和用途、自主学习能力、升级更新、用户控制程度及相关国家标准、行业标准，并重点审查生产者、销售者对适用场景、固有局限和可预见风险是否作出真实说明和明确警示。[1][9]
警示是缺陷判断的重要因素，但不是独立免责凭证。企业仍需证明产品设计、制造、软件版本、更新机制和风险控制与当时技术条件相适应。产品、市场和法务应共同核对用户手册、界面提示和销售话术，避免宣传的自动化等级、能力边界与实际版本不一致。
第十一条对自动驾驶及辅助驾驶事故，分别衔接交通事故责任、产品缺陷责任和虚假宣传责任。对辅助驾驶车辆，车辆缺陷与驾驶人过错结合造成同一损害时，应依法确定各方责任，并不存在统一的预设比例。车辆事件记录、功能状态、警示与接管信息会成为重要事实材料。车企、运营者和供应商应在合同中明确事件数据的控制主体、完整性要求、调取接口和争议协助义务。
（五）算法差别待遇与AI营销：能够解释差异，还要能够证明理由正当
第十条针对同一商品或者服务上的不合理差别待遇，要求审查消费者的知情权、自主选择权、公平交易权等是否受到实质性限制或者损害，是否基于消费偏好、支付意愿、支付能力、浏览记录等形成个人化交易条件，以及差异理由是否正当、充分、非歧视。涉及个人信息自动化决策的，还应与《个人信息保护法》第二十四条一并审查。[1][7]
企业不能因为存在会员规则、优惠策略或者动态定价机制，就推定差异合理。上线和重大调整前，应记录影响交易条件的主要变量、业务目的、适用人群、差异结果和测试样本，并对异常差异设置复核机制。需要说明的不是“算法就是这样算的”，而是相关变量与业务目的之间是否存在可解释、可接受的联系。
利用AI仿冒名人带货且构成欺诈的，消费者可以依据《消费者权益保护法》第五十五条主张惩罚性赔偿。相同行为还可能侵害被仿冒者的姓名、肖像、声音或者名誉等人格权益。营销团队应分别核验素材授权和宣传真实性；取得人物素材的使用权，不等于有权虚构代言关系或者产品推荐。
（六）知识产权、开源与技术合同：责任将更多围绕“谁控制、谁参与、谁获利”展开
第十二条要求结合服务类型、行业特点、训练数据来源、各方参与程度、必要措施和获利情况，合理认定开发者、提供者和使用者的著作权侵权责任。开发者提出不侵权抗辩时，法院应责令其提供训练数据来源、训练过程记录、模型运行模式和科学理论依据等材料；权利人主张提供者利用算法侵权的，也应提供相应证据。[1]
这一规则不宜概括为“AI著作权案件全面倒置举证责任”。开发者需要对其掌握且与抗辩直接相关的训练和运行事实提供佐证；第十七条又规定，控制书证、电子数据等证据的一方无正当理由拒不提交，可能承担不利后果。接入方如果无法控制底层训练资料，应在采购阶段约定供应商保存资料、协助举证和在法院要求下采取保密方式提交的义务。
第十三条对开源软件责任豁免设置了具体条件：免费开源AI软件研发所需的部分代码模块，公开说明功能和安全风险，并由他人使用该模块导致侵权时，法院可以认定开发者、提供者不承担侵权责任；同时还需综合许可类型、权利限制、安全合规举措和信息披露程度。企业使用开源模型或组件时，应逐项核对署名、版权声明、源代码提供、修改披露、再分发和许可证兼容义务，不应把“开源”理解为“没有法律责任”。
第十四条和第十五条分别涉及AI辅助发明创造和技术合同。发明人认定仍以自然人是否对发明创造的实质性特点作出创造性贡献为关键；技术合同违约责任则首先回到合同约定，同时考虑AI研发特点和开发方是否尽到合理努力。对探索性研发项目，合同应区分确定性交付与研究目标，写清样本、指标、验收环境、复测程序、变更机制以及技术不确定性下的通知和终止安排。
（七）数据权益与数据使用：数据保护不等于自动取得排他权
第十六条以“合法获取数据并享有相应数据权益”为保护前提，并分别衔接著作权、商业秘密和反不正当竞争规则。数据集合能否作为汇编作品受保护，需要审查其选择或者编排是否符合著作权法要求；作为商业秘密保护，则须满足秘密性、商业价值和相应保密措施等法定要件。
对不构成商业秘密的数据，仍应具体审查获取和使用行为是否违反2025年修订的《反不正当竞争法》第十三条。该条第三款明确规制以欺诈、胁迫、避开或者破坏技术管理措施等不正当方式获取、使用其他经营者合法持有数据，并损害其权益、扰乱竞争秩序的行为。[10]设置访问控制、反爬措施和保密机制有助于证明数据权益和排除不正当获取，但不会因此自动创设一项绝对排他的“数据所有权”。
企业应把“数据从哪里来”和“我们如何取得、如何使用”分开审查。外部数据采集需要核对授权范围、平台规则、技术限制和采集手段；内部高价值数据则应落实访问权限、保密协议、导出控制和操作日志。第十六条还涉及利用数据、算法实施垄断行为，以及虚构干扰数据、恶意标注和对抗样本攻击等损害AI运行安全的行为，相关场景应纳入竞争合规和信息安全审查。
五、证据管理：企业要从“做过合规”走向“能够证明做过什么”
第十七条是《意见》中对企业内部治理影响最直接的程序性规定之一。控制书证、电子数据等证据的一方无正当理由拒不提交，对方主张证据内容不利于控制人的，法院可以认定该主张成立。这与《最高人民法院关于民事诉讼证据的若干规定》第九十五条相衔接。[1][11]适用时仍需审查证据是否由一方控制、是否具备提交能力、拒绝理由是否正当以及对方所主张的证据内容，不能简单理解为“数据缺失即败诉”。
企业留存策略需要同时满足举证需要与数据保护要求。训练来源、模型版本、过滤规则、测试报告、投诉处置、权限变更、车辆事件和普通用户内容，应分别确定留存依据、期限和访问权限。个人信息原则上只应保存实现处理目的所必要的最短时间；个人信息保护影响评估报告和处理情况记录则依法至少保存三年。发生具体争议、收到保全申请或者法院提交要求后，应及时冻结相关材料，避免例行清理破坏证据，但不能以“未来可能诉讼”为由无限期保存全部个人信息。[7]
第十八条要求重点审查电子数据生成、收集、存储和传输过程的真实性、完整性。以AI生成内容证明侵权时，还要考察提示词设计及其影响、与权利作品的相似程度、重复测试的一致性，以及模型训练、算法设计和内容过滤机制。企业进行侵权复现、内部测试或者取证时，应保存模型及工具版本、测试时间、提示词、参数、完整输出和重复结果，并避免只选择有利结果展示。
第十九条对诉讼参与人使用AI生成诉讼文书、案例检索报告等提出了明确要求：提交法庭前应认真核实法律、司法解释和案例等内容的真实性、准确性，提交时说明使用AI辅助情况，并对有关内容依法承担责任。[1]企业法务与外部律师应据此明确人工复核和引用核验责任。AI生成的案例名称、案号和裁判观点尤其需要回到人民法院案例库、裁判文书或者其他可靠来源逐项核对。
六、规则留白：两项知识产权问题应当明确标注“待判例”
最高人民法院在答记者问中明确，起草过程中对两个问题分歧较大，因此《意见》暂不作规定：一是人工智能生成内容的可版权性；二是未经许可使用他人作品训练人工智能大模型的定性问题。[2]这两项留白直接影响企业的训练数据采购、内容商业化和合同保证条款，不能用第十二条关于“生成内容侵权责任”的规定反向推导出已经存在统一答案。
对AI生成内容，委托、雇佣和采购合同可以约定成果交付、使用范围、权益分配、保密和争议处理等内容，但合同不能使不符合著作权法作品构成要件的内容自动取得著作权，也不能处分第三人的权利。对高价值商业内容，保留人的创作选择、修改、编排和最终定稿过程，有助于后续说明自然人的实际创作贡献。
对训练数据中的作品使用，在相关司法规则尚未稳定前，企业更应重视授权链和可替换性。采购数据或模型时，应区分“供应商保证不侵权”与“供应商能够提供训练来源和授权材料”两件事，并约定争议发生后的资料调取、替换、停止使用和损失分担机制。
“AI幻觉”也不能被视为一种独立、统一的侵权类型。虚构事实损害名誉、错误建议造成财产损失、系统错误形成产品危险，分别可能进入人格权、合同、一般侵权或者产品责任规则。专业建议类AI应明确适用范围、信息来源、人工复核和重大决策的人工确认机制，能力局限提示不能替代必要的质量控制。
第二十四条关于跨境纠纷和国际司法合作，也不构成数据出境许可或豁免。企业使用境外模型、开放境外远程访问或者向境外传输业务数据时，仍须按实际数据类型和处理活动另行判断个人信息出境、重要数据和网络数据安全等要求。
七、落地实施：把裁判要素转成“责任—措施—证据”三张图
此前关于智能体治理的文章提出，可以用基础清单管理数据、权限、复核和运行留痕。[5] 《意见》发布后，企业可以在既有AI治理体系上再补一层“责任—措施—证据”映射：每个AI应用先明确可能触发的法律责任，再列出对应的风险控制措施，最后确认哪些材料能够证明措施实际运行。三者应一一对应，避免制度写得很全，却无法从具体业务回溯到技术状态和处置记录。
建议由法务合规牵头建立AI应用清单，逐项确认用途、供应商、使用人群、处理数据、输出去向、实际控制能力和高风险动作。研发负责模型、版本、测试和技术控制事实的确认；业务负责用途、宣传和商业安排；数据及安全岗位负责数据处理、权限和日志；采购负责供应商资料与合同义务；法务负责归责规则、权利基础和争议响应。技术事实未经确认时，不宜仅凭产品名称、供应商宣传或者合同标签完成法律定性。
上线评审应形成可以执行的结论。材料齐备且风险控制与应用场景相适应的，可以上线；存在可补正问题且临时措施足以控制风险的，可以限定范围或者附条件上线；关键来源不明、授权不足、高风险功能缺乏有效控制，或者发生争议后无法取得关键底层资料的，应暂停相应数据使用、功能发布或者供应商接入。整改后由原审查岗位复核恢复条件，并保存决定、责任人和依据。
运行期间，投诉、异常输出、重大版本更新、模型或插件更换、权限扩大、业务用途变化、监管政策变化和重大争议，应作为复核触发点。验收时不宜只统计制度和台账数量，可以抽取一个真实功能，从业务用途反向追溯到数据来源、授权、模型版本、测试结论、审批决定、投诉处置和供应商协作资料，检查链条是否真实可还原。
后续跟踪重点
《意见》落地后的关键变量不在条文数量，而在具体判断标准如何通过案例形成。企业近期应重点跟踪四类问题：公开个人信息用于训练的“合理范围”；生成式AI服务提供者采取“必要措施”的充分性与及时性；算法差别待遇中“正当、充分、非歧视”的审查尺度；训练、版本和运行记录在诉讼中的提交范围及商业秘密保护方式。
相关案例形成后，应按其具体事实修订企业评审标准和合同条款，不宜把单一案例的结论直接推广到不同模型、不同业务和不同控制能力的场景。
参考文献：
本文按2026年9月8日可以核对的公开文本分析。法律、司法文件和企业合规建议应结合具体业务、合同安排及后续裁判发展使用。
[1]最高人民法院：《关于依法审理涉人工智能纠纷案件的意见》（法发〔2026〕10号）及发布说明，2026年9月7日。 最高人民法院官网
[2]最高人民法院相关部门负责人就《关于依法审理涉人工智能纠纷案件的意见》答记者问，2026年9月7日。 最高人民法院官网
[3]德恒律师事务所：《法务AI助手搭建及AIGC合规管理指引》，2025年4月17日。 德恒官网
[4]德恒律师事务所：《AI赋能合规管理：落地路径、应用场景与法律保障》，2026年1月28日。 德恒官网
[5]德恒律师事务所：《智能体监管新规下的企业AI合规边界——从数据安全、权限控制到责任留痕》，2026年5月14日。 德恒官网
[6]最高人民法院：《关于司法解释工作的规定》（2021年修正），重点参见第六条。 法院公开文本
[7]《中华人民共和国个人信息保护法》，2021年11月1日起施行，重点参见第十三、二十四、二十七至三十、五十五、五十六、六十九条。 国家法律法规数据库
[8]《中华人民共和国民法典》，2021年1月1日起施行，重点参见第九百九十四、九百九十七、一千一百六十五、一千一百七十二、一千一百九十五、一千一百九十七、一千二百零二、一千二百零三条。 国家法律法规数据库
[9]《中华人民共和国产品质量法》（2018年修正），重点参见第二、四十一至四十三、四十六条。 国家法律法规数据库
[10]《中华人民共和国反不正当竞争法》（2025年修订），2025年10月15日起施行，重点参见第十三条第三款。 中国人大网
[11]《最高人民法院关于民事诉讼证据的若干规定》（2019年修正），重点参见第九十五条。 最高人民法院官网
本文作者：
声明：
本文由德恒律师事务所律师原创，仅代表作者本人观点，不得视为德恒律师事务所或其律师出具的正式法律意见或建议。如需转载或引用本文的任何内容，请注明出处。
