发生AI生成内容纠纷，企业应先保留哪些证据？
先保留原始输入输出、生成时间和版本、模型与平台操作记录、素材来源及授权、投诉通知和处置记录。责任分析还需要核对实际控制能力、具体使用方式与损害之间的联系。
核对原文 最高人民法院人工智能纠纷意见发布说明
摘要：2026年9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，以五个部分、24条规则回应AI换脸拟声、模型训练、生成内容侵权、自动驾驶等争议。企业需要把应用场景、控制能力、授权范围和预防措施落实到合同与证据中；对规则仍有留白的问题，也不能据此推定可以自由使用。
The Supreme People’s Court’s September 2026 guidelines clarify liability and evidence requirements across AI disputes. This article explains their practical implications for developers, platforms, and users, while identifying questions that remain open.
关键词：人工智能纠纷 过错责任 声音权益 训练数据 生成式AI 证据保全
一、24条规则，解决的是现有法律怎样适用于AI
2026年9月7日，最高人民法院发布《最高人民法院关于依法审理涉人工智能纠纷案件的意见》（法发〔2026〕10号，以下简称《意见》）。这份文件分为五个部分，共24条，系统回应AI换脸拟声、AI幻觉侵权、网络开盒、大数据杀熟、自动驾驶和模型训练等问题。[1]
《意见》是一份司法政策和裁判指导文件。它依托《中华人民共和国民法典》《中华人民共和国个人信息保护法》《中华人民共和国著作权法》等现行法律，指导法院在具体场景中确定责任。办理案件时，仍须落到具体法律条文和案件事实，不能把《意见》当作一部新制定的人工智能法。
对企业和律师而言，这份文件提供了更明确的裁判参照：哪些行为需要授权，哪些风险需要预防，争议发生后由谁拿出什么证据。这些要求会直接影响产品设计、合同谈判和诉讼准备。
二、AI出了错，先看场景和归责规则
《意见》第3条明确：法律没有规定适用无过错责任或者过错推定责任的，按照《民法典》第一千一百六十五条第一款的一般过错责任原则判断。AI输出错误或者产生幻觉，并不意味着开发者自动承担赔偿责任；但产品责任、个人信息侵权等领域已有特别规则的，仍须适用特别规则。[1]
过错判断要回到使用场景。同一个模型，用于普通文案和用于医疗辅助诊断，潜在损害不同，注意义务也会不同。法院还会考察自主化程度、技术和信息透明度、风险影响范围、已经采取的预防措施及其技术可能性，以及使用者的预见和控制能力。通用模型与经过微调的专用模型，不能只因都叫大模型，就套用同一套责任判断。
第9条则要求依据《中华人民共和国产品质量法》的产品定义，认定以实物为载体的AI产品。纯软件、云端服务能否适用产品责任，应结合这一限定判断，不能直接等同于具有实物载体的产品；产品责任之外，合同责任和一般侵权责任仍需要分别审查。
三、买到了录音，不等于买到了一个人的声音
在殷某桢诉北京某智能科技公司等人格权纠纷案中，配音师录制的声音被用于AI处理并形成文本转语音产品。北京互联网法院于2024年4月23日作出（2023）京0491民初12142号判决，认定能够使相关公众识别出本人的AI合成声音，仍受其声音权益保护。法院判令相关被告书面赔礼道歉，并由文化传媒公司和软件公司连带赔偿经济损失25万元。[3]
录音制品、作品的相关权利与配音者的声音人格权益，需要分别核对。取得录音的使用许可，不能直接推导出可以模仿配音者的音色、语调和发音风格，训练并销售可识别本人的合成人声。
《意见》第4条把这一判断写得更明确：除法律另有规定外，未经本人同意，用其声音作训练语料并生成能够识别本人的合成人声，本人主张声音权益受到侵害的，法院依法支持。数字人、AI配音和虚拟主播业务，应在授权文件中写清是否允许训练、合成、对外提供服务以及具体使用范围。[1]
换脸同样需要审查可识别性。未经同意生成可识别本人的虚拟数字形象并使用、公开，可能侵犯姓名权、肖像权等人格权益。可识别并不要求与原面貌百分之百一致，也不能仅凭平台自称提供工具就排除责任。对于逝者形象，还要核查其生前安排、近亲属受保护的利益及具体使用方式；近亲属同意也不能替代法律和公序良俗审查。
四、公开个人信息进入训练集，有三道边界
《意见》第6条没有把公开信息变成任意取用的数据池。一般不认定为侵害个人信息权益，需要同时考察信息是否由个人自行公开或者已经合法公开、处理是否处于合理范围、个人是否明确拒绝。对个人权益有重大影响的，还应依法取得个人同意。[1]
合理范围取决于处理目的与模型功能是否必要、适当，信息类型和敏感程度，对个人权益的潜在影响，以及个人公开信息时的场景和可合理预期的使用范围。公开一段日常视频，并不当然意味着同意他人据此制作可商业调用的声音分身。
企业应建立可追溯的训练数据台账，记录来源、公开或授权依据、用途、敏感性及拒绝处理请求。个人明确拒绝后，不能继续单凭已经公开这一理由用于模型训练。涉及生物识别、医疗健康或者不满十四周岁未成年人信息的，应结合具体处理依据落实敏感个人信息保护要求，不能把所有未成年人信息或者普通声音素材不加区分地归为同一类。[6]
五、平台收到通知后，处理措施要针对持续生成的风险
《意见》第7条区分了两种情形。对于AI自动生成侵害他人人格权益的内容，权利人通知后，服务提供者未及时采取停止生成侵权内容等必要措施的，应当对造成的损害依法承担侵权责任。通知需要包含侵权初步证据及权利人的真实身份信息。[1]
对于用户输入侵权提示词等恶意诱导生成的情形，用户依法担责；平台收到通知后仍未及时采取停止生成、屏蔽相关生成指令等必要措施的，适用《民法典》第一千一百九十五条的相关规则。不能把这两种情形统一简化为平台只赔损害扩大的部分。
对运营者来说，删除一条已发布内容未必足够。投诉处理还应核查相同或相关指令是否继续生成侵权内容，记录采取了什么措施、何时生效、是否复测。具体措施仍须结合服务能力、侵权情形和必要限度判断。
涉及生成内容侵犯著作权，第12条要求综合考察服务类型、行业特点、训练数据来源、各方参与度、必要措施和获利情况。开发者提出不侵权抗辩时，需要提供训练数据来源、训练过程记录、模型运行模式及科学理论依据等佐证。这使训练记录成为诉讼中可能需要提交的证据。[1]
六、AI图片能否成为作品，不能数提示词来判断
北京互联网法院审理的（2023）京0491民初11279号AI生成图片著作权案中，用户使用Stable Diffusion，通过提示词、参数设置和多轮调整生成图片。法院结合具体创作过程，认定图片体现了人的独创性智力投入，构成作品，并认定擅自使用图片、去除署名水印的行为构成侵权。[4]
这个案件的重点是人的创造性选择如何体现在表达中。提示词多、调整次数多，可以是创作过程的事实，但不是自动获得著作权的公式；一句提示词也不能仅因字数少就被预先排除。需要留存具体提示词、参数、版本和选择修改过程，再结合生成结果判断。
《意见》没有对AI生成内容的可版权性、模型训练使用作品是否构成合理使用作出一概适用的结论。它已经规定生成内容侵权及数据权益保护的相关规则，不能把上述留白理解为训练数据没有版权约束。具体争议仍需依据著作权法和实际使用方式处理。
七、杀熟、自动驾驶和开源软件，各有适用条件
针对同一商品或服务，利用算法实行不合理的差别待遇、侵害他人合法权益并造成损害的，应依法承担责任。是否不合理，要结合消费者权益受到的实质限制、个性化交易条件的形成方式以及差别理由等判断。两个人看到不同价格，是调查线索，不能仅凭这一点就认定侵权。利用AI仿冒名人带货且构成欺诈的，消费者可以依据《中华人民共和国消费者权益保护法》第五十五条主张惩罚性赔偿。[1]
自动驾驶和辅助驾驶事故，仍须按照《民法典》和《中华人民共和国道路交通安全法》确定责任。车辆缺陷与驾驶人过错共同导致损害的，可能涉及多个责任主体。《意见》第11条允许法院要求生产者、销售者或运营者等数据控制方，在必要范围内提供真实、完整的事件记录。事故后应尽快固定现场与车辆信息，必要时申请调查取证或证据保全，避免关键记录因更新、丢失等原因难以取得。
开源方面，第13条规定法院应结合许可协议类型、权利限制、安全合规措施和披露程度等因素，给予适当责任豁免。免费开源提供部分代码模块，并公开说明功能和安全风险，他人使用该模块导致侵权的，法院可以认定提供方不承担侵权责任。这个规则有明确的主体和行为条件，不能概括为选对许可证就能免责。[1]
八、把规则落实到授权文件、训练台账和证据记录
- 数字人、AI配音企业：分别核对声音、肖像的人格权益和素材相关知识产权授权，写清训练、合成、商业使用和转授权边界。可以在同一合同中分条约定，关键是权利链完整、授权内容可证明。
- 模型开发和运营企业：保留数据来源、授权依据、训练版本和处理记录；为拒绝处理请求建立可执行流程，并核查敏感个人信息的处理条件。
- 生成式AI平台：将侵权通知、身份及证据核验、停止生成或屏蔽措施、复测结果串成可追溯的处置记录。
- 遭遇换脸拟声的个人：及时保存原始链接、账号、页面、音视频和时间信息，必要时办理公证或者采用可靠的电子存证。上链不能自动证明原始内容真实；申请人格权侵害禁令，还须证明正在或即将发生的侵害及不及时制止将造成难以弥补的损害。
《意见》明确了若干责任边界，也为仍有争议的问题留下继续积累裁判经验的空间。企业今天怎样留存训练记录、限定授权用途、处理一次侵权通知，会成为明天法院判断责任的材料。
一份授权书、一条训练记录、一次投诉处置，都可能决定责任最终落在谁身上。
资料来源
- 最高人民法院：《关于依法审理涉人工智能纠纷案件的意见》（法发〔2026〕10号）及发布说明，2026年9月7日。本文主要对应第3—13条、第16—18条。
- 最高人民法院相关部门负责人答记者问，2026年9月7日。
- 中山法院网转载人民法院案例库：殷某桢诉北京某智能科技公司等人格权纠纷案，北京互联网法院（2023）京0491民初12142号，裁判日期2024年4月23日。
- 北京互联网法院：2023年度十大典型案例之AI生成图片著作权案（英文官方介绍），（2023）京0491民初11279号，介绍发布于2024年2月28日。
- 最高人民法院知识产权法庭转载：《意见》的理解与适用，2026年9月9日。
- 《中华人民共和国个人信息保护法》（2021年），国家市场监督管理总局转载，第十三条、第二十七条至第三十一条。