司法裁判视野下生成式人工智能侵权的风险分级与过错认定Risk Classification and Fault Determination in Generative AI Infringement from the Perspective of Judicial Adjudication
夏璇,翟光普
摘要(Abstract):
生成式人工智能技术在赋能产业发展的同时,也引发了侵害人格权、著作权等权益纠纷。以杭州互联网法院为代表的司法实践,普遍选取过错原则为基准,并在责任主体认定、注意义务判断及举证责任分配等方面形成了一套具有共通性的裁判框架。但现行裁判框架存在认定标准模糊、精细化程度不足、法政策实施效果欠佳等问题,尤其体现在注意义务的分级缺失与举证责任失范两方面。对此,有必要引入基于风险规制模式作为分析工具,依据技术介入深度、损害可能性等要素对生成式人工智能应用场景进行风险分级。在低中风险领域坚持一般过错原则,区分注意义务的幅度,并以文书提出命令作为程序保障;在个人信息不当处理、深度伪造技术应用、服务提供者实质性介入内容生成等高风险场景,则宜适用过错推定规则。通过构建风险分级与归责方式相适配的类型化治理体系,以期在保护民事权益与促进技术创新之间寻求价值平衡。
关键词(KeyWords): 生成式人工智能;过错推定;注意义务;动态系统论;证明责任
基金项目(Foundation): 重庆市法学会第五期法学研究课题“新时代‘枫桥经验’指引下重庆基层社会治理现代化研究”(2025FX11);; 西南政法大学法学院学生科研创新项目“算法证据在民事诉讼中的使用研究”(FXY2026029)
作者(Author): 夏璇,翟光普
DOI: 10.16112/j.cnki.53-1160/c.2026.05.211
参考文献(References):
- [1]宋朵云,肖芄,吴永安.全国首例生成式AI“幻觉”引发侵权之诉[N].人民法院报,2026-01-26(3). [2]林洹民.人工智能侵权的过错责任[J].法学研究,2025,47(5):127-129. [3]光明网.“平台判定用户内容AI生成首案”宣判:平台需对算法审查适度说明[EB/OL].(2025-06-24)[2026-03-01].https://legal.gmw.cn/2025-06/24/content_38110327.htm. [4]陶建华,赫然,刘偲.生成式人工智能[M].北京:清华大学出版社,2025:1. [5]王利明.生成式人工智能侵权的法律应对[J].中国应用法学,2023(5):28-38. [6]山本敬三.民法中的动态系统论——有关法评价及方法的绪论性考察[M]//梁慧星.民商法论丛:第23卷.解亘,译.北京:法律出版社,2002:177. [7]王利明.民法典人格权编中动态系统论的采纳与运用[J].法学家,2020(4):1-2. [8]胡学军.民法典“动态系统论”对传统民事裁判方法的冲击[J].法学,2021(10):141-150. [9]高桥宏志.重点讲义民事诉讼法[M].张卫平,译.北京:法律出版社,2007:408. [10]解亘,班天可.被误解和被高估的动态体系论[J].法学研究,2017,39(2):47-54. [11]曾雄,梁正,张辉.中国人工智能风险治理体系构建与基于风险规制模式的理论阐述——以生成式人工智能为例[J].国际经济评论,2025(4):135. [12]张广利,黄成亮.风险社会理论本土化:理论、经验及限度[J].华东理工大学学报(社会科学版),2018,33(2):11-12. [13]刘鹏,王力.回应性监管理论及其本土适用性分析[J].中国人民大学学报,2016,30(1):93-94. [14]梁远高.生成式人工智能服务提供者侵权责任的场景化分类及归责认定[J].深圳大学学报(人文社会科学版),2024,41(5):118. [15]朱岩.风险社会下的危险责任地位及其立法模式[J].法学杂志,2009,30(3):7-8. [16]何国强.“风险侵权法”的理念及制度逻辑——从对高空抛物致害责任制度正当性的论证展开[J].湖北大学学报(哲学社会科学版),2017,44(3):107-108. [17]何国强.风险社会、风险分配与侵权责任法的变革[J].广东社会科学,2018(3):233-234. [18]苏成慧.信息处理者安全保障义务的体系阐释[J].河北法学,2026,44(1):125. [19]莫杨燊.个人信息侵权的过错推定责任:质疑回应、体系协调与规则适用[J].河北法学,2026,44(1):146-147. [20]文铭,孙圆圆.深度伪造技术应用风险及法律规制研究[J].中国科技论坛,2023(4):159. [21]冯晓青,沈韵.生成式人工智能服务提供者著作权侵权责任认定[J].法治研究,2025(1):47-52. [22]程啸.论生成式人工智能侵权责任中的因果关系[J].中国法律评论,2026(1):84-85. [23]刘俣孜,赵云泽.人工智能幻觉现象的生成机制与治理策略[J].新媒体与社会,2025(4):242-245. [24]姚佳.生成式人工智能服务提供者的注意义务[J].法学论坛,2026,41(3):28-29. [25]杨建武,罗飞燕.分级分类管理:生成式人工智能内容风险与法律规制[J].昆明理工大学学报(社会科学版),2025,25(6):13-22.
- (1)支持适用过错责任规则的学者,主要基于生成式人工智能技术及其输出难以被归类为“产品”,以及适用严格的产品责任规则可能给产业造成过度负担等理由展开论证。相反,主张可适用产品责任的学者则认为,生成式人工智能的系统或输出应被(或可被)评价为“产品”,适用产品责任规则未必会不合理地抑制产业创新,适用产品责任规则在一定程度上缓解诉讼证明困难。前者观点参见王利明:《生成式人工智能侵权的归责原则与过错认定》,《中国法律评论》2025年第4期,第15-30页;王利明:《生成式人工智能侵权的法律应对》,《中国应用法学》2023年第5期,第27—38页;周学峰:《生成式人工智能侵权责任探析》,《比较法研究》2023年第4期,第117—131页。后者观点参见李雅男:《生成式人工智能的法律定位与侵权归责路径》,《比较法研究》2025年第3期,第69—84页;孙祁:《规范生成式人工智能产品提供者的法律问题研究》,《政治与法律》2023年第7期,第162—176页;戴昕:《无过错责任与人工智能发展——基于法律经济分析的一个观点》,《华东政法大学学报》2024年第5期,第38—55页。 (2)参见杭州互联网法院(2025)浙0192民初18143号民事判决书。 (3)参见杭州互联网法院(2023)浙0192民初4563号民事判决书。 (4)参见杭州互联网法院(2024)浙0192民初1587号民事判决书。 (5)参见北京互联网法院(2020)京0491民初9526号民事判决书。 (6)参见北京互联网法院(2023)京0491民初3820号民事判决书。 (7)参见杭州互联网法院(2024)浙0192民初1587号民事判决书。 (8)参见北京互联网法院(2020)京0491民初9526号民事判决书。 (9)参见杭州互联网法院(2025)浙0192民初18143号民事判决书。 (10)参见杭州互联网法院(2025)浙0192民初18143号民事判决书。 (11)参见杭州互联网法院(2024)浙0192民初1587号民事判决书。 (12)实际上,凡涉及人工智能的民事纠纷案件,普遍存在证据偏在问题。为查明事实,法院倾向于要求作为算法掌控者的平台一方承担相应的说明与披露责任。例如:在“梁某诉某人工智能公司网络侵权责任纠纷案”中,法院经审查认为,被告已通过应用程序欢迎页、用户协议及交互界面的显著位置对AI生成内容的局限性作出提醒,并结合其采用检索增强生成等技术提升输出可靠性的事实,认定其已尽到合理注意义务。参见杭州互联网法院(2025)浙0192民初18143号民事判决书。在“平台判定用户内容系AI生成首案”中,法院指出,原告无法提供算法审查所需证据具有客观合理性,而被告既是算法工具的掌控方又是结果判断方,故应对其算法审查结论的生成过程进行合理举证或解释说明。参见袁建华:《人工智能生成合成内容标识的司法审查规则构建——以“平台判定用户内容系AI生成首案”为例》,载《法律适用》2025年第9期,第123页。 (13)《中华人民共和国民法典》第九百九十八条规定:认定行为人承担侵害除生命权、身体权和健康权外的人格权的民事责任,应当考虑行为人和受害人的职业、影响范围、过错程度,以及行为的目的、方式、后果等因素;《最高人民法院关于确定民事侵权精神损害赔偿责任若干问题的解释》第五条规定:精神损害的赔偿数额根据以下因素确定:(一)侵权人的过错程度,但是法律另有规定的除外;(二)侵权行为的目的、方式、场合等具体情节;(三)侵权行为所造成的后果;(四)侵权人的获利情况;(五)侵权人承担责任的经济能力;(六)受理诉讼法院所在地的平均生活水平。 (14)参见《中华人民共和国个人信息保护法》第二十四条第三款:通过自动化决策方式作出对个人权益有重大影响的决定,个人有权要求个人信息处理者予以说明,并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。《互联网信息服务算法推荐管理规定》第十六条:算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。《互联网信息服务深度合成管理规定》第二十一条:网信部门和电信主管部门、公安部门依据职责对深度合成服务开展监督检查。深度合成服务提供者和技术支持者应当依法予以配合,并提供必要的技术、数据等支持和协助。《生成式人工智能服务管理暂行办法》第十九条:有关主管部门依据职责对生成式人工智能服务开展监督检查,提供者应当依法予以配合,按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明,并提供必要的技术、数据等支持和协助。 (15)参见《生成式人工智能服务管理暂行办法》第三条:国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。 (16)参见杭州互联网法院(2025)浙0192民初18143号民事判决书。 (17)参见湖南省长沙市开福区人民法院(2024)湘0105民初3790号民事判决书。 (18)参见杭州互联网法院(2024)浙0192民初1587号民事判决书。 (19)欧盟发布的《人工智能法案》将人工智能的应用场景按照风险等级区分为四类并依照比例原则配置了不同的监管手段;新加坡发布的《人工智能监管模式框架(第二版)》、美国颁布的《算法问责法案》等均直接或间接采取了基于风险的规制路径。参见刘轩、陈海彬:《人工智能监管:理论、模式与趋势》,《情报理论与实践》2023年第6期,第19-22页。 (20)该理论的核心贡献在于构建了著名的“金字塔理论”。金字塔理论主张规制者应当根据被规制对象的产业结构、行为动机、自我监管能力等因素的差异,综合决定规制的时机与手段,避免“一刀切”式的过度干预或消极放任。 (21)相关研究参见任梅、代栋栋:《生成式人工智能的回应性监管架构及其实现路径》,《中国行政管理》2025年第2期,第43—49页;曾雄、梁正、张辉:《中国人工智能风险治理体系构建与基于风险规制模式的理论阐述——以生成式人工智能为例》,《国际经济评论》2025年第4期,第131—152页。 (22)在《人工智能法案》中,不可接受的风险指的是对安全、基本权利和欧盟价值观构成明显威胁的人工智能应用,如社会信用评分、远程生物特征识别系统等,法案对此类应用采取完全禁止的监管态度;高风险指的是会对人身安全、生命健康以及财产权益造成巨大影响的应用,如自动驾驶系统、手术机器人以及信贷审批系统等,法案对此类应用设定了严格的合规前置审批义务;有限风险主要指向基于用户行为的个性化推荐系统以及通用式人工智能应用,法案所设定的义务主要为透明化义务;而最小风险指的是日常AI应用工具,如语音助手等,这些工具通常不会对用户权益产生影响,法案通过自愿合规和市场自律加以规制。参见崔星璐、姚长青:《我国人工智能系统分级透明制度的构建路径——基于欧盟〈人工智能法案〉风险评估模式的研究》,《情报杂志》2025年第11期,第165页。 (23)参见广州互联网法院(2024)粤0192民初113号民事判决书、浙江省杭州市中级人民法院(2024)浙01民终10332号民事判决书。 (24)也有学者指出,在训练阶段,服务提供者对训练数据享有排他性控制权,且权利人举证难度较高,故宜适用过错推定规则。参见梁远高:《生成式人工智能服务提供者侵权责任的场景化分类及归责认定》,《深圳大学学报(人文社会科学版)》2024年第5期,第119页。 (25)参见杭州互联网法院(2024)浙0192民初1587号民事判决书。 (26)主张违反“禁止信赖诱导”义务的证明责任仍应由原告负担,这是因为无论是拟人化交互设计还是在对话中出现了实质性的肯定表述,都较为容易被录屏、拍照等手段所固定取证。