- 孙本雄;林愉杰;
“数据投毒”是攻击机器学习模型的常用手段,行为人通过使用“有毒”数据造成模型“中毒”生成失真结果的方式,使得计算机信息系统不能正常运行,进而危害计算机信息系统安全和数据安全。实践中,司法机关对数据投毒行为定性不一,存在非法经营罪、破坏生产经营罪、破坏计算机信息系统罪等争论。这些争论或者背离非法经营罪的规范保护目的,或者误将生产要素当做生产资料,或者基于处罚必要性将系统外部数据解释为系统内部数据而有悖于罪刑法定原则;同时,理论上通过增设妨害业务罪规制数据投毒行为的观点不仅会削弱刑法体系结构的严谨性,也会极大增加立法成本和浪费宝贵的司法资源。为保障模型更安全地服务于人工智能产业发展,应以侵害数据的可用性和完整性导致计算机信息系统不能正常运行作为干扰行为的判断标准。行为人对外部数据进行干扰,破坏了数据的可用性和完整性就具备了入罪的可能性。基于此,把“干扰”的对象扩展到外部数据,将“干扰”行为解释为包括对计算机信息系统外部数据进行删除、修改、增加等非法操作,进而厘清“干扰”与“删除、修改、增加”行为的界限,方能有效规制数据投毒行为。
2025年04期 v.25;No.150 1-10页 [查看摘要][在线阅读][下载 171K] [引用频次:0 ] |[下载次数:148 ] - 王果;元爱苗;
生成式人工智能因技术的特殊性与其服务提供者身份的双重性导致侵权形式呈现复杂性。传统避风港规则的核心价值在于风险分配和责任平衡,在生成式人工智能视域下虽具备有限适用性,却难以应对算法不可预测性引发的系统风险。为此,需要寻求适合于生成式人工智能的“通知—必要措施”规则:在宏观层面,法院应通过个案积累形成司法解释,将传统避风港规则的被动响应转为主动升级,同时明确服务提供者合理注意义务标准;在中观层面,基于新技术的不确定性,以技术自觉限缩避风港规则的启动条件;在微观层面,首先对通知内容加以调整,给予权利人瑕疵通知补救机会,然后对必要措施进行类型化分析,区分“删除”和“消除”措施的适用,删除是将侵权内容撤出平台的表层手段,消除是将侵权内容从模型中销毁,以此制定可操作的必要措施实施清单。从而构建兼顾技术创新和权益保护的三层路径协同治理框架,实现避风港规则在生成式人工智能场景中的适应性改造。
2025年04期 v.25;No.150 11-18页 [查看摘要][在线阅读][下载 117K] [引用频次:0 ] |[下载次数:214 ] - 孙维昱;
人工智能技术的快速发展在带来效率提升与产业变革的同时,也引发了复杂的侵权事故风险。当前,人工智能侵权责任研究视角较为单一,应在场景化配置框架的基础上实现责任平衡。人工智能侵权责任配置的核心约束在于人工智能发展过程的“不可能三角”,即使用效率、产业发展与损害救济三大社会价值目标难以同时实现最大化。依据人工智能应用的技术特性、风险形态与社会价值偏好的差异,可将其应用场景划分为损害救济优先、使用效率优先及产业发展优先三类。借助法经济学方法分析可知,在损害救济优先场景中,应对人工智能使用者采取过错责任原则,通过改进“汉德公式”界定其合理注意义务;对人工智能开发者则适用无过错责任以实现风险内化。在使用效率优先场景中,侧重通过强制责任保险机制分散风险并保障效率;在产业发展优先场景,则采取“使用者责任为主、开发者过错责任为例外”的归责原则,对开发者基于技术固有缺陷引发的风险予以责任豁免,以促进技术创新。
2025年04期 v.25;No.150 19-28页 [查看摘要][在线阅读][下载 162K] [引用频次:0 ] |[下载次数:207 ] - 冯一帆;
数字经济背景下,智慧司法与算法、区块链、人工智能等技术的结合不仅在很大程度上使得司法程序与诉讼参与方式产生重大变革,而且极大影响了法治理念与司法逻辑。生成式人工智能通过其高度精细、自主运行、无感运作等技术特征打破了传统的层级管理模式,将其应用于司法审判在辅助类案类判、指引判决参考、助推证据认定等方面体现出显著优势。然而,生成式人工智能赋能司法审判在提高司法效率、重构司法流程、优化司法资源配置的同时也产生了一系列风险,如基于算法黑箱升级而产生的法官的主体地位被削弱、法官判案的准确性被影响、当事人的知情权被侵犯等风险;基于数据利用不当而产生的数据泄露、数据滥用等风险。针对这些挑战,应通过建立事前审查机制和及时披露算法信息以规制算法黑箱,通过对数据进行分类分级监管和建立标准化数据采集机制等以规范数据利用。以期为智慧法院的建设提供有益帮助,进而打造我国智慧司法现代化的新蓝图。
2025年04期 v.25;No.150 29-35页 [查看摘要][在线阅读][下载 118K] [引用频次:0 ] |[下载次数:244 ]