于佳祺律师
网址:http://www.yujiaqi360.com/
联系人:于佳祺律师
手机:15901599448
邮箱:yujiaqi@jingsh.com
地址:北京市朝阳区东四环中路37号京师律师大厦
生成式人工智能数据投毒,是指行为人向模型训练数据中故意注入恶意的、虚假的或带有偏见的信息,破坏了数据的完整性和真实性,进而实现控制算法决策的新型网络攻击形式。相较于传统网络犯罪,数据投毒呈现三方面的实质性变化:破坏方式由物理损坏转向语义污染,使得损害结果难以测算;因果链条由可追溯陷入逻辑断裂困境;法益侵害范围扩大,由辅助性的秩序法益到系统性的实体法益。由此,数据投毒行为的刑法规制面临以下困境:其一,传统数据犯罪法益保护滞后,难以覆盖数据投毒破坏算法决策进而危害数据安全的新型风险;其二,以往罪名适用基于文义解释,难以涵盖此类新型行为样态;其三,前置法规范不足致使刑事判断缺乏行政法依据;其四,多元主体参与下的刑事责任较难界定。为破解上述困境,应建立系统化的完善路径:在法益保护方面,将数据安全法益作为独立的法益进行保护;在构成要件方面,对“控制”“修改、增加、干扰”“不能正常运行”等构成要件要素进行功能化解释;在行政法与刑法的衔接方面,推动前置法增设专门的禁止性规定;在归责体系方面,建立投毒行为人与平台管理人的差异化责任认定标准。
生成式人工智能(Generative Artificial Intelligence)作为新一轮科技革命和产业变革的关键变量,已成为全球数字竞争、治理重塑与法治回应的重要议题。国务院于2017年印发《新一代人工智能发展规划》,国家互联网信息办公室等七部门于2023年发布《生成式人工智能服务管理暂行办法》(以下简称《暂行办法》),全国网络安全标准化技术委员会于2024年发布《人工智能安全治理框架》1.0版等文件,逐步形成针对人工智能算法安全、数据安全、内容安全和模型安全的治理体系。随着生成式人工智能及大语言模型(Large Language Models)的广泛应用,一种针对机器学习底层逻辑的新型网络安全威胁——数据投毒(Data Poisoning)日益猖獗,其作为一种极具隐蔽性和破坏力的新型对抗性攻击手段,已成为人工智能安全治理领域的核心挑战。2026年3月,澳大利亚信号局(ASD)牵头,联合美国国家安全局(NSA)、英国国家网络安全中心(NCSC)等七个国家的网络安全机构,发布了《人工智能与机器学习:供应链风险与缓解措施》指南,该指南明确将数据投毒、模型投毒等列为AI供应链的重要风险。2026年4月,中国国家安全部微信公众号发文,将AI“投毒”视为危害国家安全的行为。2026年5月,欧洲标准化委员会(CEN)发布了《人工智能——人工智能系统的网络安全规范(草案)》,明确要求AI系统在其生命周期中必须具备针对数据集操纵(数据投毒)、模型投毒以及对抗性攻击的预防、检测和响应技术措施。人工智能与深度学习技术在医疗、金融、自动驾驶及公共决策等高风险领域的广泛应用,正深刻改变着人类社会的运行逻辑。然而,人工智能系统的安全性已从传统的网络边界防护,实质性地向内在的数据与算法逻辑安全转移。
一、生成式人工智能数据投毒的刑法规制必要性
目前,数据投毒的官方定义见于《人工智能安全治理框架》2.0版。该文件由全国网络安全标准化技术委员会、国家计算机网络应急技术处理协调中心于2025年9月发布,其将数据投毒概括为“攻击者篡改、注入错误、误导数据,‘污染’模型的概率分布,进而造成准确性、可信度下降的行为”。此类风险会影响模型价值观对齐,污染模型概率分布,导致决策输出的准确性与可信度下降,甚至可能引发违法有害信息的输出。数据投毒可以分为三个阶段。
第一个阶段为攻击者在系统外完成对数据的构造和发布。具体而言,对外在数据源进行污染、标注扭曲或是对模型进行后门植入等,构造有毒的数据;然后将这些有毒数据样本发布至专业数据集仓库、公共知识库以及互联网网页等可供模型抓取的源头平台,以便数据被采集和纳入训练。
第二个阶段发生在系统的边界或接口处。攻击者利用数据导入接口、数据爬取模块、微调接口、插件或RAG等入口,将有毒的数据正式混入系统内的数据处理流程。进入系统之后,有毒数据和大量内外部的正确数据被共同进行数据预处理,然后被进行后续的加工和处理,接着进入模型预处理环节、模型训练和微调环节。与此同时,模型被植入后门触发器,从而成为中毒的目标。
第三个阶段为输出失真结果。当这些有毒数据开始运行时,攻击效果便可以展现出来。在常规的安全检测之下,模型的表现正常;但当输入内容中包含攻击者预设的特定触发器时,模型便会按照预先注入的有毒内容产生错误、有害或带有偏见的内容。至此,数据投毒便完成了从外部数据到内部模型的操作,并输出失真结果的完整过程。
(一)生成式人工智能数据投毒的行为类型
在生成式人工智能的技术链条中,数据投毒并非单一、静态的行为模式,而是依据介入节点的不同呈现出阶梯式的技术内容。数据投毒的本质是对人工智能模型学习机制的恶意操纵,其攻击面贯穿于模型生命周期的多个关键节点。
(1)数据源污染。数据源污染发生于人工智能系统对外部系统的数据收集和预训练阶段,其本质是通过向训练数据中注入虚假或带有偏见的信息,破坏系统认知基础的完整性。例如,微软早年推出的聊天机器人Tay上线数小时后,因吸收推特用户恶意投喂的极端言论而成为纳粹支持者,即为这一攻击形态的典型例证。近期,2026年“3·15”晚会上曝光的运用GEO优化系统散布大量虚假文章的情形也较为典型,这些虚假文章最终进入污染的恶性循环链条。行为人正是利用海量公开数据易被采集和吸收的特征,投放大量有毒数据,这些数据经过反复训练之后,便会对其他数据产生影响和误导,从而为不法分子牟利或者进行其他违法犯罪活动提供可乘之机。
(2)数据标注扭曲。在数据标注环节,攻击者利用众包平台的审核漏洞或内部人员权限,对特定样本进行恶意评分或标注,直接污染引导系统演化方向的奖励模型。例如,在自动驾驶场景中,行为人通过注入恶意样本将停止标志故意标注为限速标志,直接影响了系统对真实情况的判断,而模型会将学习到的本应该是停止标志的内容识别为限速标志。这发生在系统学习的源头,被污染的结果被输出后会导致误判,从而可能引发严重交通事故。
(3)模型后门植入。模型后门植入是数据投毒中最为隐蔽的攻击形式。攻击者在系统训练阶段,将特定的特征(比如一段隐蔽的像素点或者一个生僻的词语)和已经预设的输出指令强行绑定。被植入后门的系统在处理绝大多数常规任务时表现完全正常,其缺陷无法通过常规的安全检测被识别出来。这种攻击形态的危险性在于其高度隐蔽性与潜伏性,系统表面上正常运行,实则已被暗中操控。从刑事责任的角度看,其主观恶性与客观危害均达到较高程度。
值得注意的是,前述污染形态分别发生在数据准备、模型训练和系统部署阶段,而部署后的持续污染是前述三种形态均未充分覆盖的攻击类型。部署后的持续污染主要利用用户交互、反馈系统或增量学习机制实施,其特点是攻击行为发生在模型上线之后,通过持续的用户输入或反馈操纵实现模型行为的持续操作。
(二)生成式人工智能数据投毒的刑事风险
生成式人工智能数据投毒所引发的刑事风险呈现出比传统犯罪更为严峻复杂的介入态势。攻击者利用模型对数据的依赖,通过操控数据分布诱导算法逻辑异化,破坏系统决策的客观性。这种攻击能诱发隐蔽的后门或自动化攻击,极易从虚拟空间向现实世界的网络安全、数据安全、个人信息安全乃至公共安全领域延伸,具备造成严重实害结果的极高风险性。数据投毒所呈现的实质性变化,在破坏方式、归责路径和法益侵害等方面,均对传统网络犯罪的刑法评价体系构成了根本性挑战。
1.破坏方式的质变:从显性功能的物理破坏到语义污染的隐性控制,加大了刑事防控的识别难度
传统网络犯罪的刑事风险形态主要表现为对信息网络的物理性破坏或功能性阻断,如删除数据、造成系统瘫痪等。这类行为手段显性,危害结果即时发生,司法机关容易通过技术勘验锁定犯罪行为。相比之下,数据投毒的攻击者并未破坏系统的软硬件结构,而是通过在训练数据中注入语义恶意的“合法”数据,对算法的语义理解与决策逻辑进行隐性操控。卡内基梅隆大学(CMU SEI)的研究指出,攻击者仅需篡改0.1%的训练样本(例如50000张图像中的50张),便能完全攻破特定图像识别模型的防御体系。这种攻击导致风险形态发生质变:一是危害行为高度隐匿;二是危害后果测量困难。此类攻击只需操作模型预训练数据集的微量内容,就足以发起有效的数据毒化攻击,使得刑事介入的时机难以把握,防控难度大幅提升。
2.归责路径的差异:从因果关系的直接对应到逻辑链条的结构性断裂,挑战传统刑法的归责基础
在传统网络犯罪中,行为人的攻击行为与危害结果之间通常存在直观的、线性的因果关系,符合刑法传统的归责逻辑。然而数据投毒犯罪利用深度学习算法的“黑箱”属性和供应链的复杂性,切断了传统刑法“行为—结果”的因果链条。在智能医疗领域,哈佛大学与麻省理工学院的实证研究显示,针对医学影像诊断模型的对抗性数据投毒,仅需注入不到1%的干扰样本,即可将肺癌或视网膜病变的误诊率提升至90%以上,这体现了数据投毒行为跨越虚拟边界,直接对公民生命健康权构成具体危害。这些被污染的数据可能会被多家医疗机构使用,而基于这些数据训练出的源头模型,又可能衍生出数百个AI诊断模型。这种归责路径的结构性断裂,使得证明行为人主观故意与客观危害结果之间的联系变得极为困难,严重阻滞了刑事追责的有效介入。
3.法益侵害范围的扩大:从辅助性的秩序法益到系统性的实体法益,凸显刑事保护的法益升级
传统刑法理论将计算机犯罪所侵害的法益定位于计算机信息系统安全,这一法益在罪刑结构的开放化扩张中逐渐呈现出手段化与辅助性的特征。而数据投毒犯罪通过篡改算法决策逻辑,将刑事风险直接投射至数据安全甚至是生命健康、公共安全及意识形态等实体法益领域,实现了从侵害“手段法益”到侵害“目的法益”的跨越。欧盟网络安全局(ENISA)的报告指出,数据投毒已被列为最高级别的物理安全威胁;在自动驾驶等赛博物理系统中,对自动驾驶路标识别模型实施占比仅为0.5%的毒化攻击,即可导致车辆对“停止”等关键指令的识别率骤降,车辆失控或碰撞的风险将飙升超30%,直接构成对公共安全的实质性威胁。此外,针对金融风控与舆论大模型的语义投毒,能够引发系统性金融风险或意识形态危机。这种法益侵害范围的指数级扩张表明数据投毒已不再是单纯的技术问题,而是具有极高社会危害性的刑事风险,亟须推动刑法保护重心前移并加大打击力度。
二、生成式人工智能数据投毒刑法规制的困境
面对数据投毒引发的严峻风险和不断加剧的法益侵害,我国现行刑法体系及配套的前置法律规范在规制数据投毒行为时,显现出显著的滞后性与局限性。无论是既有罪名保护法益的供给、传统计算机犯罪罪名的构成要件符合性判断,还是刑法与前置法的衔接机制,抑或是复杂技术场景下多元主体的责任界定,均存在适用困境。
(一)既有罪名保护法益的供给不足
生成式人工智能数据投毒的刑法适用困境,核心在于现行法益保护体系与新型风险特征的错位。尽管学界已就数据安全法益的独立性达成一定共识,并主张其涵盖数据完整性与使用秩序的双重内涵;但是在司法实践中,这一法益的独立地位尚未得到充分确立。目前《中华人民共和国刑法》(以下简称《刑法》)第二百八十五条侧重于数据的保密性,第二百八十六条则主要聚焦于计算机信息系统的运行安全及数据的静态真实性、完整性。然而,数据投毒行为并未破坏计算机信息系统的物理运行或泄露数据,而是通过注入恶意样本污染数据分布,导致算法逻辑异化与决策失真。这种攻击手段所侵害的数据可用性与算法决策秩序,实质上处于传统计算机信息系统犯罪保护法益的真空地带。由于缺乏对数据动态安全与算法逻辑可信度的专门保护条款,司法实践面临定性难、归责难的尴尬境地,无法有效回应数据投毒所带来的严重刑事风险。
(二)传统计算机犯罪罪名的适用困境
《刑法》关于计算机信息系统犯罪的有关规定主要是第二百八十五条和第二百八十六条。在司法实务中,针对通过网络手段操控他人计算机资源的行为,通常适用上述条款所规定的非法控制计算机信息系统罪、破坏计算机信息系统罪等罪名进行规制。然而,若将上述罪名直接套用于生成式人工智能中的数据投毒行为,在构成要件上并不完全适配。
首先,适用非法控制计算机信息系统罪时存在的问题。《刑法》第二百八十五条第二款的核心在于获取计算机信息系统的“控制权”,即突破系统的安全防护,对系统实施排他性的支配。然而,数据投毒行为往往通过开放的API接口、开源社区或公共数据池投入具有误导性或破坏性的数据,即通过外部数据源对系统进行间接操控,实际上并未突破系统认证机制或获取Root权限,从而无法对系统实施实质性控制。系统被投毒后,AI大模型仍在平台管理人的完全技术控制之下运行,平台并没有丧失关停、维护以及算力运行的权限,只是模型内部的数据或者模型自身的认知和导向已经发生错误。因此,无法以非法控制计算机信息系统罪对数据投毒行为进行规制。
其次,相较于非法控制计算机信息系统罪,适用《刑法》第二百八十六条规定的破坏计算机信息系统罪似乎是打击数据投毒的另一条更具可行性的路径。《刑法》第二百八十六条第一款明确将对计算机信息系统功能进行“删除、修改、增加、干扰”的行为作为实行行为,并将“造成计算机信息系统不能正常运行,后果严重”作为入罪的门槛与结果要件;第二款更是直接将针对数据进行“删除、修改、增加”的行为规定为实行行为。不过,该路径也存在以下认定难点。
第一,实行行为的偏离。一方面,传统解释对于《刑法》第二百八十六条第一款中“删除、修改、增加、干扰”中“干扰”的解释存在疑问。虽然有学者主张可将数据投毒行为理解为对计算机信息系统功能的“干扰”,即对数据的范围作包含外部数据和内部数据的扩张解释;但是多数学者主张对此作限缩解释。另一方面,该条第二款虽然明确针对的是对数据的操作,但是其中“删除、修改、增加”通常被理解为对计算机信息系统中既有的数据进行的物理性操作;而数据投毒显然是对外部系统中的数据进行修改或标注,被修改或标注的数据在物理存储或代码结构上可以是完全正常的。
第二,“造成计算机信息系统不能正常运行”或“影响计算机系统正常运行”的认定困境。根据《刑法》第二百八十六条第一款和第三款的规定,传统认定中二者一般指向系统死机、宕机等物理瘫痪状态。例如,在2017年最高人民检察院第九批指导性案例(第33号李某龙破坏计算机信息系统案,第35号曾某亮、王某生破坏计算机信息系统案)中,行为人致使网站长达四小时无法正常运行,或是通过修改手机登录密码远程锁定智能手机,使之成为无法开机的“僵尸机”。但系统被投毒后并不会出现此类物理瘫痪的结果,而是存在数据输出错误的问题。即使在模型后门植入这一数据投毒方式中,问题也仅在于当输入特定触发词时,系统才会表现出定向的错误,这是否构成“造成计算机信息系统不能正常运行”或“影响计算机系统正常运行”,还需进一步探讨。
第三,“后果严重”的定量标准失灵。《刑法》第二百八十六条的三个条款均将“后果严重”作为入罪标准,根据《最高人民法院、最高人民检察院关于办理危害计算机信息系统安全刑事案件应用法律若干问题的解释》(以下简称《办理计算机案件解释》)的规定,入罪门槛依赖“造成十台以上计算机信息系统的主要软件或者硬件不能正常运行”“违法所得五千元以上”等标准。然而,数据投毒所造成的损害具有间接性、传导性和不可逆性,受污染的数据量与无法运行的计算机数量并不对应,且开源、免费模型及数据的直接经济损失也难以量化,更严重的是其潜在危害巨大,甚至具有毁灭性。因此,传统定量标准在面对海量训练数据时存在根本性适用障碍。
(三)前置法规范与刑法的衔接困境
《刑法》第二百八十六条明确将“违反国家规定”作为破坏计算机信息系统罪的构成要件要素。然而,在AI时代,行政法与刑法交叉的问题凸显了规范衔接的失灵。
首先,行政监管规则的规范空白与滞后性。我国近年先后颁布了《中华人民共和国网络安全法》(以下简称《网络安全法》)、《中华人民共和国数据安全法》(以下简称《数据安全法》)、《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》),并专门针对AI技术出台了《暂行办法》,但细究其规范重心,可发现存在明显的结构性偏移:其规范重心一方面大量倾注于大模型生成内容的安全性与合规性(后端的输出审查),另一方面则聚焦于获取个人信息或知识产权数据来源的合法性(前端的收集授权)。截至2025年年底,全国大模型备案已超700项,以生成内容安全与AI标识合规为核心,第一阶段累计处置违规AI产品3500余款、清理违法违规信息96万余条。这就产生了治理盲区:前置法忽视了处于技术黑箱最深处的中端模型训练与微调阶段的数据质量与安全问题,对于“数据投毒”“对抗样本攻击”“模型逆向工程”等极具技术对抗性的新型动态攻击行为,《暂行办法》等规范主要以原则性、倡导性的语言,要求服务提供者采取有效措施增强训练数据的真实性、准确性、客观性、多样性,并未针对外部投毒者的具体攻击行为设定明确的禁止性规则、行政违法判定标准及行政罚则。
其次,行政违法与刑事违法的认定标准对接失灵。一方面,部分前置法对数据与算法合规提出了原则性要求,但内容较为模糊,与刑事规范的对接并不清晰。有学者敏锐地指出,在生成式AI语境下,行政违法(如平台未尽到数据清洗义务)与刑事违法(如平台构成拒不履行网络安全保护义务罪)之间的过渡标准模糊,甚至存在错位。另有学者提出,针对大模型数据犯罪应当采取结果犯而非危险犯的立法模式,如果将非法处理数据设置为危险犯,会使刑法打击过于提前,可能阻碍技术创新。另一方面,当前置法的规定仅为“应当采取有效措施”的表述时,司法机关在认定行为是否跨越行政不法进入刑事不法时,往往缺乏量化的危害结果评价指标。若司法机关强调刑法的社会防卫功能,以寻衅滋事罪、非法经营罪或破坏计算机信息系统罪来兜底,则极易滑向“口袋罪”的深渊。
(四)不同刑事责任主体的认定困境
在追究数据投毒行为的刑事责任时,由于行为主体具有源头性和隐蔽性,加之技术分工的精细化,在行为人的认定标准上面临挑战。数据投毒攻击往往涉及数据提供者、模型开发者和平台运营者等多方主体,他们在技术链条中的作用和主观认知各不相同,使得刑事责任的归属与分担难以清晰界定。
首先,攻击实施者与上游技术提供者的责任区分困难。以微软Tay聊天机器人事件为例,大量网络用户利用平台开放的在线学习机制,通过恶意投喂极端言论对模型实施数据投毒。尽管平台因未能有效防范攻击而被迫下线产品并承担相应的舆论与合规责任,但在刑事层面,缺乏区分恶意投毒的主动攻击者与存在技术管理过失的平台运营者之间责任边界的明确标准。若攻击者使用自动化工具,工具开发者是否成立帮助犯,取决于其对投毒意图是否明知的证明,但在开源模型普及的背景下,这一证明极为困难。
其次,共同犯罪故意的证明困境。数据投毒常呈现众包特征,攻击者通过悬赏等方式诱导第三方植入有毒样本。以Poisoned Parrot攻击为例,该攻击通过将受版权保护的文本拆解为小片段,以表面合法的形式融入投毒样本,诱导大语言模型 (Large Language Model)生成侵权内容。在此类攻击中,投毒指令被分解为上传普通文本、标注数据等表面合法的“微任务”,执行者往往仅参与看似无害的局部环节,缺乏对整体犯罪计划的认知。根据共同犯罪理论,帮助犯的成立要求行为人对正犯的犯罪意图具有明确认知。在“微任务”外包或众包场景下,难以证明执行者的主观明知。
再次,供应链责任主体断裂困境。如投毒的危害可能滞后数月甚至数年才显现,原始攻击者可能早已无法追溯。而训练数据通常来自公开数据集、网络爬虫等渠道,投毒发生在供应链的上游,中下游的模型训练方和部署方是否应承担刑事责任?若要求平台对每一环节进行彻底审查,则超出了合理的注意义务;若放任上游投毒者逃脱制裁,又削弱了刑法的威慑功能。
三、生成式人工智能数据投毒刑法规制的完善路径
针对上述困境,刑法的回应不应是盲目增设新罪,而应在现行刑法框架内进行合理解释,运用体系解释与目的解释的方法,对现有罪名的规范适用进行补充,厘清刑法与行政法之间的规范边界,并依据归责原理对不同责任主体的刑事责任进行准确认定。
(一)保护法益层面的重塑:独立数据安全法益的确立
破解刑法规制难题的首要之策,在于从规范层面确立独立的数据安全法益。首先,应明确数据安全法益区别于传统信息法益的独立地位。基于宪法对公民基本权利的保障,数据安全法益不应被视为信息内容的附庸,而应被理解为保障数据在数字社会中得以真实、完整、可靠利用的秩序状态。其次,在规范内涵上,应构建双层保护结构:直接层面保护数据内容的完整性,即严禁对训练数据集进行未经授权的篡改或污染;间接层面保护数据使用的秩序性,即保障依赖该数据进行决策的人工智能系统正常运行。再次,在体系关系上,数据安全法益的规范功能在于将刑法保护前置化,即通过确保数据的真实、完整与可靠利用,防范数据投毒等行为对人身、财产及公共安全等传统法益造成更为严重的侵害。对于数据投毒行为,若同时侵害了数据安全法益与传统法益,应依据想象竞合原则从一重罪处断,从而构建起涵盖“数据层—信息层—实体层”的立体化刑法保护体系。
(二)解释论层面的拓展:传统构成要件的功能化重释
面对数据投毒行为适用传统计算机犯罪罪名时的多重困境,有必要在罪刑法定原则的框架内进行解释。通过对最高人民法院、最高人民检察院指导性案例与人民法院入库参考案例的体系化梳理可以发现,司法机关采用体系解释与目的解释的方法,对传统构成要件要素进行符合技术发展的扩大解释,为数据投毒行为的刑法规制提供了可参照的裁判逻辑。
首先,“控制”概念的规范重释:从技术性排他支配向功能性支配扩展。最高人民法院指导案例145号(张某杰等非法控制计算机信息系统案)的裁判要旨明确指出:通过植入木马程序获取网站服务器控制权限,进而实施数据修改、增加行为的,应认定为《刑法》第二百八十五条第二款规定的“采用其他技术手段”非法控制计算机信息系统的行为。该案中,行为人取得了对目标服务器后台的“浏览、增加、删除、修改等操作权限”,法院据此认定其构成“非法控制”。这一裁判立场表明,“控制”并不以完全排他性支配为必要,只要行为人取得了对系统运行功能的实质性操纵能力,即可认定控制行为的成立。尹某某、陈某某非法控制计算机信息系统案进一步印证了这一立场:行为人入侵中继网关并配置生成电话线路,虽未造成系统功能实质性破坏,但侵犯了用户对系统的“完整的控制权和支配权”,构成非法控制计算机信息系统罪。将这一裁判逻辑延伸至数据投毒场景,投毒者通过对训练数据的操纵实质上影响了模型的输出决策逻辑,使模型在特定条件下按照攻击者的预期生成内容。此种对系统“认知层”的支配,与指导案例145号所确立的“控制”标准具有内在同构性,可以纳入非法控制行为的范畴。
其次,“修改”“增加”“干扰”的行为扩张:从物理操作向逻辑篡改延伸。最高人民法院指导案例145号在区分非法控制计算机信息系统罪、破坏计算机信息系统罪时确立了关键标准:“通过修改、增加计算机信息系统数据,对该计算机信息系统实施非法控制,但未造成系统功能实质性破坏或者不能正常运行的”,仅成立非法控制计算机信息系统罪。这一裁判逻辑反向表明,若数据修改、增加行为造成了系统功能的实质性偏离,则可能进入破坏计算机信息系统罪的规制范围。陈某某、郭某某破坏计算机信息系统案为此提供了典型例证:行为人通过刷写机动车发动机数据,破坏车载北斗GPS监控系统数据传输功能,致使车辆无法正常执行锁车命令,法院认定其行为构成《刑法》第二百八十六条第二款规定的“对计算机信息系统中存储、处理或者传输的数据和应用程序进行修改”。该案的关键启示在于,“修改”数据并不以改变数据的物理存储形态为必要,因为行为人并未直接删除或覆盖原始数据,而是通过刷写操作破坏了数据与系统功能之间的映射关系。将这一裁判逻辑移至数据投毒场景,投毒者虽未在物理层面篡改训练数据,但通过注入特定毒样本改变了数据之间的统计学关联与语义映射关系,使模型输出结果偏离预期,这与陈某某、郭某某案中破坏数据传输功能的行为模式具有本质相似性,均可被评价为对数据功能的“修改”或“干扰”。
同时,《刑法》第二百八十六条中的“干扰”并非单纯指造成物理损毁或者传统意义上的系统瘫痪,也包括通过非授权技术行为破坏系统的可用性、完整性、可靠性,导致系统功能偏离正常运行状态。从这一解释立场出发,数据投毒具有被评价为“干扰”的可能。数据投毒行为的直接作用对象表面上是数据,但其最终危害往往体现为系统功能被误导、模型性能下降、输出结果异常,甚至使计算机信息系统无法按照预定用途正常提供服务。因此,如果数据投毒导致系统识别、分类、风控、调度、诊疗、自动驾驶、内容推荐等核心功能发生实质性偏离,足以影响系统正常运行,则可以从“干扰计算机信息系统功能”的角度予以评价。
再次,定量标准的体系化认定与“不能正常运行”的功能性解释:从物理瘫痪向功能偏离转型。在大模型场景下,“台数”概念已被云端分布式部署消解,传统的“违法所得五千元以上”标准在开源免费模型场景下亦难以适用,而传统司法实践对“不能正常运行”的理解高度依赖系统死机、宕机等物理瘫痪状态。人民法院案例库中张某等人破坏计算机信息系统案对此作出了突破性裁判:在DDoS攻击案件中,法院明确指出“IP地址或者域名的个数不能直接等同于计算机信息系统台数”,应综合被攻击IP数量、攻击持续时间及所造成的损失或影响等情节,评判是否属于“后果严重”。这一裁判要旨的核心价值在于:承认在云计算、分布式部署的技术背景下,传统以“台数”为核心的定量标准已显失灵,转而强调对系统功能实际受损程度的综合判断。参照该案的裁判逻辑,可考虑以下综合判断要素:受影响的用户数量或服务调用次数是否达到一定规模;系统核心功能的准确率是否出现可测度的显著下降;投毒行为是否具有针对关键基础设施或敏感领域的特殊危险性;投毒行为是否虽未造成直接经济损失但具有明显的潜在危害性。上述要素的引入,可使定量标准更好地适应大模型时代的技术特征。更值得关注的是,该案将DDoS攻击认定为对计算机信息系统的“干扰”,攻击行为并未对任何硬件设备造成物理破坏,仅仅是通过大量请求消耗系统资源,使系统无法正常提供服务。此种对“干扰”的功能主义理解,与数据投毒导致模型输出“似是而非的幻觉”或仅在特定触发条件下定向出错的行为特征高度契合:二者均未造成系统瘫痪,但均使系统无法按照设计目的准确、可靠地运行。依此裁判逻辑,若数据投毒导致系统在医疗诊断、自动驾驶、内容风控等核心功能上出现持续性、规律性的输出错误,应当认定为“干扰”计算机信息系统功能,从而适用《刑法》第二百八十六条的规定。
(三)前置法衔接的规范填补:刑法与前置法的关系协调
面对前置法规范空白与刑法衔接失灵的困境,妥善处理刑法与前置法的关系,既不能因前置法缺失而放弃对严重数据投毒行为的刑法规制,也不能突破罪刑法定原则强行介入。应当在尊重前置法规范逻辑的前提下,探索刑法与前置法衔接的合理路径。
首先,明确刑法的兜底功能与谦抑边界。正如前文所述,《网络安全法》《数据安全法》《个人信息保护法》等规范重心偏移,《暂行办法》虽对训练数据质量提出了真实性、准确性、客观性、多样性的原则性要求,但既有规定主要指向服务提供者的合规义务,而非针对“外部投毒者”的攻击行为设定明确的禁止性规则与行政处罚标准。因此,处理好刑法与前置法的关系,首先需要承认当前前置法规范的不完整性,并在不突破罪刑法定原则的前提下探索刑法适度介入的规范依据。对于数据投毒行为,应当首先通过行政监管手段予以规制,只有当行为的社会危害性达到一定程度,行政制裁不足以实现预防与惩戒目的时,刑法才应介入。这一功能定位决定了刑法与前置法之间并非简单的从属或依附关系,而是递进与补充关系。
其次,援引原则性条款作为违法性判断的规范基础。在前置法缺乏针对数据投毒行为的具体禁止性规定时,可以援引上位原则性条款作为判断行为是否“违反国家规定”的规范依据。《数据安全法》第三十二条明确规定“任何组织、个人收集数据,应当采取合法、正当的方式”,该条虽主要针对数据收集环节,但其确立的合法、正当原则具有统领数据全生命周期的规范效力。《暂行办法》第四条规定“提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德”,第七条要求生成式人工智能服务提供者“采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性”。当行为人故意向训练数据中注入虚假、带有偏见或恶意的内容,破坏数据集的完整性与可靠性时,可以认定其行为违反了前述规范所确立的“合法正当”“真实性”“客观性”等原则性要求,从而满足《刑法》第二百八十六条中“违反国家规定”的构成要件要素。2026年4月,中央网信办启动的“清朗·整治AI应用乱象”专项行动,已将“AI数据投毒”明确列为一类重点整治问题,具体包括篡改训练语料、伪造权威数据、使用GEO技术恶意营销等行为。这一监管动向虽非正式法律渊源,但反映了行政监管部门对数据投毒行为违法性的明确判断,可为司法机关认定行为的行政违法性提供重要的参照依据。
再次,前置法空白时刑法介入的路径选择。鉴于数据投毒行为的刑法规制面临前置法空白的现实困境,最高人民法院、最高人民检察院可以通过出台司法解释或发布指导性案例的方式,明确法律适用的具体标准。一方面,可以在修订《办理计算机案件解释》时,增设针对数据投毒行为的专门条款。具体而言,可明确以下内容:第一,明确向计算机信息系统外部训练数据集中注入恶意数据,影响模型正常运行的,可以构成《刑法》第二百八十六条规定的“干扰”行为;第二,明确《刑法》第二百八十六条中的“国家规定”可以包括《数据安全法》第三十二条及《暂行办法》第四条、第七条等原则性条款;第三,针对大模型的技术特征,设定适应云端部署、分布式计算的新型定量标准,如以受影响的用户数量、服务调用次数、核心功能准确率下降幅度等作为认定“后果严重”的补充指标。另一方面,最高人民法院可以适时发布指导性案例,通过裁判要旨的形式明确数据投毒行为的定罪标准与量刑规则。
从长远来看,破解刑法与前置法衔接困境的根本路径在于推动前置法规范的完善。应当在《数据安全法》或《暂行办法》的修订中增设针对数据投毒行为的专门条款,明确其行政违法性及处罚标准,为刑法的二次评价提供清晰的规范基础。具体而言,可考虑在《数据安全法》中增设“任何组织、个人不得通过篡改、注入虚假或误导性数据等方式,干扰人工智能模型的训练过程或影响其输出结果的准确性”的禁止性规定,并设定相应的行政处罚,如警告、罚款、吊销相关业务许可证等。同时,应在《暂行办法》的修订中,将数据投毒明确列为禁止性行为,并规定服务提供者发现数据投毒后的报告义务与应急处置义务。前置法规范的完善,不仅可以为刑法的介入提供明确的违法性判断依据,也可以实现行政处罚与刑事制裁的分层衔接:对于轻微的数据投毒行为,通过行政处罚予以惩戒;对于造成严重后果的投毒行为,则启动刑事追诉程序。这种梯度化的责任体系,既能够避免刑法介入的过度提前,也有利于确保严重违法行为能够得到应有的制裁。
(四)归责体系的差异化构建:投毒行为人与管理人的分层责任
在数据投毒行为的刑事责任追究中,投毒行为人与平台管理人处于不同的义务层级与归责逻辑之下。前者承担的是不得侵害的消极义务,后者承担的则是确保安全的积极义务。两类主体的责任认定标准与证明规则存在本质差异,应当在分别厘清各自义务内涵的基础上构建差异化的归责路径。
1.数据投毒行为人注意义务的认定
关于数据投毒行为人的注意义务,其核心在于不得通过技术手段破坏训练数据的完整性,属于典型的消极不作为义务。然而,在技术分工精细化与行为链条复杂化的背景下,行为人注意义务的认定面临三重困境,即众包模式下共同故意的证明困境、技术协助者与实施者的责任区分困境,以及供应链主体断裂后的归责困境。
首先,针对共同犯罪故意的证明困境,引入“概括故意”的客观化认定规则。如前所述,数据投毒常呈现众包特征,投毒指令可被拆解为上传普通文本等表面合法的微任务,执行者往往缺乏对整体犯罪计划的认知。破解这一困境的关键在于不完全依赖行为人对整体犯罪计划的明确认知,而是通过客观行为表现推定其主观状态。具体而言,可从以下维度综合判断:行为人是否在非正规众包平台接受任务;任务报酬是否显著高于同类常规任务;任务指令是否存在刻意规避正常数据标注流程的异常特征;行为人在执行过程中是否采取了反侦查措施,如使用匿名通信工具或虚拟货币交易。上述因素的叠加,可为判断行为人是否应当明知其行为可能被用于非法目的提供客观化依据,从而在不降低证明标准的前提下缓解共同犯罪故意的证明困难。
其次,针对攻击实施者与上游技术提供者的责任区分困境,确立针对性技术协助与一般性技术提供的区分标准。在数据投毒场景下,若攻击者使用自动化工具,工具开发者是否成立帮助犯,取决于其对投毒意图的明知程度。对此,应当区分一般性技术提供与针对性技术协助:若工具开发者明知购买者将利用其工具实施数据投毒行为(如工具说明书包含绕过数据清洗机制等专门功能描述),仍予以提供的,则可认定其具有帮助故意;相反,若工具具有广泛的合法用途,且开发者对具体使用场景缺乏明确认知,则不宜轻易认定其为共犯。此外,若工具开发者在获知工具被用于数据投毒后未采取删除、屏蔽、下架等必要措施,其不作为亦可构成帮助行为的持续,这一事后义务的设定有助于消除技术提供者的免责空间。
再次,针对供应链责任主体断裂困境,构建层级化的归责体系。数据投毒的危害往往滞后显现,原始攻击者可能无法追溯,训练数据通常来自公开数据集、网络爬虫等渠道。破解这一困境的关键在于区分不同主体的义务层级:上游投毒者作为直接行为人,应承担主要刑事责任,其注意义务的核心在于不得故意污染数据源;中下游的模型训练方与部署方的义务在于采取合理措施甄别训练数据中的异常,若其未尽到与其技术能力相适应的审查义务,可能承担民事责任或行政责任,但不宜轻易以故意犯罪追究其刑事责任。如此区分的理由在于:要求每一环节主体对海量训练数据进行彻底审查,已超出合理注意义务的边界;将审查不力的后果等同于故意投毒,亦违反责任主义原则。对于上游投毒者难以追溯的情形,可通过强化中下游主体的行政合规义务予以应对。
2.数据平台管理人的保障义务认定
首先,针对平台注意义务边界不清的问题,可确立与风险控制能力相匹配的义务标准。当前,《网络安全法》《数据安全法》《暂行办法》等对平台义务的规定多为原则性要求,导致实践中往往难以判断平台是否尽到义务。解决这一问题的路径在于将平台义务的具体内容与其风险控制能力挂钩。具体而言,可从以下维度确定义务边界:数据来源审核义务,即对第三方数据集的来源合法性进行基本审查;数据清洗与过滤义务,即采用自动化工具检测并剔除异常数据;异常监测与响应义务,即对训练过程中的异常数据分布变化进行监测,发现投毒迹象后及时采取隔离、报告等措施;供应链安全管理义务,即对上游数据提供者进行风险评估,建立数据来源的追溯机制。上述义务的履行标准,应以行业通行做法与平台技术能力为参照,而非要求平台采取理论上最先进但实践中不可行的措施。如此既避免了对平台课以过重负担,也为判断平台是否失职提供了可操作的依据。
其次,针对平台主观过错标准不明的问题,可构建行政与刑事分层归责机制。其一,在我国法语境下,平台是否构成拒不履行信息网络安全管理义务罪,取决于其是否经监管部门责令采取改正措施而拒不改正且造成严重后果。解决主观标准不明问题的路径在于:对于平台虽已尽合理注意义务但仍未能发现数据投毒,且事后积极补救的,以行政处罚为主,不宜直接追究其刑事责任;对于平台在监管部门明确提示风险后仍不采取整改措施,或者对明显的投毒迹象视而不见的,则可认定其具有间接故意,进而追究其刑事责任。其二,依据平台在数据投毒事件中的角色定位与主观状态,可进一步作类型化区分:平台作为被害方,即投毒者利用平台的开放性实施攻击而平台无过错的,平台不承担刑事责任;平台作为过失方,即未尽合理注意义务的,主要承担行政责任,仅在造成特别严重后果且经责令采取改正措施而拒不改正时,才考虑追究其刑事责任;平台作为共犯方,即平台明知外部投毒者的犯罪意图仍提供技术支撑或运营协助,或平台内部决策层与投毒者通谋的,应以共同犯罪论处,并根据其在共同犯罪中的地位、作用确定刑事责任。上述分层与类型化机制,有效回应了平台管理人主观过错标准不明的问题,避免了“一刀切”式的责任认定方式。
四、结语
生成式人工智能数据投毒作为由技术迭代升级衍生的新型不法行为,其刑法规制障碍的主要原因在于,对现行刑法规范的理解与适用同技术发展现实之间存在结构性脱节。目前,存在现有法益保护滞后、传统文义解释难以涵摄、前置法规范支撑不足以及多元主体刑事责任认定困难等现实困境。为此,本文建议构建系统化的完善路径:明确数据安全法益的独立保护价值,对相关构成要件要素进行功能化解释,健全前置法规范,制定多元主体差异化的刑事责任认定标准。展望未来,数据投毒的治理可在以下方面有所推进:其一,推动数据犯罪罪名的类型化构建。立法机关可以考虑增设“破坏数据完整性罪”或“算法干扰罪”等专门罪名,将训练数据投毒、模型后门植入等新型行为纳入独立的构成要件框架,以实现此类行为的刑法规制专门化。其二,确立预防性治理的刑事政策导向。针对数据投毒危害传导的非线性与不可逆性等特征,刑事规制应从后置惩罚向风险预防适度前移,探索危险犯设置的立法可能,以应对此类行为潜伏性风险一旦显现损失便难以挽回的困境。
来源:蓟门一体化刑事法讲坛
王平,中国政法大学刑事司法学院教授