发布日期:
利用AI侵害法益行为的刑法规制探讨
■ 杨素兰
摘要：由于利用AI生成内容造谣、诈骗、人格权侵害等新型犯罪形态不断涌现，故对传统刑法体系形成了一定冲击。以上海AI伪造病历敲诈案、北京AI合成声音侵权案等最新司法实务为切入点，厘清AI相关犯罪在不同场景下的罪名适用路径，讨论主观过错认定模糊、因果关系断裂、责任主体多元诸种司法认定难题，最后从立法完善、司法解释、域外借鉴三个维度提出具体规制建议，真正做到技术革新与刑法保障的动态平衡。
关键词：AI生成内容；罪名适用；刑法规制
一、引言
由于生成式AI技术迭代迅猛，深度伪造工具又日趋普及，上海杨某用AI伪造医疗单据敲诈餐厅，北京某公司用AI合成名人声音带货侵权，诸种案件都系对公民人身、财产权利的直接侵害，更严重的是扰乱社会秩序、危及数据安全。因此，2025年《网络安全法》修正草案已经明确增加了人工智能安全与发展的相关规定，《互联网信息服务深度合成管理规定》也直接、明确地禁止利用深度合成服务从事违法犯罪活动，但现行刑法尚没有形成完整的AI规制体系。传统罪名在规制AI生成内容及深度伪造犯罪时必然遭遇适用困境及解释张力，故宜系统、审慎地建构科学的刑法规制路径。
二、利用AI实施犯罪行为的刑法适用
AI生成内容与深度伪造实施犯罪行为，从实务上可分为工具型、对象型、数据型三类风险，其刑法适用需结合行为特征、危害后果与现有罪名构成要件精准匹配，避免“口袋化”定罪或处罚漏洞。
利用AI生成内容造谣行为的罪名适用：AI造谣表现为利用生成式AI批量制造虚假信息（如虚假灾情、疫情、社会事件）并在网络传播，根据传播领域与危害后果，可适用编造、故意传播虚假信息罪，诽谤罪、侮辱罪，非法利用信息网络罪等不同罪名。
利用AI诈骗行为的罪名适用：利用AI实施诈骗，借助深度伪造技术增强欺骗性，核心适用诈骗罪，特殊场景下可关联金融诈骗罪、帮信罪等罪名。
深度伪造（换脸/换声）的罪名适用：深度伪造技术直接侵害公民人格权、财产权甚至国家安全，罪名适用需根据侵害客体分类，可适用侵犯公民个人信息罪、侮辱罪、诽谤罪、盗窃罪等罪名。
三、利用AI实施犯罪行为存在的刑法认定难题
AI技术的自主性、匿名性与传播快速性，导致传统刑法认定规则在主观过错、因果关系、责任主体等方面面临多重困境，成为司法实践的核心障碍。
（一）主观过错认定困境
由于传统刑法以“主客观相统一”为基本原理，故AI犯罪所涉的多元主体及技术黑箱特性给主观过错的认定带来了极大困难。
“明知”的证明标准模糊：AI犯罪本质上是由开发者、使用者、平台运营者、数据提供者诸种主体共同参与的行为，而各主体对危害结果的认知又有明显差异，因此AI平台开发者是否“明知”用户利用其工具实施诈骗，极难以直接证据予以证明。故实践中多采用推定明知的规则，但推定标准并不统一，因而易导致客观归罪。上海AI敲诈案中，杨某直接使用AI生成虚假材料，主观故意极为明确，但平台若未履行审核义务，其是否构成共犯，根本上仍取决于“明知”的准确界定。
共同故意的认定障碍：AI犯罪的协作模式有十分明显的“分散化”特征，即开发者、使用者、传播者彼此没有直接通谋，只是通过网络平台间接关联，三者是否构成共同犯罪，根本上要考察是否存在“意思联络”。传统共同犯罪理论要求主观上彼此相互明知，但AI犯罪中各主体往往互不相识，仅因使用同一技术工具而形成间接关联，故而在AI犯罪中认定共同故意极为困难。
（二）因果关系认定难题
AI生成内容的传播链条复杂、多主体介入，使刑法上的因果关系认定面临挑战：
因果关系断裂问题：由于AI生成的虚假信息经若干次转发之后才发生危害后果，故初始制作者与最终危害结果之间的直接因果关系极难确定。具体而言，AI生成的虚假疫情信息被网友转发到若干平台，由此引发区域性恐慌，因此初始制作者、转发者、平台诸种行为都系危害结果之原因，即典型的多因一果关系，如何合理地分配各主体的责任比例，自然成为司法上的重大难题。
介入因素的影响：由于AI犯罪中第三方介入行为有可能中断初始行为与危害结果的因果关系，故可能甲用AI生成虚假诈骗信息、乙转发时又添加虚假内容致使被害人受骗。甲的行为与危害结果之间是否仍有因果关系，根本上取决于所介入的因素是否具有独立性。
危害结果的量化困难：由于AI生成内容的危害后果有极强的隐蔽性及扩散性，个人信息泄露的危害长期存在，虚假信息对社会秩序的扰乱极难量化，因此传统刑法所采用的“情节严重”“数额较大”的定罪量刑标准并不直接适用于AI犯罪。
（三）其他实践认定难题
责任主体界定模糊：AI犯罪的责任主体一般可归结为开发者、使用者、平台、数据提供者诸种类型，但各主体的责任边界极难厘清，故而在AI平台未履行内容审核义务导致用户利用其工具生成虚假信息的情形中，平台是否构成犯罪，根本上要考察平台是否负有法定安全管理义务。相关规定要求深度合成服务提供者履行审核义务，但值得讨论的是：该义务是否属于刑法所论的“注意义务”，未履行该义务是否宜被认定为不作为犯罪，司法实务中对此已有争议。
罪名竞合处理争议：AI犯罪一般具有触犯数个罪名的特征，AI换脸诈骗就典型地同时构成诈骗罪、侵犯公民个人信息罪、侮辱罪，因此处理罪名竞合时实践中标准极不统一。多数案件从一重罪处罚，也有不少案件作数罪并罚之处理，故而出现同案不同判的现象。“AI去衣”案即为明证，行为人同时构成传播淫秽物品牟利罪与侵犯公民个人信息罪，最高检案例采用从一重罪处罚的立场，但其尚缺少明确的司法解释支撑。
四、利用AI实施犯罪行为的刑法规制路径
面对AI技术带来的刑法挑战，需从立法、司法多维度构建规制体系。
（一）立法完善：增设专门罪名与细化现有规定
增设AI安全管理义务类犯罪宜以欧盟《人工智能法案》所确立的风险分级模式为直接参照，在《刑法》分则第六章中增设“拒不履行人工智能安全管理义务罪”，系统地界定AI开发者、服务提供者的安全管理义务。相应地，该罪的构成要件可设定为：AI相关服务提供者没有履行法定安全管理义务，因而导致生成虚假信息、深度伪造内容，进而造成他人死亡、重大财产损害、社会秩序严重混乱等重大危害后果，处以三年以下有期徒刑、拘役或管制，并处或单处罚金。更重要的是，该罪系典型的不作为犯罪，故宜严格限定于有法定安全管理义务的主体，绝不可随意扩大处罚范围。以刑法修正案及立法解释的形式系统地厘清传统罪名在AI场景下的适用标准：即在侵犯公民个人信息罪中明确把“人脸信息、声音特征、生物识别信息”列为敏感个人信息，在编造、故意传播虚假信息罪中扩张“虚假信息”的范围，将AI生成的虚假商业信息、个人隐私信息都予以规制，在诈骗罪中明确AI深度伪造属于“虚构事实、隐瞒真相”的具体情形。
完善单位犯罪规定：宜从制度上强化对单位犯罪的规制，在相关罪名中明确单位犯罪的处罚规则，并追究相关人员的刑事责任，由此自然地适用“双罚制”。
（二）司法解释：明确认定规则与统一裁判标准
界定主观过错的认定标准：宜就AI犯罪中所涉“明知”的推定情形作出司法解释，即明确收到相关投诉后未采取措施、提供专门用于生成违法内容的功能、收取明显不合理的费用、规避监管措施诸种情形，同时区分不同主体的注意义务。规范因果关系的判断规则：就AI犯罪中所涉的多因一果问题，本文采用“相当因果关系说”来认定因果关系，即结合AI技术的特点、行为人的行为强度、介入因素的异常性诸种要素予以综合判断。
统一罪名竞合的处理原则：一般采用“从一重罪处罚”的原则，但若数个行为分别侵害不同法益且彼此没有牵连关系，便应数罪并罚。具体而言，AI换脸诈骗行为同时构成诈骗罪与侵犯公民个人信息罪，若所侵害的公民个人信息系诈骗的手段行为，宜从一重罪处罚，而若系独立实施的AI换脸诈骗及出售公民个人信息两个行为，宜数罪并罚。
（三）域外借鉴：吸收国际先进规制经验
从欧盟《人工智能法案》风险分级模式中可以得到启示：欧盟对不同风险等级的AI采用不同的监管措施。因此我国宜借鉴此种模式，把深度伪造、AI诈骗等列入高风险AI，而普通AI生成内容可列为低风险AI，予以宽松监管，主动鼓励技术创新。
参考美国的算法透明化要求。由于美国已有若干州立法要求高风险AI算法必须有可解释性，即要向用户披露算法基本原理及决策逻辑，故我国可以在刑法规制中引入算法透明化要求，把“未履行算法解释义务”作为认定主观过错的重要依据。
吸收德国的人格权保护经验。由于德国刑法对侵犯他人肖像权、隐私权的行为明确、系统地纳入刑事规制，故我国宜借鉴德国经验，在侮辱罪、诽谤罪中细化人格权侵害的具体情形，把AI深度伪造对人格权的侵害作为“情节严重”的重要认定标准，由此切实强化对人格权的刑事保护。
〔作者系贵阳市观山湖区人民法院一级员额法官〕
摘要：由于利用AI生成内容造谣、诈骗、人格权侵害等新型犯罪形态不断涌现，故对传统刑法体系形成了一定冲击。以上海AI伪造病历敲诈案、北京AI合成声音侵权案等最新司法实务为切入点，厘清AI相关犯罪在不同场景下的罪名适用路径，讨论主观过错认定模糊、因果关系断裂、责任主体多元诸种司法认定难题，最后从立法完善、司法解释、域外借鉴三个维度提出具体规制建议，真正做到技术革新与刑法保障的动态平衡。
关键词：AI生成内容；罪名适用；刑法规制
一、引言
由于生成式AI技术迭代迅猛，深度伪造工具又日趋普及，上海杨某用AI伪造医疗单据敲诈餐厅，北京某公司用AI合成名人声音带货侵权，诸种案件都系对公民人身、财产权利的直接侵害，更严重的是扰乱社会秩序、危及数据安全。因此，2025年《网络安全法》修正草案已经明确增加了人工智能安全与发展的相关规定，《互联网信息服务深度合成管理规定》也直接、明确地禁止利用深度合成服务从事违法犯罪活动，但现行刑法尚没有形成完整的AI规制体系。传统罪名在规制AI生成内容及深度伪造犯罪时必然遭遇适用困境及解释张力，故宜系统、审慎地建构科学的刑法规制路径。
二、利用AI实施犯罪行为的刑法适用
AI生成内容与深度伪造实施犯罪行为，从实务上可分为工具型、对象型、数据型三类风险，其刑法适用需结合行为特征、危害后果与现有罪名构成要件精准匹配，避免“口袋化”定罪或处罚漏洞。
利用AI生成内容造谣行为的罪名适用：AI造谣表现为利用生成式AI批量制造虚假信息（如虚假灾情、疫情、社会事件）并在网络传播，根据传播领域与危害后果，可适用编造、故意传播虚假信息罪，诽谤罪、侮辱罪，非法利用信息网络罪等不同罪名。
利用AI诈骗行为的罪名适用：利用AI实施诈骗，借助深度伪造技术增强欺骗性，核心适用诈骗罪，特殊场景下可关联金融诈骗罪、帮信罪等罪名。
深度伪造（换脸/换声）的罪名适用：深度伪造技术直接侵害公民人格权、财产权甚至国家安全，罪名适用需根据侵害客体分类，可适用侵犯公民个人信息罪、侮辱罪、诽谤罪、盗窃罪等罪名。
三、利用AI实施犯罪行为存在的刑法认定难题
AI技术的自主性、匿名性与传播快速性，导致传统刑法认定规则在主观过错、因果关系、责任主体等方面面临多重困境，成为司法实践的核心障碍。
（一）主观过错认定困境
由于传统刑法以“主客观相统一”为基本原理，故AI犯罪所涉的多元主体及技术黑箱特性给主观过错的认定带来了极大困难。
“明知”的证明标准模糊：AI犯罪本质上是由开发者、使用者、平台运营者、数据提供者诸种主体共同参与的行为，而各主体对危害结果的认知又有明显差异，因此AI平台开发者是否“明知”用户利用其工具实施诈骗，极难以直接证据予以证明。故实践中多采用推定明知的规则，但推定标准并不统一，因而易导致客观归罪。上海AI敲诈案中，杨某直接使用AI生成虚假材料，主观故意极为明确，但平台若未履行审核义务，其是否构成共犯，根本上仍取决于“明知”的准确界定。
共同故意的认定障碍：AI犯罪的协作模式有十分明显的“分散化”特征，即开发者、使用者、传播者彼此没有直接通谋，只是通过网络平台间接关联，三者是否构成共同犯罪，根本上要考察是否存在“意思联络”。传统共同犯罪理论要求主观上彼此相互明知，但AI犯罪中各主体往往互不相识，仅因使用同一技术工具而形成间接关联，故而在AI犯罪中认定共同故意极为困难。
（二）因果关系认定难题
AI生成内容的传播链条复杂、多主体介入，使刑法上的因果关系认定面临挑战：
因果关系断裂问题：由于AI生成的虚假信息经若干次转发之后才发生危害后果，故初始制作者与最终危害结果之间的直接因果关系极难确定。具体而言，AI生成的虚假疫情信息被网友转发到若干平台，由此引发区域性恐慌，因此初始制作者、转发者、平台诸种行为都系危害结果之原因，即典型的多因一果关系，如何合理地分配各主体的责任比例，自然成为司法上的重大难题。
介入因素的影响：由于AI犯罪中第三方介入行为有可能中断初始行为与危害结果的因果关系，故可能甲用AI生成虚假诈骗信息、乙转发时又添加虚假内容致使被害人受骗。甲的行为与危害结果之间是否仍有因果关系，根本上取决于所介入的因素是否具有独立性。
危害结果的量化困难：由于AI生成内容的危害后果有极强的隐蔽性及扩散性，个人信息泄露的危害长期存在，虚假信息对社会秩序的扰乱极难量化，因此传统刑法所采用的“情节严重”“数额较大”的定罪量刑标准并不直接适用于AI犯罪。
（三）其他实践认定难题
责任主体界定模糊：AI犯罪的责任主体一般可归结为开发者、使用者、平台、数据提供者诸种类型，但各主体的责任边界极难厘清，故而在AI平台未履行内容审核义务导致用户利用其工具生成虚假信息的情形中，平台是否构成犯罪，根本上要考察平台是否负有法定安全管理义务。相关规定要求深度合成服务提供者履行审核义务，但值得讨论的是：该义务是否属于刑法所论的“注意义务”，未履行该义务是否宜被认定为不作为犯罪，司法实务中对此已有争议。
罪名竞合处理争议：AI犯罪一般具有触犯数个罪名的特征，AI换脸诈骗就典型地同时构成诈骗罪、侵犯公民个人信息罪、侮辱罪，因此处理罪名竞合时实践中标准极不统一。多数案件从一重罪处罚，也有不少案件作数罪并罚之处理，故而出现同案不同判的现象。“AI去衣”案即为明证，行为人同时构成传播淫秽物品牟利罪与侵犯公民个人信息罪，最高检案例采用从一重罪处罚的立场，但其尚缺少明确的司法解释支撑。
四、利用AI实施犯罪行为的刑法规制路径
面对AI技术带来的刑法挑战，需从立法、司法多维度构建规制体系。
（一）立法完善：增设专门罪名与细化现有规定
增设AI安全管理义务类犯罪宜以欧盟《人工智能法案》所确立的风险分级模式为直接参照，在《刑法》分则第六章中增设“拒不履行人工智能安全管理义务罪”，系统地界定AI开发者、服务提供者的安全管理义务。相应地，该罪的构成要件可设定为：AI相关服务提供者没有履行法定安全管理义务，因而导致生成虚假信息、深度伪造内容，进而造成他人死亡、重大财产损害、社会秩序严重混乱等重大危害后果，处以三年以下有期徒刑、拘役或管制，并处或单处罚金。更重要的是，该罪系典型的不作为犯罪，故宜严格限定于有法定安全管理义务的主体，绝不可随意扩大处罚范围。以刑法修正案及立法解释的形式系统地厘清传统罪名在AI场景下的适用标准：即在侵犯公民个人信息罪中明确把“人脸信息、声音特征、生物识别信息”列为敏感个人信息，在编造、故意传播虚假信息罪中扩张“虚假信息”的范围，将AI生成的虚假商业信息、个人隐私信息都予以规制，在诈骗罪中明确AI深度伪造属于“虚构事实、隐瞒真相”的具体情形。
完善单位犯罪规定：宜从制度上强化对单位犯罪的规制，在相关罪名中明确单位犯罪的处罚规则，并追究相关人员的刑事责任，由此自然地适用“双罚制”。
（二）司法解释：明确认定规则与统一裁判标准
界定主观过错的认定标准：宜就AI犯罪中所涉“明知”的推定情形作出司法解释，即明确收到相关投诉后未采取措施、提供专门用于生成违法内容的功能、收取明显不合理的费用、规避监管措施诸种情形，同时区分不同主体的注意义务。规范因果关系的判断规则：就AI犯罪中所涉的多因一果问题，本文采用“相当因果关系说”来认定因果关系，即结合AI技术的特点、行为人的行为强度、介入因素的异常性诸种要素予以综合判断。
统一罪名竞合的处理原则：一般采用“从一重罪处罚”的原则，但若数个行为分别侵害不同法益且彼此没有牵连关系，便应数罪并罚。具体而言，AI换脸诈骗行为同时构成诈骗罪与侵犯公民个人信息罪，若所侵害的公民个人信息系诈骗的手段行为，宜从一重罪处罚，而若系独立实施的AI换脸诈骗及出售公民个人信息两个行为，宜数罪并罚。
（三）域外借鉴：吸收国际先进规制经验
从欧盟《人工智能法案》风险分级模式中可以得到启示：欧盟对不同风险等级的AI采用不同的监管措施。因此我国宜借鉴此种模式，把深度伪造、AI诈骗等列入高风险AI，而普通AI生成内容可列为低风险AI，予以宽松监管，主动鼓励技术创新。
参考美国的算法透明化要求。由于美国已有若干州立法要求高风险AI算法必须有可解释性，即要向用户披露算法基本原理及决策逻辑，故我国可以在刑法规制中引入算法透明化要求，把“未履行算法解释义务”作为认定主观过错的重要依据。
吸收德国的人格权保护经验。由于德国刑法对侵犯他人肖像权、隐私权的行为明确、系统地纳入刑事规制，故我国宜借鉴德国经验，在侮辱罪、诽谤罪中细化人格权侵害的具体情形，把AI深度伪造对人格权的侵害作为“情节严重”的重要认定标准，由此切实强化对人格权的刑事保护。
〔作者系贵阳市观山湖区人民法院一级员额法官〕
