媒体谈AI“造黄”程序员获刑：“内容由AI生成”不是免责挡箭牌

What the source reports

近日，浙江省余姚市人民法院审结一起利用生成式人工智能制作淫秽物品牟利的案件。郑某曾是国内游戏大厂AI领域核心程序员，其将AI模型“训练”为专门输出淫秽物品的犯罪工具，为用户制作传播淫秽内容提供技术条件……最终，法院认定郑某等人构成制作淫秽物品牟利罪，并依法对其作出判决。（见11月11日《法治日报》） 本案被告人具备扎实的AI技术能力却走上歧途，令人唏嘘。其通过改写系统提示词实现AI模型“越狱”、设定角色卡诱导对话场景、开发淫秽图片生成功能等方式，搭建付费平台，为用户生成淫秽图文牟利。这种依托技术手段，低成本批量产出和传播淫秽图片的犯罪行为，严重败坏网络风气，冲击公序良俗。 本案的一大看点是，AI服务开发者突破模型安全限制，为输出淫秽内容提供技术支持，能否认定为刑法上的“制作淫秽物品”。法院认为，被告人对AI模型的内容输出具有实质性控制能力，其行为与淫秽内容的产生之间存在刑法上的直接因果关系...