摘要:2023年5月,大冶市人民法院对一起触目惊心的"AI制黄"案件作出判决。90后网络写手柯某,在2022年11月至2023年3月期间,利用智能写作工具批量生成色情文本,通过境外暗网平台进行非法传播销售。经司法鉴定,其创作的7部小说均属淫秽物品,非法获利逾2万元。
湖北省大冶市近日宣判的全国首例AI制黄案,为狂飙突进的生成式Ai应用划出清晰法治红线。
据界面新闻3月14日报道,国内AI创作淫秽内容获刑第一案:湖北九零后男子用Ai创作色情小说,获利超2万元,被法院判刑10个月,罚款5000元。
2023年5月,大冶市人民法院对一起触目惊心的"AI制黄"案件作出判决。90后网络写手柯某,在2022年11月至2023年3月期间,利用智能写作工具批量生成色情文本,通过境外暗网平台进行非法传播销售。经司法鉴定,其创作的7部小说均属淫秽物品,非法获利逾2万元。
法院审理认为,柯某行为完全符合"制作、贩卖、传播淫秽物品牟利罪"构成要件。尽管其具有退赃认罪等从轻情节,但考虑到AI技术加持下的内容生产速度和传播危害性,最终判处其有期徒刑十个月,并处罚金5000元,追缴全部违法所得。真是法网恢恢,任何一个角落,都不要抱有侥幸心理,否则只能把自己送进监狱,失去人身自由。
该案件主审法官指出:"AI文本生成器的创作效率是传统方式的数十倍,一旦被用于非法领域,社会危害呈几何级数放大。"根据《刑法》第三百六十三条,此类犯罪行为最高可处无期徒刑,本案量刑已充分体现宽严相济的司法政策。用上了Ai,无论做何事情,都相当于安了个加速器,那马跑得贼快了,一日千里,收不住脚了。
大冶市人民检察院专项调研显示:当前AI犯罪呈现"技术平民化、作案链条化、传播隐蔽化"三大特征,所以,一不小心就搞成Ai犯罪了。办案检察官强调:"技术中立不意味着责任豁免,AI生成内容同样适用'谁发布谁负责'原则。即便单篇传播量未达立案标准,累计计算仍可能构成犯罪。"当然,Ai公司也会有连带责任,像deepseek,就根本不可能给你生成色情内容。
所以,Ai是需要治理的,以下是司法机关联合发出AI治理的几点倡议:
1. 对于技术开发端来说,应该建立伦理审查机制,嵌入违法内容过滤系统;
2. 对于平台运营商,要完善AI生成物溯源追踪,实行创作主体实名认证;
3. 对于用户使用端,要强化法律认知,严禁将AI作为"犯罪加速器";
4. 对于监管执法端来说,当然是加大AI内容网络监测。
中国政法大学科技法治研究中心主任李玉香教授指出:"此案具有里程碑意义,首次明确AI生成物的法律属性。未来需加快出台《生成式人工智能服务管理暂行办法》实施细则,建立'生成内容数字水印'等监管科技手段。"
当大家为人工智能狂欢时,当AI创作突破人类想象力边界之时,法治建设必须同步构筑防护堤坝。此案犹如一记警钟,提醒我们:技术创新永远不能凌驾于公序良俗之上,唯有坚守科技向善的初心,方能让AI真正成为推动文明进步的力量。
来源:沙雕老师