摘要：AI使用者需对内容的合法性负责，不可触碰法律红线。利用AI撰写色情小说的行为存在严重的法律风险，一旦色情小说通过网络或其他途径传播，无论传播范围大小，都可能触犯传播淫秽物品罪或传播淫秽物品牟利罪

AI使用者需对内容的合法性负责，不可触碰法律红线。利用AI撰写色情小说的行为存在严重的法律风险，一旦色情小说通过网络或其他途径传播，无论传播范围大小，都可能触犯传播淫秽物品罪或传播淫秽物品牟利罪

近年来，AI技术的逐渐普及，极大地方便了人们的生活与工作，但也因此被一些不法分子盯上。有人为赚取平台流量补贴，获得流量变现，利用AI合成技术编造谣言，扰乱社会秩序。更有甚者，利用AI技术写起了色情小说，再通过AI软件翻译成外文版本，放到境外网站销售牟利，还试图通过虚拟币收款逃避打击。

《法治周末》记者近日从湖北省大冶市人民检察院了解到，该院办理了首例利用AI技术撰写色情小说并贩卖的案件，经该院提起公诉，被告人柯某某因犯制作、贩卖、传播淫秽物品牟利罪，被法院判处有期徒刑10个月，并处罚金5000元，同时追缴全部违法所得。柯某某未上诉，该判决已生效。

“翻墙”浏览 境外网站后用AI写色情小说

湖北男子柯某某是一名“95后”，平时喜欢在家写些“二次元”小说发布到相关平台上，供读者付费阅读。由于创作量较大，他每月能从该网络小说平台收入四五千元。

2022年11月的一天，柯某某偶然从一个“二次元”小说网站上了解到某境外网站，就使用“翻墙”软件进入该网站浏览色情小说，并通过另一家关联的境外网站购买其中付费内容。

在该网站看过两三部色情小说之后，柯某某就弄清了其中的赚钱方式，他觉得光靠写正常的“二次元”小说挣钱还是不够，便产生了写色情小说多赚钱的想法。

为了提高“产量”，柯某某先是自己写一点，在网上摘抄一部分，然后把这些内容一起交给AI平台，让它按照自己的要求去创作，柯某某再对生成的内容进行润色，最终得到一篇完整的色情小说。

就这样，从2022年11月至2023年3月，柯某某利用AI“写”出了十余篇色情小说，再用AI工具翻译成外文，发布在境外网站上，先后售卖约760篇（次），共计获利22800余元。

柯某某事后供述称，他当时也是存有侥幸心理，以为通过国外网站写色情小说，在国内就查不到。

然而，在大数据时代，即便有AI加持，犯罪也终将现形。

锁定证据后男子被起诉

2023年8月，四川省某市侦办了一起制售淫秽漫画案，其中一条关联线索涉及湖北省大冶市的柯某某。大冶市公安机关获悉线索后，迅速立案侦查，于同年8月31日在柯某某的住所将其抓获，查获了他使用的电脑主机，并对其采取了刑事强制措施。

经讯问，柯某某如实供述了其于2022年11月至2023年3月期间，以非法获利为目的传播淫秽物品的犯罪事实，在他的电脑里也找到了相应的小说文件。

2023年9月25日，该案被移送到检察机关审查逮捕，承办检察官审阅案卷后，讯问了犯罪嫌疑人。“在审查逮捕阶段，我们主要引导公安机关做了两方面工作，一是对相关小说做了鉴定，确认其全部属于淫秽物品，再就是查清其违法所得金额。”承办该案的检察官方雪告诉记者。由于柯某某是通过虚拟币收款，再兑换成人民币，侦查人员调取柯某某的支付宝、微信流水后，查清其共计获利2.2万多元。在证据面前，柯某某自愿认罪认罚，并退缴了全部违法所得。

大冶市检察院认为，柯某某以牟利为目的，制作、贩卖、传播淫秽物品，总计售卖约760篇次，非法获利22873.95元，犯罪事实清楚，证据确实、充分，其行为触犯了刑法相关规定。2024年10月18日，该院以柯某某涉嫌制作、贩卖、传播淫秽物品牟利罪提起公诉。法院开庭审理后，采纳了公诉机关的量刑建议，依法作出前述判决。

技术中立并不意味着价值中立

随着AI技术的迅猛发展，其应用已渗透到社会生活的方方面面。记者注意到，除了上述“AI撰写色情小说案”，近年来，我国其他地区亦有人因通过AI制作、贩卖、传播其他淫秽物品，而被追究刑事责任。

2023年7月，陕西咸阳人周某某利用从网上下载的“AI修图”软件，在电脑上制作淫秽图片4369张，通过QQ向他人贩卖53次，获利2035元。2024年3月18日，周某某因犯制作淫秽物品牟利罪，被咸阳市秦都区人民法院判处有期徒刑四年，并处罚金1万元，违法所得予以追缴；同年4月28日，咸阳市中级人民法院二审维持了原判。

从2021年至2022年8月，浙江杭州的虞某某利用“AI换脸”软件，将从网上收集到的人脸信息与淫秽视频进行替换合成，制作出虚假的换脸视频，在成员共计2000多人的多个网络社交软件群中传播，被换脸的有不少是明星，虞某某通过“收红包”获利6万余元。2023年11月，虞某某因犯制作、传播淫秽物品牟利罪，被杭州市萧山区人民法院判有期徒刑七年三个月，并处罚金六万元。

记者注意到，杭州市萧山区人民检察院还针对虞某某“AI换脸”案提起了个人信息保护民事公益诉讼，杭州互联网法院支持了公益诉讼起诉人的诉讼请求，判令被告虞某某删除其在社交软件群中留存的涉案个人信息，并支付侵害社会公共利益的损害赔偿款6万元（此款专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项），在《法治日报》向公众刊发赔礼道歉声明。

“技术本身是中立无害的，技术本身也不应当直接受到法律的负面评价。”杭州互联网法院的法官在上述判决书中强调说，但技术中立并不意味着价值中立，特别是开发、应用者的价值中立，更不等于“深度合成”的参与者不应当受到来自法律的规制。

方 雪 湖北省大冶市人民检察院 第一检察部检察官

说案

AI虽作为工具，但利用它创作色情小说，等同于利用传统手段进行违法活动，同样要承担相应法律责任。

AI使用者需对内容的合法性负责，不可触碰法律红线。利用AI撰写色情小说的行为存在严重的法律风险，一旦色情小说通过网络或其他途径传播，无论传播范围大小，都可能触犯传播淫秽物品罪或传播淫秽物品牟利罪。

根据我国刑法和相关司法解释，制作、复制、出版、贩卖、传播淫秽电子图片、文章等一百件以上，或利用淫秽电子信息获取违法所得五千元以上的，即可定罪处罚。该案中柯某某先后售卖利用AI撰写的色情小说760篇（次），获利两万余元，远超过上述标准，且跨境传播次数多，性质恶劣。因此，尽管柯某某到案后如实供述，自愿认罪认罚并退赃，已依法在量刑起点基础上从宽处理，但依然不适用缓刑。

技术的运用是把“双刃剑”，用之为善可以造福社会，不当滥用则会造成社会风险和损害。人们在享受AI带来的便利与创新时，要坚守法律底线。广大AI开发者、使用者及相关平台应加强自律，平台有责任阻止违法内容传播，个人更要自觉遵守法律法规，不涉足违法创作。

来源：大河看法