摘要：我们正面临着一个棘手的悖论：旨在教育、联络和赋权人类的数字工具也被利用来伤害我们最脆弱的群体——儿童。Fry及其同事发表在《柳叶刀-儿童与青少年健康》（The Lancet child and Adolescent Health）上的一篇评论文章发现[1]，网

我们正面临着一个棘手的悖论：旨在教育、联络和赋权人类的数字工具也被利用来伤害我们最脆弱的群体——儿童。Fry及其同事发表在《柳叶刀-儿童与青少年健康》（The Lancet child and Adolescent Health）上的一篇评论文章发现[1]，网络儿童性剥削和性虐待（Online child sexual exploitation and abuse，OCSEA）已经成为一种普遍威胁。令人震惊的统计数据显示，每12个儿童中就有1个在过去一年中经历过OCSEA。如果考虑到儿童一生中的童年经历，这一数字将上升到六分之一，这表明迫切需要循证的干预措施。我们怎样才能在不扼杀儿童学习、社交和成长能力的前提下，为儿童上网提供保护？

首先，我们需要了解这场危机的规模。Fry及其同事描述了OCSEA的亚型，如网络招揽（online solicitation），影响着全球约12.5%的儿童。此外，英国防止虐待儿童协会（UK National Society for the Prevention of Cruelty to Children，NSPCC）最近的一份报告强调了与生成式人工智能（genAI）相关的严重安全风险[2]，揭示了AI如何助长诱导（grooming）、骚扰和有害内容的生成。AI生成图像的兴起给能力和应对策略带来了挑战。这些AI图像通常是根据人类生成的内容进行训练的，这使得问题更加复杂化。虽然AI是创建剥削性图像的一种主要工具，但人类仍然要对包括诱导在内的各种形式的剥削负责。2023年10月，网络观察基金会（Internet Watch Foundation）发布的《人工智能儿童性虐待报告》（AI Child Sexual Abuse Report）显示[3]，仅在1个月内，就有超过11,000张AI生成的犯罪图像被上传到暗网论坛；2024年7月的更新报告指出，已出现AI生成的视频，且图像问题日益严重。总之，这一活动极有可能使打击离线图像生成所付出的努力付诸东流，从而可能导致用于处理真实儿童性虐待内容（child sexual abuse material，CSAM）的关键资源分流。

针对部分担忧，澳大利亚政府最近颁布了一项有争议的、关于16岁以下未成年人使用社交媒体的禁令。包括140名学者和心理健康专家组成的联盟在内的批评者们认为[4]，这种做法将问题过于简单化，缺乏针对性。Jasmine Fardouly在本期发表的一篇评论中警告称[5]，此项禁令可能会无意中将儿童推向更缺乏监管的网络空间，或使他们因害怕受到惩罚而不愿举报虐待行为。近期，发表在《柳叶刀-区域健康（欧洲）》（The Lancet Regional Health – Europe）上的一项研究进一步指出[6]，全面禁令的影响有限。该研究对1,200多名中学生进行了调查，发现是否在实行限制性手机禁令的学校就读对于学生的心理健康几乎没有差异。然而，Meta最近支持停止对有害内容的主动限制（proactive enforcement）[7]，这引起了人们对OCSEA可能增加的担忧。这项禁令也没有认识到使用社交媒体与心理健康之间的微妙关系。尽管人们对屏幕时间过长和接触有害内容（如影响六分之一学龄儿童的网络欺凌[8]）的担忧是合理的，但我们也必须承认网络平台在促进社交方面发挥的积极作用，尤其是对边缘群体而言。例如，一篇综述发现[9]，社交媒体可以通过同伴联系、身份管理和社会支持来促进LGBTQ青少年的心理健康。

全面禁令无法从根本上解决网络伤害问题，还使得儿童无法从网络中获益，那么还有什么更有效的替代方法呢？为了真正应对OCSEA的挑战，我们需要强调预防而非应对措施。首先，科技公司必须带头创造设计保障安全（safe-by-design）的产品。注意义务（Duty-of-care）立法应要求社交媒体和genAI平台承担责任，强制其采取主动措施检测并删除有害内容。此外，许多开源genAI模型都是在现有CSAM基础上训练的，这突出表明亟需优先考虑儿童安全的AI伦理机制。要使上述主动措施取得成功，至关重要的是需要建立一个强有力的监管机制，并听取儿童和家长的意见。还必须优先开展数字素养教育，增强儿童安全浏览网络的能力。最后，加强法律机制以起诉参与网络剥削的个人和实体也至关重要。通过技术问责制、健全法规和数字素养来注重预防，我们就能更好地保护儿童免受网络剥削，确保他们在数字时代的安全。

相关研究

网络儿童性剥削和性虐待的流行率估计与性质：系统综述和Meta分析

背景

网络儿童性剥削和性虐待（OCSEA）是一个全球性的健康问题。这项全球系统综述和Meta分析旨在更好地了解全球范围内OCSEA的流行情况与性质。

方法

使用六种联合国语言（阿拉伯语、中文、英语、法语、俄语和西班牙语）和多个数据库对2010年1月1日至2023年9月30日期间发表的文献进行了全面检索。由两位作者分别根据纳入标准独立评估是否纳入本研究。符合条件的研究包括18岁以下的未成年人或回顾性报告OCSEA的成人。研究使用了一般人群样本，在国家和省级层面具有代表性。对流行率研究的偏倚风险进行评估，并汇总了研究结果。采用随机效应模型对研究进行Meta分析，以估计四种OCSEA亚型和总OCSEA（来自在同一样本中测量至少三种不同亚型的研究）在过去一年回忆和终生回忆的流行率及95%CI。本研究已在开放科学平台（osf.io/6vux2）中预注册。

结果

在通过文献检索获得的47,097篇文献中，86篇记录的123项研究被纳入本次系统综述和Meta分析。据估计，过去一年回忆的OCSEA亚型的汇总平均流行率为：网络招揽（12.5%[95%CI：10.5-14.7]）；未经同意拍摄、分享和接触性图像、视频（12.6%[9.7-16.2]）；网络性剥削（4.7%[2.9-7.3]）；以及性勒索（3.5%[1.9-6.4]）。过去一年回忆的OCSEA总平均流行率为8.1%（4.9-13.0）。受研究设计因素（包括数据收集方法和所用定义的差异）的影响，估计值的异质性很高。

解释

不同研究和地区的流行率存在异质性，这表明需要进行进一步研究才能得出关于OCSEA规模更有力的结论。然而，这项研究的结果对政策制定者、从业人员和研究人员来说具有重要意义，有助于他们在分配资源、设计有效的预防和应对方案方面做出明智决策，进而保护全球儿童。END

Funding

The Human Dignity Foundation.

参考文献

[1]For the systematic review see Articles Lancet Child Adolesc Health 2025; 9: 184–93

[2]For the research commissioned by the NSPCC see https://learning.nspcc.org.uk/research-resources/2025/generative-ai-childrens-safety

[3]For the IWF’s AI Child Sexual Abuse Report see https://www. iwf.org.uk/about-us/why-we-exist/our-research/how-ai-is-being-abused-to-create-child-sexual-abuse-imagery/

[4]For more on the coalition opposing the ban see https://westernsydney.edu.au/__data/assets/pdf_file/0016/2052160/Open_letter_re_social_media_bans.pdf

[5]For more on the social media ban in Australia see Comment page e235

[6]For the study on secondary school pupils see Articles Lancet Reg Health Eur 2025; published online Feb 4. https://doi.org/10.1016/j.lanepe.2025.101211

[7]For more on changes to Meta’s policies on harmful content see https://edition.cnn.com/2025/01/07/tech/meta-censorship-moderation/index.html

[8]For more on cyberbullying see https://www.who.int/europe/news-room/27-03-2024-one-in-six-school-aged-children-experiences-cyberbullying--finds-new-who-europe-study

[9]For more on the role of online platforms for marginalised groups see J Med Internet Res 2022; 24: e38449

Copyright © 2025 Getty Images/Catherine Falls Commercial

中文翻译仅供参考，所有内容以英文原文为准。

社论 https://doi.org/10.1016/j.landig.2025.03.003

研究 https://doi.org/10.1016/S2352-4642(24)00329-8

来源：柳叶刀TheLancet