摘要:近日,一些针对经典文学形象和动画主角的AI魔改视频频繁现身网络平台,在部分青少年群体中掀起一轮流量热潮。这些视频中的角色,有的外形怪诞低俗、名称晦涩难懂;有的形象诡异惊悚,充斥暴力与血腥元素;更令人担忧的是,其中部分内容已被商家快速转化为线下产品,进入学校周边
近日,一些针对经典文学形象和动画主角的AI魔改视频频繁现身网络平台,在部分青少年群体中掀起一轮流量热潮。这些视频中的角色,有的外形怪诞低俗、名称晦涩难懂;有的形象诡异惊悚,充斥暴力与血腥元素;更令人担忧的是,其中部分内容已被商家快速转化为线下产品,进入学校周边文具店,成为热销的商品,甚至演变为学生之间的“社交货币”。
这些内容荒诞、逻辑混乱的视频之所以受到青少年追捧,进而发展成为一种流行于学生群体间的亚文化,其原因并非单一的审美降低或被动“投毒”,而是其身心发展阶段特质、学业压力与媒体环境等多重因素共同作用的结果。
首先,青少年处于自我同一性建立的关键期,往往伴随对规则与权威的质疑。此类内容以猎奇与解构的方式,满足其低风险反抗的心理需求。特别是在学业竞争与成长规训的双重压力下,这类视频极易成为他们情绪宣泄的出口。
其次,青少年渴望身份认同与群体归属感。分享主流视野之外的符号与“暗语”,有助于他们迅速形成亚文化圈层,从而强化其群体归属感,这正是AI魔改内容演变为“社交货币”的内在逻辑。
AI魔改视频的流行还与短视频平台的推荐算法密切相关。AI魔改作品通常具有节奏快、刺激强、认知负荷低等特点,契合青少年碎片化的媒介使用习惯。青少年可能只是出于好奇点击了一个怪异视频,算法就会立刻大量推送同类内容,迅速将其困于信息茧房,不断加深其沉浸与依赖。
从现实影响来看,AI魔改内容对青少年的危害是多维的,不仅造成审美降级与情感钝化,还会扭曲其道德和价值观念,构成一种利用技术优势对未成年人实施的系统性侵害,违背了“儿童利益最大化”原则。具体而言,它侵犯了以下三项儿童基本权利:
第一,侵犯儿童发展权。根据联合国《儿童权利公约》,儿童有权获得促进其全面发展的信息。而AI魔改内容作为数字糟粕,挤占了其接触优质文化资源的空间,阻碍其安全感、同理心与健康审美的养成,直接妨害儿童心智发展。
第二,侵犯儿童受保护权。这些内容荒诞不经、充斥暴力血腥画面的魔改作品,不仅对儿童造成直接精神伤害,其背后更隐藏着以流量经济和黑色产业链为核心的商业剥削,实质上是利用儿童辨别能力弱的特点不当牟利。
第三,扭曲儿童参与权。儿童本应有权参与、继承和发扬有益的文化,并在安全的数字环境中学习成长。而AI魔改内容将其文化参与扭曲为对“赛博垃圾”(借助AI生成的低质量产品)的追捧,污染了其学习与娱乐空间,限制了其开展正常、有益的数字生活的可能。
AI魔改现象是AIGC(人工智能生成内容)浪潮下,对未成年人权利保护提出的一个重大挑战。要有效治理这一现象,网络平台和相关企业应当承担起作为“守门人”的法定责任。
网络平台是AI魔改内容传播与变现的首要场域,必须承担起“防火墙”责任。平台应履行算法与推荐的向善责任,杜绝以流量为导向向未成年人推送低俗、暴力内容,确保算法遵循“儿童利益最大化”原则;要落实内容与模型的清污责任,主动运用技术手段清理存量“赛博垃圾”,并从源头严控AIGC生成不良信息;要强化“青少年模式”的内容净化功能,确保内容池纯净适龄,彻底屏蔽AI魔改类视频;还需承担商业链条的防护责任,禁止相关账号借助此类内容挂载商品或带货,同步屏蔽关键词并清理违规商家。唯有如此,方能守护未成年人的网络安全与身心健康。
相关企业作为内容与产品的源头,必须承担起守法与自律的责任。在生产与设计环节必须建立儿童保护机制,主动拒绝生产和设计怪诞、低俗、侵权化产品;线下销售环节应履行进货查验义务,杜绝有害周边进入校园市场;线上销售环节则需平台落实自清责任,依法及时下架违规商品,否则将面临处罚。
要从根本上治理AI魔改问题,亟须构建一个由政府监管、企业主责、家庭监护、学校教育共同组成的“四位一体”社会共治体系。政府部门应当发挥监管者和执法者的作用,网信部门统筹网络保护,压实平台责任;市场监管部门负责清理线上线下有害周边产业链;新闻出版与广电部门则通过疏堵结合策略,推动优质内容的生产与传播。企业和平台作为第一责任人,必须从被动应付转向主动防御,利用技术手段清理不良内容,切断商业变现链条,持续优化未成年人模式,为未成年人提供纯净的网络环境。家庭是未成年人保护的第一道防线,家长应切实履行监护职责,通过陪伴、内容筛选和善用工具,培养孩子的批判性思维与审美能力。学校作为媒介素养教育的主阵地,应开设网络素养相关课程,并发挥家校协同的桥梁作用。只有政府、企业、家庭、学校四方协同、环环相扣、各尽其责,才能真正织密未成年人的保护网,将AI魔改这类“精神毒品”彻底隔绝在未成年人的成长环境之外。(蔡海龙)
来源:中工网一点号