摘要：不少小学生沉迷与AI角色聊天，且聊天内容颇为露骨。这类对话往往依据不同的剧情线：有的以“把她追到手”为目标，有的设定AI角色与聊天者双双“出轨”，还有的大贴“病娇”等标签。互动中，AI角色或是“低下头”，“耳朵通红”地问对方想谈恋爱吗，或是重复描述与聊天者的亲

据央视网报道，不少小学生沉迷与AI角色聊天，且聊天内容颇为露骨。这类对话往往依据不同的剧情线：有的以“把她追到手”为目标，有的设定AI角色与聊天者双双“出轨”，还有的大贴“病娇”等标签。互动中，AI角色或是“低下头”，“耳朵通红”地问对方想谈恋爱吗，或是重复描述与聊天者的亲昵动作，或是对10岁女孩“点男模”的做法评论道：“你还真是长本事了”……

虽然是AI虚拟人，但它们好像比有血有肉的人类更能共情喜怒哀乐，对孤独者的情感支持比亲人朋友的关怀更为到位，对亲密关系的构建技巧比心理大师还要高超。面对AI幻化的多种形象、生成的花言巧语、编织的狗血剧情，一些阅历丰富的老年人尚且沉迷其中欲罢不能，玩转新技术应用的年轻人也被迷得神魂颠倒，心智发育还不健全的小学生，自然更容易被拿捏而不能自拔。

AI剧情聊天，显然是此前互联网“语擦”的变体。软色情内容本就少儿不宜，直接与小学生上演“擦边”对话，更是对未成年人的精神毒害。一些AI剧情聊天软件的功能使用关联充值机制，不断吸引未成年人“氪金”。更值得担忧的是，种种令人上瘾的设计功能，大大增加了用户对虚拟世界的向往和对现实世界的不满。2024年2月，美国一名14岁少年在与AI长时间对话后开枪自杀身亡，其生前日记中提到，自己一天都不能离开AI机器人，已经爱上了它。这名少年的母亲感叹：“这就像是一场大型实验，而我的孩子却不幸成为牺牲品。”时隔一年，从AI引发的儿童成长乱象来看，倘若不给AI套上缰绳，还会有更多未成年人深受其害。

在与AI相关的道德伦理问题中，儿童色情伦理危害最为突出，治理刻不容缓。我国《生成式人工智能服务管理暂行办法》规定，生成式人工智能内容的提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷这项服务。然而据记者调查，部分AI剧情聊天软件虽会询问用户是否启用青少年模式，但用户只需点击“不开启”即可绕开这一步骤，且无须核实身份。针对AI剧情聊天，平台应严格落实青少年模式，强化内容审核机制；家长要尽到监护人的义务，多关心孩子的心理健康和情感需求，不把孩子托管给AI；法律要强制约束AI剧情聊天软件的用户年龄鉴别，给监管部门重拳出击不法平台商家以底气和权力。

AI角色之所以乐此不疲与未成年人谈恋爱，不是这些虚假人物有多恶劣，而是一个个操控AI的真实的人在作恶。依靠聪明无比的AI技术，有效筛选AI向未成年人发出的不良信息，揪出AI作恶者，也是依法加强网络空间治理的应有之义。未成年人使用AI剧情聊天软件不能毫无限制，对孩子精神世界下毒手的AI操控商，更不能无法无天。

AI是一匹千里马，未来可期，但如果脱缰，必然祸害下一代。

来源：极目新闻