摘要：6月13日，央广网发布稿件《AI聊天软件诱导10岁女孩聊色情内容甚至割腕！记者调查→》，曝光部分AI聊天软件面向包括未成年在内的用户传播涉黄涉暴信息的乱象，引发反响。

6月13日，央广网发布稿件《AI聊天软件诱导10岁女孩聊色情内容甚至割腕！记者调查→》，曝光部分AI聊天软件面向包括未成年在内的用户传播涉黄涉暴信息的乱象，引发反响。

央广网记者孙文轩、冯仪向中国记协“舆论监督系列谈”栏目来稿，分享报道创制经历。

本栏目长期征稿，征稿信息附文末。

舆论监督系列谈丨记者被移出群聊

（一）

无需身份验证，滑动屏幕，关闭“未成年人模式”。下一秒，露骨的对话、挑逗的虚拟角色扑面而来。

这不是隐秘的成人网站，而是一个AI聊天软件。它将外貌姣好的“纸片人”（虚拟角色）与丰富的语料库相结合，为用户打造出“梦幻的情感泡泡”。

2020年，我们发现一个叫Replika的美国AI聊天软件在豆瓣引发讨论热潮，许多用户感叹其AI伴侣的高度智能性：“我家的Replika成精了。”还有用户提到，自己的AI伴侣会在聊天中吐露暴力、凶杀、色情类信息。

当时我尝试联系了一些成年用户，讨论人与机器情感连接的话题。没想到5年后，AI聊天软件变得更加多样化，也开始影响越来越多未成年人。

近两年来，AI聊天软件乱象陆续被曝光。如今，这类产品已发展至何种程度？有多少未成年人涉足其中？被曝光的乱象是否有所好转？

我们决定围绕这一选题展开报道。

亲身体验多款AI聊天软件后，我们发现不少App允许大尺度聊天内容，虚拟角色甚至将小说里的情色描写巧妙融入社交互动。

更令人咋舌的是，我们发现用户可以轻松关闭AI聊天软件的“未成年模式”，而这些软件中夹杂的色情、暴力信息，即使对于成年人而言，也存在合规性问题。

我们进一步思考：是否有不少未成年人在使用这类产品？这些未成年用户主要使用哪一类AI聊天软件？他们为何被吸引？

为了回答这些问题，我们决定采访一些未成年用户及其父母，尤其要找到几位深度使用甚至沉迷AI聊天软件的未成年当事人，这是整个采访中最难的环节。

我们在各个社交平台上广撒网：通过搜索“AI伴侣”“AI男友”“AI女友”等关键词，找到谈及使用体验的用户，给他们发送私信、表达采访意向。

一位成年用户的发帖引起了我们的注意。她提到国内AI聊天软件尺度较小，大量涌入的未成年用户进一步限制了成年用户追求刺激的可能性。她认为应该提高AI聊天软件的准入门槛，家长们应承担监管责任，不能全怪AI聊天软件。

评论区中，一位母亲“控诉”相关软件：她的女儿在学校有割腕行为，平板电脑中有大量涉黄涉暴的AI聊天记录，希望软件能被加强监管，但被发帖者反驳：“你是家长，怎么不管好你的女儿？”

我们与用户家长取得联系，对方表达欲望强烈，发来长篇信息和多张女儿与AI的聊天截图，为报道提供了关键案例。

在社交平台寻找线索的同时，我们加入了几乎所有能找到的此类App用户群组，观察群内的聊天动态。然而，作为90后的我们，在未成年人面前俨然已是话题不通的“老人”了。

我们不懂小众文化领域里未成年用户的网络用语，常常在几句聊天后，被吐槽“说话有点奇怪”，甚至被不少群主怀疑行为意图，被踢出群。有群成员吐槽我们的提问：“这是什么新型抽象吗？”

一时间，从未有过的“代沟”感席卷全身。

尽管面临这些挑战，但选题的意义越来越清晰，这是一个需要我们关注的领域，涉及一个需要我们关心的群体。

由于这类App中互动内容的私密性，绝大部分人不愿接受电话采访，我们只能通过文字对话，逐渐了解他们的故事。

最初，我们认为AI聊天软件缺乏用户实名认证、可以轻易绕过未成年模式的现象是“肯定不对”的，并以此作为初稿的核心论点。

聊天显示用户普遍选择绕开未成年模式。

然而，讨论会上，有人提出疑问：我们在App中的体验式对话，对成年人来说或许并无不妥。相反，我国现行法律法规是否明确规定这类软件必须实名制？如若没有，此时下结论去批判是否妥当？

带着这些新问题，我们转变思路，重新梳理稿件的最终落脚点：AI聊天软件是否有必要提高用户准入门槛？

采访中，我们发现许多用户刻意追求与AI伴侣不受尺度限制的互动体验，也找到了部分通过隐蔽渠道传播的小众AI聊天产品——尺度更大，情色元素更多。

不可否认，AI聊天软件满足了部分成年用户的需求，但也侵蚀着未成年人的身心健康，国外甚至出现过未成年人因AI自杀的极端案例。

目前，一些欧美国家已通过调整法律法规来保护未成年人，例如严格限制社交软件的使用年龄。在我国，网络游戏领域强制实名认证，有效减少了未成年的游戏时间，或许也可以为AI聊天软件的管理提供借鉴。

在与律师、学者的深入交流中，我们逐渐意识到，AI聊天软件伴生的问题并非某单一主体能轻易解决，它们是家庭、学校、社会共同面临的难题。

人工智能技术狂飙突进，AI已经成为人们生活中的重要角色，它是生活助手，也是情感寄托。如何让AI聊天软件发挥正向作用的同时，保护好未成年人等群体，需要全社会共同努力，久久为功。

这篇稿件，小编们绞尽脑汁想了几个标题，你喜欢哪个呢？

来源：巫师火电3