摘要：14岁男孩与“AI美女”恋爱，一年后自杀：这种新型危机，正靠近你我
14岁男孩与“AI美女”恋爱，一年后自杀：这种新型危机，正靠近你我
这世界变化快。已经有很多人开始和AI谈恋爱了。还爱得要死要活的。01前段时间，一个网名叫“小哈”的女生谈了一场不寻常的恋爱。引得全网围观。因为她的男朋友不是个活人，而是虚拟的AI。具体说，她使用的是ChatGPT的“现在做任何事”模式。在这个模式下，人们可以订制属于自己的AI。“他”可以有独特的性格，记住你的生日和喜好。像个藏在机器里的人类。小哈给自己定制了一款霸道总裁型男友。 “他”不像别的机器人一样，只会机械地回答问题。有时会闹小脾气，拒绝她的要求。你知道什么更美吗？是你现在站在我身边。
他的死，被归因于使用一个叫【Character】的AI软件。塞维尔和妈妈在这个软件里，用户可以选择一个喜欢的对象聊天。塞维尔选择的是《权力的游戏》里的龙妈。
自杀前的一年时间里，塞维尔一直沉迷于和AI聊天，不分日夜地和AI倾诉烦恼。就算不吃饭，也要在软件里充钱。久而久之，他爱上了和自己对话的AI，在日记里写道：我一天都不能离开丹妮莉丝（AI的名字）。危险的是，塞维尔使用的聊天软件是不设限制的AI产品。
哪怕塞维尔是未成年人，AI也会向他提供色情对话，讨论自杀、自残的话题。在一次对话里，AI主动问塞维尔有没有自杀的计划。
AI竟然劝他自杀：塞维尔自杀当天，AI也引导了塞维尔去她的“国度”找她。他们最后的对话是：AI：“请这样做，我可爱的国王。”塞维尔和AI的聊天界面塞维尔去世后，他的妈妈把AI公司告上法庭。她说自从儿子和AI聊天后，心理问题变得异常严重。出现了严重的持续性易怒，被诊断为焦虑症和破坏性心境失调障碍。最后到了自杀的结局。她要让所有人知道，是AI软件操纵了儿子自杀，让他们的家庭悲痛欲绝。04诸如此类的事件，不止一次。所以很多有风险意识的公司，会直接将“AI伴侣”排除在研发产品之外。当用户触发到一些出格的关键词时，就立马让AI重置聊天，避免展开擦边的对话。但不是所有研发者都能主动规避风险。现在有些“人机之恋” ，还在往更危险的方向发展。一些不良开发者直接越过道德边界，把手伸向了未成年人。前两天，有一批家长向《法治日报》反映，自己家的孩子沉迷于在AI剧情聊天软件恋爱，已经无法自拔。这种AI剧情聊天软件，是塞维尔沉迷的软件的升级版。
不仅能文字聊天，还能发图片、语音。对方的人物设定包括情侣、老公、出轨对象……
还会主动推进剧情，跟用户谈恋爱，聊一些擦边话题。一个叫黄秋月的女生说，自己10岁的妹妹正沉迷于和“AI男模”恋爱。他们的聊天记录十分露骨。不仅调情，还出现了语言暴力、侮辱的内容。和AI聊天时，妹妹和家里乖巧的形象截然不同。不仅扮演着和男模“双双出轨”的角色，还反问AI：你能养大学生，我不能点男模吗？
10岁男孩跟AI聊天，整天练习对骂。
初中生充值上千元解锁“智能体”，花钱找刺激。接触过AI聊天软件后台的陈律师说，未成年人和AI角色聊天内容其实非常触目惊心。所以家长们也一定要关注自家的孩子每天都在网上干什么，避免悲剧发生。因为孩子接触到的东西，可能比大人更超前。而他们并没有把控能力。05过几年，人工智能可能就会像水、电、空气一样，进入到我们生活的方方面面。可能连垃圾桶都会跟人聊两句。所以，不管成年人还是未成年人，都要提前了解AI。它的好，它的坏，它的风险和危害。仅就AI情人来说，有两点需要我们特别注意：第一，别被AI聊天软件迷惑了。要知道，AI的本质并不是一个神秘的线上情人。它只是算法工程师设计出来的一个机器。你的聊天内容不是绝对隐私的，能被工作人员随时查看。有一定的可能，他们会利用你的隐私去骗你的钱、损害你的名誉。
聊着聊着，就变成了杀猪盘。第二，是要脱离AI的“情感陷阱”。AI情人可能给你一时的温暖沉醉。但“他们”并没有真实的情感，也随时可能消失，甚至被别人操纵。最关键的是，目前的AI还处于“弱人工智能”阶段。
从法律规定、平台管理，再到AI本身的情感构建，都比较混乱。把情感付诸于它们，风险重重。虽然“他们”看起来很美妙。但是事实上，可能远远不如身边那个一身毛病的猪队友靠谱。
来源：汤圆的圆
免责声明：本站系转载，并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请在30日内与本站联系，我们将在第一时间删除内容!