摘要:近日,用AI制作“流浪汉闯入家中”图片来整蛊家人的帖子,在社交平台走红。
近日,用AI制作“流浪汉闯入家中”图片来整蛊家人的帖子,在社交平台走红。
女子“用AI流浪汉骗老公”,结果丈夫信以为真,当即报警求助。图源:都市快报
有人将这类AI图片发送给配偶或家人,通过观察对方的反应,以此来测试自己在对方心中的重要性。
女子整蛊丈夫
警察出警后发现是虚惊一场
据《安徽商报》报道,10月17日晚,安徽一市民李女士(化名)用AI工具生成了高度逼真的“流浪汉卧坐餐厅”等图片,发给在外聚餐的丈夫想测试其反应,没想到丈夫信以为真,当即报警求助。
李女士发送给丈夫的“流浪汉”闯入家中的照片(系AI生成)。图源:央视新闻
接到报警后,辖区派出所立即启动应急响应,民警火速赶往现场。
民警现场核实情况,确认是一场虚惊后,对李女士的行为进行了提醒:“AI技术生成的内容虽逼真,但以此制造恐慌并引发警方出警,已属于浪费公共资源的行为。”
李女士通过某AI软件生成“流浪汉”闯入家中图片的记录。图源:央视新闻
最终李女士深刻认识到错误
并在朋友圈写下了保证书
↓↓
“AI整蛊”成流行游戏?
在各大社交平台上
类似AI整蛊引起的闹剧
在全国多地已出现
由于照片太真实的缘故
导致不少被整蛊的家属信以为真
有人脑子一热立刻冲回家
有人从外地半夜驱车往家里赶
也有人在小区群质问物业闹出矛盾
更有人直接拨打了110……
而在这些视频的评论区里
竟有部分网友表示
“觉得好玩、好笑”
“求好心人帮我P一张”
当然也有不少网友表示不解,《狼来了》的故事有人到现在还没学会......
还有网友提醒
以玩梗的名义做“情感测试”
是一种关系的消耗
民警提醒
↓↓
此类行为若造成严重后果,可能触犯法律红线,面临拘留罚款甚至刑事责任。
AI整蛊,这种看似荒诞的操作,实则存在不少隐患。如今,AI换脸、语音合成等技术正在改变人们生活的方方面面,但同时也让制造虚假信息变得轻而易举。“流浪汉闯入家中”这类谎言,之所以能起到以假乱真的效果,一方面说明AI工具的生成功能强大,足够以假乱真,另一方面也意味着,AI的使用门槛在变低,使得人们可以轻易用AI整蛊、开玩笑。
从法律层面看,这种“玩笑”也暗藏巨大风险。根据《中华人民共和国治安管理处罚法》相关规定,对谎报警情的违法行为有着明确的罚款、拘留规定。而刑法中也有“编造、故意传播虚假信息罪”,规定“造成严重后果的,处3年以上7年以下有期徒刑。”
今年7月,就有一男子为博取关注使用AI大模型生成了“女儿被人抱走”的“寻人启事”并发布到社交平台,最终被行政拘留。
这类法律规定、处罚教训足以说明,技术滥用的代价从来不是 “一句玩笑”就能抹平的。
遏制AI滥用乱象,需要多维度的协同发力。此前,中央网信办部署开展“清朗·整治AI技术滥用”专项行动取得显著成效,但技术治理的长效机制仍需持续完善。
来源:广州广播电视台
