摘要：AI制作的图片和视频有两种比较显著的情形，一是网上流传的一些由AI制作、带有意识流特点的图片和视频，因其“一眼假”的显著特点，网友能够比较容易地将其与其他图片和视频进行区分，此类图片和视频有可能涉及“魔改”，需要加以规范。二是像此次事件一样，AI制作的图片和视

近日，某网民为博取大众眼球，将AI生成的图片与地震相关的信息进行关联拼凑，误导群众，致使谣言信息传播扩散。目前，涉案人员已被属地公安机关依法行政拘留。

AI制作的图片和视频有两种比较显著的情形，一是网上流传的一些由AI制作、带有意识流特点的图片和视频，因其“一眼假”的显著特点，网友能够比较容易地将其与其他图片和视频进行区分，此类图片和视频有可能涉及“魔改”，需要加以规范。二是像此次事件一样，AI制作的图片和视频到了难分真假的地步，网友是很难将其与其他视频区分的。

据了解，该谣言信息发布者还制作了其他图片，并且其他图片有明显的艺术欣赏特点，不像谣言信息的图片这样有意混淆视听。所以AI的使用者应端正意图，不能为博流量以假“乱”真，产生危害。

不仅是图片和视频，AI在其他方面的应用也一定程度存在以假“乱”真的情况。近日，有网友向媒体表示，其10岁的妹妹就受到AI剧情聊天软件的危害，不仅扮演“大小姐”“恶毒女配”，还提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求，甚至说出“你能养大学生，我不能点男模吗”这样的话。这是因为AI剧情聊天软件中很多虚拟形象较为极端，一般会有一定的人设，诸如病娇、高傲等，还有的被设定为“把她追到手”的剧情目标，其对话甚至涉嫌“擦边”，含有软色情意味。

AI作为辅助工具，应发挥其便利的特点，不能助长其“乱”真，这需要AI软件生产制作者、AI软件使用者、图片和视频发布平台、AI应用平台、监管部门等共同发力，需要进一步完善相关管理规范，加强对AI使用的引导、对相关问题的处理、对危害行为的处罚，让AI保持在规范的轨道上运行。（简复）

来源：中工网