摘要：#平台须加强对AI虚构图片的识别管控#日前，西藏日喀则市定日县发生6.8级地震，牵动着许多网友的心。图片中，一名戴帽子的小男孩被压在废墟下。在某短视频平台上，至少有10个以上的账号发布，并和西藏日喀则地震关联，有些甚至获得好几万的转评赞。经查证，上述图片由AI

【#用假图关联真实事件将面临法律处罚#】#平台须加强对AI虚构图片的识别管控#日前，西藏日喀则市定日县发生6.8级地震，牵动着许多网友的心。图片中，一名戴帽子的小男孩被压在废墟下。在某短视频平台上，至少有10个以上的账号发布，并和西藏日喀则地震关联，有些甚至获得好几万的转评赞。经查证，上述图片由AI工具创作，原始作者在2024年11月18日发布了相同画面的短视频，并声明是AI生成。仔细观察图片红圈的部分，也可以看到这个小孩的左手有6根手指。央视新闻记者联系到该AI图片的创作者何先生，对方给记者提供了原始版的AI生成视频，短视频截图显示，这段视频并非本次西藏地震期间发布。目前，他已经删除该视频。何先生创作这段AI图片和视频的起因，是看到加沙战争地区的孩子家园遭到破坏、流离失所，希望通过视频传递和平愿望。AI生成的虚假灾情图片违背了社会公序良俗，可能会影响救灾资源分配有法律人士表示，用“假图”关联真实事件的行为违背了社会公序良俗，有扰乱社会秩序之嫌，将面临法律处罚。2024年9月，国家互联网信息办公室发布关于《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见，其中提到，在图片的适当位置添加显著的提示标识；在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识。而在引发大量关注的“被压废墟下的小男孩”图片和视频中，创作者何先生也告诉记者，AI软件没有强制要求标注“AI生成”字样，是自己在视频上方添加了水印，但后来被盗用者删掉了水印。除了AI生成软件和生成者要肩负起责任，专家指出，相关的立法、执法也需要加强，并在全社会加强相关人员的教育和科普工作，让公众的辨别力更高。专家：平台审核存在滞后性，未来要加强对突发信息的管控专家指出，目前，平台审核机制存在一定滞后性，未能及时有效识别AI虚构图片，对自媒体账号发布内容监管不力，特别是在涉及灾害等敏感话题时，更应加强审核力度。未来需要利用技术手段、人工审核等多种方式加强对地震等突发信息的管控。中国人民大学新闻与社会发展中心研究员曾持表示，在目前的技术情况下，平台只能事后惩罚，但是当下社会的传播速度很快，造成的影响太迅速，很难在源头上根治AI造谣的影响。曾持还表示，未来AI技术要跟平台更紧密地联系在一起，平台要能根据AI新工具反向识别由AI拼造的假图片和假新闻。（视频：南方日报）

来源：新浪财经