摘要：不知道您是否看过这样一段视频，视频里奥运冠军全红婵带着哭腔说“想改善家里生活”，不断卖惨来推销农产品，引得许多网友出于信任纷纷下单，结果收到的却是劣质产品。事后证实，这是用AI克隆声音制作的虚假视频。还有一段视频，内容是在去年日喀则的地震中，视频里一名被压在废

不知道您是否看过这样一段视频，视频里奥运冠军全红婵带着哭腔说“想改善家里生活”，不断卖惨来推销农产品，引得许多网友出于信任纷纷下单，结果收到的却是劣质产品。事后证实，这是用AI克隆声音制作的虚假视频。还有一段视频，内容是在去年日喀则的地震中，视频里一名被压在废墟下的小孩牵动无数网友的心，后来证实也是AI生成视频，被一些自媒体故意拿来消费公众情感、博取流量。

更有令人心惊的案例，还有诈骗分子用AI换脸技术合成虚假影像，威胁他人立即转账5万元。这种精准打击心理弱点的AI诈骗，近期在全国各地频发。

这些AI骗局混肴视听、扰乱舆论，还侵犯个人的名誉与经济利益，更撕裂着社会信任纽带。当技术可以完美模仿任何人，我们还能相信什么？

今年9月1日，《人工智能生成合成内容标识办法》已经正式实施。这项新规要求所有AI生成内容必须打上“数字身份证”：既要添加看得见的文字、语音提示，也要嵌入看不见的数字水印。这样一来，我们就能一眼识别出哪些是AI生成的内容。新规还明确规定：任何组织和个人不得恶意删除、篡改、伪造AI标识，不得为这些行为提供工具或服务，违者将依法追究责任。

《人工智能生成合成内容标识办法》的实施是我国人工智能治理的重要一步。通过标识帮助用户辨别真伪，减少误导，保障了公众知情权；隐式标识为溯源提供技术依据，可助力打击诈骗、造谣等行为，有效震慑了违法犯罪。办法的实施在一定程度上推动AI数据清洗和高质量内容创作，为行业长期规范、健康发展提供基础。

当然，法规也需要执行力度。打击AI诈骗，不仅需要监管部门发力，还需要平台加强审核，更需要我们每个人提高警惕。技术本身没有错，错的是滥用技术的人。让我们共同期待，在新规的护航下，人工智能能够真正健康造福于人。

来源｜揭阳广播电视台

来源：揭阳广电