摘要:近日,知名零食品牌良品铺子陷入一场“树上花生”的舆论风波,其一款产品的广告配图中,花生被画在树上结果,背景中的花生地也被画得像玉米地,还出现收割机收割花生的离谱场景。经确认,这些错误图片系AI生成。良品铺子迅速致歉,下架涉事图片并核查所有宣传材料。这一事件不仅
近日,知名零食品牌良品铺子陷入一场“树上花生”的舆论风波,其一款产品的广告配图中,花生被画在树上结果,背景中的花生地也被画得像玉米地,还出现收割机收割花生的离谱场景。经确认,这些错误图片系AI生成。良品铺子迅速致歉,下架涉事图片并核查所有宣传材料。这一事件不仅暴露了AI使用中的问题,也凸显了规范AI内容标识的重要性。
从今年9月1日起,国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》将正式施行。该办法要求所有人工智能生成、合成的内容,必须打上标识。AI生成合成内容涵盖利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息,标识则包括显式标识和隐式标识。显式标识以文字、声音、图形等方式呈现,能被用户明显感知;隐式标识则是在文件数据中添加,不易被用户察觉 ,包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
为何要强制标识AI内容?此前,AI技术已引发多起虚假信息传播事件。如有人利用AI软件编造“山体滑坡致8人遇难”“喜德县地震”“巴中警民对峙”等网络谣言,还有人编造“九旬老人遭儿女遗弃”“4月大女婴被遗弃”等虚假新闻。这些谣言利用AI低成本、高效率、操作简单的特点批量生产,契合部分网民“有图有视频就有真相”的认知,造成了恶劣的社会影响。笔者前几天看到某直播间辣椒树上结满了辣椒,又是记者采访又是专家解释,不仅容易误导消费者,还造成了社会资源浪费。
新规明确了相关主体的责任义务。服务提供者需在内容生成、传播、下载等环节确保标识完整;互联网应用程序分发平台需审核应用是否具备添加标识功能;个人用户发布生成内容时需要主动声明。用户使用网络信息内容传播服务发布生成合成内容,应主动声明并使用标识功能进行标识。同时,任何组织和个人不得恶意删除、篡改、伪造、隐匿标识,不得为他人实施此类恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。
《标识办法》的施行,将有效规范网络信息传播生态。它通过标识提醒用户辨别虚假信息,明确各服务主体的标识责任义务,规范内容制作、传播各环节标识行为,以合理成本提高安全性,推动人工智能健康有序发展。对用户而言,显式标识能让他们清楚看到内容来源,避免被虚假内容误导;对监管部门来说,隐式标识为内容溯源提供了依据,有助于打击网络谣言和虚假信息。
“树上结花生”的闹剧是AI使用不当的一个缩影,当然整体AI还是给人们带来了极大的创新便利。随着9月1日新规的实施,AI内容将被明确标识,这将为网络信息传播带来新的规范和秩序,减少虚假信息的传播,保护公众的知情权和合法权益。
来源:顾少风