摘要:今年2月份,北京市海淀区市场监管局接到消费者举报,反映北京某公司通过视频账号宣传所销售的“深海多烯鱼油”能够治疗多种疾病,涉嫌虚假宣传。
央视新闻“主播”
竟然现身网络直播间
甚至还播报起
深海鱼油的广告?
近日
据“北京市场监管”消息
北京查处了首例滥用AI技术
发布虚假广告案
这也是相关部门
运用《中华人民共和国广告法》
对滥用AI技术冒用知名人物形象
发布虚假广告问题首度“亮剑”
滥用AI技术冒充他人卖鱼油?
央视主持人成“受害者”!
今年2月份,北京市海淀区市场监管局接到消费者举报,反映北京某公司通过视频账号宣传所销售的“深海多烯鱼油”能够治疗多种疾病,涉嫌虚假宣传。
通过举报人提供的视频链接,办案人员进入该企业直播间,在这个拥有88万粉丝的账号直播间展板上,显著标注着“适合头晕头痛、手麻脚麻、记忆下降人群”等医疗用语;直播中还出现了中央广播电视总台主持人李梓萌的形象。
经过立案调查,办案人员发现,该公司销售的深海多烯鱼油产品,实际执行标准为糖果,属于普通食品,不具备疾病治疗功能。另一方面,经鉴定,视频中的主持人形象完全是利用AI技术伪造生成。
该公司违反了《中华人民共和国广告法》相关规定,已接受行政处罚。
北京市市场监管局提醒消费者——
普通食品不是药品、保健食品,不能宣称疾病治疗功能、医疗作用或保健功能。
主持人、网红等公众人物,社会认知度高,一些不法经营者利用AI技术等方式伪造图片、音视频开展虚假宣传,借助公众人物知名度,推销商品服务获利,侵犯了消费者合法权益。
若您发现疑似违法行为,可留存证据材料,拨打12315、12345热线向市场监管部门举报,共同维护良好的广告市场秩序和消费环境。
不仅用AI冒充名人
还有AI克隆声音带货
除了利用AI技术仿冒名人非法牟利,甚至连一些奥运冠军、影视明星等公众人物的声音,也成为“被盗”对象……
前段时间,在互联网上
奥运冠军的“声音”
突然开始推销农产品
知名演员的“声音”
24小时不间断
在直播间与粉丝互动
随着AI技术的普及
仅需十几秒
AI就能“克隆”任何人的声音
当声音能被轻易窃取和滥用
随之而来的侵权乱象频繁上演
同时也出现了民事侵权
甚至涉嫌犯罪的法律问题
央视记者在短视频平台发现——
在某个博主账号中,已发布的17件作品全部是利用AI技术,仿冒奥运冠军全红婵的声音带货土鸡蛋的视频,其中一个视频点赞量高达1.1万。评论区显示,大量粉丝误以为这就是全红婵本人,纷纷下单购买链接中的鸡蛋,该商品链接显示已售出4.7万件。今年4月,全红婵家人曾向媒体证实,全红婵并未给相关农产品代言或授权。
除全红婵外
奥运冠军孙颖莎和王楚钦
也遭遇了同样的仿冒
在某博主的账号中
两位奥运冠军的AI克隆声音
同样在为土鸡蛋带货
此前,还有一段北京大学国家发展研究院李玲教授的采访视频,被不法人员利用AI技术将其篡改为一段虚假的推销视频,在网络上大肆传播。
李玲教授公开发表声明:
网上出现了大量假冒本人推销医药书籍和治疗手段的虚假视频,大多是人工智能AI合成。本人从未在任何平台推销过医药书籍和医疗产品,请大家不要上当受骗。
AI技术滥用问题复杂多变
法律法规仅是底线要求
今年9月1日,国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》正式施行,该办法明确所有AI生成的文字、图片、视频等内容都要“亮明身份”,需要添加显式标识和隐式标识。
其中明确平台在服务提供者的内容上架或上线时要进行审核,核验生成合成内容标识,对未标识或疑似生成内容要添加风险提示,力求在传播端阻断虚假信息的扩散。
调查中记者发现,当前,各大网络平台普遍升级AI内容识别系统,要求对AI生成作品添加标注,但仍有一些人采用多种手段绕过审核。比如,通过数据篡改、转换编码等形式,处理后上传,平台就难以判定为AI生成内容。
事实上
AI技术滥用引发的问题
复杂多变
法律法规的完善
仅是底线要求
该如何揪出AI“李鬼”
将仿冒者打回原形?
截至目前,我国生成式人工智能产品的用户规模已达2.3亿人。随着AI技术的迅猛发展和生成式人工智能的快速迭代,各种纷杂的人工智能生成信息让人眼花缭乱,有时难辨真假,这也给监管部门和平台治理提出了新的挑战。
令人担忧的是,技术上的迭代升级也让这些仿冒内容的防范难度更大。
如何揪出AI“李鬼”,将仿冒者打回原形?还需搭起多方协同的“立体防线”。
平台应当扛起责任,进一步升级AI识别技术,用数字水印、区块链存证等手段增强鉴伪追溯能力,避免AI仿冒虚假信息进入传播平台。
法律法规也需细化,进一步明晰标识规范、回溯机制,追责机制。
而技术开发者和使用者,则应该守住“科技向善”的底线,不把商业利益凌驾于社会责任之上。
AI仿冒带货
不仅侵犯了他人的合法权利
也存在欺诈嫌疑
更触动了数字社会赖以存续的
信任根基
AI“李鬼”越来越像真的
作为消费者
要尽可能擦亮眼睛去甄别
保持理性判断
避免掉进消费陷阱
当然,也更需要
平台和相关部门
担负起把关的责任
用系统性力量
守好“真实”的边界
来源:幸福福田