摘要：近日，媒体曝光了不法商家利用AI技术仿冒奥运冠军形象、声音，推销土鸡蛋等农产品的违法行为。

你刷到过

全红婵、孙颖莎、王楚钦

卖土鸡蛋的视频吗？

别信

那都是假的

近日，媒体曝光了不法商家利用AI技术仿冒奥运冠军形象、声音，推销土鸡蛋等农产品的违法行为。

近日

江苏省消费者权益保护委员会

发文指出

该行为已触碰法律与道德双重底线

在短视频平台上，除奥运冠军被仿冒，部分明星、企业家等人的声音也都曾被AI仿冒用于直播带货、推广产品或制造虚假互动，还有不少AI生成的假神医、非遗传承人在带货，侵蚀着市场秩序与消费者权益。

江苏省消保委表示

AI仿冒名人声音、虚构名人形象带货等行为，严重侵犯被仿冒者的肖像权、声音权等人格权益，扰乱公平竞争的市场秩序，阻碍市场健康发展，更透支了大批互联网用户的信任，直接损害消费者的知情权、公平交易权等合法权益。

AI仿冒名人带货乱象为何屡禁不止？

江苏省消保委分析认为

三大原因共同催生了这一问题

AI技术普及降低造假门槛

随着AI技术的快速发展，仿冒、克隆他人容貌和声音的技术门槛和成本降低，网络平台上充斥着大量相关教程与资源，不法分子无需过高技术水平，即可实施侵权行为。

利益驱动下商家铤而走险

当前电商市场竞争激烈，而名人自带的高流量与公众信任度，能快速激发消费者购买欲，部分商家为追求短期利益，不惜铤而走险，无视道德与法律约束。

平台审核机制存在漏洞

部分短视频平台对账号入驻资质审核不严，且现有审核技术难以精准识别AI生成的虚假内容，导致仿冒视频得以绕过监管，大量传播。

江苏省消保委强调

科技本无善恶，关键在于如何使用。AI技术本是赋能生活、推动发展的利器，用于提升服务效率、丰富消费体验，但被别有用心之人滥用后，却成为侵犯公民合法权益的“凶器”。智能向善，需以法律为底线，将道德伦理融入技术应用的全过程。

目前

针对AI深度合成内容

已有多项法律法规作出明确规范

《民法典》《互联网信息服务深度合成管理规定》等现行法律法规，均要求深度合成服务提供者自觉尊重公民肖像权、声音权等合法权益；

今起实施的《人工智能生成合成内容标识办法》，更明确了提供合成人声、人脸生成、人脸替换等可能导致公众混淆或误认的深度合成服务时，应当在生成或编辑的信息内容合理位置、区域进行显著标识，向公众提示深度合成情况。

江苏消保委建议

平台应切实履行监管职责，提升人工智能检测技术，完善审核和举报机制，及时发现并拦截侵权、虚假、违法等不良内容，对于被举报的侵权账号，一旦核实，立即采取封号、限制流量等措施，并将相关情况报送监管部门。若平台疏于监管，则应依法承担相应责任。

⭐《民法典》相关条款指出，若平台接到相关通知未采取必要措施的，应对损害扩大部分与实施侵权行为的网络用户承担连带责任；若平台知道或应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。

消费者在面对名人声音、形象推荐商品的视频或直播活动时，应保持冷静，仔细查看商品信息、评价等，不盲目跟风购买、打赏。

若发现疑似AI仿冒名人带货、直播等情况，及时向平台举报或向相关监管部门反映，当自身权益因AI仿冒行为受到侵害时，积极运用法律武器维护自身合法权益。

提醒

那么

消费者该如何识别换脸破绽

并加以防范？

中国网络空间安全协会人工智能安全治理专业委员会委员张博表示，AI换脸技术如今已经比较成熟，但还是有明显破绽，漏洞就在面部轮廓和光线上。

张博表示：“视频通话时，要仔细观察对方的面部轮廓是否存在异常模糊情况、光线是否正常。必要时可以要求对方快速大幅度地抬头、点头、转头，然后在这个过程中仔细观察面部轮廓是否有异常模糊。”

消费者在选择短视频带货服务时要警惕AI仿冒技术，仔细观察主播的微表情是否自然，声音与口型是否同步，是否出现人物或背景模糊、扭曲等异常画面，对异常低价或反常促销行为应保持警惕。

中国消费者报新媒体编辑部出品

来源/中国消费者报·中国消费网

记者/薛晶晶

编辑/李晓雨

监制/何永鹏 任震宇

违法和不良信息举报电话：010 - 88315438

来源：中国消费者报一点号