滥用AI会踩进哪些法律雷区

摘要：今年全国两会期间，靳东、张文宏等多位代表委员接连发声，呼吁大家关注滥用AI技术的违法侵权行为，相关话题引发网友热议。近年来，随着人工智能技术的迅猛发展，利用AI进行诈骗、侵权等事件频发，一些行为已影响到部分行业的良性发展，侵犯了消费者的权益。那么，滥用AI技术

田英豪李丽花

今年全国两会期间，靳东、张文宏等多位代表委员接连发声，呼吁大家关注滥用AI技术的违法侵权行为，相关话题引发网友热议。近年来，随着人工智能技术的迅猛发展，利用AI进行诈骗、侵权等事件频发，一些行为已影响到部分行业的良性发展，侵犯了消费者的权益。那么，滥用AI技术踩进了哪些法律雷区呢？

1“AI换脸”涉嫌侵犯他人肖像权

知名网红博主姚某在各大平台均有大量“粉丝”，他长期在自媒体账号中发布以自身为主题的系列摄影作品。一天，姚某发现某文化公司的视频生成App上，未经许可擅自使用了他的4个写真视频，并制作成换脸视频模板，提供给付费会员使用。文化公司使用的视频与原视频对比后，可清晰辨别视频中的人物为姚某。姚某认为，该公司在未与其达成书面或者口头授权协议的情况下，使用载有自己肖像的视频，且目的明显带有商业盈利宣传的属性，此种利用其肖像进行产品推广的行为，应承担相应侵权责任，故诉至法院。

法院认为，文化公司涉案视频的人物与姚某肖像具有同一性，该公司以“换脸”为主要功能及卖点，其实质是利用姚某良好的外部形象所拍摄的素材引流，诱导用户点击下载，并采用会员付费的方式经营。该公司使用涉案视频的行为具有盈利目的，且涉案视频客观上起到了引流宣传和促进用户付费的效果。公司未经姚某同意，通过AI换脸技术替换了原视频中的角色用于软件用户的娱乐，是利用信息技术伪造的方式侵害了姚某的肖像权。因此，法院最终判决文化公司在其运营的手机换脸软件中向姚某进行7日的赔礼道歉，并赔偿经济损失4000元。

法官提醒

近年来，“AI换脸”在影视、社交等领域广泛兴起，成为社会喜闻乐见、传播力强的技术应用。但同时，仅需几段公开视频即可生成以假乱真的内容，“AI换脸”的滥用也成为违法侵权行为重灾区。

民法典第一千零一十八条规定：自然人享有肖像权，有权依法制作、使用、公开或者许可他人使用自己的肖像。第一千零一十九条规定：任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。自然人的肖像，指的是通过影像、雕塑、绘画等方式在一定载体上所反映的特定自然人可以被识别的外部形象。与通过展览等传统方式侵犯他人肖像权不同的是，在AI技术的加持下，出现了本案中以“换脸”方式侵犯他人肖像权的新特点。

本案中，文化公司未经姚某同意，将其出镜的系列摄影作品运用换脸技术用作自身商业盈利，涉嫌侵犯姚某所享有的肖像权益。根据法律规定，文化公司应赔偿姚某为制止侵权行为所支付的合理开支及财产损失。

随着AI深度合成技术的快速发展，市场上出现了大量“换脸”“换妆”等应用软件，此类AI技术在应用中发生的侵犯自然人人格权益风险日益引发关注。不法分子利用AI技术，假冒名人身份进行诈骗、发布虚假广告等，严重威胁社会信任体系和信息安全。除了“AI靳东”实施诈骗，网上还有“AI张文宏”直播带货、“AI雷军”连环追骂等。

商家在利用AI技术开展经营生产过程中，若抱有侥幸心理，罔顾权利保护意识和法律风险防范意识，对包含他人肖像的网上素材盲目利用，最终往往偷鸡不成蚀把米。国家网信办颁布的《互联网信息服务深度合成管理规定》主要针对深度合成服务者的义务进行了规定，其中要求深度合成服务提供者提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。可见，做好风险防范首先还要从技术开发者、服务提供者入手。

2 AI提取视频要素或侵犯个人信息权益

自媒体创作者吴某发布了个人肖像原创作品50余件，数次参加商演、商拍活动以及带货推广等。在吴某未授权同意的情况下，某公司运营的一款手机换脸软件，将吴某的人脸通过AI技术手段抠除并替换成第三方的脸，再将技术处理后的视频用作付费模板供他人使用并以此获利。吴某认为这一行为侵犯了其肖像权及个人信息权益，诉至法院要求公司书面赔礼道歉，并赔偿经济损失和精神损害抚慰金。

法院认为，该手机换脸软件涉及吴某的模板视频除面部以外，与吴某视频中的人物妆容、发型、服饰、动作、灯光及镜头切换呈现一致特征。涉案模板视频去除并替换掉吴某的面部肖像，消解甚至破坏了涉案模板视频中识别吴某的功能，因此公司并未侵犯肖像权。但公司通过“换脸”形成模板视频的过程，涉及对吴某个人信息的收集、使用、分析等，属于对吴某个人信息的处理。该行为无证据证明经过吴某同意，侵害了对方的个人信息权益。法院结合吴某个人信息的性质、被使用的实际情况等，最终判令公司赔偿吴某精神损失500元及财产损失1000元。

法官提醒

“AI换脸”App除了给用户提供海量的影视片段、网络视频外，同样也在不断收集用户的个人信息，因此App运营者滥用用户个人信息的现象时有发生。

我国个人信息保护法第二十七条规定：个人信息处理者可以在合理的范围内处理个人自行公开或者其他已经合法公开的个人信息；个人明确拒绝的除外。个人信息处理者处理已公开的个人信息，对个人权益有重大影响的，应当依照本法规定取得个人同意。第四十四条规定：个人对其个人信息的处理享有知情权、决定权，有权限制或者拒绝他人对其个人信息进行处理；法律、行政法规另有规定的除外。

与第一个案件不同，本案中，某公司在运营过程中主动将自然人吴某的肖像剔除，因此法院认定该公司并未侵犯吴某的肖像权。数字技术的高速发展，使得文化创作内容上可能同时承载肖像权、著作权、个人信息权益等多种权益或利益，个人信息同样可以进入数据要素市场并创造价值。本案中，公司虽未利用吴某的肖像，但利用其原创视频中除肖像外的一切要素，侵犯了吴某的个人信息权益。

个人信息是以电子或者其他方式记录的与已识别或者可识别的自然人有关的各种信息，不包括匿名化处理后的信息。在不违反法律法规和公序良俗的前提下，商家合理利用人工智能深度合成等新兴技术，可以丰富相关市场供给，给群众带来更新型的审美享受。但在创新的同时，商家也需要兼顾信息敏感程度、信息主体情况、侵权方式、对个人的实际影响和潜在风险等因素综合判断创新所带来的法律风险。

对于普通群众而言，不管是在互联网上还是社交软件上，尽量避免过多地暴露自己的信息，对写错、作废、用过的金融业务单据、航空舱单，应撕碎或用碎纸机及时销毁，不可随意丢弃，以防不法分子捡拾后查看、抄录、破译个人信息。

3 利用AI概念“伪智能”营销涉嫌欺诈

刘某在参观美博会期间，花费6000元购买了两件某公司生产的“AI智能穿戴健康内衣”。该公司对外宣称，涉案产品上植入了三甲医院乳腺治疗仪芯片，利用AI生物电共振原理，能有效预防和缓解各类乳腺疾病，堪称“穿在身上的理疗仪”。但刘某坚持使用半年以上后，发现其疾病症状并未改善。刘某认为该公司对涉案产品实施了虚假宣传行为，因此诉至法院要求公司退回货款、支付三倍赔偿等。

法院审理后认为，公司未提供证据证明涉案产品已经过相关医疗管理部门的审核，应承担举证不能的不利后果。公司为推销不属于医疗器械类产品的涉案商品而制作的商业广告，违反了广告法和消费者权益保护法的相关规定，使刘某误认为涉案产品具有医疗功能而进行消费，公司的广告宣传行为存在欺诈情形。法院最终判令公司退还货款并支付三倍赔偿，刘某退还涉案产品。

法官提醒

广告法第十七条规定：除医疗、药品、医疗器械广告外，禁止其他任何广告涉及疾病治疗功能，并不得使用医疗用语或者易使推销的商品与药品、医疗器械相混淆的用语。第二十八条规定：广告以虚假或者引人误解的内容欺骗、误导消费者的，构成虚假广告。

消费者权益保护法第五十五条规定：经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或者接受服务的费用的三倍；增加赔偿的金额不足500元的，为500元。法律另有规定的，依照其规定。上述案例中，某公司借助AI概念进行虚假广告宣传，进行“伪智能”营销，因其不诚信的欺诈行为导致涉案合同发生撤销的法律后果，并受到了三倍赔偿的惩罚。

日常生活中，一些公司借助AI概念进行产品宣发，利用消费者对人工智能的期待与信赖牟利。消费者非专业人士，对相关产品的AI含量和实际功效往往缺乏认知，容易掉入商家精心编织的圈套中，因此在购买相关“高科技”产品时，需要擦亮眼睛，警惕虚假宣传。