摘要:2024年9月,美国联邦贸易委员会(Federal Trade Commission,以下简称“FTC”)提出了AI Comply 行动,公布了多起案例,旨在打击企业利用人工智能产品进行炒作、虚假宣传误导或欺骗消费者的行为。
2024年9月,美国联邦贸易委员会(Federal Trade Commission,以下简称“FTC”)提出了AI Comply 行动,公布了多起案例,旨在打击企业利用人工智能产品进行炒作、虚假宣传误导或欺骗消费者的行为。
2024年11月26日,FTC就Evolv Technologies Holdings, Inc.(以下简称Evolv)AI安全筛查系统过度宣传欺骗消费者提起诉讼,目前FTC拟定解除Evolv与所有客户签订的合同。让我们通过本案一起来看看FTC打击炒作AI产品的方式与决心以及对企业的合规建议。
一、案情简介
本案被告Evolv是一家专注于提供AI驱动的安全筛查系统的公司。其AI产品 Express AI 安全扫描仪在遍布40个州的800多所学校和其他场所(如体育场馆和医院)中使用,其中,学校系统占其业务的一半。
该公司在营销Evolv Express扫描器过程中有如下用语:该产品能够检测所有武器;适用的AI技术可使筛查系统比传统金属探测器更准确、高效和成本效益更高;能够帮助解决学校中的枪支和其他武器问题;系统能够在不需要人们从口袋或包中取出的情况下忽略无害个人物品;比金属探测器更准确、更快地检测武器;能降低误报率;能将劳动成本降低70%,通过减少额外人员的需求¹。
然而,在实践中,Evolv的Express扫描仪却多次未能检测到学校中的武器,但标记了通常带入学校的无害个人物品。2022年10月,Evolv的Express扫描仪未能检测到带入学校的一把七英寸刀具,导致一名学生被刺伤。之后,学校官员提高了系统的灵敏度设置,导致误报率达到50%。因此,FTC开展AI Comply 行动,向Evolv提起诉讼。
二、法律依据
本案中,FTC的法律依据为联邦贸易委员会法案(FTC Act)第5条²,禁止在商业活动中使用欺骗性或影响商业的不正当竞争方法。
在实践中,若是在商业营销中进行虚假陈述或误导普通消费者,使其基于这些误导的信息作出决策,则会被认定为“欺骗性”行为。行为对消费者造成了实际或潜在的损害,并且这种损害无法通过合理手段避免则会被认定为不正当竞争方法。
在本案中,Evolv的营销声明构成了欺骗性行为。Evolv的广告宣称其技术能提供与传统安检设备相同或更高的准确性,但未能充分证据支持这一点。消费者,特别是购买方(如学校、机场等)依赖于这些陈述做出采购决策,因此这些陈述可能对普通消费者产生误导。其产品造成的安检漏洞可能会导致武器或其他危险物品进入这些场所,危及公共安全,因此也构成实际的潜在损害。
综上所述,Evolv构成FTC Act第5条的欺骗性手段,应当被规制、得到处罚。
三、和解内容
尽管Evolv声称不同意 FTC 的指控,并且拒绝承认存在任何不当行为,但与FTC达成和解协议³。具体和解内容如下:
1.Evolv必须通知所有K-12学校客户有权解除2022年4月1日至 2023年6月30日期间与其签订的合同;
2.禁止Evolv作出虚假陈述,诸如:其产品能够检测武器、忽略无害的个人物品,并且无需游客从口袋或包中取出任何此类物品即可忽略无害的个人物品、其产品检测武器的准确性和误报率,包括与传统金属探测器的比较、与使用金属探测器相比,对游客进行检查的速度更快、劳动力成本,包括与使用金属探测器的比较测试或任何测试的结果、以及其性能的任何重要方面,包括使用算法、人工智能或其他自动化系统或工具。
根据Evolv估计,解除权的行使可能会导致390 万美元的年度经常性收入损失,1050万美元的应收帐款。
四、对于企业的合规建议
对于新兴企业而言,在进行新技术的宣传与推广中不免会进行一些适当的美化。为了避免企业遭受如同本案的法律风险,我们提出以下合规建议:
1.提供证据支持广告声明
企业应确保所有广告和市场宣传中关于技术性能的声明都能够得到充分的、经过验证的数据支持。任何关于技术效能、准确性或安全性的宣传应由经过独立验证的测试结果或实验数据加以证明,避免任何夸大或不准确的表述。
2.使用适当的免责声明
企业在提到技术性能时,应考虑加入明确的免责声明,特别是在涉及可能因环境或场景变化而影响技术效果的情况下。例如,在本案中,说明其技术在不同的场景下(如不同安检条件下)可能表现不同,从而避免对消费者产生误导。
3.精确描述技术局限性
企业应明确披露其技术的局限性,特别是在性能上没有达到某些标准或无法替代现有技术的情况下。这样的透明度不仅可以减少误导消费者的风险,还能增强公司对技术承诺的可信度。
4.引入第三方审查
与独立第三方进行合作,对其产品进行定期审查,尤其是在高风险领域(如公共安全、个人隐私等)。第三方验证可以增强消费者和市场对公司技术的信任度,减少误导消费者的风险。
随着AI技术的不断发展和应用,企业在推广新技术时面临着前所未有的合规挑战。虚假宣传和过度炒作不仅损害了消费者的信任,也可能导致法律风险和财务损失。对于AI行业的企业而言,准确传达技术能力、提供充分的证据支持、避免过度夸大产品效果,将是确保合规经营的关键。通过积极采纳合规建议,企业不仅能够规避类似FTC的监管风险,还能提升品牌信誉和市场竞争力。在未来,AI行业的发展和监管必将继续并行,只有通过透明、公正的营销方式,才能确保技术真正为社会创造价值,而不是成为法律和道德的负担。
我们也将持续为您提供新质生产力相关全球法律资讯,为您带来最新合规要求与建议。
1.https://www.ftc.gov/news-events/news/press-releases/2024/11/ftc-takes-action-against-evolv-technologies-deceiving-users-about-its-ai-powered-security-screening
2.Section 5 of Federal Trade Commission Act,The section of the Federal Trade Commission Act prohibiting:Unfair methods of competition;Unfair or deceptive acts or practices.https://www.ftc.gov/about-ftc/mission/enforcement-authority
3.https://evolv.com/resources/uncategorized/evolv-announces-resolution-of-ftc-inquiry/
作者 李泽昊
责编 高萍
特别声明
本文为如闻原创,如需转载,请联系本公众号后台。本公众号的信息仅作一般性参考,不应视为如闻律师事务所或其律师针对特定事务出具的正式法律意见或建议。如您有意就相关议题进一步交流或探讨,欢迎与本所联系。上海如闻律师事务所
《金刚经》卷首语:“如是我闻”,如闻律师事务所藉此得名。“盛世法,如闻人”是本所之铭。法律的精神在于维护社会的公平与正义。但,“徒法不足以自行”。法律的正确实施,公平价值得以实现,离不开一位好律师来为您的权益保驾护航。愿我们能和您一起,在这个新时代里,追逐梦想,实现梦想。所有的如闻人,以钻研精神,饱含着无限热情,践行着法律者的初心,为所有如闻的朋友们,做好专业的服务。
我们的精神就是:如你所需,如闻永远和你在一起。
来源:如是我闻Rewin