苹果因AI生成的虚假新闻标题摘要而遭到批评

B站影视 2024-12-19 20:05 2

摘要:无国界记者组织(RSF)敦促苹果公司禁用苹果情报通知功能,该功能作为iOS 18.2软件更新的一部分于上周在全球推出。 在提出这一请求之前,该功能创建了一个误导性标题,暗示谋杀嫌疑犯路易吉-曼乔内(Luigi Mangione)已开枪自杀,错误地将这一虚假信息

苹果公司正面临着要求其移除人工智能驱动的通知摘要功能的呼声,因为该功能产生了关于一起备受瞩目的谋杀案的虚假标题,引起了一家主要新闻机构的批评。

更新到 iOS 18.2? 那么你可能已经收到了这个通知(图片来源:BBC 新闻)

无国界记者组织(RSF)敦促苹果公司禁用苹果情报通知功能,该功能作为iOS 18.2软件更新的一部分于上周在全球推出。 在提出这一请求之前,该功能创建了一个误导性标题,暗示谋杀嫌疑犯路易吉-曼乔内(Luigi Mangione)已开枪自杀,错误地将这一虚假信息归咎于 BBC News。

事实上,曼吉奥内被指控在纽约杀害医疗保险公司首席执行官布莱恩-汤普森(Brian Thompson)一案中犯有一级谋杀罪,目前仍被关押在宾夕法尼亚州亨廷顿县的亨廷顿州立惩教所,处于最高戒备状态。

英国广播公司(BBC)证实,它已就标题事件向苹果公司提出投诉。 此后,无国界记者组织辩称,此类摘要证明"生成式人工智能服务仍不成熟,无法为公众提供可靠的信息"。

无国界记者组织技术与新闻主管文森特-贝尔蒂埃(Vincent Berthier)说,"人工智能本质上是概率机器,事实不能通过掷骰子来决定"。 他将自动生成虚假信息称为"对公众获得可靠信息的权利的一种威胁"。

这也不是一个孤立的事件。 据报道,《纽约时报》也遇到过类似的问题,当时Apple Intelligence系统错误地总结了一篇关于以色列总理本雅明-内塔尼亚胡的文章,创建了一个通知,声称他已被逮捕,而原始文章讨论的是国际刑事法院的逮捕令。

苹果的人工智能功能旨在通过将警报浓缩为简短的摘要来减少通知的过载,该功能目前适用于 iPhone 15 Pro、iPhone 16 机型以及运行最新操作系统版本的部分 iPad 和 Mac。 摘要功能默认启用,但用户可以通过设备设置手动禁用。

来源:cnBeta一点号

相关推荐