摘要：苹果公司暂时撤下了新推出的人工智能新闻通知功能，此前该功能多次向用户发送充满错误的标题，引发了新闻机构和新闻自由团体的强烈反对。

鞭牛士报道，1月17日消息，据CNN报道，苹果公司暂时撤下了新推出的人工智能新闻通知功能，此前该功能多次向用户发送充满错误的标题，引发了新闻机构和新闻自由团体的强烈反对。

此前，该 iPhone 制造商罕见地改变了对其大力推广的 Apple Intelligence 功能的政策，因为该功能可以生成误导性或完全错误的新闻标题摘要，这些新闻标题看起来与常规推送通知几乎完全相同。

周四，苹果向开发者发布了一个测试版软件更新，禁用了新闻和娱乐标题的人工智能功能，该公司计划在改进人工智能功能的同时，稍后向所有用户推出该功能。该公司计划在未来的更新中重新启用该功能。

作为更新的一部分，该公司表示，用户必须选择加入的 Apple Intelligence 摘要将更明确地强调信息是由人工智能生成的，表明它有时可能会产生不准确的结果。

上个月，英国广播公司向苹果公司投诉了该技术，敦促该公司取消该功能，因为它制造了虚假新闻，称被控谋杀联合健康保险公司首席执行官的 Luigi Mangione 是开枪自杀。

还有一次，三篇《纽约时报》的文章也被总结在一条推送通知中，错误地称以色列总理本雅明·内塔尼亚胡已被捕。

去年 12 月，BBC 发言人告诉 CNN，苹果必须紧急解决这些问题，因为我们新闻的准确性对于维护信任至关重要。苹果的这些人工智能摘要并不反映 BBC 的原始内容，在某些情况下甚至完全与原始内容相矛盾。

周三，该人工智能功能再次错误地总结了《华盛顿邮报》的一条通知，错误地陈述了「皮特·赫格塞斯被解雇；特朗普关税影响通胀；帕姆·邦迪和马可·卢比奥确认上任」。

这些都不是真的。

《华盛顿邮报》科技专栏作家杰弗里·福勒写道：这是我定期抱怨的话题，苹果智能太糟糕了，今天它把所有事实都搞错了，它的人工智能只是对《华盛顿邮报》新闻提醒的总结。苹果在人工智能技术有所进步之前不关闭新闻应用的摘要功能，这是非常不负责任的。

新闻自由组织也强调了这些摘要对寻求可靠信息的消费者构成的危险，无国界记者组织称其对公众获取可靠时事信息的权利构成威胁，而全球最大的记者工会之一全国记者联盟则强调公众不应该对自己收到的新闻的准确性产生怀疑。

两者都呼吁删除这些人工智能摘要。

苹果的人工智能问题并不是开发人员第一次面临伪造信息的技术，像 ChatGPT 这样的流行模型经常会产生自信的幻觉。

布朗大学教授 Suresh Venkatasubramanian 曾参与白宫《人工智能权利法案 蓝图》的共同起草，他此前曾向 CNN 表示，大语言模型是人工智能工具背后的技术，它经过训练，可以使用“听起来合理的答案”来响应提示的输入。

「因此，从这个意义上来说，任何听起来合理的答案，无论其是否准确、真实或编造，都是合理的答案，这就是它的结果。」文卡塔苏布拉马尼安说。「那里没有真相。」

ChatGPT 推出两年后，人工智能幻觉现象依然普遍存在。康奈尔大学、华盛顿大学和滑铁卢大学于 2024 年 7 月开展的一项研究发现，鉴于顶级人工智能模型倾向于编造信息，因此它们仍然无法完全信任。

来源：鞭牛士