苹果AI新闻摘要频出错,信息准确性岂能靠概率?

B站影视 2024-12-20 11:26 1

摘要:近期,全球科技界的焦点之一,苹果公司的AI模型合作计划,在中国股市投资者中引发了广泛讨论。然而,与此同时,海外投资者却对另一话题表示关注:全球市值最高的上市公司所开发的AI技术,在关键领域的表现似乎并不尽如人意。

近期,全球科技界的焦点之一,苹果公司的AI模型合作计划,在中国股市投资者中引发了广泛讨论。然而,与此同时,海外投资者却对另一话题表示关注:全球市值最高的上市公司所开发的AI技术,在关键领域的表现似乎并不尽如人意。

以近期发生的一个事件为例,英国广播公司(BBC)连续多日发表报道,指出苹果公司在英国新推出的“苹果智能”服务,在新闻推送的归纳上出现了严重错误。具体而言,该服务错误地总结了BBC的一则新闻,称因枪杀联合健康保险公司CEO而引发全球关注的路易吉·曼乔内“对自己开枪”,而实际上这一说法并不属实。更令人难以接受的是,这一错误的AI推送摘要,在外观上极似BBC新闻终端的推送信息。

BBC发言人表示,他们已向苹果公司表达了对此事的担忧,但截至目前,尚未收到苹果的回复。这一事件并非孤例,社交媒体上还出现了苹果AI错误归纳《纽约时报》新闻推送的情况,得出了“内塔尼亚胡被捕”的虚假结论。

据分析,这次事件的核心问题在于“苹果智能”的通知摘要功能。一个潜在的原因是,苹果用于总结内容的模型——一个安装在设备端的、拥有30亿参数的“小”模型——能力不足。这是苹果自研的模型,因此问题难以归咎于外部因素。苹果官网发布的研究显示,该端侧模型在总结能力上的满意度仅为70%左右,虽然比竞品的迷你模型稍好,但仍远未达到“不出重要差错”的标准。

社交媒体上还流传着不少关于“苹果智能”生成的笑话。例如,该服务会总结智能家居摄像头的通知,然后在凌晨时分通知用户,称家中前门、后门和车道上有很多人。这些笑话虽然令人捧腹,但也反映出“苹果智能”在通知摘要功能上的不足。

目前,“苹果智能”的通知摘要功能虽然偶尔能带来一些笑点,但其存在的缺点也不容忽视。特别是在时事新闻领域,关键信息的错误可能会导致严重的认知偏差。人工智能仍然是一种“以一定概率生成正确内容”的软件,但信息的准确传播不应由概率来决定。对于苹果这样的科技巨头来说,如何在AI技术的研发和应用中确保信息的准确性和可靠性,将是一个亟待解决的问题。

来源:ITBear科技资讯

相关推荐