苹果拆解AI大脑,推理模型全是「装」的?Bengio兄弟合著
苹果最新研究揭示大推理模型(LRM)在高复杂度任务中普遍「推理崩溃」:思考路径虽长,却常在关键时刻放弃。即便给予明确算法提示,模型亦无法稳定执行,暴露推理机制的局限性。
苹果最新研究揭示大推理模型(LRM)在高复杂度任务中普遍「推理崩溃」:思考路径虽长,却常在关键时刻放弃。即便给予明确算法提示,模型亦无法稳定执行,暴露推理机制的局限性。
刚刚,图灵奖得主、深度学习三巨头之一、蒙特利尔大学教授Yoshua Bengio官宣了非营利组织 LawZero,希望通过采取与大型科技公司根本不同的方法,开发一种“设计安全”的人工智能(AI),以发现试图欺骗人类的“流氓”系统。
“坐在我身边的是我的孩子,我的孙辈,我的学生,还有许多其他人。那你呢?是谁坐在你的副驾驶座?”——图灵奖得主 Yoshua Bengio 在 TED 演讲中发出灵魂提问,沉甸甸地指向 AI 时代的人类命运共同体。
具体来说,LawZero要做“设计即安全(safe-by-design)”的AI系统,要“将安全性置于商业利益之上”。
图灵奖得主Yoshua Bengio重磅官宣创办非营利机构LawZero,致力研发「设计即安全」的AI系统,以对抗AI军备竞赛带来的风险。主张构建不具行动性、以理解世界为目标的可信AI。