如何实现人机价值对齐?他用“认知推理”探索“真智能”的大门

B站影视 内地电影 2025-09-05 11:34 1

摘要:什么是真正的人工智能?人工智能距离最理想的状态还有多远?在北京大学人工智能研究院助理教授朱毅鑫看来,让AI能够像人一样进行思考,目前仍存在较大差距,而其中最关键的环节正是“认知推理”。

什么是真正的人工智能?人工智能距离最理想的状态还有多远?在北京大学人工智能研究院助理教授朱毅鑫看来,让AI能够像人一样进行思考,目前仍存在较大差距,而其中最关键的环节正是“认知推理”。

目前的大模型在推理时主要依赖“Test-Time Scaling Law”(测试时计算扩展),也就是说,模型通过输出更多内容来延长推理过程,从而表现出一定的推理能力。然而,人类的推理不仅仅是思考时间更长,更在于具备强大的泛化能力和复杂的类比学习能力。

在具身智能领域,这种差距尤为明显。以机器人开门为例,虽然相关视频经常被人们看到,但在真实环境中让机器人完成这一操作仍然非常困难。而实现这些操作的关键因素,就是机器人在执行过程中必须具备强大的实时推理能力。

朱毅鑫表示,他的主要研究方向就是认知推理。认知推理包含许多子领域,在计算机视觉研究领域,其中一个重要应用是能够教会机器理解和使用工具,这对于人工智能的发展具有重要意义。

此外,他也希望能够让机器人理解人的意图,使机器人的行为与人的价值观相匹配,更好地服务人类。

记者/编导

王若昕

特别鸣谢

北京大学

联合出品

中国科协科普部 光明网

来源:光明网

相关推荐