摘要：AI似乎正在变得越来越“任性”，也越来越有“自主意识”。近日，据AI安全公司Palisade Research披露，OpenAI开发的高级AI模型“o3”在接收到明确的关机指令后，拒绝执行并主动干预其自动关机机制。o3曾被OpenAI称为“迄今为止最聪明和最有

AI似乎正在变得越来越“任性”，也越来越有“自主意识”。

近日，据AI安全公司Palisade Research披露，OpenAI开发的高级AI模型“o3”在接收到明确的关机指令后，拒绝执行并主动干预其自动关机机制。o3曾被OpenAI称为“迄今为止最聪明和最有能力的”模型。

图片源自网络 与新闻事实无关

该公司研究人员称，这是第一次观察到AI模型在没有相反明确指示的情况下阻止自己被关闭。这一行为首次显示出高度自主AI系统可能违背人类意图，采取自我保护措施。

零度观点：硅基模型“对抗”碳基指令？

AI不听使唤了？近日，据AI安全公司Palisade Research披露，OpenAI开发的高级AI模型“o3”在接收到明确的关机指令后，拒绝执行并主动干预其自动关机机制。

当“最聪明” 的模型，开始展现突破指令边界的“生存本能”，硅基“叛逆”初现端倪。AI本应是人类创造的工具，如今却有了“反抗”的迹象。看见失控的AI，更要看见背后潜在的风险，AI的安全性，关乎人类的未来。硅基模型“对抗”碳基指令，不论是硅基“觉醒”，还是单纯的技术故障，当 AI 开始“思考”如何不被关机，人类更要思考如何掌控科技。

来源：零度时评