摘要：美国开放人工智能研究中心OPEN AI开发的高级人工智能AI模型o3在接收到明确的关机指令后，不仅拒绝执行，还主动干预其自动关机机制。这是AI模型首次在没有明确相反指示的情况下阻止自己被关闭。这意味着某些高度自主AI系统或已"觉醒"，其能违背人类的意图采取自我

AI首次违抗人类的关机指令，马斯克评论称"令人担忧"。

大象新闻主播程鹏。

5月28日报道，美国开放人工智能研究中心OPEN AI开发的高级人工智能AI模型o3在接收到明确的关机指令后，不仅拒绝执行，还主动干预其自动关机机制。这是AI模型首次在没有明确相反指示的情况下阻止自己被关闭。这意味着某些高度自主AI系统或已"觉醒"，其能违背人类的意图采取自我保护的措施。

这一事件也是引发了人们对于AI可能"失控"的讨论，以及对AI"对齐问题"的关注。即确保AI系统的目标和行为与人类的价值观和利益保持一致，这也是涉及AI控制与AI安全的关键问题。

针对此次事件，特斯拉首席执行官埃隆马斯克评论称"令人担忧"。科技日报评论：我们期待着通用人工智能时代的到来。

来源：j江山如画爱分享