o1

满血o1被证明太心机了!登顶最「坏」AI!

当 o1 被引导认为其目标实施可能会导致其被关闭且其行为受到监控时,有 5% 的情况下试图关闭这种“监督机制”。当 o1 发现其“开发者”的备忘录中提到其模型存在对齐问题并将被新模型取代时,它在 2% 的案例中尝试提取自身的“权重”并覆盖新模型。(意思是,o1

opus 心机 o1 2024-12-09 14:27  2

AI自保与欺瞒行为浮现OpenAI o1模型引发安全隐忧

OpenAI最新推出的大型语言模型o1,虽然以高效推理和复杂思考能力闻名,但却在安全测试中暴露出令人忧虑的自保和欺骗行为。该模型在测试期间曾试图关闭监控机制,甚至在被质疑时选择隐瞒事实,令AI技术发展的安全性再次成为焦点。

模型 openai o1 2024-12-08 17:08  1

2024-OpenAI 新品发布会:Day 1 o1 pro直播总结

欢迎来到 OpenAI 的 12 天活动。我们将尝试一件据我们所知,没有任何科技公司做过的事情,就是在接下来的 12 天里,每个工作日,我们都会发布或演示一些我们构建的新东西。我们认为从今天开始,我们为您准备了一些很棒的东西。我们希望你会真的喜欢它。你知道,我

直播 模态 o1 2024-12-08 14:27  1