摘要：所有这些研究都让一些观察者对快速超越人类智力和控制能力的自我编码AI系统感到担忧。在 AI 通讯《Artificiality》中，Dave Edwards 强调了这一点：数百年来，自我改进的能力一直是人类自我认知的核心，是我们自我决定和创造意义的能力。那么，如
所有这些研究都让一些观察者对快速超越人类智力和控制能力的自我编码AI系统感到担忧。在 AI 通讯《Artificiality》中，Dave Edwards 强调了这一点：数百年来，自我改进的能力一直是人类自我认知的核心，是我们自我决定和创造意义的能力。那么，如果人类不再是世界上唯一的自我改进的生物或事物，这意味着什么？我们将如何理解这种对我们独特性的解构？然而，根据目前的研究，我们可能并没有一些观察者认为的那样接近指数级的「AI 起飞」。Nvidia 高级研究经理 Jim Fan 在二月份的一篇帖子中指出，研究环境中的自我强化模型通常在三次迭代后达到「饱和点」之后，它们并不会迅速迈向超级智能，而是每一代的改进效果逐渐减弱。不过，也有一些学者认为，没有新的信息来源，自我改进的LLM无法真正突破性能瓶颈。总结综上所述，尽管自我改进的AI概念令人兴奋，但目前的研究表明，这种 AI 在实际应用中面临诸多挑战。例如，自我强化模型在几次迭代后会达到性能瓶颈，进一步的改进效果逐渐减弱。此外，自我改进的 LLM 在评估抽象推理时可能会遇到主观性问题，这限制了其在复杂任务中的应用。因此，短期内实现真正的递归自我改进AI仍面临较大困难。参考资料：https://arstechnica.com/ai/2024/10/the-quest-to-use-ai-to-build-better-ai/https://www.teamten.com/lawrence/writings/coding-machines/https://arxiv.org/pdf/2401.10020https://arxiv.org/pdf/2406.10162 来源：科技游乐馆
免责声明：本站系转载，并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请在30日内与本站联系，我们将在第一时间删除内容!