摘要：图｜12 种常见 R&D 职业执行任务的需求。这一情节揭示了科学研究的本质。与研究主要是一项抽象推理任务的假设相反，现实中的研究大多涉及物理操作和高级代理。要实现 R&D 工作的完全自动化，AI 系统可能需要具备自主操作计算机图形用户界面（GUI）的能力、与人
图｜12 种常见 R&D 职业执行任务的需求。这一情节揭示了科学研究的本质。与研究主要是一项抽象推理任务的假设相反，现实中的研究大多涉及物理操作和高级代理。要实现 R&D 工作的完全自动化，AI 系统可能需要具备自主操作计算机图形用户界面（GUI）的能力、与人类团队有效协调的能力、在长时间内完成高度复杂项目的强大执行能力，以及操控物理环境进行实验的能力。然而，当 AI 达到以较高能力全面执行这些不同技能所需的水平时，很可能一大批常规工作已经实现了自动化。这与 AI 将“首先实现科学自动化，然后实现其他一切自动化”的说法相矛盾。相反，一个更合理的预测是，AI 自动化在达到全面接管 R&D 工作所需的水平之前，将首先在各行各业中实现大部分普通劳动力的自动化。我们不应该期待 AI 革命从科学突破开始，然后再进入其他领域，而是应该预计在初期阶段，自动化将首先接管大部分传统工作，只有当 AI 掌握了现实世界中杂乱而复杂的工作需求后，科学和技术才会大幅加速发展。即使在 AI 完全接管 R&D 工作之后，我们也可以合理地预期，AI 将主要通过非 R&D 任务的大规模自动化来加速科学技术的发展，而不是直接取代 R&D 研究人员。考虑到如前所述，明确的 R&D 目前只占整体经济增长的一小部分，这种预期是合理的。不是“天才爆发”，而是“全民自动化”综上所述，上述论点表明，即使在 AI 开始产生变革性的经济或技术影响之前，其影响也很可能比许多关于 AI 飞速发展的报道所描述的要更加广泛和显著。所谓“广泛”，我们指的是 AI 驱动的自动化将广泛出现并改变经济的大部分，而不是狭隘地局限于 R&D 职业。所谓“显著”，它的影响对大多数人来说都是显而易见的，并且具有高度的破坏性——例如，它将大规模地取代劳动力。此外，即使在 AI 开始对世界产生变革性影响之后，前面的论点也表明，显性 R&D 的自动化在这些影响中只会起到次要作用。相反，这些影响将主要由整个经济中更广泛的自动化来支撑。我们认为，与其想象未来几年 AI 的飞速发展将以“数据中心中的天才之国”的形式进行 R&D 工作，不如想象以下另一种景象：未来几年，AI 的进步将继续逐步扩大 AI 能够执行的任务集。这种进步将主要通过扩展计算基础设施来实现，而不是纯粹的依赖认知 AI R&D 工作。因此，AI 将被广泛应用于整个经济领域，使越来越多的劳动任务实现自动化，最终将大大加速经济增长。在 AI 对世界产生变革性影响之前——即在经济、医疗或其他技术领域引发爆炸性进步之前，已经出现了一系列极具破坏性的自动化浪潮，从根本上重塑了全球劳动力市场和公众对 AI 的看法。在每一个时间点上，包括在 AI 能够显著地加速经济、医疗或技术进步的时间点之后，AI 加速这些变量的主要渠道都将是大规模自动化而非 R&D 任务。有人可能会把这种情况称为“通用自动化爆炸”（general automation explosion），以强调支持加速的关键力量是 AI 自动化的广度和规模，而不是来自 AI 擅长的任何具体事物。不过，我们承认，这个词不如 “智能爆炸”（intelligence explosion）来得朗朗上口。启示录：从 3 方面看未来 AI这一观点对我们如何从商业、政策和个人角度看待 AI 的未来具有重要影响。首先，从商业角度来看，我们认为在可预见的未来，AI 实验室更应该把重点放在努力实现普通工作任务的自动化上，例如创建能够胜任浏览互联网、操作商业软件和执行标准白领工作任务的 computer-use agent，而不是专注于开发“诺贝尔奖获得者”级别的推理模型，从而能够为生物学和医学等领域的研究人员提供狭隘的帮助。我们还认为，与 AI 在 R&D 任务上的表现相比，这些普通能力可能更需要跟踪和基准测试。其次，从政策角度来看，我们认为必须认识到，从现在到 AI 开始对世界产生变革性影响（如爆炸性经济增长或人类寿命延长方面的重大进展）这段时间内，公众对 AI 的看法可能会发生深刻转变。之所以会发生这种转变，是因为当 AI 发展到那个阶段时，社会已经经历了一系列颠覆性的自动化浪潮，大规模地取代了工人。因此，我们认为，假设在变革性 AI 出现之前或之后，公众对 AI 的看法将与现在大不相同。第三，从个人角度来看，我们认为值得规划和投资的未来是 AI 将在数年甚至数十年内逐步取代工作岗位，而不是在 AI 接管 AI R&D 流程后，人类劳动力一下子就被淘汰。我们认为，与其想象一个相对突然的事件，即 AI 通过递归式的 AI R&D 爆发出超级智能，不如预期经济向全面自动化的平稳过渡更有成效。我们认为，AI 很可能会在一段较长的时期内，在某些任务上超越人类，但在其他互补任务上仍不如人类。明确地说，我们承认 AI 最终将在几乎所有有经济价值的活动中超越人类，这将导致经济增长显著加速。不过，我们认为，这可能要经过数年或数十年日益广泛和颠覆性的自动化之后才会发生——其影响将远远超出 R&D 领域。原文链接：https://epoch.ai/gradient-updates/most-ai-value-will-come-from-broad-automation-not-from-r-d原文作者：Ege Erdil（Epoch AI 高级研究员）、Matthew Barnett（Epoch AI 研究员）整理：锦鲤如需转载或投稿，请直接在公众号内留言 来源：塔普科学
免责声明：本站系转载，并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请在30日内与本站联系，我们将在第一时间删除内容!