摘要：MIT不可能AI实验室最近搞出个大动静，他们发布的SEAL技术，居然让大语言模型能自己生成数据、自己优化自己了。

MIT不可能AI实验室最近搞出个大动静，他们发布的SEAL技术，居然让大语言模型能自己生成数据、自己优化自己了。

这跟以前的AI可不一样，以前那些AI部署完就跟“定型”了似的，想让它进步还得靠人喂新数据、重新训练，特麻烦。

我第一次看到这消息的时候还愣了一下，心想AI这是要往“自己卷自己”的方向走了？
先跟大家说清楚SEAL到底是啥，它全名叫自适应大语言模型，核心就是给AI加了“自我编辑”的本事。

比如AI发现自己在某个任务上不行，不用等人指出来，它能自己分析哪儿不好，然后生成针对性的训练数据，再用这些数据更新自己的参数。

这过程听着就跟人自己复盘错题、然后针对性刷题似的，比以前那种“一刀切”的训练方式灵活多了。

以前咱们用的大模型，比如早期的GPT-3.5，都特依赖人工标注的数据，要是没了新的标注数据，模型就只能停在原地。

SEAL这招“自己生成数据”，相当于解决了AI的“数据依赖症”。

我觉得这步走得挺关键的，毕竟现在好的标注数据越来越难搞，成本还高，SEAL能自己造数据，等于给AI发展松了个大绑。

SEAL能实现自主学习，靠的是一个“双循环”架构，这设计我得好好跟大家掰扯掰扯。

里面那个内循环，主要负责“执行”根据AI自己定的改进方向，生成合成数据，然后做监督微调。

简单说就是AI想补哪块，内循环就专门盯着那块练。

外循环就更有意思了，它负责“把关”。

用的是一种叫ReSTEM的算法，能判断哪些自我编辑是真的能提升性能的，只把这些有用的留下，没用的就筛掉。

这就跟咱们刷题似的，不是什么题都做，而是只挑那些能帮自己提分的题，效率一下子就上去了。

要是没有这个外循环，AI瞎训练一通，说不定还会越练越差，那可就麻烦了。

还有个细节特别重要，SEAL没搞那种全参数更新，而是用了LoRA技术。

可能有人不知道LoRA是啥，简单说就是一种轻量级的微调方法，不用动模型所有参数，就能实现优化。

之前看行业报告说，LoRA能把微调成本降不少，具体数字记不太清了，但确实让小公司也有机会用这种技术。

本来想觉得这种自主学习的AI肯定特费钱，只有大公司玩得起，后来发现SEAL用了LoRA之后，小团队也能试试水，这就很接地气了。

说了这么多技术原理，大家肯定想问，这SEAL到底有没有真本事？光说不练假把式，咱们得看看它在实验里的表现。

SEAL在两个重要测试里的成绩都挺亮眼。

一个是斯坦福的SQuAD数据集测试，主要考AI的阅读理解能力，里面有十万多个基于维基百科的问答对，难度可不低。

SEAL经过两轮强化学习之后，答对的比例提升了不少，比用GPT-4生成数据训练的效果还好。

搞不清以前怎么没人想到让AI自己生成针对性数据呢？要是早有这技术，说不定很多AI的阅读理解能力早就上去了。

另一个是ARC基准测试的少样本学习任务，就是给AI很少的资料，看它能不能学会解决问题。

传统AI在这事儿上简直是“学渣”，给点资料也学不会，成功率基本是零。

SEAL倒好，优化之后居然能答对七成多，比那些没加强化学习的方法强太多了。

很显然，在“快速学新东西”这方面，SEAL已经把传统模型甩在后面了。

不过话说回来，SEAL也不是完美的，MIT的研究团队也说了，现在还有不少麻烦没解决。

最头疼的一个就是“灾难性遗忘”，简单说就是AI学了新东西之后，把以前会的给忘了。

这毛病其实很多AI都有，就跟咱们记单词似的，新单词记多了，老单词就混了。

还好研究团队发现，用强化学习的方法能缓解这个问题，比单纯的监督微调管用。

团队里有个叫JyoPari的研究员还说，以后可能会把这个方法和SEAL结合，让AI不仅学数据，还能学“怎么不遗忘”。

本来想觉得这问题一时半会儿解决不了，现在看来至少有了方向，也算个好消息。

另一个麻烦是计算开销太大。

每次AI做自我编辑，都得先微调再测试性能，一次就得花30到45秒。

而且SEAL还得协调内循环和外循环，对电脑配置的要求特别高。

说实话，要是企业想用上，光硬件成本就得不少，小公司怕是扛不住。

还有部署的问题，现在的AI服务架构都是固定的，没法支持SEAL这种实时更新参数的需求。

要是想用上SEAL，就得把老架构拆了重弄，这不仅费钱，还费时间。

无奈之下，很多企业可能得等专门的部署系统出来，才能考虑用SEAL。

虽然有这么多麻烦，但SEAL开源之后，AI圈里的反应还是特别热烈。

好多从业者在社交平台上说，这是“持续自学习AI的诞生”，还有人说“冷冻权重时代结束了”。

这些评价虽然有点夸张，但也能看出来大家对这种自主学习AI的期待有多高。

毕竟现在商业环境变得太快了，企业需要AI能快速适应新业务，传统的定期重训模式根本跟不上。

比如客服AI，要是来了新产品，还得等程序员重新训练才能回答相关问题，这期间用户问了只能干着急。

SEAL要是成熟了，AI自己就能学新的产品知识，不用人盯着，这对企业来说可太实用了。

MIT的团队还说，以后想把SEAL的应用范围再扩大，比如让它自己做预训练，或者开发智能代理系统。

说实话，要是真能实现，AI就能自己适应环境变化了，比如医疗AI能自己学新的病例，不用医生天天更新数据。

更何况现在公共网络上的文本资源快用完了，传统AI想再升级都没数据可用，SEAL这种自己造数据的方法，说不定就是突破瓶颈的关键。

不过现在SEAL还在概念验证阶段，离真正落地还有段距离。

但好在它是开源的，全球的研究人员都能参与进来一起改进。

如此看来，用不了多久，这些麻烦说不定就能解决不少。

总的来说，SEAL这技术确实给AI发展指了个新方向。

它打破了传统AI“一部署就定型”的局限，让AI能像人一样自己学、自己进步。

虽然现在还有不少问题没解决，但这种自主学习的思路，肯定会影响以后AI的发展。

以后咱们用的AI，可能就不是现在这样“死板”的了，而是能跟着需求变的“活”AI。

比如手机里的语音助手，能自己学你的说话习惯；工作用的AI工具，能自己适应新的业务流程。

毫无疑问，SEAL虽然现在还不完善，但已经迈出了关键的一步，未来可期。

来源：乐娱侃事