摘要:根据McKinsey和Gartner的报告,只有1%的企业领导者认为自己公司在AI部署上达到了"成熟"水平;超过一半的AI项目从原型阶段就走不出来;至少30%的生成式AI项目会在POC阶段就被砍掉。
根据McKinsey和Gartner的报告,只有1%的企业领导者认为自己公司在AI部署上达到了"成熟"水平;超过一半的AI项目从原型阶段就走不出来;至少30%的生成式AI项目会在POC阶段就被砍掉。
这些冰冷的数字背后,是数十亿美元的投资打了水漂,是无数团队的迷茫和挫败感。
更扎心的是,即使是那些所谓的"高成熟度组织",AI项目能稳定运行3年以上的也只有45%;普通企业更是只有20%。
我们正在经历软件工程的第三次范式革命,但大多数人还在用旧思维做新事情。
今天想和大家聊聊,AI应用落地到底难在哪,以及我们在开发JitAi过程中摸索出的一些破局思路。
01 第一个坑:以为是升级软件,其实是重新造轮子
一年前的我,认为AI应用不就是给传统软件加个AI功能嘛,应该不会太难。
后来发现完全想错了。
你想想传统企业应用是干什么的?说白了就是个"记账本"——ERP、CRM、OA这些,核心就是增删改查,帮你记录和查询数据。真正做决策、干活的,还是人。这套东西IT界玩了30年,没什么技术含量了。
但AI应用完全不一样。
它不是"记录系统",而是"执行系统"——要让AI自己去判断、规划、执行具体操作。这不是改良升级,是整个逻辑都变了。
AI应用的复杂度是传统应用的3-5倍。主要两个原因:
第一,边界很模糊。传统软件需求相对明确,但AI应用能做到什么程度,很难事先定义清楚,必须边用边调,快速迭代。
第二,必须有容错。大模型会"幻觉",你不能让AI直接执行所有操作,得设计人工审核和纠错机制,这又增加了一层复杂度。
很多团队用传统开发思路硬套AI功能,结果发现走不通。
就像你不能用造马车的方法去造汽车,用造汽车的经验去造飞机——底层逻辑都变了,老办法不管用了。
02 第二个坑:想买个通用产品一劳永逸
经常有企业客户问我们:"能不能直接买个通用的AI产品?"
我特别理解这种想法——AI不是很智能吗,应该能自动适应不同场景吧?
但现实正好相反。
企业之间的业务差异非常大。哪怕是同行业的公司,管理理念、组织架构、业务重点都不一样,具体做事的流程和方法也完全不同。
McKinsey的数据也印证了这点:在服务运营、财务等职能领域,只有11%左右的公司真正规模化用上了GenAI。在北美和欧洲大公司的调研中,这个数字更低,只有3%。
所以结论就是:定制开发才是王道。
但定制开发可不是简单的系统集成或配置调参,它意味着:
- 要深入理解业务场景和复杂逻辑
- 要把企业的知识资产建模成AI能理解、能用的形式
- 要把AI真正嵌入到业务流程里
- 要设计人机协同的工作方式
每一步都很费时间和精力。问题是,有几家企业真的有这个能力和资源?
03 第三个坑:招不到人,成本太高
好,假设你决心要定制开发了。接下来就是现实问题:去哪找人?
能做生产级AI应用的人真的太少了。IDC说全球AI工程人才缺口超过50万,我感觉实际缺口可能更大。这种能力需要时间和实战打磨,不是报个培训班就能速成的。
更现实的是成本问题。
根据行业数据:
- 平均试错成本:200-500万
- 平均开发周期:8-12个月
- 首次上线真正能用的:不到一半
还有个更隐蔽的坑是技术选型和架构设计。很多团队用传统Web应用的架构思维去做AI应用,结果系统根本扩展不动、演进不了。等发现问题时,代码已经写了一大堆,推倒成本太高,只能硬着头皮继续。
这就陷入了恶性循环:失败→谨慎→投入不足→更多失败。
慢慢地,大家对AI落地就没信心了。
04 第四个坑:没有现成的方法论
说实话,现在AI的基础设施——数据、算力、算法这些,都挺成熟了。
但是配套的应用工程技术呢?还在摸索阶段。
就像有了引擎、有了燃料,但没人告诉你怎么造飞机。大家都在摸着石头过河,重复踩同样的坑。
很多人觉得用LangChain这些框架就能解决问题,但实际上它们只是让调用大模型变简单了,没法解决AI跟企业信息系统深度集成的问题。
具体来说就是:你得为每个系统模块单独写AI适配代码、调试、维护。一个模块一个模块地搞,工作量和复杂度都很高,维护成本也控制不住。
根据Forrester的调研,企业平均要用7-12个不同的AI技术栈和工具,彼此之间还没统一标准。这种技术碎片化让开发和维护的难度又上了一个台阶。
大家需要的不是更多的工具,而是一套标准化的方法。
这四个坑——范式跃迁、定制需求、成本压力、方法论缺失——不是孤立存在的,而是相互交织、层层递进,共同构成了AI落地的系统性障碍。
我们的思考:需要一套AI原生的工程体系
问题梳理清楚了,那怎么破局?
我们在研发JitAi的过程中逐渐意识到,行业真正需要的不是更多的工具拼凑,而是一套完整的AI原生应用工程体系——既要有统一的技术协议,又要有配套的开发方法论,还要有降低成本的工具链。
这不是某一家公司能独自完成的,而是整个行业必须共同面对的挑战。
JitAi想做的,就是定义这套新范式的基础设施。
我们定义了JAAP(JitAi AI Application Protocol)协议,并基于它提供配套的开发框架、开发工具和运维管理工具,系统性地解决AI应用落地的工程问题。
更重要的是,我们希望通过JitAi的实践,为行业提供一套生产级AI应用的开发方法论。
在我们看来,生产级AI应用的本质是:
- AI能感知、驱动和编排传统软件模块
- AI与人类基于UI无缝协同工作
- AI能深度理解和使用企业的私有数据、知识和业务模型
所以,AI原生应用架构必须具备:
- 统一的模块感知机制(让AI知道系统有什么能力)
- 统一的驱动机制(让AI能调用和编排模块)
- 统一的热加载机制(让AI能快速适应业务变化)
- 规范化的系统建模(把复杂的业务逻辑标准化)
这就是JAAP协议要解决的核心问题。
写在最后回过头看,软件工程正在经历第三次重大变迁。
第一次,高级语言让我们从面向机器转向面向人类思维。
第二次,互联网和云计算让软件从本地工具变成连接世界的基础设施。
第三次,AI让软件从执行预定义规则,变成理解意图、自主决策的智能体。
这不是技术的渐进式改良,而是开发范式的根本性重构。
率先掌握AI原生开发能力的企业,会在未来3-5年获得巨大的竞争优势。而那些还在用旧范式做AI应用的企业,将会发现自己投入越来越多,却离成功越来越远。
来源:正正杂说
