摘要：企业软件正经历AI转型，但面临“AI蔓延”挑战。主要包括经济成本、集成复杂性、安全治理及编排难题。需采取集中治理、成本预测、架构演进等策略，并为代理工作流做好准备。
企业软件正经历AI转型，但面临“AI蔓延”挑战。主要包括经济成本、集成复杂性、安全治理及编排难题。需采取集中治理、成本预测、架构演进等策略，并为代理工作流做好准备。
译自：How to Manage the Growing AI Sprawl in Your SaaS Stack
作者：Daniel Clydesdale-Cotter
随着AI功能成为几乎所有SaaS平台的标准配置，企业软件领域正在经历一场前所未有的转型。最初的实验性附加功能正迅速演变为核心功能，从根本上改变了企业应用程序的运行方式和相互交互方式。
这种转变给工程团队带来了新的挑战：AI蔓延。与通过专用平台受控引入AI不同，现在组织面临一个分布式AI生态系统，其中其软件堆栈中的每个工具——从CRM系统到项目管理平台——都集成了自己的AI代理和功能。
其影响远远超出简单的功能添加。随着这些AI增强系统开始通过代理框架相互交互，管理企业软件架构的复杂性呈指数级增长。
尽管SaaS提供商承担了AI处理的基础设施负担，但他们不可避免地通过订阅定价将这些成本转嫁给客户。经济现实是严峻的：AI增强功能需要比传统软件功能多得多的计算资源，而且这些成本正以许多组织尚未完全预料到的方式分布在SaaS定价模型中。
企业客户发现，其软件堆栈中的AI功能可能会在一个续订周期内使其SaaS总成本翻倍或翻三倍。使用AI增强型客户资源管理（CRM）功能的销售团队、利用生成式内容工具的营销团队以及使用AI驱动代码辅助的开发团队都可以各自证明其成本增加是合理的，但累积影响会产生传统软件规划中未曾预料到的预算压力。
随着代理AI系统变得更加普遍，挑战也随之加剧。这些自主代理不仅响应用户查询；它们还主动生成任务、分析数据并在多个系统上触发操作。单个应用程序中的一个用户请求可能会级联到多个AI增强平台，每个平台都会消耗计算资源并导致基于使用量的计费升级。
AI在SaaS平台上的普及带来了前所未有的集成挑战。传统的企业软件架构是围绕可预测的数据流和人类发起的操作而设计的。代理AI系统通过在平台之间创建动态、自主的交互来打破这些模式。
考虑一个典型的企业场景：您的项目管理工具中的AI代理识别出潜在风险，触发您的财务规划平台进行分析，该平台生成建议，然后流向您的CRM系统进行客户影响评估。每个平台的AI都以其自身的逻辑、数据模型和决策框架运行，创建了一个复杂的自主交互网络，传统集成架构难以管理。
对于人类用户运作良好的身份验证和授权模型，当AI代理需要代表用户或自主进程跨平台交互时，就会出现问题。工程团队必须开发新的框架来管理这些AI到AI的交互，同时维护安全性和审计跟踪。
当AI代理可以生成比人类用户多得多的API调用时，API速率限制和使用管理成为关键问题。单个代理工作流可能会消耗以前可维持数周的API配额，给平台集成带来技术和财务挑战。
管理多个AI增强平台的安全性带来了传统安全框架未曾解决的新挑战。每个SaaS平台实现AI功能的方式不同，在数据处理、模型训练和隐私保护方面有不同的方法。
当信息流经多个AI系统时，数据血缘变得指数级复杂。准确理解敏感数据如何处理、存储在哪里以及是否用于模型训练，需要跨多个供应商平台的复杂跟踪机制。工程团队必须实施治理框架，能够监控和控制其整个软件生态系统中的AI交互。
提示注入和AI安全漏洞的挑战在跨平台环境中成倍增加。一个AI增强应用程序中的安全弱点可能会被利用来操纵连接系统中的AI代理，从而创建跨多个供应商和安全领域的攻击向量。
当AI处理发生在多个SaaS平台时，合规性要求变得更加复杂，每个平台都可能受到不同的监管框架和数据保护要求的约束。工程团队必须确保其软件堆栈中的总体AI功能符合监管要求，即使单个平台可能具有不同的合规立场。
随着AI代理变得更加复杂和自主，跨平台编排的需求变得至关重要。组织发现他们需要框架来管理跨多个SaaS应用程序的AI工作流，确保协调而不产生混乱。
模型上下文协议（MCP）和代理到代理（A2A）通信框架等标准化协议的出现，代表着解决这些挑战的一种尝试。然而，在多样化的SaaS生态系统中实施这些标准需要大量的工程投入以及与多个供应商的协调。
当AI代理在多个平台上运行时，监控和可观测性变得更加复杂。传统的应用程序监控工具难以提供跨越供应商边界的代理工作流的可视性，需要采用新的方法来进行系统可观测性和性能管理。
成功管理AI蔓延需要对企业软件架构和供应商管理采取更复杂的方法。
集中式AI治理：制定明确的AI功能在SaaS平台上的采用政策。与其允许单个团队独立启用AI功能，不如实施审查流程，考虑对成本、安全性和集成复杂性的累积影响。供应商整合策略：评估平台整合对于AI增强功能是否合理。虽然“最佳选择”方法可能适用于传统软件，但分布式AI系统的集成复杂性可能更倾向于主要供应商提供的更集成化的平台方法。成本建模与预测：开发复杂的模型来预测AI功能在您的软件堆栈中的成本影响。传统的按用户定价模型没有考虑到代理AI系统的倍增效应，这些系统可以生成比人类用户多得多的活动。集成架构演进：重新思考集成架构以适应AI代理交互。这包括为AI到AI通信实施新的身份验证机制，为自主系统开发速率限制策略，以及创建提供跨平台AI工作流可见性的监控框架。企业软件的未来在于能够跨多个平台自主完成复杂任务的代理系统。为迎接这一未来，工程团队需要从根本上改变其处理软件架构和供应商关系的方式。
API优先开发：确保您的自定义应用程序和集成设计为支持AI代理交互，而不仅仅是人类用户。这包括为自主系统实施适当的速率限制、身份验证机制和数据验证。跨平台数据模型：开发标准化的数据模型和通信协议，使AI代理能够有效地跨平台共享上下文和信息。这减少了跨平台工作流的摩擦，并提高了分布式AI功能的有效性。可观测性基础设施：实施监控和日志系统，跟踪跨多个平台的AI代理活动。这包括为自主操作创建审计跟踪，并为意外的AI行为开发警报机制。通过AI实现的企业软件转型既带来了机遇也带来了挑战。积极应对AI蔓延复杂性的组织将能够更好地利用分布式AI功能的生产力优势，同时避免未经管理系统复杂性带来的陷阱。
关键在于认识到AI增强型SaaS不仅仅是增加了额外功能的传统软件。它代表着向自主、互联系统的一次根本性转变，需要新的架构、治理和管理方法。调整其实践以适应这一新现实的工程团队将构建更具弹性、更有效和成本效益更高的软件生态系统。
来源：小夏说科技
