企业要实现代理型人工智能的规模化应用，必须做对这7件事
- 2026-06-17 09:07:00
- 数字化转型
- 翻译：
- cesltd
- 13
智能代理型AI将价值评估的基准从输出结果转变为实际行动。一旦这些AI代理开始获取企业数据、触发工作流程、调用API以及协调不同系统之间的任务，那么其应用方式就从实验性阶段转向了规范化的运营阶段。此时，企业级AI才真正开始发挥作用。为了将那些有前景的试点项目转化为可靠的实际应用成果，企业需要具备一些基础条件。我们认为，以下七项是其中最为关键的。
1. 将演示视为表达兴趣的证明，而非表明已准备好投入使用的证明。
成功的演示证明了这一概念是可行的，但并不能说明该系统已经可以用于企业环境中的部署。演示环境是经过精心设计的。其数据更为整洁，工作流程也更为简单，出现故障的可能性也更低。而生产环境则存在各种复杂的变量，这些变量在演示环境中很少被考虑到，比如数据质量的不稳定性、权限的变化、操作上的相互依赖关系、合规性审查以及故障责任归属等问题。
许多团队正是在这个时候意识到：他们虽然创造出了令人瞩目的成果，但这些成果并不具备可持续性。真正重要的问题并非该智能体能否完成一次任务，而是它是否能够在压力之下、在适当的监督与管控机制下，反复完成这项工作。这才是企业级人工智能所应达到的标准。
2. 在智能体开始处理关键工作流程之前，先修复数据层问题。
大多数智能体AI项目在遇到模型层面的限制之前，就已经在数据层面遇到了问题。企业数据通常分散在各种独立的系统中、不同的业务部门里、旧版应用程序中，以及受限制的访问环境中。有些记录会实时更新，而另一些则需分批刷新。许多组织依然面临着数据重复、所有权不明确以及访问策略过时的问题。
人工智能代理会放大这些弱点，因为它们是根据所获取的信息来行事的。
那些依据过时库存数据来制定计划的供应链管理人员，很可能会犯下规划错误。而那些使用不准确信息的财务人员，则会引发审批问题，进而影响到各个部门的工作。此外，那些使用过时信息的客户服务人员，会立刻失去客户的信任。
在扩大人工智能应用规模之前，企业需要对一些实际问题得到明确的解答：
- 哪些数据源是可信的？
- 哪些系统提供实时访问？
- 每个代理应该拥有什么权限？
- 哪些数据绝不能泄露？
3. 从那些具有重复性、可衡量且易于管理的流程开始。
企业往往致力于那些引人注目的自动化项目，而忽视了那些能够更快带来回报的简单工作流程。重复性的行政任务、文档处理、内部知识检索、开发者支持、合规性准备、新员工入职流程以及审批协调等工作，因为更容易衡量和控制，所以往往能更快见到成效。这些工作流通常具有：
- 清晰的输入内容
- 可预测的结果
- 降低运营风险
- 定义的人类检查点
4. 在追求自主性之前，先建立协调机制。
许多公司仍然将该模型视为整个系统。但这种看法在实际应用中是行不通的。真正的架构是围绕该模型构建的。可用于实际应用的AI智能体需要具备任务调度功能、工作流程管理能力、内存管理机制、备用方案处理逻辑、工具权限控制功能、API协调能力，以及在置信度下降时能够有明确的升级处理路径。
如果没有协调机制，自主性就会变得很脆弱。某个智能体虽然能够得出正确的答案，但在需要跨多个系统协调各种操作时仍可能失败；另一个智能体则可能正确完成第一个任务，但一旦后续的依赖关系发生变化，它就会出错。
强大的AI系统更像是结构严谨的软件系统，而非智能助手。它们会将任务分解为更小的部分，仔细管理系统状态，合理安排各项操作，并在出现故障时能够恢复正常运行。
正是这种操作纪律，将可扩展的系统与脆弱的演示版本区分开来。
5. 由领域专家来定义“良好”的标准。
工程师可以构建系统，但他们不应成为定义领域真理的唯一人选。那属于那些每天都与工作流程打交道的人。在金融领域，指的是那些能够判断哪些异常情况是重要的、哪些无关紧要的团队；在运营领域，则是指那些明白为什么流程会在第四步出现故障而非第一步的人；在工程领域，则是指那些能够判断生成的结果在软件开发生命周期中是否有用的人。
这是试点版人工智能与可投入实际应用的人工智能之间的最大差异之一。在试点阶段，团队往往依赖直觉来做出决策；但在实际应用中，这种做法是不够的。企业需要经过精心设计的测试用例、标准数据集、评分规则以及明确的验收标准。更重要的是，他们还需要让领域专家参与这些标准的制定工作。
如果中小企业无法参与其中，该系统在技术层面上或许仍能运行，但却无法赢得信任。
6. 无法观察的事物，就无法对其进行量化。
传统的监控可以告诉你请求是否已完成，但无法判断其结果是否合理。这是企业级人工智能应用中存在的重大缺陷。一个智能体虽然能够给出正确的响应，成功调用相关工具，但依然可能得到错误的结果。传统的监控机制只能检测系统的运行状态，却无法识别推理过程的合理性、工具使用是否恰当、系统状态是否出现偏差，以及决策是否正确。
正因如此，生产AI需要更深入地了解：
- 即时痕迹
- 工具使用日志
- 模型置信度信号
- 输出漂移
- 异常模式
- 回滚路径
如果无法了解智能体是如何得出其结果的，就无法有把握地对其进行改进。如果无法追溯它为何会采取某种行动，就无法在受监管的环境中为其辩护。
7. 治理机制应当存在于运行时内部，而非外部。
正是在这里，许多人工智能策略会失去其实用性。企业通常会拥有治理框架、政策文件以及审核流程。这些确实很有用，但如果这些管控措施仅停留在理论层面而无法付诸实施，那就远远不够了。
一旦人工智能代理开始在多个系统之间进行操作，就必须有相应的治理机制在运行时发挥作用。该机制需要确定代理可以访问哪些内容、可以使用哪些工具、需要何种审批流程，以及何时需要人工介入。正是在这里，人工智能的管控机制才从概念层面转化为具体的架构设计。
策略防火墙、审批机制以及运行时管控手段能够改变系统的运作方式。系统不会在行为发生后才进行审查，而是会在行为发生之前就对其进行检测。这样一来，企业就能在不会降低整体效率的情况下降低风险。同时，这些机制还能确保人工智能代理能够在那些需要可追溯性、适当的权限以及受控执行环境的商业环境中正常工作。
那些能够成功实现规模扩张的组织，并非那些打造出最炫酷演示产品的企业。相反，它们是在人工智能代理被赋予过多自主权之前，就先在数据管理、工作流程、可观测性、治理机制以及运营设计等方面建立起严格规范的企业。
智能代理型AI能够带来持续的投资回报，但其长期价值取决于：明确该代理的适用场景、它被允许执行的任务、如何评估其性能，以及它在实际系统中运行时该如何进行管理。
如果您的团队希望将试点项目发展为可大规模应用的商业级人工智能系统，那么此时架构设计、运行时控制以及工作流设计就开始发挥决定性作用了。CES会与各企业携手，共同打造具备良好扩展性、可管理性及运营稳定性的智能系统。
文章分类
联系我们
- 联系人：阿道
- 手机：17762006160
- 地址： 青岛市黄岛区长江西路118号青铁广场18楼