芯耀
与非AI
46
当企业开始大规模部署 AI Agent，新的问题随之出现：Agent 能够自主规划任务、调用工具并访问业务系统，但企业是否知道它在做什么？是否能够限制它的行动？如果出现错误，又能否及时发现并纠正？
这正是企业 AI 应用从试点走向生产环境时必须面对的问题。
Gartner 发布的《Hype Cycle for AI Governance Technologies, 2026》（《2026 年 AI 治理技术成熟度曲线》）报告指出：到 2028 年，40% 的《财富》1000 强企业将把 AI 失控问题列为首要担忧之一。 这里的“失控”主要指 Agent 追求偏离预期的目标，或在超出约束的情况下采取行动。
在该报告中，艾体宝 TrueFoundry 入选 AI Gateways 和 AI Engineering 两个技术类别的示例供应商。
综合报告及相关解读，可以看到一个值得关注的趋势：AI 治理正在从组织制度与事后审查，延伸至运行时控制、全链路监测和持续风险管理。
一、AI 治理为什么正在成为企业的技术问题？
过去，企业讨论 AI 治理，往往关注使用规范、数据安全、模型评估和合规审查。但当 AI Agent 开始自主执行任务，仅靠制度和人工检查已经难以覆盖所有运行场景。
Gartner 报告提出一项重要预测：到 2028 年，40% 的《财富》1000 强企业将把 AI 失控列为首要担忧之一。（“失控”指 Agent 追求偏离预期的目标，或在超出约束的情况下采取行动，而不是指 40% 的企业必然发生 AI 失控事件。）
这一判断揭示了 AI 治理面临的变化：风险不再只来自模型本身，也可能出现在模型调用工具、访问数据、执行操作和多 Agent 协作的过程中。
例如，一个企业级 AI Agent 可以顺利调用模型、获得 HTTP 200 响应，却仍然可能给出错误答案、访问不必要的数据，甚至执行不符合业务规则的操作。【引用链接】
传统监控关注接口是否可用、响应是否及时；企业级 AI 治理还需要回答三个问题：
- 行为是否可控： Agent 是否只执行被授权的操作？
- 过程是否可追溯： 一次任务经过了哪些模型、工具和决策环节？
- 结果是否可纠正： 当系统出现异常或错误操作时，企业能否及时干预？
这也是为什么 AI 治理不能只停留在政策文件中，而需要进入 AI 应用的实际运行链路。
二、从 Gartner 报告看，AI 治理的五个关键变化
1.治理对象从模型转向完整的调用链路
在传统 AI 应用中，企业通常以模型为中心进行评估，例如测试准确率、检查输出内容、评估安全风险。
但在 Agent 场景中，一项任务可能涉及多个模型、多个工具以及多个业务系统。风险也可能产生于不同环节之间的交互，而不是某一个模型的单独输出。
Gartner 在报告中将 Agent 编排、技能管理、操作回滚和 Agent 安全等技术纳入治理讨论，并指出，缺少编排机制可能导致 Agent 在企业内部不断扩散，最终变得难以管理。这意味着，治理的基本对象正在从单一模型扩展到完整的调用路径。
企业需要知道的不只是“调用了哪个模型”，还包括：
- 哪个用户或 Agent 发起了任务；
- 调用了哪些模型、工具和业务系统；
- 每一步调用是否符合权限策略；
- 整个执行链路产生了什么结果。
此外，预防与补救是两种不同能力。护栏可以限制 Agent 的部分行为，却不一定能够撤销已经产生的后果。因此，对于具有实际业务执行权限的 Agent，企业还需要考虑操作确认、异常中止、状态恢复和回滚机制。
2.AI 治理与成本管理正在融合
AI 应用的成本结构，也在随着 Agent 的普及发生变化。
传统软件服务的费用往往可以按用户、请求量或使用时长估算。但 Agent 执行任务时，可能根据不同情况反复调用模型、访问工具、扩展上下文，甚至调度其他 Agent。这意味着，成本不再只取决于一次请求，而与整个任务的执行路径有关。
TrueFoundry 对 Gartner 报告的解读指出，报告引用的调查数据显示，91% 的受访董事会成员将 AI 视为推动股东价值的机会；而 Gartner 2025 年针对 CIO 和技术领导者的调查显示，74% 的受访 CIO 认为 AI 实施成本与实际收益持平或更高。两组数据来自不同调查，不宜直接视为同一群体的对比。
这也解释了为什么 AI 治理需要纳入财务管理和 FinOps 思路。
企业除了统计 Token 消耗和模型账单，还应逐步建立以下能力：
- 按应用、团队、Agent 或任务追踪资源消耗；
- 根据成本、性能和任务要求选择合适的模型；
- 设置预算、配额和调用速率限制；
- 识别重复调用、无效重试和不必要的工具使用。
成本治理不再只是账单出来后的核算，而是需要进入调用发生时的管理机制。
3.AI 治理与网络安全正在走向协同
随着 Agent 获得更大的自主决策权，AI 治理与传统网络安全的边界也在逐渐交汇。
两者都需要掌握资产清单、身份信息、访问权限、运行状态和审计记录。
例如，一个 Agent 可以访问企业知识库，本身并不意味着它应该拥有读取所有部门资料的权限；能够调用某个业务工具，也不意味着每次调用都应该被允许。
因此，企业需要在运行过程中识别调用主体，并依据身份、权限和具体场景执行策略，而不是只在部署前进行一次安全评估。
对于涉及敏感数据和实际业务操作的场景，尤其需要关注：
- 身份与权限是否能够落实到具体调用；
- 凭证是否得到集中管理；
- 工具访问是否遵循最小权限原则；
- 异常调用是否能够被识别和审计。
这要求 AI 平台与企业现有的身份管理、安全监控和合规体系建立协同，而不是各自形成独立的管理孤岛。
4.从定期审查转向持续保障
传统治理往往依赖上线前评估、定期审计和人工抽查。但 AI 系统具有动态性，模型、提示词、知识来源、工具和业务上下文都可能发生变化。
Gartner 将 LLM 可观测性、AI 运行时防御、监控即代码和评估驱动开发等技术纳入持续保障相关讨论。其核心方向是：通过实时监测和自动化控制，将治理嵌入 AI 的开发与运行过程。这一变化也意味着，传统监控指标需要扩展。
对于 AI 应用而言，接口可用率和响应时间固然重要，但还不足以反映输出质量、事实准确性、幻觉风险和策略遵循情况。
企业可以将评估机制贯穿开发、测试和生产阶段，持续检查模型输出及 Agent 行为是否符合预期，并结合运行日志、调用链路和业务反馈发现问题。
当异常发生时，系统还应具备相应的告警、限制或人工介入机制。
治理由此从“定期检查是否合规”，转向“持续确认系统是否仍在预期范围内运行”。
5.AI 治理开始影响底层架构与部署方式
Gartner 的另一个重要观察是，数据驻留、司法管辖和基础设施独立性等要求，正在推动企业关注主权 AI。
对于金融、医疗、公共服务等受监管行业，企业选择 AI 方案时，不仅需要评估模型能力，还要考虑数据敏感度、部署位置、访问边界和监管要求。
与此同时，AI Gateway 等技术仍处于较早的市场成熟阶段。随着市场发展，企业可能逐步从分散的单点工具转向能够覆盖更多场景的统一技术方案。
这背后的问题是：如果模型路由、权限管理、可观测性、评估和治理分别由不同工具承担，企业就需要额外处理工具之间的集成、数据关联和审计一致性问题。
因此，AI 治理不仅是采购某个安全工具的问题，也涉及企业如何设计 AI 应用的整体架构。
三、AI Gateway与MCP Gateway，如何承接这些治理需求？
当治理要求从制度转向运行时控制，企业需要一个能够执行策略、记录调用并协调不同组件的技术控制层。
AI Gateway 和 MCP Gateway 可以在其中承担不同角色。
AI Gateway：统一管理模型调用
AI Gateway 通常位于业务应用与模型服务之间，为不同模型提供统一的接入和管理入口。
其典型能力包括：
- 模型路由： 根据成本、性能和可用性选择模型，降低应用与单一模型供应商之间的耦合。
- 访问控制： 统一管理调用凭证、访问策略和使用配额。
- 成本管理： 追踪模型使用量，支持预算、限额和资源优化。
- 运行观测： 记录调用过程，帮助技术团队分析延迟、错误和资源消耗。
对于使用多个模型、运行多个 AI 应用的企业，AI Gateway 有助于建立统一的模型调用控制点。
不过，AI Gateway 的具体治理范围因产品而异，不能默认所有网关都具备完整的 Agent 身份管理、业务权限控制和操作回滚能力。
MCP Gateway：将治理延伸到工具调用
MCP（Model Context Protocol）为 AI 应用连接外部工具和数据提供了标准化协议，但协议本身并不等于完整的企业治理体系。
当 Agent 通过 MCP 访问 CRM、知识库、数据库或其他业务系统时，企业仍然需要管理工具的访问权限、身份传递、凭证使用和调用审计。
MCP Gateway 可以作为统一的工具接入与治理层，帮助企业集中管理 MCP 服务及相关调用策略。
例如，企业可以结合身份认证和授权机制，限制不同 Agent 可使用的工具；通过凭证托管减少敏感信息分散存储；通过调用日志追踪工具执行过程。
这里需要特别区分：AI Gateway 重点解决模型调用的统一管理，MCP Gateway 重点关注工具接入与调用治理，两者并非同一种网关的不同名称。
对于复杂的 Agent 系统，两者可以与身份管理、工作流编排、运行监控及业务审批机制协同，形成更完整的治理体系。
四、艾体宝 TrueFoundry：从统一调用入口走向AI控制层
在上述技术趋势下，TrueFoundry 的相关产品方向值得关注。被 Gartner《2026 年 AI 治理技术成熟度曲线》列为 AI Gateways 和 AI Engineering 两个类别的示例供应商，体现的是一种整体架构定位，而非两条相互独立的产品线，同时也代表着对 TrueFoundry 技术实力的高度认可。
Gartner 将 AI Gateway 定义为“在应用程序与各类人工智能服务或模型之间发挥中介作用的工具”，为安全、治理和可观测性提供统一的管理入口。TrueFoundry AI Gateway 正是这样一个统一入口，能够集中管理模型、MCP 服务器和 Agent，并将访问控制、密钥管理、预算与速率限制、安全护栏、提示词管理及完整的请求链路追踪等能力直接内置于请求处理链路中，而不是通过外围工具逐一拼接实现。
TrueFoundry 的 Agent 治理模型直接作用于调用链路的每一个环节。在每次调用跳转时，网关都会分别识别最终用户和发起调用的 Agent，将二者作为不同的身份主体进行处理；在签发令牌之前评估授权情况；签发权限范围严格限定为下一个被调用对象的令牌，而不是将原有令牌原样传递；同时，对请求和响应内容应用安全护栏，并记录请求主体、调用方身份链、授权决策及权限范围，以供审计追溯。
在部署方面，TrueFoundry 提供的分离式架构支持将控制平面、网关平面和计算平面部署在企业自己的云账户或本地环境中，以满足不同的基础设施和数据主权要求。具体能力和适用条件仍应以实际产品版本及部署方案为准。
对企业而言，这类架构的意义不在于简单增加一个网关，而在于尝试将模型调用、工具访问、权限策略、成本管理和运行观测纳入统一的控制体系，减少分散部署带来的治理断层。
在评估具体方案时，企业可以重点验证：
1.能否覆盖真实业务中的模型、Agent 和工具调用链路；
2.能否在调用发生时执行身份与权限策略，而不只是记录日志；
3.能否将成本、性能和调用行为关联到具体应用或任务；
4.能否满足企业对数据边界、部署位置和审计的要求；
5.能否与现有身份管理、安全平台和开发流程协同。
与其单纯比较产品功能清单，不如选择真实业务场景进行概念验证（PoC），观察治理策略能否在实际调用中生效。
五、企业现在应该如何建设AI治理能力？
AI 治理不必一开始就建设庞大的平台体系。更可行的方式，是从现有 AI 应用的风险与管理缺口出发，分阶段推进。
第一步：建立 AI 资产与调用链路清单。
梳理企业正在使用的模型、Agent、MCP 服务、外部工具和数据源，明确各组件的责任人、访问范围及部署位置。
第二步：明确身份、权限和执行边界。
针对不同用户、Agent 和业务场景定义权限策略，优先管理敏感数据、高权限工具及可能产生实际业务影响的操作。
第三步：建立可观测与持续评估机制。
除延迟、可用率和调用成本外，还应关注输出质量、任务完成情况和策略遵循程度，并保留必要的调用记录与审计信息。
第四步：将成本和风险控制纳入运行过程。
通过预算、配额、速率限制、模型路由和异常告警等手段管理资源使用；对于高风险操作，可增加人工确认、审批或回滚机制。
第五步：从具体业务场景验证治理效果。
优先选择客服助手、内部知识检索、开发辅助等场景，验证权限控制、异常发现、调用追踪和成本管理是否真正有效，再逐步扩大应用范围。
治理能力的目标不是限制 AI 创新，而是让企业能够在明确边界内，更放心地扩大 AI 应用规模。
结语
Gartner《2026 年 AI 治理技术成熟度曲线》传递出的重要信号是：随着 AI Agent 逐渐进入业务核心流程，企业治理需求正在从原则和制度延伸到技术架构与运行过程。
未来，企业不仅需要知道 AI 使用了什么模型，还需要知道谁在调用、调用了什么、是否获得授权、产生了什么结果，以及出现异常时能否及时干预。艾体宝 TrueFoundry AI Gateway、MCP Gateway，正是在回应这些具体问题。
真正可持续的 AI 规模化应用，不只取决于模型有多强，更取决于企业能否建立与其自主能力相匹配的治理体系。
对于正在推进 AI Agent 落地的企业，尽早梳理调用链路、明确权限边界并建立持续治理机制，将有助于在效率、成本与安全之间形成更可控的平衡。
