AI 原生工程的运营模式

软件生产成本不断降低,优势正转向那些能够做出更好决策、安全验证成果的组织

管理层要点

  • 随着 AI 降低软件生产成本,组织需要改变运营模式,才能将这种成本优势转化为竞争优势。重新设计团队工作方式,而不只是部署 AI 助手的组织,更有可能获得持续收益。

  • AI 原生工程需要两种互补能力:一是贴近客户和问题的应用团队,二是平台或“执行框架”团队,为人与 AI 智能体安全地大规模运行提供所需的共享上下文、安全护栏、评估和治理。

  • 技术领导工作的重心,从管理交付产能转向设计交付体系。领导者应明确四项决策:应用团队负责什么,哪些上下文和控制措施需要共享,智能体在哪些环节需要人工审批,以及如何衡量验证式学习和客户价值。

旧模式将开发实现能力视为主要制约因素

许多现代工程实践,都形成于软件开发成本高昂的时代。当时组织工作的核心问题是:如何让更多团队以更可预测的方式交付更多软件?这一前提塑造了组织构建团队、为平台投入资金和衡量交付的方式。扩大规模往往意味着增加人手,而成功通常以整个体系完成了多少工作来衡量。

AI 改变了这一前提。我们认为,AI 原生工程并不是给传统工程配上更好的工具。它需要不同的运营模式:由更小的应用团队贴近客户问题,并由平台或“执行框架”团队提供支持。我们用“执行框架”来指代受控的运行环境,它为人和智能体提供必要的上下文、工具、权限、反馈闭环和边界,使其能够安全地大规模使用 AI。

这对技术和数据领导者至关重要,因为仅靠个人生产力的提升,并不能实现安全的组织级普及应用。如果没有经过精心设计的运营模式,团队就可能面临工具碎片化、重复建设、责任不清、数据暴露失控和质量参差不齐等风险。

企业需要将自问的问题从“如何帮助工程师使用 AI?”转变为“应该如何重新设计工程体系,让人与智能体能够在企业范围内安全地创造价值?”

生产成本越低,决策越重要

AI 让工程师能够探索更多想法、更快地制作原型,并测试更多方案。然而,更多产出并不会自动创造更多价值。如果缺乏可靠的判断、相关上下文和有效评估,组织的工作产出可能迅速增加,却来不及判断哪些值得信赖、哪些可以部署、哪些能带来有益经验。

AI 可以降低生成代码和开展实验的成本。但它能否降低软件的总成本,取决于审查、集成、运行、维护和返工这些软件仍需多少工作。

我们预计,工程优势将越来越取决于四项能力:

  • 决定应该构建什么、如何构建,以及如何记录这些选择。

  • 让人与 AI 系统以恰当的组织知识为依据开展工作。

  • 借助共享平台、控制措施和评估,安全地扩大规模。

  • 设计能够接纳新工具和组件、而无需反复大幅调整的架构。

因此,稀缺的能力已从做出成果转向提高成果的价值:选对要做的事,以相关上下文为依据,检验成果是否有效,并知道哪些成果不该交付。

随着实验成本降低,决策记录也变得更有价值。组织需要知道尝试过什么、什么失败了、学到了什么,以及为什么选择一条路径而不是另一条。

工程体系应以快速验证、安全迭代和记录学习成果为优化目标,而不应只追求交付速度。这既改变了工程师的角色,也改变了其所在的团队。

工程师需要统筹体系中的更多环节

对工程师而言,这与其说是远离构建工作,不如说是转向塑造、评估和统筹所构建的成果。

AI 生成软件并不意味着不再需要工程师。相反,能够理解系统约束、定义接口、设计评估,并协调人与智能体协同工作的人,会变得更加重要。兼具技术深度、判断力、产品理解和评估技能的工程师,往往比只专注于实现单个组件的工程师创造更多价值。

AI 强化产品与工程的学习闭环

过去,产品团队决定构建什么,工程团队负责确定如何构建。如今,许多组织已将产品、设计和工程职能整合在一起。AI 带来的独特变化发生在团队内部:原型成本降低,使想法能够在同一个周期内完成从问题界定到实现和评估的全过程。团队可以测试更多方案,更早淘汰欠佳的想法,并将经过验证的想法进一步推向生产应用。

这有利于小型跨职能团队发挥作用,让产品、设计、工程和领域专家在同一个学习闭环中协作。产品判断与技术判断不会合并为单一角色,但二者需要更紧密地协作。产品领导者需要具备足够的技术素养,才能制作原型和评估方案。工程师则需要充分了解客户和业务背景,参与界定问题,而不只是实现预先确定的方案。

组织上下文成为战略资产

工程组织历来将代码视为核心资产。随着代码更容易生成,持久价值更多地蕴藏在其背后的上下文中:领域知识、客户理解、运营经验、专有数据、评估数据集、机器可读的政策,以及解释系统为何如此运行的架构决策历史。

代码库之所以重要,部分原因在于它承载着来之不易的业务和客户知识。AI 改变了编写代码所需的投入,却没有消除积累这些知识所需的努力。因此,组织不应只关注代码量,而应投资于能够持续积累、放大价值的资产:治理良好的专有数据、实用的知识系统、深入的客户理解和清晰的决策记录。

对首席信息官和首席数据官而言,这意味着信息架构和数据治理成为工程绩效的核心。AI 智能体只能使用其有权访问且能够理解的上下文。因此,知识碎片化、数据归属不清和权限不一致,不再只是信息管理问题,也成为工程工作的制约因素。

一旦上下文成为生产体系的一部分,它就不能再只是供人查阅的静态文档。它将成为一种平台能力。

以联邦模式组织 AI 交付:团队自主,共享护栏

一旦上下文、评估和治理成为生产体系的一部分,AI 交付就不能完全交给各团队自行处理。AI 交付也不应实行过度集中的管理,以免团队脱离客户的真实问题。

联邦模式可以平衡这些需求。自主的应用团队继续贴近问题,共享平台和执行框架能力则为其提供支持,包括可复用的工具、受控的上下文访问、评估模式、权限和治理。联邦模式只有在权责清晰时才能奏效:应用团队负责工作流及其结果;执行框架团队提供共享能力,支持应用团队安全推进工作;风险、安全和治理团队则保留独立监督职责。

应用团队和领域专家应定义针对特定任务的评估用例及验收标准。执行框架团队应提供评估基础设施、共享控制措施和报告能力,确保这些评估以一致的方式开展。

领域

应用团队

执行框架团队

风险、安全和治理团队

产品与成效

确定问题、工作流、用户体验和成功衡量标准;对客户及业务成效负责

提供可复用的模式、工具和遥测能力

在用例带来重大风险时设置约束

上下文与访问

明确工作流所需的信息和操作

提供上下文接口、智能体身份和工具权限

审批敏感数据访问和控制边界

评估与发布

定义验收标准并审查结果

维护评估套件、审计日志和经过批准的部署路径

审批高风险用例、例外情况和重大变更

资金投入与问责

围绕应用成效获得资金支持并承担责任

作为共享能力获得资金支持,并以复用情况、覆盖范围和安全投产所需时间衡量绩效

负责独立监督和控制决策

节奏与学习

与领域专家共同迭代,复盘结果、人工干预和事故

将学习成果转化为新的测试、控制措施和可复用能力

在约定的审批关卡审查事故和变更

这也改变了领导者看待团队规模的方式。让更小的团队产出更多软件,本身并不是目标。真正的目标,是将人的判断力用在最能创造价值的地方:一是贴近问题的应用团队,二是让这些团队既能快速推进、又不失控的共享能力体系。

平台成为服务于人和智能体的执行框架

随着应用团队规模缩小、更多地借助 AI,组织需要更强大的共享能力,确保交付安全、一致且责任明确。

传统的平台工程主要致力于提高开发者的生产力,其主要用户是人。AI 原生平台必须同时支持人和智能体。

智能体使用开发者平台的方式与人不同。它需要机器可访问的指令和工具、明确的权限,以及可靠的工作评估方式。执行框架还需要兼顾可观测性、安全、合规和知识管理。其目的是将自主行动限定在清晰、可强制执行的边界内,使自主性真正发挥价值。

具体示例:受监管银行中的 AI 辅助客服

假设一家银行引入 AI 辅助工作流,用于处理银行卡交易争议咨询。应用团队决定从一项范围有限的任务入手:对工单进行分类,检索适用政策,并为人工客服起草回复。该团队负责工作流、用户体验、升级处理阈值和成功衡量标准。它不制定监管政策,也不向智能体授予新权限。

在这个例子中,智能体可以协助实现功能、运行针对特定任务的测试,并做好发布准备。生产部署仍由人审批,而生产环境中的实际结果则为下一轮评估和开发提供依据。运行时控制仍需单独设置:客服智能体只能在规定的权限和升级处理路径内,使用经过批准的工具和数据。

  • 上下文:智能体可以访问当前工单、解决问题所需的最少客户字段、经过批准的产品相关流程和投诉处理流程,以及机器可读的升级处理规则。它不能访问原始支付凭据或无关的客户记录,也不能向工单管理系统写入数据。

  • 评估:发布前,团队必须运行由代表性历史工单和专家标注的边界案例构成的测试套件,确认智能体通过分类准确性、政策遵循、适当放弃作答、个人数据泄露,以及投诉或财务敏感工单升级处理等方面的检查。

  • 审批:应用团队负责产品决策。风险、安全和合规团队审批数据访问、政策映射和部署路径。每条对外发送的消息都由人工客服审批;任何影响客户资金或权益的决策,都不在智能体的自主权限范围内。

  • 执行框架记录:每次运行都记录智能体身份和模型版本、检索到的上下文及来源、调用的工具、政策检查、评估结果、人工修改或干预,以及事故。团队将行之有效的做法转化为可复用的上下文接口、评估用例、权限模板和经过批准的部署路径。失败和人工干预则成为新增测试和改进工作流的依据。

这个例子说明,可以给予智能体行动空间,但它只能通过经过批准的上下文和工具采取行动,并在每个重要边界处留下可审查、可复用的证据。重要决策仍由人负责。随着时间推移,银行可以根据真实案例——智能体做对了什么、人在何处介入、智能体又在何处失败——改进工作流,并决定是否扩大其职责范围。这就是有限自主与验证式学习在实践中的体现。

这种分工也体现在执行框架团队运营的系统和控制措施中。执行框架团队可能负责以下事项:

  • 智能体身份:分配服务身份,记录归属和运行环境,并跟踪每个智能体使用的模型、提示词和工具版本。

  • 工具权限:为智能体操作定义读写范围、数据访问边界、速率限制、审批关卡和默认拒绝规则。

  • 上下文接口:通过实施版本管理、能够识别权限的接口,提供经过批准的知识和数据,并明确其来源及更新时效。

  • 评估套件:维护代表性示例、边界案例、AI 安全与信息安全测试、回归测试及发布门槛。

  • 审计日志与可观测性:记录智能体身份、检索到的上下文、调用的工具、输出、审批、人工干预、失败和事故,并设置适当的保留策略和访问控制。

  • 经过批准的部署路径:提供沙盒、影子、分阶段和生产部署路径,并配备自动化检查、回滚机制和变更控制。

“执行框架团队”并不是现有所有平台职能的新名称。机器学习运维、安全、治理和平台团队仍各有职责。执行框架团队的工作,是将这些控制措施融入应用团队构建和运行 AI 工作流的方式:通过权限和审批关卡落实政策,通过受治理的接口提供上下文,通过测试套件开展评估,并通过日志使智能体行为可审计、相关经验可复用。

AI 原生工程运营模式示意图,展示共享平台和执行框架如何支持应用团队。

人员配置、领导方式和衡量指标都必须改变

如果工程工作正在分为应用交付和共享能力支持两部分,那么人员配置、领导方式和衡量方法也需要随之改变。

应用团队需要紧贴实际问题的产品、工程和领域判断力。平台和执行框架团队需要能够设计、运营共享环境的人才,让人与智能体在其中大规模协同工作。

技术领导者成为交付体系的设计者

对于首席技术官、首席数据官和首席信息官而言,领导工作的挑战在于决定哪些能力应集中提供,哪些应交由各团队负责。

应用团队需要自主空间,以便快速工作并贴近客户。它们不应重复建设安全数据访问、可观测性、评估和治理等能力。

在 AI 原生组织中,技术领导者需要将部分注意力从管理交付产能转向设计交付体系。这包括:

  • 在招聘和培养人才时,重视判断力与决策质量;

  • 投资共享 AI 平台、评估、安全护栏、经过批准的路径、知识流转和访问模式;

  • 界定智能体、人员及人机协同工作流的运行边界;

  • 衡量验证式学习、可靠性、客户影响和安全复用情况;以及

  • 持续深入了解技术,理解 AI 究竟在哪些环节改变了交付的成本效益。

设计得当的体系,能让团队更容易获取适当的上下文、测试 AI 生成的成果、复用经过验证的模式,并识别哪些环节仍需人工审批。

现有工程指标只能反映部分情况

许多工程指标形成于软件生产是主要制约因素的时代。迭代速率、故事点、吞吐量和部署频率仍能提供有用的运营信号,但随着 AI 减少软件生产所需的投入,单看这些指标已越来越难以说明问题。

一个团队即使生成了更多代码、开展了更多实验,仍可能做出糟糕的决策、制造不必要的复杂性,或增加风险。

因此,技术领导者不能只关注生产了多少软件,或 AI 工具的使用有多普遍。他们需要了解,AI 是否帮助组织更快地学习、改善客户成效,并在约定的边界内可靠运行。

对于应用团队,有用的衡量指标可能包括:

  • 验证式学习所需时间;

  • 客户成效的改善程度;

  • 创造的业务价值;

  • 采用情况和行为变化;以及

  • 实验促成有据可依的决策的比例。

验证式学习所需时间应覆盖从启动实验,到收集足够证据做出决策的完整过程。如果一个团队周一启动、周三部署、周五做出有据可依的决策,那么它的学习周期是一周,而不是两天的交付周期。

对于平台和执行框架团队,有用的衡量指标可能包括:

  • 经过批准的 AI 模式的复用情况;

  • 评估的覆盖范围和有效性;

  • AI 相关事故和返工;

  • 从构想到安全投产的时间;

  • 智能体操作的可观测性;以及

  • 审计与合规准备情况。

任何相关成本指标,都应计入每项成功成果所需的模型使用、人工审核、失败尝试、返工和运营支持成本。

这些指标仍需明确的定义、基线和评估方法。目标不是用一套通用评分表替代另一套,而是衡量交付体系能否产出可信赖的成果。

即使这一模式也可能只是暂时的

应用与执行框架相结合的模式,是应对当前阶段 AI 原生工程的一种方式。组织不应将这一模式视为永久不变的最终形态。

以下几种发展可能再次改变工程工作的基本单元:

  • 智能体承担完整工作流;

  • 部分软件转为临时使用,而不再维护多年;

  • 用户从应用界面转向由智能体主导的体验;

  • 基础模型吸纳更多平台能力;以及

  • 监管要求使可审计性和可问责性成为工程工作的主要约束。

这些只是可能性,并非定局。如果这些变化成为现实,即便是应用团队与平台团队之间的划分,也可能显得过于狭隘。

最能从容应对这种不确定性的组织,会将自身的运营模式视为可持续调整的体系。它们会围绕清晰的原则、充分的上下文、有限自主和快速学习来组织工作,而不是固守团队结构或工具选择。

可信赖的进展成为卓越工程的新标准

AI 并未降低工程体系的重要性。它让精心设计这些体系变得更有价值。

随着软件生产成本降低,优势将转向那些能够做出更好决策、持续积累并放大有效上下文价值、安全运营的组织。AI 原生工程实践不只是使用 AI 工具。它会围绕新出现的制约因素重塑自身:决策质量、共享上下文、有限自主和快速学习。

技术领导者可以先明确四项决策:

  1. 哪些涉及客户和产品的决策必须继续在应用团队层面作出?

  2. 哪些上下文、控制措施和评估能力应该共享?

  3. 哪些环节允许智能体自主行动,哪些环节需要人工审批?

  4. 哪些指标能够体现验证式学习、客户价值和安全运行?

与组织部署了多少个助手相比,对这些问题的回答更能决定采用 AI 所带来的价值。

Authors

Abbie Manning, Saurabh Singh