Navegação principal

O modelo operacional para a engenharia nativa de IA

Produzir software está mais barato, e a vantagem passa a organizações que tomam decisões melhores e validam resultados com segurança.

Conclusões executivas

  • À medida que a IA reduz o custo de produzir software, obter vantagem competitiva exige mudar o modelo operacional. Organizações que redesenham o trabalho das equipes, em vez de apenas implantar assistentes de IA, têm mais chances de obter ganhos duradouros.

  • A engenharia nativa de IA exige duas capacidades complementares: equipes de aplicações próximas dos clientes e problemas, e equipes de plataforma ou "harness" que forneçam contexto compartilhado, salvaguardas, avaliações e governança para pessoas e agentes de IA operarem com segurança em escala.

  • A liderança de tecnologia deixa de gerir a capacidade de entrega e passa a projetar o sistema de entrega. Líderes devem explicitar quatro decisões: o que cabe às equipes de aplicações, quais contextos e controles são compartilhados, onde agentes precisam de aprovação humana e como medir aprendizado validado e valor para o cliente.

O modelo antigo via a capacidade de implementação como principal restrição

Grande parte da engenharia moderna se desenvolveu em um mundo no qual criar software era caro. A pergunta central era: como fazer mais equipes entregarem mais software com mais previsibilidade? Essa premissa moldou a estrutura das equipes, o financiamento de plataformas e a medição das entregas. Ganhar escala costumava significar contratar mais pessoas, e o sucesso era medido pelo volume de trabalho que passava pelo sistema.

A IA muda essa premissa. Para nós, engenharia nativa de IA não é engenharia tradicional com ferramentas melhores. Ela exige outro modelo operacional: equipes de aplicações menores, próximas dos problemas dos clientes, apoiadas por equipes de plataforma ou "harness". Chamamos de "harness" o ambiente operacional controlado que dá a pessoas e agentes o contexto, as ferramentas, as permissões, os ciclos de feedback e os limites necessários para usar IA com segurança em escala.

Isso importa para líderes de tecnologia e dados porque ganhos individuais de produtividade não bastam para uma adoção segura em toda a organização. Sem um modelo operacional planejado, há risco de ferramentas fragmentadas, padrões duplicados, responsabilidades pouco claras, exposição de dados sem controle e qualidade inconsistente.

A pergunta das empresas precisa mudar de "Como ajudamos engenheiros a usar IA?" para "Como redesenhar o sistema de engenharia para que pessoas e agentes criem valor com segurança na escala da empresa?"

Com a produção mais barata, as decisões ganham importância

A IA permite que engenheiros explorem mais ideias, criem protótipos mais rápido e testem mais abordagens. Produzir mais, porém, não gera mais valor automaticamente. Sem discernimento, contexto relevante e avaliação eficaz, o volume de trabalho pode crescer mais rápido que a capacidade de decidir no que confiar, o que implantar ou com o que aprender.

A IA pode reduzir o custo de gerar código e realizar experimentos. Reduzir o custo total do software depende do trabalho ainda necessário para revisar, integrar, operar, manter e refazer esse software.

Esperamos que a vantagem em engenharia dependa cada vez mais de quatro capacidades:

  • Decidir o que construir, como construir e como registrar essas escolhas.

  • Embasar pessoas e sistemas de IA no conhecimento organizacional adequado.

  • Ganhar escala com segurança com plataformas, controles e avaliações comuns.

  • Projetar arquiteturas que incorporem novas ferramentas e componentes sem rupturas recorrentes.

A capacidade escassa deixa de ser produzir e passa a ser obter mais valor da produção: escolher o trabalho certo, embasá-lo em contexto, testar se funciona e saber o que não entregar.

Com experimentos mais baratos, os registros de decisões também ganham valor. Organizações precisam saber o que foi tentado, o que falhou, o que aprenderam e por que escolheram um caminho, não outro.

Sistemas de engenharia devem priorizar validação rápida, iteração segura e aprendizado documentado, não apenas velocidade de entrega. Isso muda tanto o papel do engenheiro quanto sua equipe.

Engenheiros orquestram mais do sistema

Para engenheiros, não se trata tanto de deixar de construir, mas de passar a moldar, avaliar e orquestrar o que é construído.

Software gerado por IA não elimina a necessidade de engenheiros. Ele valoriza quem entende as restrições do sistema, define interfaces, projeta avaliações e coordena o trabalho de pessoas e agentes. Engenheiros com profundidade técnica, discernimento, visão de produto e capacidade de avaliação tendem a criar mais valor do que aqueles focados só em implementar componentes.

A IA melhora o ciclo de aprendizado de produto e engenharia

Historicamente, equipes de produto decidiam o que construir e equipes de engenharia definiam como fazê-lo. Hoje, muitas organizações reúnem produto, design e engenharia. A mudança trazida pela IA ocorre dentro dessa equipe: protótipos mais baratos permitem ir da definição do problema à implementação e avaliação no mesmo ciclo. Equipes podem testar mais opções, descartar ideias fracas antes e levar ideias validadas mais longe na produção.

Isso favorece equipes pequenas e multifuncionais, nas quais especialistas em produto, design, engenharia e domínio atuam em um único ciclo de aprendizado. O discernimento de produto e o técnico não se fundem em um só papel, mas precisam estar mais próximos. Líderes de produto precisam de fluência técnica suficiente para criar protótipos e avaliar opções. Engenheiros precisam de contexto sobre clientes e negócios para definir o problema, não apenas implementar uma resposta pronta.

O contexto organizacional se torna um ativo estratégico

Organizações de engenharia tradicionalmente tratam o código como um ativo central. Com a geração de código mais fácil, o valor duradouro se concentra no contexto: conhecimento do domínio e do cliente, experiência operacional, dados proprietários, conjuntos de dados de avaliação, políticas legíveis por máquina e o histórico de decisões arquiteturais que explica o funcionamento dos sistemas.

Bases de código importam, em parte, por incorporarem conhecimento sobre negócios e clientes adquirido com esforço. A IA muda o esforço de produzir código, mas não elimina o esforço de adquirir esse conhecimento. Organizações devem ir além do volume de código e investir em ativos de valor cumulativo: dados proprietários bem governados, sistemas de conhecimento úteis, compreensão profunda dos clientes e registros claros de decisões.

Para CIOs e CDOs, isso torna a arquitetura da informação e a governança de dados centrais ao desempenho da engenharia. Agentes de IA só podem usar o contexto que têm permissão para acessar e conseguem interpretar. Assim, conhecimento fragmentado, responsabilidades incertas sobre dados e permissões inconsistentes viram restrições de engenharia, não só problemas de gestão da informação.

Quando o contexto integra o sistema de produção, não pode continuar sendo documentação passiva. Ele se torna um recurso da plataforma.

Federe a entrega de IA: equipes locais, salvaguardas comuns

A entrega de IA não pode ficar inteiramente a cargo de cada equipe quando contexto, avaliação e governança integram o sistema de produção. Nem deve ser tão centralizada que as equipes percam contato com os problemas reais dos clientes.

Um modelo federado equilibra essas necessidades. Equipes autônomas de aplicações ficam próximas do problema, apoiadas por recursos compartilhados de plataforma e harness: ferramentas reutilizáveis, acesso controlado ao contexto, padrões de avaliação, permissões e governança. A federação só funciona com responsabilidades claras: equipes de aplicações respondem pelo fluxo e seu resultado; equipes de harness fornecem recursos compartilhados para avançar com segurança; e risco, segurança e governança mantêm supervisão independente.

Equipes de aplicações e especialistas no domínio devem definir os casos de avaliação da tarefa e o nível de aceitação exigido. A equipe de harness deve fornecer infraestrutura de avaliação, controles compartilhados e relatórios para executar essas avaliações de forma consistente.

Área

Equipe de aplicações

Equipe de harness

Risco, segurança e governança

Produto e resultado

Escolhe problema, fluxo, experiência do usuário e métricas de sucesso; responde pelos resultados para clientes e negócios

Fornece padrões reutilizáveis, ferramentas e telemetria

Define restrições quando o caso de uso gera risco relevante

Contexto e acesso

Especifica as informações e ações necessárias ao fluxo

Dá aos agentes interfaces de contexto, identidade e permissões de ferramentas

Aprova o acesso a dados sensíveis e os limites de controle

Avaliação e lançamento

Define critérios de aceitação e revisa resultados

Mantém conjuntos de avaliação, logs de auditoria e vias de implantação aprovadas

Aprova casos de uso de alto risco, exceções e mudanças relevantes

Financiamento e responsabilização

Recebe financiamento e responde pelo resultado da aplicação

Recebe financiamento como recurso comum e é avaliada por reúso, cobertura e tempo até a produção segura

Assume supervisão independente e decisões de controle

Cadência e aprendizado

Itera com especialistas no domínio e revisa resultados, intervenções e incidentes

Transforma aprendizado em novos testes, controles e recursos reutilizáveis

Revisa incidentes e mudanças nas etapas de aprovação acordadas

Isso também muda como líderes devem pensar no tamanho das equipes. Equipes menores produzindo mais software não são um objetivo em si. O objetivo é colocar o discernimento humano onde ele gera mais valor: perto do problema nas equipes de aplicações e nos recursos compartilhados que permitem avançar rápido sem perder o controle.

A plataforma se torna um harness para pessoas e agentes

Equipes de aplicações menores e mais assistidas por IA exigem recursos comuns mais robustos para entregas seguras, consistentes e com responsabilidades claras.

A engenharia de plataforma tradicional buscou aumentar a produtividade dos desenvolvedores, tendo pessoas como principais usuários. Uma plataforma nativa de IA deve atender pessoas e agentes.

Um agente não usa uma plataforma de desenvolvimento da mesma forma que uma pessoa. Ele precisa de instruções e ferramentas acessíveis por máquina, permissões explícitas e meios confiáveis de avaliar seu trabalho. O harness também deve contemplar observabilidade, segurança, conformidade e gestão do conhecimento. Seu objetivo é tornar a autonomia útil, dentro de limites claros e aplicáveis.

Exemplo prático: atendimento assistido por IA em banco regulado

Considere um banco que adota um fluxo assistido por IA para consultas sobre contestações no cartão. A equipe de aplicações começa com uma tarefa restrita: classificar o caso, recuperar a política aplicável e redigir uma resposta para um atendente humano. Responde pelo fluxo, experiência do usuário, limites de escalonamento e métricas de sucesso. Não define políticas regulatórias nem dá novas permissões ao agente.

Nesse exemplo, agentes poderiam apoiar a implementação, executar testes específicos da tarefa e preparar uma versão. Pessoas ainda aprovariam a implantação em produção, cujos resultados orientariam o próximo ciclo de avaliação e desenvolvimento. Os controles em execução são distintos: o agente de atendimento só deve usar ferramentas e dados aprovados, dentro de permissões e rotas de escalonamento definidas.

  • Contexto: o agente acessa o caso atual, dados mínimos do cliente para resolvê-lo, procedimentos aprovados sobre produtos e reclamações e regras de escalonamento legíveis por máquina. Não pode acessar credenciais de pagamento brutas ou registros sem relação com o caso, nem gravar no sistema de gestão de casos.

  • Avaliação: antes do lançamento, testes com casos históricos representativos e casos extremos rotulados por especialistas devem validar classificação, adesão às políticas, abstenção adequada, ausência de vazamento de dados pessoais e escalonamento de reclamações ou casos financeiros sensíveis.

  • Aprovação: a equipe de aplicações responde pela decisão de produto. Risco, segurança e conformidade aprovam acesso a dados, mapeamento de políticas e implantação. Um atendente humano aprova cada mensagem enviada; decisões que afetem o dinheiro ou os direitos do cliente ficam fora da autonomia do agente.

  • Registro do harness: cada execução registra identidade do agente, versão do modelo, contexto e fontes recuperados, ferramentas chamadas, verificações de políticas, resultados de avaliação, edições ou intervenções humanas e incidentes. Acertos viram interfaces de contexto reutilizáveis, casos de avaliação, modelos de permissões e vias de implantação aprovadas. Falhas e intervenções geram novos testes e aprimoram o fluxo.

Isso mostra como dar espaço para o agente agir, mas apenas com contexto e ferramentas aprovados, gerando em cada limite importante evidências que possam ser revisadas e reutilizadas. As pessoas continuam responsáveis pelas decisões que importam. Com o tempo, o banco pode usar casos reais — acertos do agente, intervenções humanas e falhas — para melhorar o fluxo e decidir se amplia seu escopo. Assim são a autonomia delimitada e o aprendizado validado na prática.

Essa divisão se reflete nos sistemas e controles operados pela equipe de harness. As equipes de harness podem responder por:

  • Identidade dos agentes: emitir identidades de serviço, registrar responsáveis e ambientes e rastrear versões de modelo, prompt e ferramentas de cada agente.

  • Permissões de ferramentas: escopos de leitura e gravação, limites de acesso a dados e de frequência, aprovações e negação por padrão para ações de agentes.

  • Interfaces de contexto: expor conhecimento e dados aprovados em interfaces versionadas que respeitem permissões e indiquem origem e atualização.

  • Conjuntos de avaliação: manter exemplos representativos, casos extremos, testes de segurança e regressão e critérios de liberação.

  • Logs de auditoria e observabilidade: registrar identidade do agente, contexto, ferramentas chamadas, saídas, aprovações, intervenções humanas, falhas e incidentes, com retenção e controle de acesso adequados.

  • Vias de implantação aprovadas: sandbox, execução paralela, implantação gradual e produção, com checagens automáticas, reversão e controle de mudanças.

Equipes de harness não são um novo nome para todas as funções de plataforma existentes. As equipes de operações de aprendizado de máquina, segurança, governança e plataforma mantêm suas responsabilidades. A equipe de harness conecta esses controles à criação e operação de fluxos de IA: permissões e aprovações para políticas, interfaces governadas para contexto, testes para avaliação e logs que tornem o comportamento dos agentes auditável e reutilizável.

Diagrama do modelo operacional para a engenharia nativa de IA, com equipes de aplicações apoiadas por uma plataforma e um harness compartilhados.

Equipes, liderança e métricas devem mudar

Se a engenharia se divide entre entrega de aplicações e suporte compartilhado, equipes, liderança e medição precisam acompanhar essa mudança.

Equipes de aplicações precisam de discernimento em produto, engenharia e domínio, perto do problema. Equipes de plataforma e harness precisam de pessoas capazes de projetar e operar o ambiente comum que apoia pessoas e agentes em escala.

Líderes de tecnologia passam a projetar o sistema de entrega

Para CTOs, CDOs e CIOs, o desafio é decidir o que oferecer de forma centralizada e o que deixar com cada equipe.

Equipes de aplicações precisam de liberdade para agir rápido e ficar perto dos clientes. Elas não deveriam ter de recriar recursos como acesso seguro a dados, observabilidade, avaliação e governança.

Em organizações nativas de IA, líderes de tecnologia precisam deslocar parte do foco da gestão da capacidade de entrega para o projeto do sistema de entrega. Isso inclui:

  • contratar e desenvolver pessoas para decidir com discernimento;

  • investir em plataformas comuns de IA, avaliações, limites, vias aprovadas, fluxos de conhecimento e padrões de acesso;

  • definir limites operacionais para agentes, pessoas e fluxos combinados;

  • medir aprendizado validado, confiabilidade, impacto no cliente e reúso seguro; e

  • acompanhar a tecnologia de perto para entender onde a IA realmente muda os custos e retornos da entrega.

Bem projetado, esse sistema facilita acesso ao contexto adequado, testes do trabalho gerado por IA, reúso de padrões comprovados e identificação de onde ainda é necessária a aprovação humana.

Métricas atuais de engenharia mostram só parte do quadro

Muitas métricas de engenharia surgiram quando a produção de software era uma grande limitação. Velocidade, pontos de história, taxa de processamento e frequência de implantação ainda dão sinais operacionais úteis, mas dizem menos isoladamente à medida que a IA reduz o esforço de produzir software.

Uma equipe pode gerar mais código e fazer mais experimentos e ainda tomar decisões ruins, criar complexidade desnecessária ou ampliar riscos.

Por isso, líderes de tecnologia precisam ir além de perguntar quanto software é produzido ou quanto se usam ferramentas de IA. É preciso saber se a IA ajuda a organização a aprender mais rápido, melhorar resultados para clientes e operar com confiabilidade dentro dos limites acordados.

Equipes de aplicações: métricas úteis podem incluir:

  • aprendizado validado: tempo;

  • melhoria dos resultados do cliente;

  • valor entregue ao negócio;

  • adoção e mudança de comportamento; e

  • proporção de experimentos que levam a decisões embasadas.

O tempo até o aprendizado validado deve ir do início do experimento à coleta de evidências suficientes para decidir. Uma equipe que começa na segunda, implanta na quarta e chega a uma decisão embasada na sexta tem um ciclo de aprendizado de uma semana, não de entrega de dois dias.

Equipes de plataforma e harness: métricas úteis podem incluir:

  • reúso de padrões de IA aprovados

  • cobertura e eficácia das avaliações;

  • incidentes e retrabalho com IA;

  • tempo da ideia à produção segura;

  • observabilidade das ações de agentes;

  • auditoria e conformidade: preparo

Toda métrica de custo deve incluir uso do modelo, revisão humana, tentativas frustradas, retrabalho e suporte operacional por resultado bem-sucedido.

Essas métricas ainda exigem definições claras, linhas de base e métodos de avaliação. A meta não é trocar um painel universal de indicadores por outro, mas medir se o sistema de entrega gera resultados confiáveis.

Até o modelo pode ser temporário

O modelo de aplicações e harness é uma resposta à fase atual da engenharia nativa de IA. Não deve ser tratado como um estado final permanente.

Vários avanços podem mudar novamente a unidade básica do trabalho de engenharia:

  • agentes assumindo fluxos de trabalho completos;

  • alguns softwares se tornando temporários, em vez de mantidos por anos;

  • usuários trocando interfaces de apps por experiências guiadas por agentes;

  • modelos fundacionais absorvendo mais recursos de plataforma; e

  • regulação tornando auditabilidade e responsabilização principais restrições da engenharia.

São possibilidades, não resultados garantidos. Se ocorrerem, até a distinção entre equipes de aplicações e de plataforma pode se mostrar limitada demais.

As organizações mais preparadas para essa incerteza terão um modelo operacional adaptável. Elas se organizarão em torno de princípios claros, contexto forte, autonomia delimitada e aprendizado ágil, não de estruturas fixas de equipes ou escolhas de ferramentas.

Progresso confiável é o novo padrão de excelência em engenharia

A IA não reduz a importância dos sistemas de engenharia. Ela aumenta o valor de projetá-los bem.

Com a produção de software mais barata, a vantagem passa a quem toma decisões melhores, acumula contexto útil e opera com segurança. Uma prática de engenharia nativa de IA não se resume a usar ferramentas de IA. Ela se redesenha em torno das novas restrições: qualidade das decisões, contexto compartilhado, autonomia delimitada e aprendizado rápido.

Líderes de tecnologia podem começar explicitando quatro decisões:

  1. Que decisões de clientes e produtos devem ficar perto das equipes de aplicações?

  2. Quais recursos de contexto, controle e avaliação é preciso compartilhar?

  3. Onde agentes podem agir com autonomia e onde a aprovação humana é exigida?

  4. Quais métricas demonstram aprendizado validado, valor ao cliente e operação segura?

Responder a essas perguntas determinará mais o valor da adoção de IA do que o número de assistentes implantados pela organização.

Authors

Abbie Manning, Saurabh Singh