El model operatiu de l'enginyeria nativa d'IA

Produir programari és cada cop més barat, i l'avantatge passa a les organitzacions capaces de prendre millors decisions i validar resultats amb seguretat.

Idees clau per dirigir

  • A mesura que la IA abarateix el programari, obtenir avantatge competitiu exigeix canviar el model operatiu. Les organitzacions que redissenyen la feina dels equips, en comptes de limitar-se a desplegar assistents d'IA, tenen més probabilitats d'aconseguir millores sostingudes.

  • L'enginyeria nativa d'IA requereix dues capacitats complementàries: equips d'aplicacions propers als clients i als problemes, i equips de plataforma o d'"entorn d'execució" que aportin el context, les salvaguardes, les avaluacions i la governança compartits perquè persones i agents d'IA operin amb seguretat a escala.

  • El lideratge tecnològic passa de gestionar la capacitat de lliurament a dissenyar-ne el sistema. Els líders han d'explicitar quatre decisions: de què són responsables els equips d'aplicacions, quin context i controls es comparteixen, en quins moments els agents necessiten aprovació humana i com es mesuraran l'aprenentatge validat i el valor per al client.

L'antic model considerava la capacitat d'implementació la limitació principal

Bona part de l'enginyeria moderna es va desenvolupar en un món on crear programari era car. La pregunta que guiava l'organització era: com poden més equips lliurar més programari de manera més previsible? Aquesta premissa va determinar com s'estructuraven els equips, com es finançaven les plataformes i com es mesuraven els lliuraments. Créixer sovint volia dir incorporar personal, i l'èxit se solia mesurar pel volum de feina que passava pel sistema.

La IA canvia aquesta premissa. Creiem que l'enginyeria nativa d'IA no és enginyeria tradicional amb eines millors, sinó que requereix un altre model operatiu: equips d'aplicacions més petits, propers als problemes dels clients i amb el suport d'equips de plataforma o d'"entorn d'execució". Per "entorn d'execució" fem referència a l'entorn operatiu controlat que proporciona a persones i agents el context, les eines, els permisos, els cicles de retroacció i els límits necessaris per fer servir la IA amb seguretat a escala.

Això és important per als responsables de tecnologia i dades: les millores individuals de productivitat no són suficients per garantir una adopció segura a tota l'organització. Sense un model operatiu deliberat, els equips s'exposen a eines fragmentades, patrons duplicats, responsabilitats poc clares, exposició de dades no gestionada i qualitat irregular.

La pregunta de les empreses ha de passar de "Com ajudem els enginyers a fer servir la IA?" a "Com redissenyem el sistema d'enginyeria perquè persones i agents creïn valor amb seguretat a escala empresarial?"

Quan la producció s'abarateix, les decisions guanyen importància

La IA permet que els enginyers explorin més idees, creïn prototips més de pressa i provin més enfocaments. Ara bé, produir més no crea automàticament més valor. Sense bon criteri, context pertinent i avaluació eficaç, el volum de feina pot créixer més de pressa que la capacitat de decidir en què es pot confiar, què s'ha de desplegar o de què cal aprendre.

La IA pot reduir el cost de generar codi i fer experiments. Que redueixi el cost total del programari depèn de la feina que encara calgui per revisar-lo, integrar-lo, operar-lo, mantenir-lo i refer-lo.

Preveiem que l'avantatge en enginyeria dependrà cada cop més de quatre capacitats:

  • Decidir què cal desenvolupar, com cal fer-ho i com s'han de registrar aquestes decisions.

  • Donar a persones i sistemes d'IA una base sòlida de coneixement de l'organització.

  • Créixer amb seguretat amb plataformes, controls i avaluacions compartits.

  • Dissenyar arquitectures que incorporin eines i components nous sense trastorns recurrents.

La competència clau ja no és produir, sinó treure més profit del que es produeix: triar la feina adequada, fonamentar-la en el context, comprovar si funciona i saber què no s'ha de lliurar.

Quan l'experimentació s'abarateix, els registres de decisions també guanyen valor. Les organitzacions han de saber què s'ha provat, què ha fallat, què s'ha après i per què s'ha triat un camí i no un altre.

Els sistemes d'enginyeria han de prioritzar la validació ràpida, la iteració segura i l'aprenentatge documentat, no només la velocitat de lliurament. Això canvia tant el paper de l'enginyer com el seu equip.

Els enginyers orquestren més el sistema

Per als enginyers, no es tracta tant de deixar de construir com de definir, avaluar i orquestrar el que es construeix.

El programari generat per IA no fa que ja no calguin enginyers, sinó que dota de més importància les persones capaces d'entendre els límits del sistema, de definir interfícies, de dissenyar avaluacions i de coordinar la feina de persones i agents. Els enginyers que combinen profunditat tècnica, criteri, coneixement del producte i competències d'avaluació sovint crearan més valor que no pas els centrats a implementar components individuals.

La IA potencia l'aprenentatge entre producte i enginyeria

Tradicionalment, els equips de producte decidien què calia desenvolupar, i els d'enginyeria, com s'havia de fer. Avui, moltes organitzacions integren producte, disseny i enginyeria. El canvi propi de la IA es produeix dins d'aquest equip: prototips més barats permeten passar del plantejament del problema a la implementació i l'avaluació en un mateix cicle. Els equips poden provar més opcions, descartar abans les idees febles i fer avançar les validades cap a la producció.

Això afavoreix la creació d'equips petits i multidisciplinaris en què especialistes de producte, disseny, enginyeria i del sector comparteixen un cicle d'aprenentatge. El criteri de producte i el tècnic no es fusionen en un sol rol, però han d'estar més connectats. Els responsables de producte necessiten prou domini tècnic per crear prototips i avaluar opcions. Els enginyers necessiten prou context del client i del negoci per definir el problema, no només implementar una resposta predefinida.

El context de l'organització esdevé un actiu estratègic

Les organitzacions d'enginyeria han considerat tradicionalment el codi un actiu principal. Com més fàcil és generar codi, més valor durador té el context que hi ha al darrere: coneixement del sector i del client, experiència operativa, dades pròpies, conjunts de dades d'avaluació, polítiques llegibles per màquina i l'historial de decisions arquitectòniques que explica el funcionament dels sistemes.

Les bases de codi importen, en part, perquè incorporen coneixement del negoci i dels clients adquirit amb esforç. La IA canvia l'esforç de produir codi, però no elimina el que cal per adquirir aquest coneixement. Cal mirar més enllà del volum de codi i invertir en actius de valor creixent: dades pròpies ben governades, sistemes de coneixement útils, comprensió profunda del client i registres clars de decisions.

Per als CIO i CDO, això situa l'arquitectura de la informació i la governança de dades al centre del rendiment de l'enginyeria. Els agents d'IA només poden fer servir el context al qual tenen permís d'accés i que poden interpretar. El coneixement fragmentat, els responsables de dades poc clars i els permisos incoherents esdevenen, doncs, limitacions d'enginyeria, no només problemes de gestió de la informació.

Quan el context forma part del sistema de producció, no pot continuar sent documentació passiva, sinó que esdevé una capacitat de plataforma.

Federar el lliurament d'IA: equips locals, controls comuns

El lliurament d'IA no es pot deixar del tot en mans de cada equip quan el context, l'avaluació i la governança formen part del sistema de producció. Tampoc no s'ha de centralitzar fins al punt que els equips perdin contacte amb els problemes reals dels clients.

Un model federat equilibra aquestes necessitats. Els equips autònoms d'aplicacions es mantenen a prop del problema, amb capacitats compartides de plataforma i d'entorn d'execució: eines reutilitzables, accés controlat al context, patrons d'avaluació, permisos i governança. La federació només funciona amb responsabilitats clares: els equips d'aplicacions responen del flux i dels resultats; els de l'entorn d'execució ofereixen capacitats compartides per avançar amb seguretat, i els de riscos, seguretat i governança mantenen una supervisió independent.

Els equips d'aplicacions i els experts del sector defineixen els casos d'avaluació de cada tasca i el llindar d'acceptació. L'equip d'execució aporta la infraestructura, els controls i els informes per avaluar de manera coherent.

Àmbit

Equip d'aplicacions

Equip d'execució

Riscos, seguretat i governança

Producte i resultats

Tria el problema, el flux, l'experiència d'usuari i els indicadors d'èxit; respon dels resultats per al client i el negoci

Ofereix patrons reutilitzables, eines i telemetria

Estableix límits quan el cas d'ús genera un risc significatiu

Context i accés

Defineix dades i accions necessàries al flux

Ofereix interfícies de context, identitat dels agents i permisos d'eines

Aprova l'accés a dades sensibles i els límits de control

Avaluació i llançament

Defineix criteris d'acceptació i revisa els resultats

Manté bateries d'avaluació, registres d'auditoria i vies de desplegament aprovades

Aprova casos d'ús d'alt risc, excepcions i canvis significatius

Finançament i rendició de comptes

Rep finançament i ret comptes pels resultats de l'aplicació

Es finança com a capacitat compartida i es mesura per reutilització, cobertura i temps fins a producció segura

Assumeix la supervisió i el control independents

Ritme i aprenentatge

Itera amb experts del sector i revisa resultats, anul·lacions i incidents

Converteix l'aprenentatge en proves, controls i capacitats reutilitzables nous

Revisa incidents i canvis als punts d'aprovació acordats

Això també canvia com els líders han de plantejar-se la mida dels equips. Disposar d'equips més petits que produeixin més programari no és un objectiu en si mateix, sinó que la meta és situar el criteri humà on aporta més valor: a prop del problema, als equips d'aplicacions, i dins de les capacitats compartides que els permeten avançar de pressa sense perdre el control.

Plataforma: entorn d'execució per a persones i agents

Amb equips d'aplicacions més petits i assistits per IA, les organitzacions necessiten capacitats comunes per garantir lliuraments segurs, coherents i responsables.

L'enginyeria de plataformes tradicional ha prioritzat la productivitat dels desenvolupadors, amb les persones com a usuaris. Una plataforma nativa d'IA ha de donar suport a persones i agents.

Un agent no fa servir una plataforma de desenvolupament com una persona, sinó que necessita instruccions i eines accessibles per màquina, permisos explícits i mètodes fiables per avaluar la feina. L'entorn d'execució també ha de preveure l'observabilitat, la seguretat, el compliment normatiu i la gestió del coneixement. L'objectiu és fer útil l'autonomia, amb límits clars que es puguin fer complir.

Un exemple concret: assistència amb IA en un banc regulat

Un banc incorpora un flux de treball amb IA per gestionar reclamacions de càrrecs amb targeta. L'equip d'aplicacions comença classificant els casos, consultant la política aplicable i redactant respostes per a l'agent d'atenció al client. Gestiona el flux, l'experiència d'usuari, els criteris de derivació i els indicadors d'èxit, però no defineix polítiques reguladores ni concedeix permisos nous a l'agent.

En aquest exemple, els agents podrien implementar el flux, executar proves i preparar-ne el llançament. Les persones continuarien aprovant el desplegament en producció, i els resultats guiarien la següent ronda d'avaluació i desenvolupament. Els controls d'execució es mantenen separats: l'agent d'atenció al client només pot usar eines i dades aprovades, dins dels permisos i les vies de derivació definits.

  • Context: l'agent accedeix al cas actual, als camps mínims del client, als procediments aprovats de productes i reclamacions i a les regles de derivació llegibles per màquina. No pot accedir a credencials de pagament en brut ni a registres de clients aliens, ni escriure al sistema de gestió de casos.

  • Avaluació: abans del llançament, cal superar proves amb casos històrics representatius i casos límit etiquetats per experts (precisió de classificació, respecte de les polítiques, abstenció adequada, filtracions de dades personals i derivació de reclamacions o casos financerament sensibles).

  • Aprovació: l'equip d'aplicacions decideix sobre el producte. Riscos, seguretat i compliment aproven l'accés a les dades, l'assignació de polítiques i la ruta de desplegament. Un agent humà aprova cada missatge sortint; les decisions sobre diners o drets del client queden fora de l'autonomia de la IA.

  • Registre de l'entorn d'execució: cada execució registra la identitat de l'agent, el model, el context, les fonts, les eines, els controls, les avaluacions, les intervencions humanes i els incidents. L'equip transforma els encerts en interfícies de context, proves, plantilles de permisos i vies de desplegament reutilitzables. Els errors i les anul·lacions generen noves proves i millores del flux.

Així es pot donar marge d'acció a l'agent, però només amb context i eines aprovats, i amb proves de cada límit important que es puguin revisar i reutilitzar. Les persones continuen sent responsables de les decisions importants. Amb el temps, el banc pot fer servir casos reals —encerts de l'agent, intervencions humanes i errors— per millorar el flux i decidir si n'amplia l'abast. Això és l'autonomia delimitada i l'aprenentatge validat a la pràctica.

Aquesta divisió es reflecteix en els sistemes i controls de l'equip de l'entorn d'execució. L'equip pot encarregar-se de:

  • Identitat de l'agent: emetre identitats de servei, registrar responsables i entorn i seguir les versions del model, les indicacions i les eines de cada agent.

  • Permisos d'eines: definir àmbits de lectura i escriptura, límits d'accés a dades i freqüència, aprovacions i regles de denegació per defecte als agents.

  • Interfícies de context: oferir coneixement i dades aprovats mitjançant interfícies versionades que respectin permisos i n'indiquin origen i vigència.

  • Bateries d'avaluació: mantenir exemples representatius, casos límit, proves de seguretat i de regressió, i llindars de llançament.

  • Registres d'auditoria i observabilitat: registrar identitat de l'agent, context, eines, resultats, aprovacions, anul·lacions, errors i incidents, amb controls de conservació i accés adequats.

  • Vies aprovades de desplegament: entorns aïllats, proves paral·leles i desplegaments graduals i en producció, amb controls, reversió i gestió de canvis.

Els equips de l'entorn d'execució no substitueixen les funcions de plataforma existents. Operacions d'aprenentatge automàtic, seguretat, governança i plataformes mantenen les seves responsabilitats. L'equip connecta aquests controls amb el desenvolupament i l'execució de fluxos d'IA: permisos i aprovacions per a polítiques, interfícies governades per al context, proves d'avaluació i registres per auditar i reutilitzar el comportament dels agents.

Diagrama del model operatiu de l'enginyeria nativa d'IA, amb equips d'aplicacions que reben el suport d'una plataforma i un entorn d'execució compartits.

Cal canviar plantilla, lideratge i mètriques.

Si l'enginyeria es divideix entre lliurament d'aplicacions i suport compartit, també han de canviar el personal, el lideratge i el mesurament.

Els equips d'aplicacions necessiten criteri de producte, enginyeria i sector proper al problema. Els de plataforma i entorn d'execució han de dissenyar i gestionar l'entorn compartit per donar suport a persones i agents a escala.

Els líders tecnològics dissenyen el sistema de lliurament.

Per als CTO, CDO i CIO, el repte és decidir quines capacitats cal centralitzar i quines es poden deixar en mans de cada equip.

Els equips d'aplicacions necessiten llibertat per avançar de pressa i ser propers als clients. No haurien de recrear capacitats com l'accés segur a dades, l'observabilitat, l'avaluació i la governança.

En una organització nativa d'IA, els líders tecnològics han de passar de centrar-se a gestionar la capacitat de lliurament a dissenyar-ne el sistema. Això inclou:

  • contractar i formar persones pel criteri i la qualitat decisòria;

  • invertir en plataformes d'IA, avaluacions, salvaguardes, vies aprovades, fluxos de coneixement i accessos compartits;

  • definir límits operatius per a agents, persones i fluxos de treball mixtos;

  • mesurar aprenentatge validat, fiabilitat, impacte client i reutilització segura; i

  • mantenir prou contacte amb la tecnologia per entendre on la IA canvia realment l'economia del lliurament.

Ben dissenyat, el sistema facilita el context adequat, les proves del treball amb IA, la reutilització de patrons validats i la detecció dels casos que requereixen aprovació humana.

Les mètriques d'enginyeria expliquen part de la realitat

Moltes mètriques d'enginyeria es van crear quan la producció de programari era una limitació important. La velocitat, els punts d'història, el rendiment i la freqüència de desplegament continuen sent indicadors útils, però per si sols informen menys a mesura que la IA redueix l'esforç de producció.

Un equip pot generar més codi i fer més experiments, però continuar prenent males decisions, creant complexitat innecessària o augmentant el risc.

Per tant, els líders tecnològics han de mirar més enllà de quant programari es produeix o de l'abast d'ús de les eines d'IA. Han de saber si la IA ajuda a aprendre més ràpid, millorar els resultats per als clients i operar de manera fiable dins dels límits acordats.

En equips d'aplicacions, són útils aquests indicadors:

  • temps de validació;

  • millora dels resultats del client;

  • valor aportat al negoci;

  • adopció i canvi de comportament; i

  • proporció d'experiments que porten a decisions fonamentades.

El temps fins a l'aprenentatge validat ha de comprendre des de l'inici de l'experiment fins a la reunió de prou proves per decidir. Si un equip comença dilluns, desplega dimecres i pren una decisió fonamentada divendres, té un cicle d'aprenentatge d'una setmana, no un cicle de lliurament de dos dies.

Per als equips de plataforma i execució, són útils:

  • patrons d'IA reutilitzats;

  • cobertura i eficàcia de l'avaluació;

  • incidents i retreball per ús d'IA;

  • temps de la idea a producció segura;

  • observabilitat dels agents; i

  • auditories i compliment normatiu.

El cost ha d'incloure l'ús del model, la revisió humana, els errors, la feina refeta i el suport operatiu per resultat reeixit.

Aquests indicadors exigeixen definicions, valors de referència i mètodes d'avaluació clars. No es tracta de substituir un quadre universal per un altre, sinó de mesurar si el sistema de lliurament produeix resultats fiables.

Aquest model pot ser temporal

El model d'aplicacions i entorn d'execució és una resposta a la fase actual de l'enginyeria nativa d'IA. No s'ha de considerar un estat final permanent.

Diversos avenços podrien canviar la unitat bàsica del treball d'enginyeria:

  • agents responsables de fluxos de treball complets;

  • programari temporal en lloc de mantingut durant anys;

  • usuaris que passen d'interfícies d'apps a experiències guiades per agents;

  • models fundacionals que integren capacitats de plataforma; i

  • regulacions que fan de l'auditoria i la responsabilitat el límit de l'enginyeria.

Són possibilitats, no resultats assegurats. Si es materialitzen, fins i tot la distinció entre equips d'aplicacions i de plataforma pot quedar curta.

Les organitzacions més preparades per a aquesta incertesa tindran un model operatiu adaptable. S'organitzaran entorn de principis clars, context sòlid, autonomia delimitada i aprenentatge ràpid, en comptes d'estructures d'equip o eines fixes.

El progrés fiable és el nou estàndard d'excel·lència en enginyeria

La IA no resta importància als sistemes d'enginyeria, sinó que augmenta el valor de dissenyar-los bé.

Amb l'abaratiment del programari, l'avantatge passa a les organitzacions capaces de decidir millor, acumular context útil i operar amb seguretat. Una pràctica d'enginyeria nativa d'IA no es limita a fer servir eines d'IA, sinó que es redissenya al voltant de les noves limitacions: qualitat de les decisions, context compartit, autonomia delimitada i aprenentatge ràpid.

Els líders tecnològics poden començar explicitant quatre decisions:

  1. Quines decisions de clients i productes han de prendre els equips d'aplicacions?

  2. Quin context, controls i capacitats d'avaluació s'han de compartir?

  3. On poden actuar autònomament els agents i on cal aprovació humana?

  4. Quins indicadors proven aprenentatge, valor per al client i seguretat?

Respondre a aquestes preguntes determinarà el valor de l'adopció de la IA més que no pas el nombre d'assistents desplegats.

Autors

Abbie Manning i Saurabh Singh