Driftsmodellen for AI-native softwareudvikling

Software bliver billigere at producere. Det giver en fordel til organisationer, der kan træffe bedre beslutninger og validere resultater sikkert.

Takeaways fra ledelsen

  • Når AI gør softwareproduktion billigere, kræver det en ændret driftsmodel at opnå en konkurrencefordel. Organisationer, der gentænker teamenes arbejde frem for blot at indføre AI-assistenter, har større sandsynlighed for at opnå varige gevinster.

  • AI-native softwareudvikling kræver to komplementære kapaciteter: applikationsteams tæt på kunder og problemer samt platform- eller »harness«-teams, der leverer den fælles kontekst, de sikkerhedsrammer, evalueringer og den governance, som mennesker og AI-agenter behøver for at arbejde sikkert i stor skala.

  • Teknologiledelse flytter fokus fra at styre leverancekapaciteten til at designe leverancesystemet. Ledere bør træffe fire klare beslutninger: Hvad har applikationsteamene ansvar for, hvilken kontekst og hvilke kontroller er fælles, hvor kræver agenter menneskelig godkendelse, og hvordan måles valideret læring og kundeværdi?

Den gamle model så implementeringskapacitet som den primære begrænsning

Meget af nutidens udviklingspraksis blev til i en verden, hvor software var dyrt at skabe. Det styrende spørgsmål var: Hvordan kan flere teams levere mere software mere forudsigeligt? Den antagelse prægede organiseringen af teams, finansieringen af platforme og målingen af leverancer. Skalering betød ofte flere medarbejdere, mens succes typisk blev målt på, hvor meget arbejde der kom gennem systemet.

AI ændrer den antagelse. Vi mener, at AI-native softwareudvikling ikke blot er traditionel udvikling med bedre værktøjer. Den kræver en anden driftsmodel: mindre applikationsteams tæt på kundernes problemer, understøttet af platform- eller »harness«-teams. Vi bruger »harness« om det kontrollerede driftsmiljø, der giver mennesker og agenter den kontekst, de værktøjer, tilladelser, feedbacksløjfer og rammer, som kræves for at bruge AI sikkert i stor skala.

Det er vigtigt for teknologi- og dataledere, fordi individuel produktivitetsfremgang alene ikke sikrer sikker ibrugtagning i hele organisationen. Uden en gennemtænkt driftsmodel risikerer teams fragmenterede værktøjer, dobbeltudvikling af mønstre, uklart ansvar, ukontrolleret dataeksponering og uens kvalitet.

Virksomheders spørgsmål til sig selv skal skifte fra »Hvordan hjælper vi udviklere med at bruge AI?« til »Hvordan gentænker vi udviklingssystemet, så mennesker og agenter kan skabe værdi sikkert i hele virksomheden?«

Når produktion bliver billigere, bliver beslutninger vigtigere

AI lader udviklere udforske flere idéer, bygge prototyper hurtigere og afprøve flere tilgange. Mere output skaber dog ikke automatisk mere værdi. Uden god dømmekraft, relevant kontekst og effektiv evaluering kan arbejdsmængden vokse hurtigere, end organisationen kan afgøre, hvad den kan stole på, idriftsætte eller lære af.

AI kan gøre det billigere at generere kode og udføre eksperimenter. Om de samlede softwareomkostninger falder, afhænger af det arbejde, der stadig kræves til gennemgang, integration, drift, vedligeholdelse og omarbejde.

Vi forventer, at softwareudviklingsfordele i stigende grad vil afhænge af fire kompetencer:

  • At beslutte, hvad der skal bygges, hvordan og hvordan valgene dokumenteres.

  • At forankre mennesker og AI-systemer i den rette organisatoriske viden.

  • At skalere sikkert gennem fælles platforme, kontroller og evaluering.

  • At designe arkitekturer, der kan rumme nye værktøjer og komponenter uden gentagne forstyrrelser.

Den knappe ressource skifter dermed fra evnen til at producere output til at øge udbyttet af det: vælge det rette arbejde, forankre det i kontekst, teste dets effekt og vide, hvad man ikke bør udgive.

Når eksperimenter bliver billigere, bliver dokumentation af beslutninger også mere værdifuld. Organisationer skal vide, hvad der blev forsøgt, hvad der slog fejl, hvad de lærte, og hvorfor én vej blev valgt frem for en anden.

Udviklingssystemer bør optimeres til hurtig validering, sikre iterationer og dokumenteret læring – ikke kun leverancehastighed. Det ændrer både udviklerens rolle og teamet omkring vedkommende.

Udviklere orkestrerer mere af systemet

For udviklere handler det mindre om at holde op med at bygge og mere om at forme, evaluere og orkestrere det, der bliver bygget.

AI-genereret software fjerner ikke behovet for udviklere. Det øger betydningen af mennesker, der forstår systembegrænsninger, definerer grænseflader, designer evalueringer og koordinerer arbejdet mellem mennesker og agenter. Udviklere, der kombinerer teknisk dybde med dømmekraft, produktforståelse og evalueringsevner, vil ofte skabe mere værdi end dem, der kun fokuserer på at implementere enkelte komponenter.

AI styrker læringssløjfen mellem produkt og udvikling

Tidligere besluttede produktteams, hvad der skulle bygges, mens udviklingsteams fandt ud af hvordan. I dag samler mange organisationer produkt, design og udvikling. AI ændrer det, der sker inde i teamet: Billigere prototyper lader idéer gå fra problemformulering til implementering og evaluering i samme cyklus. Teams kan teste flere muligheder, forkaste svage idéer tidligere og bringe validerede idéer længere ind i produktion.

Det gavner små, tværfaglige teams, hvor produkt-, design-, udviklings- og domænespecialister arbejder i én læringssløjfe. Produktmæssig og teknisk dømmekraft smelter ikke sammen i én rolle, men skal bringes tættere sammen. Produktledere skal have teknisk indsigt nok til at bygge prototyper og evaluere muligheder. Udviklere skal kende kunder og forretning godt nok til at forme problemet frem for blot at implementere et forudbestemt svar.

Organisatorisk kontekst bliver et strategisk aktiv

Udviklingsorganisationer har traditionelt set kode som et centralt aktiv. Når kode bliver lettere at generere, ligger mere af den varige værdi i konteksten bag: domæneviden, kundeforståelse, driftserfaring, egne data, evalueringsdatasæt, maskinlæsbare retningslinjer og historikken over arkitekturbeslutninger, der forklarer systemernes virkemåde.

Kodebaser er blandt andet vigtige, fordi de rummer hårdt tilkæmpet viden om forretning og kunder. AI ændrer indsatsen for at producere kode, men fjerner ikke arbejdet med at opnå denne viden. Organisationer bør derfor se ud over kodemængden og investere i aktiver med voksende værdi: velstyrede egne data, brugbare videnssystemer, dyb kundeforståelse og klar beslutningsdokumentation.

For CIO'er og CDO'er gør det informationsarkitektur og datagovernance afgørende for udviklingsresultaterne. AI-agenter kan kun bruge kontekst, som de har tilladelse til at tilgå, og som de kan fortolke. Fragmenteret viden, uklart dataejerskab og uens tilladelser bliver dermed begrænsninger for udviklingen, ikke blot problemer med informationsstyring.

Når kontekst bliver en del af produktionssystemet, kan den ikke forblive passiv dokumentation. Den bliver en platformkapacitet.

Fordel AI-leverancerne: lokale teams, fælles sikkerhedsrammer

AI-leverancer kan ikke overlades helt til de enkelte teams, når kontekst, evaluering og governance indgår i produktionssystemet. De bør heller ikke centraliseres så meget, at teamene mister kontakten med kundernes reelle problemer.

En fødereret model balancerer disse behov. Selvstændige applikationsteams forbliver tæt på problemet, støttet af fælles platform- og harness-kapaciteter: genbrugelige værktøjer, kontrolleret kontekstadgang, evalueringsmønstre, tilladelser og governance. Modellen virker kun med klart ansvar: Applikationsteams ejer arbejdsgangen og resultatet, harness-teams leverer fælles kapaciteter til sikker fremdrift, og risiko-, sikkerheds- og governancefunktionerne bevarer et uafhængigt tilsyn.

Applikationsteams og domæneeksperter bør definere opgavespecifikke evalueringscases og acceptniveau. Harness-teamet bør levere den evalueringsinfrastruktur, de fælles kontroller og den rapportering, der sikrer ensartet evaluering.

Område

Applikationsteam

Harness-team

Risiko, sikkerhed og governance

Produkt og resultat

Vælger problem, arbejdsgang, brugeroplevelse og succeskriterier; har ansvar for kunde- og forretningsresultater

Leverer genbrugelige mønstre, værktøjer og telemetri

Sætter grænser, hvor anvendelsen medfører væsentlig risiko

Kontekst og adgang

Angiver de oplysninger og handlinger, arbejdsgangen kræver

Leverer kontekstgrænseflader, agentidentitet og værktøjstilladelser

Godkender adgang til følsomme data og kontrolrammer

Evaluering og udgivelse

Definerer acceptkriterier og gennemgår resultater

Vedligeholder evalueringspakker, auditlogs og godkendte forløb for idriftsættelse

Godkender højrisikoanvendelser, undtagelser og væsentlige ændringer

Finansiering og ansvar

Finansieres og holdes ansvarligt for applikationens resultater

Finansieres som fælles kapacitet og måles på genbrug, dækning og tid til sikker drift

Har ansvar for uafhængigt tilsyn og kontrolbeslutninger

Arbejdsrytme og læring

Itererer med domæneeksperter og gennemgår resultater, tilsidesættelser og hændelser

Omsætter læring til nye test, kontroller og genbrugelige kapaciteter

Gennemgår hændelser og ændringer ved aftalte godkendelsespunkter

Det ændrer også, hvordan ledere bør tænke om teamstørrelse. Mindre teams, der producerer mere software, er ikke et mål i sig selv. Målet er at placere menneskelig dømmekraft dér, hvor den skaber mest værdi: tæt på problemet i applikationsteams og i de fælles kapaciteter, der lader teamene arbejde hurtigt uden at miste kontrollen.

Platformen bliver et "harness" for mennesker og agenter

Når applikationsteams bliver mindre og får mere AI-hjælp, kræver sikre, ensartede leverancer med klart ansvar stærkere fælles kapaciteter.

Platformudvikling har hidtil især fokuseret på udviklernes produktivitet med mennesker som primære brugere. En AI-native platform skal understøtte både mennesker og agenter.

En agent bruger ikke en udviklerplatform som et menneske. Den kræver maskintilgængelige instruktioner og værktøjer, eksplicitte tilladelser og pålidelig evaluering af sit arbejde. Det omgivende system (harness) skal også tage højde for observerbarhed, sikkerhed, compliance og vidensstyring. Formålet er at gøre autonomi nyttig ved at sætte klare grænser, som kan håndhæves.

Et konkret eksempel: AI-assisteret support i en reguleret bank

Forestil dig en bank, der indfører en AI-assisteret arbejdsgang til kortindsigelser. Applikationsteamet starter med en afgrænset opgave: at klassificere sagen, finde gældende retningslinjer og udarbejde svarudkast til en supportmedarbejder. Teamet ejer arbejdsgangen, brugeroplevelsen, eskaleringstærsklerne og succeskriterierne. Det fastlægger ikke regulatoriske retningslinjer eller giver agenten nye tilladelser.

Her kunne agenter understøtte implementeringen, køre opgavespecifikke test og forberede en udgivelse. Mennesker skulle stadig godkende idriftsættelsen, mens driftsresultaterne ville danne grundlag for næste evaluerings- og udviklingsrunde. Kontroller under kørsel er fortsat særskilte: En kundesupportagent bør kun bruge godkendte værktøjer og data inden for fastlagte tilladelser og eskaleringsveje.

  • Kontekst: Agenten har adgang til den aktuelle sag, de nødvendige kundedatafelter, godkendte produkt- og klageprocedurer samt maskinlæsbare eskaleringsregler. Den har ikke adgang til rå betalingsoplysninger eller uvedkommende kundeposter og kan ikke skrive til sagsstyringssystemet.

  • Evaluering: Før udgivelse skal en testpakke med repræsentative historiske sager og ekspertmærkede grænsetilfælde bestå kontrol af klassifikationsnøjagtighed, regeloverholdelse, korrekt afståelse fra svar, læk af personoplysninger og eskalering af klager eller økonomisk følsomme sager.

  • Godkendelse: Applikationsteamet ejer produktbeslutningen. Risiko, sikkerhed og compliance godkender dataadgang, retningslinjetilknytning og idriftsættelse. En supportmedarbejder godkender alle udgående beskeder. Beslutninger, der påvirker kundens penge eller rettigheder, ligger uden for agentens autonomi.

  • Harness-log: Kørsler registrerer agentidentitet og modelversion, hentet kontekst og kilder, værktøjskald, regelkontroller, evalueringsresultater, menneskelige rettelser og tilsidesættelser samt hændelser. Teamet omsætter det, der virker, til genbrugelige kontekstgrænseflader, evalueringscases, tilladelsesskabeloner og godkendte idriftsættelsesforløb. Fejl og tilsidesættelser bliver til nye test og forbedret arbejdsgang.

Agenten kan altså få handlerum, men kun via godkendt kontekst og værktøjer. Hver vigtig grænse giver dokumentation, der kan gennemgås og genbruges. Mennesker har fortsat ansvaret for de afgørende beslutninger. Med tiden kan banken bruge faktiske sager – agentens korrekte svar, menneskelige indgreb og fejl – til at forbedre arbejdsgangen og vurdere, om agentens mandat skal udvides. Sådan ser afgrænset autonomi og valideret læring ud i praksis.

Denne opdeling afspejles i de systemer og kontroller, harness-teamet driver. Harness-teams kan have ansvar for:

  • Agentidentitet: udstede tjenesteidentiteter, registrere ejerskab og miljø samt spore hver agents model-, prompt- og værktøjsversioner.

  • Værktøjstilladelser: fastlægge læse- og skriverettigheder, dataadgang, rategrænser, godkendelsespunkter og regler, der som standard afviser agenthandlinger.

  • Kontekstgrænseflader: adgang til godkendt viden og data via versionsstyrede grænseflader med adgangskontrol, tydelig oprindelse og aktualitet.

  • Evalueringspakker: vedligeholde repræsentative eksempler, grænsetilfælde, sikkerheds- og beskyttelsestest, regressionstest, udgivelsestærskler.

  • Auditlogs og observerbarhed: registrere agentidentitet, hentet kontekst, værktøjskald, output, godkendelser, menneskelige tilsidesættelser, fejl og hændelser med passende opbevaring og adgangskontrol.

  • Godkendte idriftsættelsesforløb: tilbyde sandkasse-, skygge-, trinvise og produktionsforløb med automatiske kontroller, tilbagerulning og ændringsstyring.

Harness-teams er ikke blot et nyt navn for alle eksisterende platformfunktioner. Teams for maskinlæringsdrift, sikkerhed, governance og platforme har stadig egne ansvarsområder. Harness-teamet kobler disse kontroller til applikationsteamenes udvikling og drift af AI-arbejdsgange: tilladelser og godkendelsespunkter for retningslinjer, styrede kontekstgrænseflader, evalueringstest og logge, der gør agentadfærd reviderbar og genbrugelig.

Diagram over driftsmodellen for AI-native softwareudvikling, hvor applikationsteams understøttes af en fælles platform og et omgivende system (harness).

Bemanding, ledelse og målinger skal ændres

Når udviklingsarbejdet opdeles i applikationsleverancer og fælles understøttelse, skal bemanding, ledelse og måling følge med.

Applikationsteams kræver produktmæssig, teknisk og domænefaglig dømmekraft tæt på problemet. Platform- og harness-teams kræver folk, der kan designe og drive det fælles miljø, som understøtter mennesker og agenter i stor skala.

Teknologiledere bliver leverancesystemets designere

For CTO'er, CDO'er og CIO'er er udfordringen at afgøre, hvad der skal understøttes centralt, og hvad de enkelte teams skal stå for.

Applikationsteams skal kunne arbejde hurtigt og holde sig tæt på kunderne. De bør ikke skulle genopbygge sikker dataadgang, observerbarhed, evaluering og governance.

I en AI-native organisation skal teknologiledere flytte noget af fokusset fra at styre leverancekapaciteten til at designe leverancesystemet. Det omfatter at:

  • ansætte og udvikle personer med dømmekraft og gode beslutningsevner;

  • investere i fælles AI-platforme, evalueringer, sikkerhedsrammer, godkendte forløb, vidensstrømme og adgangsmønstre;

  • sætte rammer for agenter, mennesker og fælles arbejdsgange;

  • måle valideret læring, pålidelighed, kundeeffekt og sikker genbrug; og

  • følge teknologien tæt nok til at forstå, hvor AI reelt ændrer leveranceøkonomien.

Et veldesignet system letter adgangen til relevant kontekst, test af AI-genereret arbejde, genbrug af velafprøvede mønstre og vurdering af, hvor menneskelig godkendelse stadig kræves.

Dagens udviklingsmålinger siger blot en del af historien

Mange udviklingsmålinger stammer fra en tid, hvor softwareproduktion var en væsentlig begrænsning. Velocity, story points, gennemløb og udrulningsfrekvens giver stadig nyttige driftssignaler, men siger mindre alene, når AI mindsker arbejdet med at producere software.

Et team kan skabe mere kode og køre flere eksperimenter, men stadig træffe dårlige beslutninger, skabe unødig kompleksitet eller øge risikoen.

Teknologiledere skal derfor spørge til mere end mængden af produceret software eller brugen af AI-værktøjer. De skal forstå, om AI hjælper organisationen med at lære hurtigere, skabe bedre kunderesultater og sikre pålidelig drift inden for aftalte rammer.

For applikationsteams kan nyttige mål være:

  • tid til valideret læring;

  • forbedring af kunderesultater;

  • skabt forretningsværdi;

  • ibrugtagning og adfærdsændring; og

  • andel af eksperimenter førende til underbyggede beslutninger.

Tid til valideret læring bør dække hele perioden fra eksperimentets start til et tilstrækkeligt beslutningsgrundlag. Et team, der starter mandag, idriftsætter onsdag og træffer en underbygget beslutning fredag, har en læringscyklus på en uge – ikke en leverancecyklus på to dage.

For platform- og harness-teams kan nyttige mål være:

  • genbrug af godkendte AI-mønstre;

  • evalueringernes dækning og effektivitet;

  • AI-relaterede hændelser og rework;

  • tid fra idé til sikker drift;

  • observerbarhed af agenthandlinger; og

  • klar til audit og compliance.

Tilhørende omkostningsmål bør medregne modelbrug, menneskelig gennemgang, mislykkede forsøg, omarbejde og driftsstøtte pr. vellykket resultat.

Målene kræver stadig klare definitioner, basislinjer og evalueringsmetoder. Målet er ikke at erstatte ét universelt måleskema med et andet, men at måle, om leverancesystemet skaber pålidelige resultater.

Denne model kan være midlertidig

Applikations- og harness-modellen er ét svar på den aktuelle fase af AI-native softwareudvikling. Den bør ikke ses som en permanent sluttilstand.

Flere udviklinger kan igen ændre udviklingsarbejdets grundlæggende enhed:

  • agenter får ansvar for hele arbejdsgange;

  • noget software bliver midlertidigt i stedet for vedligeholdt i årevis;

  • brugerne går fra applikationsgrænseflader til agentstyrede oplevelser;

  • grundmodeller overtager flere platformfunktioner; og

  • regulering gør reviderbarhed og ansvarlighed til udviklingsarbejdets største begrænsning.

Det er muligheder, ikke givne udfald. Hvis de bliver til virkelighed, kan selv skellet mellem applikations- og platformteams vise sig for snævert.

De bedst forberedte organisationer vil behandle deres driftsmodel som noget, der løbende tilpasses. De vil organisere sig efter klare principper, solid kontekst, afgrænset autonomi og hurtig læring frem for faste teamstrukturer eller værktøjsvalg.

Pålidelige fremskridt er den nye standard for sublim softwareudvikling

AI gør ikke udviklingssystemer mindre vigtige. Det øger værdien af at designe dem godt.

Når softwareproduktion bliver billigere, får organisationer en fordel ved at træffe bedre beslutninger, opbygge nyttig kontekst og sikre driften. AI-native softwareudvikling handler ikke blot om at bruge AI-værktøjer. Den gentænkes ud fra de nye begrænsninger: beslutningskvalitet, fælles kontekst, afgrænset autonomi og hurtig læring.

Teknologiledere kan begynde med at træffe fire klare beslutninger:

  1. Hvilke kunde- og produktbeslutninger skal forblive tæt på applikationsteamene?

  2. Hvilken kontekst, kontroller og evalueringskapaciteter bør være fælles?

  3. Hvor kan agenter handle autonomt, og hvor kræves menneskelig godkendelse?

  4. Hvilke mål dokumenterer valideret læring, kundeværdi og sikker drift?

Svarene vil få større betydning for værdien af at indføre AI end antallet af assistenter, organisationen tager i brug.

Forfattere

Abbie Manning og Saurabh Singh