Kako AI smanjuje trošak izrade softvera, stjecanje konkurentske prednosti zahtijeva promjenu operativnog modela. Organizacije koje preoblikuju način rada timova, umjesto da samo uvedu AI asistente, vjerojatnije će ostvariti trajne koristi.
Inženjerstvo utemeljeno na AI-ju traži dvije komplementarne sposobnosti: timove za aplikacije bliske korisnicima i problemima te timove za platforme ili „testni sklop” koji pružaju zajednički kontekst, zaštitne mehanizme, vrednovanja i upravljanje za siguran rad ljudi i AI agenata u velikom opsegu.
Tehnološko vodstvo prelazi s upravljanja kapacitetom isporuke na oblikovanje sustava isporuke. Čelnici trebaju razjasniti četiri odluke: za što su odgovorni timovi za aplikacije, koji su kontekst i kontrole zajednički, gdje agenti trebaju ljudsko odobrenje te kako mjeriti učenje potvrđeno dokazima i vrijednost za korisnike.
Velik dio suvremene inženjerske prakse nastao je u svijetu u kojem je izrada softvera bila skupa. Temeljno je pitanje bilo: kako omogućiti da više timova predvidljivije isporučuje više softvera? Ta je pretpostavka oblikovala strukturu timova, financiranje platformi i mjerenje isporuke. Rast je često značio zapošljavanje, a uspjeh se obično izražavao količinom rada koji je prošao kroz sustav.
AI mijenja tu pretpostavku. Smatramo da inženjerstvo utemeljeno na AI-ju nije tradicionalno inženjerstvo s boljim alatima. Traži drukčiji operativni model: manje timove za aplikacije bliske problemima korisnika, uz podršku timova za platforme ili „testni sklop”. Pojmom „testni sklop” označavamo kontrolirano radno okruženje koje ljudima i agentima pruža kontekst, alate, dozvole, povratne informacije i granice potrebne za sigurnu upotrebu AI-ja u velikom opsegu.
To je važno čelnicima za tehnologiju i podatke jer sama veća produktivnost pojedinaca neće osigurati sigurno uvođenje u cijeloj organizaciji. Bez promišljenog operativnog modela timovi riskiraju nepovezane alate, duplicirane obrasce, nejasnu odgovornost, nekontrolirano izlaganje podataka i neujednačenu kvalitetu.
Organizacije trebaju prijeći s pitanja „Kako pomoći inženjerima da koriste AI?” na „Kako preoblikovati inženjerski sustav da ljudi i agenti mogu sigurno stvarati vrijednost na razini cijele organizacije?”
AI inženjerima omogućuje istraživanje više ideja, bržu izradu prototipova i testiranje više pristupa. No veća količina rada ne stvara automatski veću vrijednost. Bez dobre prosudbe, relevantnog konteksta i učinkovitog vrednovanja organizacija može povećavati opseg rada brže nego što može odlučiti čemu vjerovati, što uvesti i iz čega učiti.
AI može smanjiti trošak generiranja koda i provedbe eksperimenata. Smanjuje li i ukupni trošak softvera, ovisi o radu koji je i dalje potreban za pregled, integraciju, rad, održavanje i doradu tog softvera.
Očekujemo da će inženjerska prednost sve više ovisiti o četiri sposobnosti:
Odlučivanju što i kako izraditi te kako zabilježiti te odluke.
Utemeljenju rada ljudi i AI sustava na odgovarajućem organizacijskom znanju.
Sigurnom širenju uz zajedničke platforme, kontrole i vrednovanje.
Oblikovanju arhitektura koje mogu prihvatiti nove alate i komponente bez stalnih poremećaja.
Oskudna sposobnost zato više nije sama proizvodnja, nego izvlačenje veće koristi iz nje: odabrati pravi posao, utemeljiti ga u kontekstu, provjeriti funkcionira li i znati što ne isporučiti.
Kako eksperimentiranje pojeftinjuje, zapisi o odlukama također postaju vredniji. Organizacije moraju znati što su pokušale, što nije uspjelo, što su naučile i zašto su odabrale jedan put umjesto drugog.
Inženjerske sustave treba optimizirati za brzu provjeru, sigurne iteracije i dokumentirano učenje, a ne samo za brzinu isporuke. To mijenja i ulogu inženjera i tim koji ih okružuje.
Za inženjere to nije toliko odmak od izrade koliko pomak prema oblikovanju, vrednovanju i koordinaciji onoga što se izrađuje.
Softver koji generira AI ne uklanja potrebu za inženjerima. Povećava važnost ljudi koji razumiju ograničenja sustava, definiraju sučelja, osmišljavaju vrednovanja i koordiniraju rad ljudi i agenata. Inženjeri koji spajaju duboko tehničko znanje s prosudbom, razumijevanjem proizvoda i vještinama vrednovanja često će stvarati više vrijednosti od onih usmjerenih samo na implementaciju pojedinih komponenti.
Nekad su timovi za proizvode odlučivali što izraditi, a inženjerski timovi kako to izvesti. Danas mnoge organizacije povezuju upravljanje proizvodom, dizajn i inženjerstvo. AI donosi promjenu unutar tog tima: jeftiniji prototipovi omogućuju da ideje u istom ciklusu prijeđu od definiranja problema do implementacije i vrednovanja. Timovi mogu testirati više opcija, ranije odbaciti slabe ideje i potvrđene ideje dalje razvijati u produkciji.
To pogoduje malim, interdisciplinarnim timovima u kojima stručnjaci za proizvode, dizajn, inženjerstvo i domenu sudjeluju u istom ciklusu učenja. Prosudba o proizvodu i tehnička prosudba ne stapaju se u jednu ulogu, ali moraju biti tješnje povezane. Voditelji proizvoda trebaju dovoljno tehničkog znanja za izradu prototipova i vrednovanje opcija. Inženjeri trebaju dovoljno korisničkog i poslovnog konteksta da oblikuju problem, a ne samo implementiraju unaprijed zadano rješenje.
Inženjerske organizacije tradicionalno su kod smatrale ključnim resursom. Kako generiranje koda postaje lakše, trajna vrijednost sve više leži u njegovu kontekstu: domenskom znanju, razumijevanju korisnika, operativnom iskustvu, vlastitim podacima, skupovima za vrednovanje, strojno čitljivim pravilima i povijesti arhitekturnih odluka koja objašnjava zašto sustavi rade upravo tako.
Baze koda važne su i zato što utjelovljuju teško stečeno znanje o poslovanju i korisnicima. AI mijenja trud potreban za izradu koda, ali ne uklanja trud potreban za stjecanje tog znanja. Organizacije zato trebaju gledati dalje od količine koda i ulagati u resurse čija vrijednost raste: dobro upravljane vlastite podatke, upotrebljive sustave znanja, duboko razumijevanje korisnika i jasne zapise o odlukama.
Za direktore informatike i podataka to znači da informacijska arhitektura i upravljanje podacima postaju ključni za inženjersku uspješnost. AI agenti mogu koristiti samo kontekst kojem smiju pristupiti i koji mogu protumačiti. Rascjepkano znanje, nejasna odgovornost za podatke i nedosljedne dozvole zato postaju inženjerska ograničenja, a ne samo problemi upravljanja informacijama.
Kad kontekst postane dio produkcijskog sustava, ne može ostati pasivna dokumentacija. Postaje funkcionalnost platforme.
Kad kontekst, vrednovanje i upravljanje postanu dio produkcijskog sustava, isporuka AI rješenja ne može se potpuno prepustiti pojedinim timovima. Ne treba je ni toliko centralizirati da timovi izgube doticaj sa stvarnim problemima korisnika.
Federativni model uravnotežuje te potrebe. Autonomni timovi za aplikacije ostaju blizu problema, uz podršku zajedničke platforme i testnog sklopa koji pružaju višekratno upotrebljive alate, kontrolirani pristup kontekstu, obrasce vrednovanja, dozvole i upravljanje. Federativni pristup funkcionira samo uz jasnu odgovornost: timovi za aplikacije odgovaraju za tijek rada i ishod; timovi za testni sklop pružaju zajedničke mogućnosti za siguran rad; a funkcije rizika, sigurnosti i upravljanja zadržavaju neovisan nadzor.
Timovi za aplikacije i domenski stručnjaci trebaju definirati slučajeve za vrednovanje konkretnog zadatka i prag prihvatljivosti. Tim za testni sklop treba osigurati infrastrukturu za vrednovanje, zajedničke kontrole i izvještavanje za dosljednu provedbu tih vrednovanja.
Područje | Tim za aplikacije | Tim za testni sklop | Rizici, sigurnost i upravljanje |
|---|---|---|---|
Proizvod i ishod | Odabire problem, tijek rada, korisničko iskustvo i mjerila uspjeha; odgovara za korisnički i poslovni ishod | Pruža višekratno upotrebljive obrasce, alate i telemetriju | Postavlja ograničenja kad slučaj upotrebe stvara znatan rizik |
Kontekst i pristup | Određuje informacije i radnje potrebne tijeku rada | Osigurava sučelja za kontekst, identitet agenta i dozvole za alate | Odobrava pristup osjetljivim podacima i granice kontrole |
Vrednovanje i objava | Definira kriterije prihvatljivosti, pregledava rezultate | Održava skupove za vrednovanje, revizijske zapisnike i odobrene putove uvođenja | Odobrava visokorizične slučajeve upotrebe, iznimke i znatne promjene |
Financiranje i odgovornost | Financira se radi ishoda aplikacije i odgovara za njega | Financira se kao zajednički resurs i mjeri prema ponovnoj uporabi, pokrivenosti i vremenu do sigurne produkcije | Odgovara za neovisan nadzor i odluke o kontrolama |
Ritam rada i učenje | Iterira s domenskim stručnjacima te pregledava ishode, poništene odluke i incidente | Pretvara spoznaje u nove testove, kontrole i ponovno upotrebljive mogućnosti | Pregledava incidente i promjene na dogovorenim točkama odobrenja |
To mijenja i način na koji čelnici trebaju razmišljati o veličini timova. Manji timovi koji izrađuju više softvera nisu cilj sami po sebi. Cilj je ljudsku prosudbu usmjeriti tamo gdje stvara najviše vrijednosti: blizu problema u timovima za aplikacije te u zajedničke resurse koji tim timovima omogućuju brz rad bez gubitka kontrole.
Kako timovi za aplikacije postaju manji i više se oslanjaju na AI, organizacije trebaju zajedničke resurse za sigurnu, dosljednu isporuku s jasnom odgovornošću.
Tradicionalno platformno inženjerstvo uglavnom je bilo usmjereno na produktivnost razvojnih inženjera, a glavni korisnici bili su ljudi. Platforma bazirana na AI-ju mora podržavati ljude i agente.
Agent ne koristi razvojnu platformu na isti način kao čovjek. Treba strojno dostupne upute i alate, izričite dozvole i pouzdane načine vrednovanja svojeg rada. Testni sklop mora obuhvatiti i nadzor rada, sigurnost, usklađenost s propisima i upravljanje znanjem. Svrha mu je učiniti autonomiju korisnom postavljanjem jasnih, provedivih granica.
Zamislimo banku koja uvodi tijek rada uz AI za upite o osporavanju kartičnih transakcija. Tim za aplikacije kreće s uskim zadatkom: klasificirati predmet, dohvatiti mjerodavna pravila i pripremiti odgovor za djelatnika podrške. Odgovoran je za tijek rada, korisničko iskustvo, pragove eskalacije i mjerila uspjeha. Ne definira regulatorna pravila niti agentu daje nove dozvole.
U tom bi primjeru agenti mogli pomoći u implementaciji, provoditi testove za konkretan zadatak i pripremiti izdanje. Ljudi bi i dalje odobravali puštanje u produkciju, a rezultati iz produkcije usmjeravali bi sljedeći krug vrednovanja i razvoja. Kontrole tijekom izvršavanja ostaju zasebne: agent za korisničku podršku smije koristiti samo odobrene alate i podatke, unutar zadanih dozvola i putova eskalacije.
Kontekst: agent može pristupiti aktualnom predmetu, nužnim podacima o klijentu, odobrenim postupcima za proizvode i pritužbe te strojno čitljivim pravilima eskalacije. Ne može pristupiti izvornim vjerodajnicama za plaćanje ni nepovezanim zapisima o klijentima niti pisati u sustav za upravljanje predmetima.
Vrednovanje: prije objave, skup reprezentativnih povijesnih i stručno označenih rubnih slučajeva mora proći provjere točnosti klasifikacije, poštovanja pravila, primjerenog suzdržavanja, curenja osobnih podataka i eskalacije pritužbi ili financijski osjetljivih predmeta.
Odobrenje: tim za aplikacije odgovoran je za odluku o proizvodu. Timovi za rizike, sigurnost i usklađenost odobravaju pristup podacima, primjenu pravila i put uvođenja. Djelatnik podrške odobrava svaku odlaznu poruku; odluke koje utječu na novac ili prava klijenta ostaju izvan agentove autonomije.
Zapis testnog sklopa: svako izvršavanje bilježi identitet agenta i verziju modela, kontekst i izvore, pozvane alate, provjere pravila, rezultate vrednovanja, ljudske izmjene ili poništenja odluka i incidente. Tim uspjehe pretvara u ponovno upotrebljiva sučelja za kontekst, slučajeve za vrednovanje, predloške dozvola i odobrene putove uvođenja. Neuspjesi i poništene odluke služe za nove testove i poboljšanja tijeka rada.
Primjer pokazuje kako agentu dati prostor za djelovanje, ali samo uz odobreni kontekst i alate, pri čemu svaka važna granica stvara dokaze za pregled i ponovnu upotrebu. Ljudi ostaju odgovorni za važne odluke. Banka s vremenom može koristiti stvarne slučajeve – uspjehe agenta, ljudske intervencije i neuspjehe – za poboljšanje tijeka rada i odluku o proširenju njegova djelokruga. Tako u praksi izgledaju ograničena autonomija i učenje potvrđeno dokazima.
Ta se podjela vidi u sustavima i kontrolama kojima upravlja tim za testni sklop. Timovi za testni sklop mogu biti odgovorni za:
Identitet agenta: dodjelu servisnih identiteta, bilježenje odgovorne strane i okruženja te praćenje verzija modela, upita i alata koje svaki agent koristi.
Dozvole za alate: opseg čitanja i pisanja, granice pristupa podacima, ograničenja broja zahtjeva, točke odobravanja i zadane zabrane radnji agenta.
Sučelja za kontekst: dostupnost odobrenog znanja i podataka putem verzioniranih sučelja koja poštuju dozvole, uz jasno podrijetlo i ažurnost.
Skupove za vrednovanje: održavanje tipičnih primjera, rubnih slučajeva, testova sigurnosti i zaštite, regresijskih testova te pragova za objavu.
Revizijske zapisnike i nadzor rada: bilježenje identiteta agenta, dohvaćenog konteksta, pozvanih alata, rezultata, odobrenja, ljudskih poništenja odluka, neuspjeha i incidenata, uz pohranu i kontrolu pristupa.
Odobrene putove uvođenja: izolirano, paralelno, postupno i produkcijsko uvođenje uz automatske provjere, povrat na prethodno stanje i kontrolu promjena.
Timovi za testni sklop nisu novi naziv za sve postojeće platformne funkcije. Timovi za operacije strojnog učenja, sigurnost, upravljanje i platforme zadržavaju svoje odgovornosti. Tim za testni sklop povezuje te kontrole s načinom na koji timovi za aplikacije grade i izvode tijekove rada s AI-jem: dozvole i odobrenja za pravila, upravljana sučelja za kontekst, testove za vrednovanje te zapisnike za reviziju i ponovnu upotrebu ponašanja agenta.

Ako se inženjerski rad dijeli na isporuku aplikacija i zajedničku podršku, tome treba prilagoditi kadrovsku politiku, vodstvo i mjerenje.
Timovi za aplikacije trebaju prosudbu o proizvodu, tehnologiji i domeni temeljenu na poznavanju problema. Timovi za platforme i testni sklop trebaju stručnjake za razvoj zajedničkog okruženja za rad ljudi i agenata u velikom opsegu.
Za direktore tehnologije, podataka i informatike izazov je odlučiti što omogućiti centralno, a što prepustiti pojedinim timovima.
Timovima za aplikacije treba sloboda za brz rad i blizak odnos s korisnicima. Ne bi trebali iznova graditi mogućnosti poput sigurnog pristupa podacima, nadzora rada, vrednovanja i upravljanja.
U organizaciji utemeljenoj na AI-ju tehnološki čelnici dio pozornosti moraju preusmjeriti s upravljanja kapacitetom isporuke na oblikovanje sustava isporuke. To uključuje:
zapošljavanje i razvoj za bolju prosudbu i kvalitetnije odluke;
ulaganje u zajedničke AI platforme, vrednovanja, zaštitne mehanizme, odobrene putove, tokove znanja i načine pristupa;
definiranje granica rada agenata, ljudi i kombiniranih tijekova rada;
mjerenje potvrđenog učenja, pouzdanosti, učinka na korisnike i sigurne uporabe; te
dovoljno dobro praćenje tehnologije da razumiju gdje AI doista mijenja ekonomiku isporuke.
Dobro osmišljen sustav olakšava pristup relevantnom kontekstu, testiranje rada koji je stvorio AI, ponovnu upotrebu provjerenih obrazaca i prepoznavanje potrebe za ljudskim odobrenjem.
Mnoga inženjerska mjerila nastala su dok je izrada softvera bila ključno ograničenje. Brzina rada, bodovi korisničkih priča, propusnost i učestalost uvođenja i dalje su korisni operativni pokazatelji, ali sami govore sve manje kako AI smanjuje trud potreban za izradu softvera.
Tim može stvarati više koda i provoditi više eksperimenata, a ipak donositi loše odluke, nepotrebno komplicirati sustav ili povećavati rizik.
Tehnološki čelnici zato moraju gledati dalje od količine izrađenog softvera i raširenosti AI alata. Moraju razumjeti pomaže li AI organizaciji brže učiti, poboljšavati ishode za korisnike i pouzdano raditi unutar dogovorenih granica.
Korisna mjerila za timove za aplikacije mogu biti:
vrijeme do potvrde spoznaja;
poboljšanje ishoda za korisnike;
ostvarena poslovna korist;
prihvaćanje i promjena ponašanja; te
udio eksperimenata koji dovode do potkrijepljenih odluka.
Vrijeme do spoznaja potvrđenih dokazima treba obuhvatiti cijelo razdoblje od početka eksperimenta do prikupljanja dovoljno dokaza za odluku. Tim koji počne u ponedjeljak, uvede rješenje u srijedu i donese potkrijepljenu odluku u petak ima tjedni ciklus učenja, a ne dvodnevni ciklus isporuke.
Korisna mjerila za timove za platforme i testni sklop mogu biti:
opet rabiti odobrene AI obrasce;
pokrivenost i učinkovitost vrednovanja;
incidenti i dorade vezani uz AI;
put od ideje do sigurne produkcije;
mogućnost nadzora radnji agenta; te
revizijska i zakonska spremnost.
Svako povezano mjerilo troška treba uključiti upotrebu modela, ljudski pregled, neuspjele pokušaje, dorade i operativnu podršku za svaki uspješan ishod.
Ta mjerila i dalje traže jasne definicije, polazne vrijednosti i metode vrednovanja. Cilj nije zamijeniti jedan univerzalni skup pokazatelja drugim, nego mjeriti daje li sustav isporuke pouzdane ishode.
Model aplikacija i testnog sklopa jedan je odgovor na današnju fazu inženjerstva utemeljenog na AI-ju. Ne treba ga smatrati trajnim konačnim stanjem.
Više bi promjena moglo opet preoblikovati osnovnu jedinicu inženjerskog rada:
agenti preuzimaju odgovornost za cijele tijekove rada;
dio softvera postaje privremen, umjesto da se održava godinama;
korisnici prelaze s aplikacijskih sučelja na iskustva koja vode agenti;
temeljni modeli preuzimaju više platformnih mogućnosti; te
propisi pretvaraju mogućnost revizije i odgovornost u glavno inženjersko ograničenje.
To su mogućnosti, a ne izvjesni ishodi. Ako se ostvare, čak se i podjela na timove za aplikacije i platforme može pokazati preuskom.
Najspremnije organizacije svoj će operativni model smatrati prilagodljivim. Organizirat će se prema jasnim načelima, kvalitetnom kontekstu, ograničenoj autonomiji i brzom učenju, a ne fiksnim strukturama timova ili izboru alata.
AI ne umanjuje važnost inženjerskih sustava. Povećava vrijednost njihova dobrog oblikovanja.
Kako izrada softvera pojeftinjuje, prednost stječu organizacije koje bolje odlučuju, nadograđuju koristan kontekst i rade sigurno. Inženjerska praksa utemeljena na AI-ju ne svodi se na upotrebu AI alata. Preoblikuje se prema novim ograničenjima: kvaliteti odluka, zajedničkom kontekstu, ograničenoj autonomiji i brzom učenju.
Tehnološki čelnici mogu početi jasnim odgovorima na četiri pitanja:
Koje odluke o korisnicima i proizvodu moraju ostati blizu timova za aplikacije?
Koji kontekst, kontrole i mogućnosti vrednovanja trebaju biti zajednički?
Gdje agenti mogu djelovati samostalno, a gdje trebaju ljudsko odobrenje?
Koja mjerila dokazuju potvrđeno učenje, vrijednost za korisnika i siguran rad?
Odgovori na ta pitanja više će odrediti vrijednost uvođenja AI-ja nego broj asistenata koje organizacija uvede.
