Kako AI smanjuje troškove izrade softvera, konkurentska prednost zahtijeva promjenu operativnog modela. Organizacije koje preoblikuju rad timova, umjesto da samo uvode AI asistente, imaju više izgleda za trajna poboljšanja.
Inženjerstvo zasnovano na AI-ju traži dva komplementarna kapaciteta: timove za aplikacije bliske korisnicima i problemima te timove za platforme ili „harness“ koji osiguravaju zajednički kontekst, zaštitne mjere, evaluacije i upravljanje za siguran rad ljudi i AI agenata u velikom obimu.
Tehnološko rukovođenje prelazi s upravljanja kapacitetima isporuke na projektovanje sistema isporuke. Rukovodioci trebaju jasno odlučiti: za šta odgovaraju timovi za aplikacije, koji kontekst i kontrole dijele, gdje agentima treba ljudsko odobrenje i kako mjeriti učenje potvrđeno dokazima i vrijednost za korisnike.
Velik dio savremene inženjerske prakse nastao je u svijetu u kojem je izrada softvera bila skupa. Ključno organizacijsko pitanje bilo je: kako više timova može predvidljivije isporučivati više softvera? Ta je pretpostavka oblikovala strukturu timova, finansiranje platformi i mjerenje isporuke. Rast je često značio zapošljavanje, a uspjeh se obično izražavao količinom posla obavljenog kroz sistem.
AI mijenja tu pretpostavku. Smatramo da inženjerstvo zasnovano na AI-ju nije tradicionalno inženjerstvo s boljim alatima. Ono traži drugačiji operativni model: manje timove za aplikacije, bliske problemima korisnika, uz podršku timova za platforme ili „harness“. Pojmom „harness“ označavamo kontrolisano radno okruženje koje ljudima i agentima daje kontekst, alate, dozvole, povratne informacije i granice za sigurnu upotrebu AI-ja u velikom obimu.
Za rukovodioce tehnologije i podataka to je važno jer veća individualna produktivnost sama ne osigurava sigurno usvajanje u cijeloj organizaciji. Bez promišljenog operativnog modela timovi rizikuju nepovezane alate, duplirane obrasce, nejasnu odgovornost, nekontrolisano izlaganje podataka i neujednačen kvalitet.
Pitanje koje preduzeća sebi postavljaju treba promijeniti iz „Kako pomoći inženjerima da koriste AI?“ u „Kako preoblikovati inženjerski sistem da ljudi i agenti sigurno stvaraju vrijednost na nivou cijelog preduzeća?“
AI omogućava inženjerima da istraže više ideja, brže izrađuju prototipe i testiraju više pristupa. Veći obim rada, međutim, ne stvara automatski veću vrijednost. Bez dobrog prosuđivanja, relevantnog konteksta i djelotvorne evaluacije, obim rada može rasti brže nego sposobnost organizacije da odluči čemu vjerovati, šta uvesti i iz čega učiti.
AI može sniziti troškove generisanja koda i provođenja eksperimenata. Hoće li sniziti ukupne troškove softvera zavisi od rada i dalje potrebnog za pregled, integraciju, rad, održavanje i dorade.
Očekujemo da će inženjerska prednost sve više zavisiti od četiri sposobnosti:
Odlučivanja šta graditi, kako to graditi i kako bilježiti te izbore
Uzemljenja rada ljudi i AI sistema u odgovarajućem organizacijskom znanju
Sigurnog povećavanja obima rada uz zajedničke platforme, kontrole i evaluaciju
Projektovanja arhitektura koje prihvataju nove alate i komponente bez stalnih poremećaja.
Oskudna sposobnost zato više nije sama proizvodnja, već povećanje njene koristi: odabir pravog posla, oslanjanje na kontekst, provjera djelotvornosti i prepoznavanje onoga što ne treba isporučiti.
Kako eksperimentisanje pojeftinjuje, i zapisi o odlukama postaju vredniji. Organizacije moraju znati šta je pokušano, šta nije uspjelo, šta je naučeno i zašto je izabran jedan put umjesto drugog.
Inženjerski sistemi trebaju težiti brzoj provjeri, sigurnim iteracijama i dokumentovanom učenju, a ne samo brzini isporuke. To mijenja i ulogu inženjera i tim oko njega.
Za inženjere to nije toliko odmak od izrade koliko pomak ka oblikovanju, evaluaciji i koordinaciji onoga što se izrađuje.
Softver koji generiše AI ne uklanja potrebu za inženjerima. Povećava važnost ljudi koji razumiju ograničenja sistema, definišu interfejse, osmišljavaju evaluacije i koordiniraju rad ljudi i agenata. Inženjeri koji spajaju duboko tehničko znanje, dobro prosuđivanje, razumijevanje proizvoda i vještine evaluacije često će stvarati više vrijednosti od onih usmjerenih samo na pojedinačne komponente.
Ranije su timovi za proizvod odlučivali šta graditi, a inženjerski timovi kako to izgraditi. Danas mnoge organizacije povezuju timove za proizvod, dizajn i inženjerstvo. AI donosi promjenu unutar tog tima: jeftiniji prototipi omogućavaju da ideje prođu od definisanja problema do implementacije i evaluacije u istom ciklusu. Timovi mogu testirati više opcija, ranije odbaciti slabe ideje i potvrđene ideje dovesti dalje prema produkciji.
To pogoduje malim, multidisciplinarnim timovima u kojima stručnjaci za proizvod, dizajn, inženjerstvo i domenu rade u istom ciklusu učenja. Prosuđivanje o proizvodu i tehnologiji ne spaja se u jednu ulogu, ali te uloge moraju biti bliže. Rukovodiocima proizvoda treba dovoljno tehničkog znanja za izradu prototipa i evaluaciju opcija. Inženjerima treba dovoljno znanja o korisnicima i poslovanju da oblikuju problem, a ne samo provedu unaprijed zadato rješenje.
Inženjerske organizacije tradicionalno su smatrale kod glavnim resursom. Kako kod postaje lakše generisati, trajna vrijednost sve više leži u kontekstu iza njega: domenskom znanju, razumijevanju korisnika, operativnom iskustvu, vlastitim podacima, evaluacijskim skupovima, mašinski čitljivim pravilima i historiji arhitektonskih odluka koja objašnjava rad sistema.
Baze koda važne su dijelom zato što sadrže teško stečeno znanje o poslovanju i korisnicima. AI mijenja trud potreban za izradu koda, ali ne uklanja trud potreban za sticanje tog znanja. Organizacije zato trebaju gledati dalje od količine koda i ulagati u resurse čija vrijednost raste: dobro upravljane vlastite podatke, upotrebljive sisteme znanja, duboko razumijevanje korisnika i jasne zapise o odlukama.
Za direktore informatike i podataka to stavlja informacijsku arhitekturu i upravljanje podacima u središte inženjerske uspješnosti. AI agenti mogu koristiti samo kontekst kojem smiju pristupiti i koji mogu protumačiti. Rascjepkano znanje, nejasno vlasništvo nad podacima i nedosljedne dozvole tako postaju inženjerska ograničenja, a ne samo problemi upravljanja informacijama.
Kada kontekst postane dio produkcijskog sistema, ne može ostati pasivna dokumentacija. Postaje funkcija platforme.
Isporuka AI rješenja ne može se potpuno prepustiti pojedinačnim timovima kada kontekst, evaluacija i upravljanje postanu dio produkcijskog sistema. Ne treba je ni toliko centralizovati da timovi izgube dodir sa stvarnim problemima korisnika.
Federativni model uravnotežuje te potrebe. Samostalni timovi za aplikacije ostaju blizu problema, uz zajedničku podršku platforme i harnessa: višekratno upotrebljive alate, kontrolisan pristup kontekstu, evaluacijske obrasce, dozvole i upravljanje. Federativni pristup djeluje samo uz jasne odgovornosti: timovi za aplikacije odgovaraju za tok rada i ishod; timovi za harness daju zajedničku podršku za siguran rad; timovi za rizik, sigurnost i upravljanje zadržavaju nezavisan nadzor.
Timovi za aplikacije i domenski stručnjaci trebaju definisati evaluacijske slučajeve za konkretne zadatke i prag prihvatljivosti. Tim za harness treba osigurati infrastrukturu za evaluaciju, zajedničke kontrole i izvještavanje radi dosljednog provođenja evaluacija.
Oblast | Tim za aplikacije | Tim za harness | Rizik, sigurnost i upravljanje |
|---|---|---|---|
Proizvod i ishod | Bira problem, tok rada, korisničko iskustvo i mjerila uspjeha; odgovara za korisničke i poslovne ishode | Pruža višekratno upotrebljive obrasce, alate i telemetriju | Postavlja ograničenja kada primjena stvara značajan rizik |
Kontekst i pristup | Određuje informacije i radnje potrebne toku rada | Osigurava interfejse za kontekst, identitet agenta i dozvole za alate | Odobrava pristup osjetljivim podacima i granice kontrole |
Evaluacija i objava | Definiše kriterije prihvatljivosti i pregleda rezultate | Održava evaluacijske skupove, revizijske zapise i odobrene načine uvođenja | Odobrava visokorizične primjene, izuzetke i značajne promjene |
Finansiranje i odgovornost | Dobija sredstva i odgovara za ishod aplikacije | Finansira se kao zajednički kapacitet, uz mjerenje ponovne upotrebe, obuhvata i vremena do sigurne produkcije | Odgovara za nezavisan nadzor i odluke o kontrolama |
Ritam rada i učenje | Iterativno radi s domenskim stručnjacima i razmatra ishode, poništene odluke i incidente | Pretvara saznanja u nove testove, kontrole i višekratno upotrebljiva rješenja | Razmatra incidente i promjene na dogovorenim tačkama odobravanja |
To mijenja i način na koji rukovodioci trebaju razmišljati o veličini timova. Manji timovi koji proizvode više softvera nisu cilj sami po sebi. Cilj je usmjeriti ljudsko prosuđivanje tamo gdje stvara najviše vrijednosti: blizu problema u timovima za aplikacije i u zajedničke kapacitete koji tim timovima omogućavaju brz rad bez gubitka kontrole.
Kako timovi za aplikacije postaju manji i više koriste AI, organizacijama trebaju snažniji zajednički kapaciteti za sigurnu, dosljednu isporuku s jasnom odgovornošću.
Razvoj platformi dosad je uglavnom bio usmjeren na produktivnost programera, s ljudima kao glavnim korisnicima. Platforma zasnovana na AI-ju mora podržavati i ljude i agente.
Agent ne koristi razvojnu platformu na isti način kao čovjek. Trebaju mu mašinski dostupne upute i alati, izričite dozvole i pouzdana evaluacija rada. Harness mora obuhvatiti i nadzor rada, sigurnost, usklađenost s propisima i upravljanje znanjem. Svrha mu je učiniti autonomiju korisnom, uz jasne granice koje se mogu provoditi.
Zamislimo banku koja uvodi tok rada uz AI za upite o spornim kartičnim transakcijama. Tim za aplikacije počinje uskim zadatkom: klasificirati predmet, pronaći mjerodavna pravila i pripremiti odgovor za zaposlenika podrške. Odgovara za tok rada, korisničko iskustvo, pragove eskalacije i mjerila uspjeha. Ne utvrđuje regulatorna pravila niti agentu daje nove dozvole.
U ovom primjeru agenti bi mogli pomoći u implementaciji, provoditi namjenske testove i pripremiti izdanje. Ljudi bi i dalje odobravali puštanje u produkciju, a rezultati bi usmjeravali naredni krug evaluacije i razvoja. Kontrole tokom rada ostaju zasebne: agent korisničke podrške smije koristiti samo odobrene alate i podatke, uz zadate dozvole i puteve eskalacije.
Kontekst: Agent ima pristup tekućem predmetu, nužnim podacima o klijentu, odobrenim procedurama za proizvode i prigovore te mašinski čitljivim pravilima eskalacije. Nema pristup izvornim platnim vjerodajnicama ni nepovezanim zapisima o klijentima i ne može pisati u sistem za upravljanje predmetima.
Evaluacija: Prije objave, skup testova iz reprezentativnih ranijih predmeta i rubnih slučajeva koje su označili stručnjaci mora potvrditi tačnu klasifikaciju, poštivanje pravila, primjereno suzdržavanje od odgovora, zaštitu ličnih podataka te eskalaciju prigovora i finansijski osjetljivih predmeta.
Odobrenje: Tim za aplikacije odgovara za odluku o proizvodu. Timovi za rizik, sigurnost i usklađenost odobravaju pristup podacima, povezivanje s pravilima i način uvođenja. Zaposlenik podrške odobrava svaku izlaznu poruku; odluke koje utiču na novac ili prava klijenta ostaju izvan autonomije agenta.
Zapis harnessa: za svako izvršavanje bilježe se identitet agenta, verzija modela, kontekst i izvori, pozvani alati, provjere pravila, rezultati procjene, ljudske izmjene ili poništavanja odluka te incidenti. Uspješna rješenja tim pretvara u višekratno upotrebljive interfejse za kontekst, evaluacije, šablone dozvola i odobrene načine uvođenja. Neuspjesi i poništavanja odluka postaju osnova za nove testove i poboljšanja.
Agent tako dobija prostor za djelovanje, ali samo uz odobreni kontekst i alate. Svaka važna granica daje dokaze koji se mogu pregledati i ponovo koristiti. Ljudi ostaju odgovorni za važne odluke. S vremenom banka može iz stvarnih predmeta — uspjeha agenta, ljudskih intervencija i neuspjeha — unaprijediti tok rada i odlučiti hoće li proširiti njegov djelokrug. Tako u praksi izgledaju ograničena autonomija i učenje potvrđeno dokazima.
Ta se podjela odražava u sistemima i kontrolama kojima upravlja tim za harness. Timovi za harness mogu biti odgovorni za:
Identitet agenta: dodjelu servisnih identiteta, evidenciju vlasništva i okruženja te praćenje verzija modela, upita i alata koje svaki agent koristi.
Dozvole za alate: opseg čitanja i pisanja, granice pristupa podacima, ograničenja učestalosti, tačke odobravanja i zadanu zabranu radnji agenta.
Interfejse za kontekst: pristup odobrenom znanju i podacima kroz verzionirane interfejse koji poštuju dozvole, uz jasno porijeklo i ažurnost podataka
Evaluacijske skupove: održavanje reprezentativnih primjera, rubnih slučajeva, testova sigurnosti i zaštite te regresije, kao i pragova za objavu
Revizijske zapise i nadzor: bilježenje identiteta agenta, konteksta, pozvanih alata, izlaza, odobrenja, ljudskih poništavanja odluka, grešaka i incidenata, uz odgovarajuće čuvanje i kontrolu pristupa.
Odobrene načine uvođenja: izolirano, paralelno probno, fazno i produkciono uvođenje, uz automatske provjere, povratak na staro stanje i kontrolu izmjena
Timovi za harness nisu novi naziv za sve postojeće funkcije platforme. Timovi za operacije mašinskog učenja, sigurnost, upravljanje i platforme zadržavaju svoje odgovornosti. Tim za harness povezuje te kontrole s razvojem i radom AI tokova: dozvole i odobrenja za pravila, kontrolisane interfejse za kontekst, testove za evaluaciju i zapise za reviziju ponašanja agenata i ponovnu upotrebu.

Ako se inženjerski rad dijeli na isporuku aplikacija i zajedničku podršku, moraju se prilagoditi i kadrovi, rukovođenje i mjerenje.
Timovima za aplikacije treba rasuđivanje o proizvodu, tehnologiji i domeni na osnovu poznavanja problema. Timovima za platforme i harness trebaju ljudi koji mogu osmisliti i voditi zajedničko okruženje za rad velikog broja ljudi i agenata
Za direktore tehnologije, podataka i informatike izazov je odlučiti šta omogućiti centralno, a šta prepustiti pojedinačnim timovima.
Timovima za aplikacije treba sloboda da rade brzo i ostanu blizu korisnika. Ne bi trebali iznova graditi siguran pristup podacima, nadzor, evaluaciju i upravljanje.
U organizaciji zasnovanoj na AI-ju tehnološki rukovodioci dio pažnje moraju preusmjeriti s kapaciteta isporuke na projektovanje sistema isporuke. To uključuje:
zapošljavanje i razvoj radi dobrog rezonovanja i kvalitetnih odluka;
ulaganje u zajedničke AI platforme, evaluacije, zaštitne mjere, odobrene postupke, tokove znanja i obrasce pristupa;
definisanje granica djelovanja agenata, ljudi i kombinovanih tokova rada;
mjerenje validiranog učenja, pouzdanosti, uticaja na korisnike i sigurne upotrebe;
dovoljno poznavanje tehnologije da se razumije gdje AI zaista mijenja ekonomiku isporuke.
Dobro osmišljen sistem olakšava pristup pravom kontekstu, testiranje rada AI-ja, ponovnu upotrebu provjerenih obrazaca i prepoznavanje potrebe za ljudskim odobrenjem.
Mnoga inženjerska mjerila nastala su kada je izrada softvera bila ključno ograničenje. Brzina rada, bodovi korisničkih priča, protok i učestalost uvođenja i dalje daju korisne operativne signale, ali sami govore manje kako AI smanjuje trud potreban za izradu softvera.
Tim može stvarati više koda i provoditi više eksperimenata, a ipak donositi loše odluke, nepotrebno usložnjavati sistem ili povećavati rizik.
Tehnološki rukovodioci zato moraju pitati više od toga koliko se softvera proizvodi ili koliko se koriste AI alati. Moraju znati pomaže li AI organizaciji da brže uči, poboljšava ishode za korisnike i pouzdano radi unutar dogovorenih granica.
Korisna mjerila za timove za aplikacije mogu biti:
vrijeme do validnog saznanja
poboljšanje ishoda za korisnike;
ostvarena posl vrijednost;
usvajanje i promjena ponašanja; te
udio eksperimenata koji vode odlukama potkrijepljenim dokazima
Vrijeme do potvrđenih saznanja treba obuhvatiti cijeli period od početka eksperimenta do prikupljanja dovoljno dokaza za odluku. Tim koji počne u ponedjeljak, uvede rješenje u srijedu i donese potkrijepljenu odluku u petak ima sedmični ciklus učenja, a ne dvodnevni ciklus isporuke.
Korisna mjerila za timove za platforme i harness mogu biti:
upotreba odobrenih AI obrazaca;
obuhvat i djelotvornost evaluacije;
incidenti i dorade povezani s AI;
vrijeme od ideje do dobre produkcije
mogućnost praćenja radnji agenta; te
spremnost za reviziju i provjeru.
Mjerenje troškova treba obuhvatiti korištenje modela, ljudski pregled, neuspjele pokušaje, dorade i operativnu podršku po uspješnom ishodu.
I ova mjerila zahtijevaju jasne definicije, polazne vrijednosti i metode evaluacije. Cilj nije zamijeniti jednu univerzalnu tablicu pokazatelja drugom, već mjeriti daje li sistem isporuke pouzdane ishode.
Model aplikacija i harnessa jedan je odgovor na sadašnju fazu inženjerstva zasnovanog na AI-ju. Ne treba ga smatrati trajnim konačnim stanjem.
Više promjena moglo bi ponovo promijeniti osnovnu jedinicu inženjerskog rada:
agenti preuzimaju odgovornost za cijele tokove rada;
dio softvera postaje privremen umjesto da se godinama održava;
korisnici prelaze s aplikacijskih interfejsa na iskustva koja vode agenti;
temeljni modeli preuzimaju više funkcija platforme; te
propisi čine mogućnost revizije i odgovornost glavnim inženjerskim ograničenjem.
To su mogućnosti, a ne izvjesni ishodi. Ako se ostvare, čak bi i podjela na timove za aplikacije i platforme mogla postati preuska.
Najspremnije organizacije za tu neizvjesnost svoj će operativni model smatrati prilagodljivim. Organizovat će se oko jasnih načela, kvalitetnog konteksta, ograničene autonomije i brzog učenja, a ne fiksnih timskih struktura ili izbora alata.
AI ne umanjuje važnost inženjerskih sistema. Povećava vrijednost njihovog dobrog projektovanja.
Kako izrada softvera pojeftinjuje, prednost stiču organizacije koje bolje odlučuju, nadograđuju koristan kontekst i rade sigurno. Inženjerska praksa zasnovana na AI-ju ne svodi se na korištenje AI alata. Ona se preoblikuje prema novim ograničenjima: kvalitetu odluka, zajedničkom kontekstu, ograničenoj autonomiji i brzom učenju.
Tehnološki rukovodioci mogu početi jasnim odgovorima na 4 pitanja:
Koje odluke o korisnicima i proizvodu moraju ostati blizu timova za aplikacije?
Koji kontekst, kontrole i evaluacijske kapacitete treba dijeliti?
Gdje agenti mogu djelovati samostalno, a gdje je potrebno ljudsko odobrenje?
Koja mjerila dokazuju potvrđeno učenje, vrijednost za korisnike i siguran rad?
Odgovori će više odrediti vrijednost usvajanja AI-ja nego broj asistenata koje organizacija uvede.
