Hlavná navigácia

Model fungovania vývoja s AI v jadre

Tvorba softvéru je čoraz lacnejšia. Výhodu tak získavajú organizácie, ktoré dokážu lepšie rozhodovať a bezpečne overovať výsledky.

Kľúčové zistenia

  • Keďže AI zlacňuje tvorbu softvéru, získanie konkurenčnej výhody si vyžaduje zmenu modelu fungovania. Trvalé zlepšenia skôr dosiahnu organizácie, ktoré zmenia prácu tímov, než tie, ktoré len nasadia AI asistentov.

  • Vývoj s AI v jadre potrebuje dve dopĺňajúce sa kapacity: aplikačné tímy blízke zákazníkom a problémom a platformové tímy či tímy „harnessu“, ktoré poskytujú spoločný kontext, ochranné pravidlá, hodnotenie a riadenie na bezpečné fungovanie ľudí a AI agentov vo veľkom rozsahu.

  • Technologické vedenie sa presúva od riadenia kapacít k návrhu systému dodávania softvéru. Lídri majú jasne určiť štyri veci: zodpovednosti aplikačných tímov, spoločný kontext a kontroly, kde agenti potrebujú ľudské schválenie a ako merať overené poznatky a hodnotu pre zákazníka.

Starý model považoval implementačnú kapacitu za hlavné obmedzenie

Veľká časť modernej vývojovej praxe vznikla vo svete, kde bola tvorba softvéru drahá. Ústredná otázka znela: ako môže viac tímov dodávať viac softvéru predvídateľnejšie? Tento predpoklad formoval štruktúru tímov, financovanie platforiem a meranie dodávok. Rast často znamenal prijímanie ľudí a úspech sa bežne meral množstvom práce, ktoré prešlo systémom.

AI tento predpoklad mení. Podľa nás vývoj s AI v jadre nie je tradičný vývoj s lepšími nástrojmi. Vyžaduje si iný model fungovania: menšie aplikačné tímy blízke problémom zákazníkov, podporované platformovými tímami či tímami „harnessu“. Pojmom „harness“ označujeme riadené prevádzkové prostredie, ktoré ľuďom a agentom poskytuje kontext, nástroje, oprávnenia, spätnú väzbu a hranice na bezpečné využívanie AI vo veľkom rozsahu.

Pre technologických a dátových lídrov je to dôležité: samotná vyššia produktivita jednotlivcov nezabezpečí bezpečné zavedenie AI v celej organizácii. Bez premysleného modelu fungovania hrozia roztrieštené nástroje, duplicitné vzory, nejasná zodpovednosť, nekontrolované sprístupňovanie údajov a kolísavá kvalita.

Podniky musia zmeniť otázku „Ako pomôžeme vývojárom používať AI?“ na „Ako zmeníme vývojový systém, aby ľudia a agenti mohli bezpečne vytvárať hodnotu v celom podniku?“

S lacnejšou tvorbou rastie význam rozhodnutí

AI umožňuje vývojárom skúmať viac nápadov, rýchlejšie prototypovať a testovať viac prístupov. Viac výstupov však automaticky neznamená viac hodnoty. Bez dobrého úsudku, relevantného kontextu a účinného hodnotenia môže objem práce rásť rýchlejšie než schopnosť organizácie rozhodnúť, čomu veriť, čo nasadiť a z čoho sa poučiť.

AI môže znížiť náklady na generovanie kódu a experimenty. Či zníži celkové náklady na softvér, závisí od práce potrebnej na jeho kontrolu, integráciu, prevádzku, údržbu a prepracovanie.

Očakávame, že výhoda vo vývoji bude čoraz viac závisieť od štyroch schopností:

  • Rozhodnúť, čo a ako vytvoriť a ako tieto voľby zaznamenať.

  • Poskytnúť ľuďom a AI systémom oporu v správnych znalostiach organizácie.

  • Bezpečne sa rozširovať pomocou spoločných platforiem, kontrol a hodnotenia.

  • Navrhovať architektúry, ktoré prijmú nové nástroje a komponenty bez opakovaného narúšania prevádzky.

Vzácnou schopnosťou už nie je tvorba výstupov, ale zvyšovanie ich prínosu: vybrať správnu prácu, zasadiť ju do kontextu, overiť funkčnosť a vedieť, čo nedodať.

S lacnejšími experimentmi rastie aj hodnota záznamov o rozhodnutiach. Organizácie musia vedieť, čo vyskúšali, čo zlyhalo, čo sa naučili a prečo zvolili jednu cestu namiesto druhej.

Vývojové systémy majú podporovať rýchle overovanie, bezpečné iterácie a zdokumentované poznatky, nielen rýchlosť dodávania. To mení úlohu vývojára aj tím okolo neho.

Vývojári koordinujú väčšiu časť systému

Pre vývojárov nejde ani tak o odklon od tvorby, ako o posun k formovaniu, hodnoteniu a koordinácii toho, čo vzniká.

Softvér generovaný AI neruší potrebu vývojárov. Zvyšuje význam ľudí, ktorí rozumejú obmedzeniam systémov, definujú rozhrania, navrhujú hodnotenia a koordinujú prácu ľudí a agentov. Vývojári spájajúci hlboké technické znalosti s úsudkom, porozumením produktu a hodnotiacimi zručnosťami často vytvoria viac hodnoty než tí, ktorí len implementujú jednotlivé komponenty.

AI posilňuje cyklus učenia medzi produktom a vývojom

Kedysi produktové tímy rozhodovali, čo vytvoriť, a vývojové tímy určovali, ako na to. Dnes mnohé organizácie spájajú produkt, dizajn a vývoj. AI mení dianie vnútri tímu: lacnejšie prototypy umožňujú prejsť od vymedzenia problému k implementácii a hodnoteniu nápadu v jednom cykle. Tímy môžu testovať viac možností, skôr vyradiť slabé nápady a overené posunúť ďalej do produkcie.

To zvýhodňuje malé medziodborové tímy, v ktorých produktoví, dizajnoví, vývojoví a doménoví odborníci fungujú v jednom cykle učenia. Produktový a technický úsudok sa nezlievajú do jednej roly, no musia sa viac prepojiť. Produktoví lídri potrebujú dosť technických znalostí na prototypovanie a hodnotenie možností. Vývojári potrebujú dostatok zákazníckeho a obchodného kontextu, aby pomáhali vymedziť problém, nielen realizovať vopred určené riešenie.

Kontext organizácie sa stáva strategickým aktívom

Vývojové organizácie tradične považovali kód za hlavné aktívum. Keď je generovanie kódu jednoduchšie, trvalá hodnota spočíva čoraz viac v jeho kontexte: odborných znalostiach, porozumení zákazníkom, prevádzkových skúsenostiach, vlastných údajoch, hodnotiacich dátach, strojovo čitateľných pravidlách a histórii architektonických rozhodnutí vysvetľujúcej fungovanie systémov.

Kódové základne sú dôležité aj preto, že stelesňujú ťažko získané znalosti o podnikaní a zákazníkoch. AI mení náročnosť tvorby kódu, nie však úsilie potrebné na získanie týchto znalostí. Organizácie by mali hľadieť za objem kódu a investovať do aktív s rastúcou hodnotou: dobre spravovaných vlastných údajov, použiteľných znalostných systémov, hlbokého porozumenia zákazníkom a jasných záznamov o rozhodnutiach.

Pre CIO a CDO sa tak informačná architektúra a riadenie údajov stávajú kľúčom k výkonnosti vývoja. AI agenti môžu využiť len kontext, ku ktorému majú povolený prístup a ktorému dokážu porozumieť. Roztrieštené znalosti, nejasné vlastníctvo údajov a nejednotné oprávnenia tak obmedzujú vývoj, nielen správu informácií.

Keď sa kontext stane súčasťou produkčného systému, nemôže zostať pasívnou dokumentáciou. Stáva sa funkciou platformy.

Združené dodávanie AI: miestne tímy, spoločné pravidlá

Keď sú kontext, hodnotenie a riadenie súčasťou produkčného systému, dodávanie AI nemožno nechať len na jednotlivé tímy. Nemalo by však byť ani natoľko centralizované, aby tímy stratili kontakt so skutočnými problémami zákazníkov.

Federatívny model tieto potreby vyvažuje. Autonómne aplikačné tímy zostávajú blízko problému. Spoločná platforma a harness im poskytujú opakovane použiteľné nástroje, riadený prístup ku kontextu, hodnotiace vzory, oprávnenia a riadenie. Federatívne usporiadanie funguje len s jasnou zodpovednosťou: aplikačné tímy zodpovedajú za postup a výsledok, tímy harnessu poskytujú spoločné kapacity na bezpečnú prácu a útvary rizík, bezpečnosti a riadenia si zachovávajú nezávislý dohľad.

Aplikačné tímy a doménoví odborníci majú definovať hodnotiace prípady pre danú úlohu a prah prijateľnosti. Tím harnessu má poskytnúť hodnotiacu infraštruktúru, spoločné kontroly a vykazovanie na konzistentné vykonávanie hodnotení.

Oblasť

Aplikačný tím

Tím harnessu

Riziká, bezpečnosť a riadenie

Produkt a výsledok

Vyberá problém, postup, používateľský zážitok a ukazovatele úspechu; zodpovedá za výsledky pre zákazníkov aj podnik

Poskytuje opakovane použiteľné vzory, nástroje a telemetriu

Určuje obmedzenia tam, kde prípad použitia prináša významné riziko

Kontext a prístup

Určuje informácie a akcie potrebné pre pracovný postup

Poskytuje rozhrania kontextu, identitu agentov a oprávnenia nástrojov

Schvaľuje prístup k citlivým údajom a hranice kontrol

Hodnotenie a vydanie

Definuje kritériá prijatia a kontroluje výsledky

Udržiava hodnotiace sady, auditné záznamy a schválené postupy nasadenia

Schvaľuje vysoko rizikové prípady použitia, výnimky a zásadné zmeny

Financovanie a zodpovednosť

Dostáva financovanie na výsledok aplikácie a zodpovedá zaň

Financuje sa ako spoločná kapacita a hodnotí podľa opätovného využitia, pokrytia a času po bezpečnú produkciu

Zodpovedá za nezávislý dohľad a rozhodnutia o kontrolách

Rytmus práce a učenie

Pracuje v iteráciách s doménovými odborníkmi a vyhodnocuje výsledky, zásahy a incidenty

Premieňa poznatky na nové testy, kontroly a opakovane použiteľné kapacity

Preskúmava incidenty a zmeny v dohodnutých schvaľovacích bodoch

Mení sa aj to, ako by lídri mali uvažovať o veľkosti tímov. Menšie tímy produkujúce viac softvéru nie sú cieľom samy osebe. Cieľom je uplatniť ľudský úsudok tam, kde tvorí najväčšiu hodnotu: blízko problému v aplikačných tímoch a v spoločných kapacitách, ktoré tímom umožňujú postupovať rýchlo bez straty kontroly.

Platforma sa stáva harnessom pre ľudí aj agentov

Aplikačné tímy sa zmenšujú a viac využívajú AI, preto organizácie potrebujú silnejšie spoločné kapacity na bezpečné, konzistentné a zodpovedné dodávanie softvéru.

Platformové inžinierstvo sa tradične sústredilo najmä na produktivitu vývojárov, pričom hlavnými používateľmi boli ľudia. Platforma s AI v jadre musí podporovať ľudí aj agentov.

Agent využíva vývojársku platformu inak než človek. Potrebuje strojovo dostupné pokyny a nástroje, výslovné oprávnenia a spoľahlivé spôsoby hodnotenia svojej práce. Harness musí zohľadňovať aj pozorovateľnosť, bezpečnosť, súlad s predpismi a správu znalostí. Jeho účelom je dať autonómii jasné, vynútiteľné hranice, aby bola užitočná.

Konkrétny príklad: podpora s pomocou AI v regulovanej banke

Predstavme si banku, ktorá zavádza pracovný postup s podporou AI na otázky k reklamáciám kartových transakcií. Aplikačný tím začne úzkou úlohou: zaradiť prípad, vyhľadať príslušné pravidlá a navrhnúť odpoveď pre pracovníka podpory. Zodpovedá za pracovný postup, používateľský zážitok, prahy eskalácie a ukazovatele úspechu. Neurčuje regulačné pravidlá ani agentovi neudeľuje nové oprávnenia.

Agenti by tu mohli pomáhať s implementáciou, spúšťať testy konkrétnych úloh a pripraviť vydanie. Nasadenie do produkcie by naďalej schvaľovali ľudia. Výsledky z produkcie by usmerňovali ďalšie hodnotenie a vývoj. Kontroly počas prevádzky sú samostatné: agent podpory má používať len schválené nástroje a údaje v rámci určených oprávnení a eskalačných postupov.

  • Kontext: Agent má prístup k prípadu, minimu údajov o zákazníkovi na jeho vyriešenie, schváleným produktovým a reklamačným postupom a strojovo čitateľným pravidlám eskalácie. Nemá prístup k nespracovaným platobným povereniam ani nesúvisiacim záznamom zákazníkov a nemôže zapisovať do systému správy prípadov.

  • Hodnotenie: Pred vydaním musí sada reprezentatívnych minulých prípadov a okrajových prípadov označených expertmi prejsť kontrolami presnosti klasifikácie, dodržiavania pravidiel, vhodného zdržania sa odpovede, úniku osobných údajov a eskalácie sťažností či finančne citlivých prípadov.

  • Schválenie: Za produktové rozhodnutie zodpovedá aplikačný tím. Útvary rizík, bezpečnosti a súladu s predpismi schvaľujú prístup k údajom, priradenie pravidiel a postup nasadenia. Každú odoslanú správu schvaľuje pracovník podpory. Rozhodnutia o peniazoch či právach zákazníka zostávajú mimo autonómie agenta.

  • Záznam harnessu: Pri každom spustení sa zaznamená identita agenta, verzia modelu, získaný kontext a zdroje, volané nástroje, kontroly pravidiel, výsledky hodnotenia, ľudské úpravy či zásahy a incidenty. Z osvedčených riešení tím vytvára opakovane použiteľné rozhrania kontextu, hodnotiace prípady, šablóny oprávnení a schválené postupy nasadenia. Zlyhania a zásahy sa premieňajú na nové testy a zlepšenia postupu.

Agent tak môže dostať priestor konať, no len cez schválený kontext a nástroje. Na každej dôležitej hranici vznikajú dôkazy na preskúmanie a opätovné využitie. Za zásadné rozhodnutia naďalej zodpovedajú ľudia. Banka môže časom využiť reálne prípady – čo agent zvládol, kde zasiahli ľudia a kde zlyhal – na zlepšenie postupu a rozhodnutie o rozšírení jeho pôsobnosti. Takto v praxi vyzerá ohraničená autonómia a získavanie overených poznatkov.

Toto rozdelenie sa odráža v systémoch a kontrolách, ktoré prevádzkuje tím harnessu. Tímy harnessu môžu zodpovedať za:

  • Identitu agentov: vydávanie identít služieb, evidenciu vlastníctva a prostredia a sledovanie verzií modelov, príkazov a nástrojov každého agenta.

  • Oprávnenia nástrojov: rozsahy čítania a zápisu, hranice prístupu k údajom, limity požiadaviek, schvaľovacie body a predvolené zamietanie akcií agentov.

  • Rozhrania kontextu: sprístupnenie schválených znalostí a údajov cez verzované rozhrania rešpektujúce oprávnenia, s jasným pôvodom a aktuálnosťou.

  • Hodnotiace sady: údržbu reprezentatívnych príkladov, okrajových prípadov, testov bezpečnosti a ochrany, regresných testov a prahov na vydanie.

  • Auditné záznamy a pozorovateľnosť: evidenciu identity agenta, získaného kontextu, volaných nástrojov, výstupov, schválení, ľudských zásahov, zlyhaní a incidentov s primeraným uchovávaním a riadením prístupu.

  • Schválené postupy nasadenia: izolované, tieňové, postupné a produkčné nasadenie s automatickými kontrolami, možnosťou návratu a riadením zmien.

Tímy harnessu nie sú len novým názvom pre všetky existujúce platformové funkcie. Tímy prevádzky strojového učenia, bezpečnosti, riadenia a platforiem majú naďalej vlastné povinnosti. Tím harnessu prepája tieto kontroly s vývojom a prevádzkou AI postupov v aplikačných tímoch: oprávnenia a schvaľovanie s pravidlami, riadené rozhrania s kontextom, testovacie sady s hodnotením a záznamy s auditom správania agentov a jeho opätovným využitím.

Schéma modelu fungovania vývoja s AI v jadre, v ktorom aplikačné tímy podporuje spoločná platforma a harness.

Personál, vedenie a metriky sa musia zmeniť

Ak sa vývoj delí na dodávanie aplikácií a spoločnú podporu, musia sa tomu prispôsobiť personálne obsadenie, vedenie aj meranie.

Aplikačné tímy potrebujú produktový, technický a odborný úsudok vychádzajúci zo znalosti problému. Platformové tímy a tímy harnessu potrebujú ľudí schopných navrhnúť a prevádzkovať spoločné prostredie pre množstvo ľudí aj agentov.

Technologickí lídri sa stávajú tvorcami dodávateľského systému

Výzvou pre CTO, CDO a CIO je rozhodnúť, čo zabezpečiť centrálne a čo ponechať jednotlivým tímom.

Aplikačné tímy potrebujú voľnosť pracovať rýchlo a zostať blízko zákazníkom. Nemali by musieť nanovo vytvárať bezpečný prístup k údajom, pozorovateľnosť, hodnotenie a riadenie.

V organizácii s AI v jadre musia technologickí lídri presunúť časť pozornosti z riadenia kapacít na návrh systému dodávania softvéru. To zahŕňa:

  • nábor a rozvoj ľudí s dôrazom na úsudok a kvalitu rozhodnutí;

  • investície do spoločných AI platforiem, hodnotení, pravidiel, schválených postupov, tokov znalostí a vzorov prístupu;

  • určenie prevádzkových hraníc pre agentov, ľudí a kombinované postupy;

  • meranie overených poznatkov, spoľahlivosti, dopadu a bezpečného využitia znovu;

  • dostatočnú znalosť technológie na pochopenie toho, kde AI skutočne mení ekonomiku dodávania softvéru.

Dobre navrhnutý systém tímom uľahčí prístup ku kontextu, testovanie výstupov AI, využívanie overených vzorov a rozpoznanie situácií, kde je stále nutné ľudské schválenie.

Dnešné vývojové metriky ukazujú len časť obrazu

Mnohé vývojové metriky vznikli v čase, keď bola tvorba softvéru hlavným obmedzením. Rýchlosť tímu, príbehové body, priepustnosť a frekvencia nasadení sú stále užitočné prevádzkové ukazovatele. Keď však AI znižuje náročnosť tvorby softvéru, samy osebe hovoria menej.

Tím môže tvoriť viac kódu a robiť viac experimentov, no pritom zle rozhodovať, zbytočne komplikovať riešenia či zvyšovať riziko.

Technologickým lídrom preto nestačí vedieť, koľko softvéru vzniká alebo ako široko sa používajú nástroje AI. Potrebujú vedieť, či AI pomáha organizácii rýchlejšie sa učiť, zlepšovať výsledky pre zákazníkov a spoľahlivo fungovať v dohodnutých hraniciach.

Aplikačným tímom môžu byť užitočné tieto ukazovatele:

  • čas k overeným poznatkom;

  • zlepšenie výsledkov pre zákazníkov;

  • obchodná hodnota;

  • miera prijatia a zmena správania; a

  • podiel experimentov vedúcich k podloženým rozhodnutiam.

Čas na získanie overených poznatkov má zahŕňať celé obdobie od začiatku experimentu po zhromaždenie dostatku dôkazov na rozhodnutie. Ak tím začne v pondelok, nasadí riešenie v stredu a v piatok dospeje k podloženému rozhodnutiu, má týždňový cyklus učenia, nie dvojdňový cyklus dodania.

Tímom platformy a harnessu môžu byť užitočné tieto ukazovatele:

  • použitie schválených AI vzorov;

  • pokrytie a účinnosť hodnotenia;

  • incidenty a prepracovanie pre AI;

  • čas od nápadu po bezpečnú produkciu;

  • pozorovateľnosť akcií agentov; a

  • pripravenosť na audit súladu.

Súvisiace nákladové metriky majú pri každom úspešnom výsledku zahŕňať využitie modelu, ľudskú kontrolu, neúspešné pokusy, prepracovanie aj podporu.

Aj tieto ukazovatele potrebujú jasné definície, východiskové hodnoty a metódy hodnotenia. Cieľom nie je nahradiť jednu univerzálnu hodnotiacu tabuľku druhou, ale merať, či systém dodávania softvéru prináša dôveryhodné výsledky.

Aj tento model môže byť dočasný

Model aplikačných tímov a harnessu je jednou z odpovedí na súčasnú fázu vývoja s AI v jadre. Nemal by sa považovať za trvalý konečný stav.

Základnú jednotku vývojovej práce môže opäť zmeniť viacero trendov:

  • agenti preberajúci zodpovednosť za pracovné postupy;

  • softvér vytváraný len dočasne namiesto dlhoročnej údržby;

  • prechod používateľov od rozhraní aplikácií k interakciám vedeným agentmi;

  • základné modely preberajúce viac platformových funkcií; a

  • regulácia, pre ktorú sa auditovateľnosť a zodpovednosť stanú hlavným obmedzením vývoja.

Sú to možnosti, nie isté výsledky. Ak sa naplnia, aj rozdelenie na aplikačné a platformové tímy sa môže ukázať ako príliš úzke.

Najlepšie pripravené budú organizácie, ktoré svoj model fungovania chápu ako prispôsobivý. Budú stavať na jasných princípoch, kvalitnom kontexte, ohraničenej autonómii a rýchlom učení, nie na pevných tímových štruktúrach či výbere nástrojov.

Dôveryhodný pokrok je novým štandardom špičkového vývoja

AI neznižuje význam vývojových systémov. Zvyšuje hodnotu ich kvalitného návrhu.

S lacnejšou tvorbou softvéru získavajú výhodu organizácie, ktoré lepšie rozhodujú, rozvíjajú užitočný kontext a fungujú bezpečne. Vývoj s AI v jadre neznamená len používanie nástrojov AI. Mení svoje fungovanie podľa nových obmedzení: kvality rozhodnutí, spoločného kontextu, ohraničenej autonómie a rýchleho učenia.

Technologickí lídri môžu začať jasnou odpoveďou na štyri otázky:

  1. Ktoré rozhodnutia o klientoch a produktoch musia zostať blízko aplikačným tímom?

  2. Ktorý kontext, kontroly a hodnotiace kapacity majú byť spoločné?

  3. Kde môžu agenti konať autonómne a kde treba ľudské schválenie?

  4. Ktoré ukazovatele preukazujú overené poznatky, zákaznícku hodnotu a bezpečné použitie?

Odpovede na tieto otázky ovplyvnia prínos zavedenia AI viac než počet asistentov, ktoré organizácia nasadí.

Authors

Abbie Manning, Saurabh Singh