Hlavní navigace

Provozní model vývoje postaveného na AI

Tvorba softwaru zlevňuje. Výhodu tak získávají organizace, které se dokážou lépe rozhodovat a bezpečně ověřovat výsledky.

Klíčové závěry pro vedení

  • AI snižuje náklady na tvorbu softwaru, ale získání konkurenční výhody vyžaduje změnu provozního modelu. Organizace, které změní způsob práce týmů, mají větší šanci na trvalé přínosy než ty, které jen nasadí AI asistenty.

  • Vývoj postavený na AI vyžaduje dvě doplňující se složky: aplikační týmy blízké zákazníkům a jejich problémům a platformové týmy či týmy „harnessu“, které poskytují sdílený kontext, ochranná pravidla, hodnocení a řízení pro bezpečnou práci lidí a AI agentů ve velkém měřítku.

  • Technologické vedení se přesouvá od řízení kapacit k návrhu systému vývoje a dodávání. Vedení má jasně rozhodnout o čtyřech věcech: za co odpovídají aplikační týmy, jaký kontext a kontroly se sdílejí, kde agenti potřebují lidské schválení a jak měřit ověřené poznatky a hodnotu pro zákazníky.

Starý model považoval kapacitu implementace za hlavní omezení

Velká část moderních vývojových postupů vznikla ve světě, kde byla tvorba softwaru drahá. Základní otázka zněla: jak může více týmů dodávat více softwaru s předvídatelnějšími výsledky? Tento předpoklad utvářel strukturu týmů, financování platforem i měření dodávání. Růst často znamenal nábor dalších lidí a úspěch se běžně vyjadřoval množstvím práce, které systém zvládl.

AI tento předpoklad mění. Podle nás není vývoj postavený na AI jen tradičním vývojem s lepšími nástroji. Vyžaduje jiný provozní model: menší aplikační týmy, které mají blízko problémy zákazníků, podporované platformovými týmy či týmy „harnessu“. Pojmem „harness“ označujeme řízené provozní prostředí, které lidem a agentům poskytuje kontext, nástroje, oprávnění, zpětnou vazbu a hranice potřebné k bezpečnému využívání AI ve velkém měřítku.

Pro vedoucí technologických a datových útvarů je to důležité: samotný růst individuální produktivity nezajistí bezpečné zavedení AI v celé organizaci. Bez promyšleného provozního modelu hrozí týmům roztříštěné nástroje, duplicitní řešení, nejasná odpovědnost, nekontrolované zpřístupnění dat a kolísavá kvalita.

Podniky musí změnit otázku z „Jak pomoci vývojářům používat AI?“ na „Jak změnit systém vývoje, aby lidé a agenti mohli bezpečně vytvářet hodnotu v celém podniku?“

S levnější tvorbou roste význam rozhodování

AI umožňuje vývojářům zkoumat více nápadů, rychleji prototypovat a testovat více přístupů. Více výstupů však automaticky neznamená větší hodnotu. Bez dobrého úsudku, relevantního kontextu a účinného hodnocení může objem práce růst rychleji než schopnost rozhodnout, čemu věřit, co nasadit a z čeho se poučit.

AI může snížit náklady na generování kódu a provádění experimentů. Zda sníží celkové náklady na software, závisí na činnostech, které jsou i nadále potřebné k jeho kontrole, integraci, provozu, údržbě a přepracování.

Očekáváme, že výhoda ve vývoji bude stále více záviset na čtyřech schopnostech:

  • Rozhodovat, co a jak vytvořit a jak tato rozhodnutí zaznamenat.

  • Opírat práci lidí a AI systémů o správné znalosti organizace.

  • Bezpečně rozšiřovat činnost pomocí sdílených platforem, kontrol a hodnocení.

  • Navrhovat architektury, které přijmou nové nástroje a komponenty bez opakovaných otřesů.

Vzácnou schopností už tedy není tvorba výstupů, ale zvyšování jejich přínosu: volba správné práce, její zasazení do kontextu, ověřování funkčnosti a rozpoznání toho, co nenasazovat.

S levnějším experimentováním roste i hodnota záznamů rozhodnutí. Organizace potřebují vědět, co vyzkoušely, co selhalo, co zjistily a proč zvolily jednu cestu místo jiné.

Systémy vývoje mají podporovat rychlé ověřování, bezpečné iterace a zdokumentované poznatky, nejen rychlost dodávání. To mění roli vývojáře i tým kolem něj.

Vývojáři koordinují větší část systému

Pro vývojáře nejde ani tak o odklon od tvorby jako o posun k utváření, hodnocení a koordinaci toho, co vzniká.

Software generovaný AI neodstraňuje potřebu vývojářů. Zvyšuje význam lidí, kteří rozumějí omezením systému, definují rozhraní, navrhují hodnocení a koordinují práci lidí a agentů. Vývojáři kombinující hluboké technické znalosti s úsudkem, porozuměním produktu a hodnoticími dovednostmi často vytvoří více hodnoty než ti, kteří jen implementují jednotlivé komponenty.

AI posiluje cyklus učení mezi produktem a vývojem

Dříve produktové týmy rozhodovaly, co vytvořit, a vývojové týmy určovaly, jak to udělat. Dnes mnoho organizací propojuje produkt, design a vývoj. AI mění dění uvnitř týmu: levnější prototypy umožňují přejít od vymezení problému k implementaci a hodnocení nápadu v jediném cyklu. Týmy mohou testovat více možností, dříve vyřazovat slabé nápady a posouvat ověřené nápady dále do produkce.

To nahrává malým mezioborovým týmům, v nichž produktoví, designoví, vývojoví a oboroví specialisté pracují v jednom cyklu učení. Produktový a technický úsudek nesplývají do jedné role, ale musí se těsněji propojit. Produktové vedení potřebuje dost technických znalostí k prototypování a hodnocení možností. Vývojáři potřebují dostatek zákaznického a obchodního kontextu, aby pomáhali vymezit problém, nejen realizovali předem dané řešení.

Kontext organizace se stává strategickým aktivem

Vývojové organizace tradičně považovaly kód za hlavní aktivum. S jednodušším generováním kódu se trvalá hodnota přesouvá do jeho kontextu: oborových znalostí, porozumění zákazníkům, provozních zkušeností, vlastních dat, hodnoticích datových sad, strojově čitelných pravidel a historie architektonických rozhodnutí vysvětlující fungování systémů.

Kódové základny jsou důležité i proto, že ztělesňují těžce získané znalosti o podnikání a zákaznících. AI mění pracnost tvorby kódu, ale neodstraňuje úsilí potřebné k získání těchto znalostí. Organizace by se proto měly dívat za objem kódu a investovat do aktiv, jejichž hodnota se násobí: dobře spravovaných vlastních dat, použitelných znalostních systémů, hlubokého porozumění zákazníkům a jasných záznamů rozhodnutí.

Pro CIO a CDO to znamená, že informační architektura a řízení dat jsou zásadní pro výkonnost vývoje. AI agenti mohou využívat jen kontext, ke kterému mají oprávněný přístup a kterému dokážou porozumět. Roztříštěné znalosti, nejasná odpovědnost za data a nejednotná oprávnění se tak stávají omezeními vývoje, nejen problémy správy informací.

Jakmile je kontext součástí produkčního systému, nemůže zůstat pasivní dokumentací. Stává se funkcí platformy.

Decentralizovaný vývoj AI: místní týmy, sdílená ochranná pravidla

Jakmile se kontext, hodnocení a řízení stanou součástí produkčního systému, nelze vývoj s AI ponechat zcela na jednotlivých týmech. Neměl by se však centralizovat natolik, aby týmy ztratily kontakt se skutečnými problémy zákazníků.

Decentralizovaný model tyto potřeby vyvažuje. Autonomní aplikační týmy zůstávají blízko problému. Sdílená platforma a harness jim poskytují opakovaně využitelné nástroje, řízený přístup ke kontextu, vzory hodnocení, oprávnění a řízení. Decentralizace funguje jen s jasnou odpovědností: aplikační týmy odpovídají za postup a výsledek; týmy harnessu poskytují sdílené zázemí pro bezpečnou práci; útvary rizik, bezpečnosti a řízení zachovávají nezávislý dohled.

Aplikační týmy a oboroví experti mají definovat hodnoticí případy pro konkrétní úkol a požadovanou úroveň přijetí. Tým harnessu má zajistit infrastrukturu hodnocení, sdílené kontroly a reporting pro jeho konzistentní provádění.

Oblast

Aplikační tým

Tým harnessu

Rizika, bezpečnost a řízení

Produkt a výsledek

Volí problém, postup, uživatelský zážitek a měřítka úspěchu; odpovídá za výsledky pro zákazníky a podnik

Poskytuje opakovaně využitelné vzory, nástroje a telemetrii

Stanovuje omezení tam, kde případ použití přináší významné riziko

Kontext a přístup

Určuje informace a akce potřebné pro pracovní postup

Poskytuje rozhraní pro kontext, identitu agentů a oprávnění nástrojů

Schvaluje přístup k citlivým datům a hranice kontrol

Hodnocení a vydání

Definuje kritéria přijetí a přezkoumává výsledky

Udržuje hodnoticí sady, auditní protokoly a schválené postupy nasazení

Schvaluje vysoce riziková použití, výjimky a významné změny

Financování a odpovědnost

Získává financování na výsledek aplikace a odpovídá za něj

Je financován jako sdílené zázemí a hodnocen podle opakovaného využití, pokrytí a doby do bezpečného provozu

Odpovídá za nezávislý dohled a rozhodování o kontrolách

Rytmus práce a učení

Iteruje s oborovými experty a přezkoumává výsledky, zásahy a incidenty

Proměňuje poznatky v nové testy, kontroly a opakovaně využitelné funkce

Přezkoumává incidenty a změny v dohodnutých schvalovacích bodech

To mění i pohled vedení na velikost týmů. Menší týmy produkující více softwaru nejsou samy o sobě cílem. Cílem je uplatnit lidský úsudek tam, kde přináší největší hodnotu: blízko problému v aplikačních týmech a ve sdíleném zázemí, které jim umožňuje postupovat rychle bez ztráty kontroly.

Platforma se stává harnessem pro lidi i agenty

S tím, jak se aplikační týmy zmenšují a více využívají AI, potřebují organizace silnější sdílené zázemí, aby vývoj zůstal bezpečný, konzistentní a s jasnou odpovědností.

Platformová technologie se tradičně zaměřovala hlavně na produktivitu vývojářů a jejími hlavními uživateli byli lidé. Platforma postavená na AI musí podporovat lidi i agenty.

Agent nevyužívá vývojářskou platformu stejně jako člověk. Potřebuje strojově přístupné instrukce a nástroje, výslovná oprávnění a spolehlivé způsoby hodnocení své práce. Harness musí zohlednit také pozorovatelnost, zabezpečení, soulad s předpisy a správu znalostí. Jeho účelem je učinit autonomii užitečnou tím, že jí stanoví jasné, vymahatelné hranice.

Konkrétní příklad: podpora s využitím AI v regulované bance

Představme si banku, která zavádí postup s podporou AI pro dotazy k reklamacím karetních transakcí. Aplikační tým začíná úzce vymezeným úkolem: zařadit případ, vyhledat příslušná pravidla a navrhnout odpověď pro pracovníka podpory. Odpovídá za pracovní postup, uživatelský zážitek, prahy pro eskalaci a měřítka úspěchu. Nestanovuje pravidla pro soulad s regulací ani agentovi neuděluje nová oprávnění.

V tomto příkladu by agenti mohli pomáhat s implementací, provádět testy pro daný úkol a připravovat vydání. Nasazení do produkce by dál schvalovali lidé a výsledky z provozu by sloužily jako podklad pro další hodnocení a vývoj. Kontroly při běhu zůstávají oddělené: agent zákaznické podpory smí používat jen schválené nástroje a data v mezích oprávnění a eskalačních postupů.

  • Kontext: Agent má přístup k aktuálnímu případu, nezbytnému minimu údajů o zákazníkovi, schváleným produktovým a reklamačním postupům a strojově čitelným pravidlům eskalace. Nemá přístup k nezpracovaným platebním přihlašovacím údajům ani k nesouvisejícím záznamům zákazníků a nesmí zapisovat do systému správy případů.

  • Hodnocení: Před vydáním musí sada reprezentativních historických případů a odborně označených krajních případů projít kontrolami přesnosti klasifikace, dodržování pravidel, vhodného zdržení se odpovědi, úniku osobních údajů a eskalace stížností či finančně citlivých případů.

  • Schvalování: Za produktové rozhodnutí odpovídá aplikační tým. Útvary rizik, bezpečnosti a compliance schvalují přístup k datům, přiřazení pravidel a postup nasazení. Každou odchozí zprávu schvaluje pracovník podpory; rozhodnutí ovlivňující peníze či práva zákazníka zůstávají mimo autonomii agenta.

  • Záznam harnessu: Při každém běhu se zaznamená identita agenta a verze modelu, získaný kontext a zdroje, volané nástroje, kontroly pravidel, výsledky hodnocení, lidské úpravy či zásahy a incidenty. Z osvědčených řešení tým vytváří opakovaně využitelná rozhraní pro kontext, hodnoticí případy, šablony oprávnění a schválené postupy nasazení. Selhání a zásahy se promítají do nových testů a vylepšení pracovního postupu.

Agent tak může dostat prostor k jednání, ale jen se schváleným kontextem a nástroji. Každá důležitá hranice přitom vytváří podklady, které lze přezkoumat a znovu využít. Za zásadní rozhodnutí nadále odpovídají lidé. Banka může postupně využívat skutečné případy (úspěchy agenta, lidské zásahy i selhání) ke zlepšení postupu a rozhodování o rozšíření jeho působnosti. Tak v praxi vypadá vymezená autonomie a získávání ověřených poznatků.

Toto rozdělení se odráží v systémech a kontrolách, které spravuje tým harnessu. Týmy harnessu mohou odpovídat za:

  • Identitu agentů: vydávání identit služeb, evidenci odpovědných osob a prostředí a sledování verzí modelů, promptů a nástrojů používaných jednotlivými agenty.

  • Oprávnění nástrojů: vymezení čtení a zápisu, přístupu k datům, limitů požadavků, schvalovacích bodů a pravidel, podle nichž jsou akce agentů ve výchozím stavu zakázány.

  • Rozhraní pro kontext: zpřístupnění schválených znalostí a dat přes rozhraní s verzemi respektující oprávnění, s jasným původem a aktuálností dat.

  • Hodnoticí sady: údržbu reprezentativních příkladů, krajních případů, testů bezpečnosti a zabezpečení, regresních testů a prahů pro vydání.

  • Auditní protokoly a pozorovatelnost: záznam identity agenta, získaného kontextu, volaných nástrojů, výstupů, schválení, lidských zásahů, selhání a incidentů s vhodným uchováváním a řízením přístupu.

  • Schválené postupy nasazení: izolované testování, stínový provoz, postupné i produkční nasazení s automatickými kontrolami, mechanismy návratu a řízením změn.

Týmy harnessu nejsou jen novým názvem pro všechny stávající funkce platformy. Týmy provozu strojového učení, bezpečnosti, řízení a platforem si zachovávají vlastní odpovědnosti. Tým harnessu propojuje tyto kontroly s vývojem a provozem postupů využívajících AI: pravidla zajišťuje oprávněními a schvalováním, kontext řízenými rozhraními, hodnocení testovacími sadami a auditovatelnost i další využití chování agentů záznamy.

Schéma provozního modelu vývoje postaveného na AI, v němž aplikační týmy podporuje sdílená platforma a harness.

Personální obsazení, vedení i metriky se musí změnit

Pokud se vývoj dělí na dodávání aplikací a sdílené zázemí, musí se tomu přizpůsobit personální obsazení, vedení i měření.

Aplikační týmy potřebují produktový, technický a oborový úsudek vycházející z důkladné znalosti problému. Platformové týmy a týmy harnessu potřebují lidi schopné navrhovat a provozovat sdílené prostředí pro podporu lidí i agentů ve velkém měřítku.

Vedoucí technologických útvarů se stávají návrháři systému vývoje a dodávání

Pro CTO, CDO a CIO je klíčové rozhodnout, co zajistit centrálně a co ponechat jednotlivým týmům.

Aplikační týmy potřebují volnost, aby mohly pracovat rychle a zůstat v úzkém kontaktu se zákazníky. Neměly by znovu budovat bezpečný přístup k datům, pozorovatelnost, hodnocení a řízení.

V organizaci postavené na AI musí technologické vedení přesunout část pozornosti od řízení kapacit k návrhu systému vývoje a dodávání. To zahrnuje:

  • nábor a rozvoj lidí s důrazem na úsudek a kvalitu rozhodování;

  • investice do sdílených AI platforem, hodnocení, ochranných pravidel, schválených postupů, toků znalostí a vzorů přístupu;

  • vymezení hranic činnosti agentů, lidí i společných pracovních postupů;

  • měření ověřených poznatků, spolehlivosti, dopadu na zákazníky a bezpečného opakovaného využití; a

  • udržování dostatečného technického přehledu k pochopení, kde AI skutečně mění ekonomiku vývoje.

Dobře navržený systém týmům usnadňuje přístup ke vhodnému kontextu, testování výstupů AI, využívání osvědčených vzorů a rozpoznání situací, kdy je nutné lidské schválení.

Současné metriky vývoje ukazují jen část obrazu

Mnoho metrik vzniklo ve světě, kde byla tvorba softwaru hlavním omezením. Rychlost, příběhové body, výkon a frekvence nasazení dál poskytují užitečné provozní informace. Samy o sobě však vypovídají méně, protože AI snižuje pracnost tvorby softwaru.

Tým může generovat více kódu a provádět více experimentů, a přitom se špatně rozhodovat, zbytečně zvyšovat složitost či rizika.

Technologické vedení se proto musí ptát na víc než jen na množství vytvořeného softwaru či rozsah využití AI nástrojů. Musí vědět, zda AI pomáhá organizaci rychleji se učit, zlepšovat výsledky pro zákazníky a spolehlivě fungovat v dohodnutých mezích.

Pro aplikační týmy mohou být užitečná tato měřítka:

  • doba do získání ověřených poznatků;

  • zlepšení výsledků pro zákazníky;

  • dosažený obchodní přínos;

  • míra přijetí a změna chování a

  • podíl experimentů vedoucích k podloženým rozhodnutím.

Doba do získání ověřených poznatků má zahrnovat celý interval od zahájení experimentu po shromáždění dostatku důkazů pro rozhodnutí. Tým, který začne v pondělí, nasadí ve středu a k podloženému rozhodnutí dospěje v pátek, má týdenní cyklus učení, nikoli dvoudenní cyklus dodávání.

Pro platformové týmy a týmy harnessu se hodí tato měřítka:

  • opakované využití schválených AI vzorů;

  • pokrytí a účinnost hodnocení;

  • incidenty a přepracování díky AI;

  • doba od nápadu po bezpečný provoz;

  • pozorovatelnost akcí agentů a

  • připravenost na audit a soulad.

Související metriky nákladů zahrnují u každého úspěšného výsledku využití modelu, lidskou kontrolu, neúspěšné pokusy, přepracování a provozní podporu.

I tato měřítka vyžadují jasné definice, výchozí hodnoty a metody hodnocení. Cílem není nahradit jednu univerzální sadu ukazatelů jinou, ale měřit, zda systém vývoje a dodávání přináší důvěryhodné výsledky.

I tento model může být dočasný

Model aplikačních týmů a harnessu je jednou z odpovědí na současnou fázi vývoje postaveného na AI. Neměl by být považován za trvalý cílový stav.

Základní jednotku vývojové práce může znovu změnit několik trendů:

  • agenti přebírající odpovědnost za celé pracovní postupy;

  • část softwaru určená k dočasnému použití místo let údržby;

  • přechod uživatelů od rozhraní aplikací k interakcím vedeným agenty;

  • základní modely přebírající více funkcí platforem a

  • regulace, která z auditovatelnosti a odpovědnosti učiní hlavní omezení vývoje.

Jde o možnosti, nikoli jisté výsledky. Pokud se naplní, může být i rozdělení na aplikační a platformové týmy příliš úzké.

Nejlépe se na tuto nejistotu připraví organizace, které chápou svůj provozní model jako přizpůsobivý. Budou stavět na jasných principech, kvalitním kontextu, vymezené autonomii a rychlém učení, nikoli na pevných týmových strukturách či konkrétních nástrojích.

Důvěryhodný pokrok je novým standardem špičkového vývoje

AI nesnižuje význam systémů vývoje. Zvyšuje hodnotu jejich kvalitního návrhu.

Tím, jak tvorba softwaru zlevňuje, získávají výhodu organizace, které se lépe rozhodují, rozvíjejí užitečný kontext a fungují bezpečně. Vývoj postavený na AI nespočívá jen v používání AI nástrojů. Mění své uspořádání podle nových omezení: kvality rozhodování, sdíleného kontextu, vymezené autonomie a rychlého učení.

Technologické vedení může začít jasným rozhodnutím o čtyřech otázkách:

  1. Která rozhodnutí o zákaznících a produktech musí zůstat blízko aplikačních týmů?

  2. Jaký kontext, kontroly a možnosti hodnocení mají být sdílené?

  3. Kde mohou agenti jednat samostatně a kde potřebují lidské schválení?

  4. Která měřítka dokládají ověřené poznatky, hodnotu pro zákazníky a bezpečný provoz?

Odpovědi na tyto otázky ovlivní přínos zavedení AI více než počet asistentů, které organizace nasadí.

Authors

Abbie Manning, Saurabh Singh