Оперативни модел за инжењерство засновано на AI

Производња софтвера појефтињује, па предност стичу организације које доносе боље одлуке и безбедно проверавају исходе.

Кључни закључци за руководство

  • Док AI снижава трошкове производње софтвера, за конкурентску предност потребна је промена оперативног модела. Организације које преобликују рад тимова, уместо да само уведу AI асистенте, имају веће изгледе за трајне користи.

  • Инжењерству заснованом на AI требају две допунске способности: тимови за апликације блиски корисницима и проблемима и тимови за платформу или „окружење“, који обезбеђују заједнички контекст, заштитне мере, евалуације и управљање за безбедан рад људи и AI агената у великом обиму.

  • Технолошко руковођење прелази са управљања капацитетом испоруке на пројектовање система испоруке. Руководиоци треба да разјасне четири одлуке: за шта су надлежни тимови за апликације, који су контекст и контроле заједнички, где агентима треба људско одобрење и како мерити потврђено учење и вредност за кориснике.

Стари модел је капацитет имплементације сматрао главним ограничењем

Већи део савремене инжењерске праксе настао је у свету у коме је израда софтвера била скупа. Главно питање било је: како да више тимова испоручује више софтвера, уз већу предвидљивост? Та претпоставка обликовала је структуру тимова, финансирање платформи и мерење испоруке. Раст је често значио више људи, а успех се обично мерио обимом рада који прође кроз систем.

AI мења ту претпоставку. Сматрамо да инжењерство засновано на AI није традиционално инжењерство са бољим алатима. Оно захтева другачији оперативни модел: мање тимове за апликације, блиске проблемима корисника, уз подршку тимова за платформу или „окружење“. Термин „окружење“ означава контролисано радно окружење које људима и агентима пружа контекст, алате, дозволе, повратне информације и границе за безбедну употребу AI у великом обиму.

За руководиоце технологије и података то је важно јер већа продуктивност појединаца сама не обезбеђује безбедно усвајање широм организације. Без осмишљеног оперативног модела, тимови ризикују неповезане алате, дуплиране обрасце, нејасну одговорност, неконтролисано излагање података и неуједначен квалитет.

Предузећа треба да промене питање које себи постављају: уместо „Како да помогнемо инжењерима да користе AI?“ да питају „Како да преобликујемо инжењерски систем да људи и агенти безбедно стварају вредност на нивоу целог предузећа?“

Како производња појефтињује, одлуке постају важније

AI омогућава инжењерима да истраже више идеја, брже праве прототипове и испробају више приступа. Већи обим резултата, међутим, не ствара аутоматски већу вредност. Без доброг расуђивања, релевантног контекста и делотворне евалуације, организација може повећавати обим рада брже него што одлучује чему да верује, шта да уведе и из чега да учи.

AI може снизити трошкове генерисања кода и спровођења експеримената. Да ли снижава укупан трошак софтвера зависи од рада потребног за преглед, интеграцију, рад, одржавање и дораду тог софтвера.

Очекујемо да ће инжењерска предност све више зависити од четири способности:

  • Одлучивања шта и како градити и како бележити те изборе.

  • Ослањања људи и AI система на одговарајуће организационо знање.

  • Безбедног раста уз заједничке платформе, контроле и евалуацију.

  • Пројектовања архитектура које прихватају нове алате и компоненте без сталних поремећаја.

Оскудна способност више није сама производња, већ повећање њене користи: избор правог посла, ослањање на контекст, провера делотворности и знање о томе шта не треба испоручити.

Како експерименти појефтињују, записи о одлукама постају вреднији. Организације морају знати шта је испробано, шта није успело, шта је научено и зашто је изабран један пут, а не други.

Инжењерске системе треба оптимизовати за брзу проверу, безбедне итерације и документовано учење, а не само за брзину испоруке. То мења и улогу инжењера и тим око њега.

Инжењери координирају већи део система

За инжењере то није толико удаљавање од изградње колико прелазак на обликовање, евалуацију и координацију онога што се гради.

Софтвер који генерише AI не укида потребу за инжењерима. Повећава значај људи који разумеју ограничења система, дефинишу интерфејсе, осмишљавају евалуације и координирају рад људи и агената. Инжењери који спајају дубоко техничко знање, добро расуђивање, разумевање производа и вештине евалуације често ће стварати више вредности од оних усмерених само на појединачне компоненте.

AI унапређује циклус учења између производа и инжењерства

Некада су тимови за производ одлучивали шта градити, а инжењерски тимови како. Данас многе организације повезују производ, дизајн и инжењерство. Промена коју доноси AI одвија се унутар тима: јефтинији прототипови омогућавају да идеје у истом циклусу пређу од дефинисања проблема до имплементације и евалуације. Тимови могу испробати више опција, раније одбацити слабе идеје и потврђене идеје довести ближе продукцији.

То погодује малим, мултидисциплинарним тимовима у којима стручњаци за производ, дизајн, инжењерство и домен раде у једном циклусу учења. Расуђивање о производу и техници не стапа се у једну улогу, али захтева ближу сарадњу. Руководиоцима производа треба довољно техничког знања за прототипове и евалуацију опција. Инжењерима треба довољно знања о корисницима и пословању да обликују проблем, а не само спроведу унапред задато решење.

Организациони контекст постаје стратешки ресурс

Инжењерске организације традиционално су сматрале код главним ресурсом. Како код постаје лакши за генерисање, трајна вредност све више лежи у контексту: доменском знању, разумевању корисника, оперативном искуству, сопственим подацима, евалуационим скуповима, машински читљивим правилима и историји архитектонских одлука која објашњава рад система.

Базе кода су важне и зато што садрже тешко стечено знање о пословању и корисницима. AI мења труд потребан за израду кода, али не укида труд потребан за стицање тог знања. Зато организације треба да гледају даље од количине кода и улажу у ресурсе чија вредност расте: добро управљане сопствене податке, употребљиве системе знања, дубоко разумевање корисника и јасне записе о одлукама.

За директоре информационих система и података то ставља информациону архитектуру и управљање подацима у средиште инжењерског учинка. AI агенти могу користити само контекст коме смеју да приступе и који умеју да протумаче. Зато расуто знање, нејасне надлежности над подацима и недоследне дозволе постају инжењерска ограничења, а не само проблеми управљања информацијама.

Када контекст постане део продукционог система, не може остати пасивна документација. Постаје могућност платформе.

Федеративна испорука AI: локални тимови, заједничке заштитне мере

Када контекст, евалуација и управљање постану део продукционог система, испорука AI не може се потпуно препустити појединачним тимовима. Не треба је ни толико централизовати да тимови изгубе додир са стварним проблемима корисника.

Федеративни модел уравнотежује те потребе. Аутономни тимови за апликације остају близу проблема, уз заједничку платформу и окружење који пружају поново употребљиве алате, контролисан приступ контексту, евалуационе обрасце, дозволе и управљање. Федеративни рад захтева јасне надлежности: тимови за апликације одговарају за радни ток и исход; тимови за окружење пружају заједничке могућности за безбедан рад; функције ризика, безбедности и управљања задржавају независан надзор.

Тимови за апликације и доменски стручњаци треба да дефинишу наменске евалуационе случајеве и праг прихватљивости. Тим за окружење треба да обезбеди инфраструктуру за евалуацију, заједничке контроле и извештавање за доследно спровођење тих евалуација.

Област

Тим за апликације

Тим за окружење

Ризици, безбедност и управљање

Производ и исход

Бира проблем, радни ток, корисничко искуство и мерила успеха; одговара за корисничке и пословне исходе

Пружа поново употребљиве обрасце, алате и телеметрију

Поставља ограничења када примена ствара значајан ризик

Контекст и приступ

Одређује информације и радње потребне радном току

Пружа интерфејсе за контекст, идентитет агента и дозволе за алате

Одобрава приступ осетљивим подацима и границе контроле

Евалуација и објављивање

Дефинише критеријуме прихватања и прегледа резултате

Одржава евалуационе пакете, ревизорске евиденције и одобрене путеве увођења

Одобрава високоризичне примене, изузетке и значајне промене

Финансирање и одговорност

Добија средства и одговара за исход апликације

Финансира се као заједничка функција; оцењује се по поновној употреби, обухвату и времену до безбедне продукције

Одговара за независан надзор и одлуке о контролама

Ритам рада и учење

Спроводи итерације са доменским стручњацима и прегледа исходе, поништавања и инциденте

Претвара сазнања у нове тестове, контроле и поново употребљиве могућности

Прегледа инциденте и промене на договореним тачкама одобрења

То мења и начин на који руководиоци треба да размишљају о величини тима. Мањи тимови који производе више софтвера нису циљ сами по себи. Циљ је усмерити људско расуђивање тамо где ствара највећу вредност: близу проблема у тимовима за апликације и у заједничким могућностима које им омогућавају брз рад без губитка контроле.

Платформа постаје окружење за људе и агенте

Како тимови за апликације постају мањи и више користе AI, организацијама су потребне јаче заједничке могућности за безбедну, доследну испоруку и јасну одговорност.

Платформско инжењерство је досад углавном унапређивало продуктивност програмера, са људима као главним корисницима. Платформа заснована на AI мора да подржи и људе и агенте.

Агент не користи развојну платформу као човек. Потребни су му машински доступна упутства и алати, изричите дозволе и поуздана оцена рада. Окружење мора да обухвати и надзор рада, безбедност, усклађеност и управљање знањем. Његова сврха је да аутономију учини корисном, постављајући јасне границе које се могу спроводити.

Конкретан пример: подршка уз AI у банци која подлеже регулативи

Замислимо банку која уводи радни ток уз AI за упите о спорним картичним трансакцијама. Тим за апликације почиње уским задатком: класификовати предмет, пронаћи важећа правила и саставити нацрт одговора за службеника подршке. Одговоран је за радни ток, корисничко искуство, прагове ескалације и мерила успеха. Не утврђује регулаторна правила нити агенту даје нове дозволе.

Агенти би овде могли да помогну у имплементацији, спроведу наменске тестове и припреме издање. Људи би и даље одобравали пуштање у продукцију, а резултати би усмеравали наредни круг евалуације и развоја. Контроле током рада остају засебне: агент за корисничку подршку сме да користи само одобрене алате и податке, уз утврђене дозволе и путање ескалације.

  • Контекст: агент приступа текућем предмету, неопходним подацима о клијенту, одобреним процедурама за производе и приговоре и машински читљивим правилима ескалације. Нема приступ изворним акредитивима за плаћање ни неповезаним подацима о клијентима, нити право уписа у систем за управљање предметима.

  • Евалуација: пре објављивања, тестови на репрезентативним ранијим предметима и стручно означеним граничним случајевима морају потврдити тачност класификације, поштовање правила, оправдано уздржавање, заштиту личних података и ескалацију приговора или финансијски осетљивих предмета.

  • Одобрење: тим за апликације одговара за одлуку о производу. Тимови за ризике, безбедност и усклађеност одобравају приступ подацима, примену правила и пут увођења. Службеник подршке одобрава сваку одлазну поруку; одлуке које утичу на новац или права клијента остају ван аутономије агента.

  • Запис окружења: свако извршавање бележи идентитет агента, верзију модела, прибављени контекст и изворе, позване алате, провере правила, резултате евалуације, људске измене или поништавања и инциденте. Тим успешна решења претвара у поново употребљиве интерфејсе за контекст, евалуационе случајеве, шаблоне дозвола и одобрене путеве увођења. Пропусти и поништавања постају нови тестови и побољшања радног тока.

Тако агент добија простор за деловање, али само уз одобрени контекст и алате. Свака важна граница оставља доказе за преглед и поновну употребу. Људи остају одговорни за важне одлуке. Банка временом може да користи стварне случајеве — успехе агента, људске интервенције и пропусте — да унапреди радни ток и одлучи да ли да прошири његов делокруг. Тако ограничена аутономија и учење потврђено доказима изгледају у пракси.

Та подела се огледа у системима и контролама којима управља тим за окружење. Тимови за окружење могу бити задужени за:

  • Идентитет агента: доделу сервисних идентитета, бележење надлежности и окружења и праћење верзија модела, инструкција и алата сваког агента.

  • Дозволе за алате: опсеге читања и уписа, границе приступа подацима, ограничења учесталости, тачке одобрења и подразумевану забрану радњи агента.

  • Интерфејсе за контекст: приступ одобреном знању и подацима преко верзионисаних интерфејса који поштују дозволе и јасно наводе порекло и ажурност.

  • Евалуационе пакете: одржавање репрезентативних и граничних примера, тестова сигурности, безбедности и регресије и прагова за објављивање.

  • Ревизорске евиденције и надзор: бележење идентитета агента, контекста, позваних алата, излаза, одобрења, људских поништавања, пропуста и инцидената, уз одговарајуће чување и контролу приступа.

  • Одобрене путеве увођења: изоловано, паралелно, фазно и продукционо извршавање, уз аутоматске провере, повратак на претходно стање и контролу измена.

Тимови за окружење нису нов назив за све постојеће платформске функције. Тимови за операције машинског учења, безбедност, управљање и платформе задржавају своје надлежности. Тим за окружење повезује те контроле са изградњом и вођењем AI радних токова: дозволама и одобрењима за правила, контролисаним интерфејсима за контекст, тестовима за евалуацију и евиденцијама које омогућавају ревизију и поновну употребу понашања агената.

Дијаграм оперативног модела за инжењерство засновано на AI, у ком заједничка платформа и окружење подржавају тимове за апликације.

Кадрови, руковођење и мерила морају да се промене

Ако се инжењерски рад дели на испоруку апликација и заједничку подршку, морају се прилагодити и кадрови, руковођење и мерење.

Тимовима за апликације треба расуђивање о производу, технологији и домену, засновано на непосредном познавању проблема. Тимовима за платформу и окружење требају људи који умеју да пројектују и воде заједничко окружење за људе и агенте у великом обиму.

Технолошки руководиоци постају пројектанти система испоруке

За директоре технологије, података и информационих система изазов је одлука шта обезбедити централно, а шта препустити тимовима.

Тимовима за апликације треба слобода да раде брзо и остану блиски корисницима. Не треба да изнова граде безбедан приступ подацима, надзор, евалуацију и управљање.

У организацији заснованој на AI, технолошки руководиоци део пажње морају преусмерити са капацитета испоруке на пројектовање система испоруке. То обухвата:

  • запошљавање и развој људи који добро расуђују и доносе квалитетне одлуке;

  • улагање у заједничке AI платформе, евалуације, заштитне мере, одобрене путеве, токове знања и обрасце приступа;

  • дефинисање граница деловања агената, људи и комбинованих радних токова;

  • мерење учења потврђеног доказима, поузданости, утицаја на кориснике и безбедне поновне употребе; и

  • довољно познавање технологије да се разуме где AI заиста мења економику испоруке.

Добро осмишљен систем олакшава приступ контексту, тестирање рада који генерише AI, поновну употребу проверених образаца и препознавање потребе за људским одобрењем.

Постојећа инжењерска мерила дају само део слике

Многа инжењерска мерила настала су када је производња софтвера била главно ограничење. Брзина тима, поени корисничких прича, пропусна моћ и учесталост увођења и даље су корисни показатељи, али сами говоре мање док AI смањује труд потребан за производњу софтвера.

Тим може да генерише више кода и спроводи више експеримената, а да и даље доноси лоше одлуке, ствара непотребну сложеност или повећава ризик.

Зато руководиоци морају да питају више од тога колико се софтвера производи или колико се користе AI алати. Морају да разумеју да ли AI помаже организацији да брже учи, побољшава исходе за кориснике и поуздано ради у договореним границама.

За тимове за апликације корисна мерила могу бити:

  • време до сазнања потврђених доказима;

  • побољшање исхода за кориснике;

  • остварена пословна вредност;

  • усвајање и промена понашања; и

  • удео експеримената који воде одлукама поткрепљеним доказима.

Време до потврђених сазнања обухвата цео период од почетка експеримента до прикупљања довољно доказа за одлуку. Тим који почне у понедељак, пусти решење у среду и донесе поткрепљену одлуку у петак има недељни циклус учења, а не дводневни циклус испоруке.

За тимове за платформу и окружење корисна мерила могу бити:

  • поновна употреба одобрених AI образаца;

  • обухват и делотворност евалуације;

  • инциденти и дораде повезани са AI;

  • време од идеје до безбедне продукције;

  • могућност надзора радњи агента; и

  • спремност за ревизију и проверу усклађености.

Мерила трошкова треба да обухвате употребу модела, људски преглед, неуспеле покушаје, дораде и оперативну подршку по успешном исходу.

И ова мерила захтевају јасне дефиниције, полазне вредности и методе евалуације. Циљ није замена једног универзалног скупа мерила другим, већ провера да ли систем испоруке даје поуздане исходе.

И овај модел може бити привремен

Модел апликација и окружења један је одговор на садашњу фазу инжењерства заснованог на AI. Не треба га сматрати трајним коначним стањем.

Више промена могло би поново да измени основну јединицу инжењерског рада:

  • агенти преузимају одговорност за целе радне токове;

  • део софтвера постаје привремен уместо да се годинама одржава;

  • корисници прелазе са интерфејса апликација на искуства која воде агенти;

  • основни модели преузимају више могућности платформе; и

  • прописи чине могућност ревизије и одговорност главним инжењерским ограничењем.

То су могућности, а не извесни исходи. Ако се остваре, и подела на тимове за апликације и платформе може постати преуска.

Најспремније организације третираће свој оперативни модел као прилагодљив. Организоваће се око јасних начела, квалитетног контекста, ограничене аутономије и брзог учења, а не фиксних тимских структура или избора алата.

Поуздан напредак је нови стандард инжењерске изврсности

AI не умањује значај инжењерских система. Повећава вредност њиховог доброг пројектовања.

Како производња софтвера појефтињује, предност стичу организације које боље одлучују, надограђују користан контекст и раде безбедно. Инжењерска пракса заснована на AI није само пракса која користи AI алате. Она се преобликује према новим ограничењима: квалитету одлука, заједничком контексту, ограниченој аутономији и брзом учењу.

Технолошки руководиоци могу почети јасним одговорима на четири питања:

  1. Које одлуке о корисницима и производу морају остати близу тимова за апликације?

  2. Који контекст, контроле и могућности евалуације треба да буду заједнички?

  3. Где агенти могу деловати аутономно, а где је потребно људско одобрење?

  4. Која мерила показују учење потврђено доказима, вредност за кориснике и безбедан рад?

Одговори ће више одредити вредност усвајања AI него број асистената које организација уведе.

Authors

Abbie Manning, Saurabh Singh