AI понижава разходите за създаване на софтуер, но конкурентното предимство изисква промяна в работния модел. Организациите, които преосмислят работата на екипите, а не просто внедряват AI асистенти, имат по-голям шанс за трайни подобрения.
Инженерството, изградено около AI, изисква две допълващи се функции: екипи за приложения, близки до клиентите и проблемите, и екипи за платформи или „рамки“, осигуряващи общ контекст, защити, оценки и управление за безопасна мащабна работа на хора и AI агенти.
Технологичното ръководство преминава от управление на капацитета към проектиране на системата за разработка и внедряване. Лидерите трябва да решат за какво отговарят екипите за приложения, какъв контекст и какви контроли са общи, кога агентите се нуждаят от човешко одобрение и как ще се измерват доказаните изводи и ползата за клиентите.
Голяма част от съвременната инженерна практика се оформи, когато създаването на софтуер беше скъпо. Водещият въпрос беше: как повече екипи да доставят повече софтуер по-предвидимо? Тази предпоставка определяше структурата на екипите, финансирането на платформите и измерването на разработката. Мащабирането често означаваше повече хора, а успехът се измерваше с обема работа, преминал през системата.
AI променя тази предпоставка. Според нас инженерството, изградено около AI, не е традиционно инженерство с по-добри инструменти. То изисква друг работен модел: по-малки екипи за приложения, близки до клиентските проблеми и подкрепени от екипи за платформи или „рамки“. С „рамка“ наричаме контролираната работна среда, която дава на хората и агентите контекст, инструменти, разрешения, обратна връзка и граници за безопасно използване на AI в голям мащаб.
За ръководителите по технологии и данни това е важно: индивидуалната продуктивност сама не гарантира безопасно внедряване в цялата организация. Без целенасочен работен модел екипите рискуват разпокъсани инструменти, дублирани подходи, неясна отговорност, неконтролирано излагане на данни и непостоянно качество.
Въпросът на предприятията трябва да се промени от „Как да помогнем на инженерите да използват AI?“ на „Как да преустроим инженерната система, така че хората и агентите да създават стойност безопасно в мащаба на предприятието?“
AI позволява на инженерите да проучват повече идеи, да правят прототипи по-бързо и да тестват повече подходи. Повече свършена работа обаче не носи автоматично повече стойност. Без добра преценка, подходящ контекст и ефективно оценяване обемът на работата може да расте по-бързо, отколкото организацията успява да реши на какво да се довери, какво да внедри и от какво да се поучи.
AI може да намали разходите за генериране на код и провеждане на експерименти. Дали намалява общата цена на софтуера зависи от оставащата работа по преглед, интеграция, експлоатация, поддръжка и преработка.
Очакваме инженерното предимство все повече да зависи от четири способности:
Решаване какво и как да се изгради и как да се документират тези решения.
Хората и системите с AI да работят въз основа на нужните знания на организацията.
Безопасно мащабиране чрез общи платформи, контроли и оценяване.
Проектиране на архитектури, които приемат нови инструменти и компоненти без повтарящи се сътресения.
Дефицитът вече не е в производството, а в извличането на полза: избор на правилна работа, поставянето ѝ в контекст, проверка дали работи и преценка какво да не се пуска.
С поевтиняването на експериментите документацията на решенията също става по-ценна. Организациите трябва да знаят какво е опитано, какво се е провалило, какво е научено и защо е избран един път пред друг.
Инженерните системи трябва да целят бързо валидиране, безопасни итерации и документирано учене, не само скорост на разработката. Това променя и ролята на инженера, и екипа около него.
За инженерите това е не толкова отдалечаване от създаването, колкото преход към оформяне, оценяване и координиране на създаваното.
Софтуерът, генериран от AI, не премахва нуждата от инженери. Той повишава значението на хората, които разбират системните ограничения, определят интерфейси, проектират оценки и координират хора и агенти. Инженерите с техническа дълбочина, добра преценка, продуктово разбиране и умения за оценяване често ще създават повече стойност от фокусираните само върху отделни компоненти.
Преди продуктовите екипи решаваха какво да се създаде, а инженерните — как. Днес много организации обединяват продукт, дизайн и инженерство. Специфичната промяна от AI е вътре в екипа: по-евтините прототипи позволяват преход от формулиране на проблема до реализация и оценка в един цикъл. Екипите могат да тестват повече варианти, да отхвърлят слабите идеи по-рано и да придвижват валидираните по-близо до продукция.
Това благоприятства малки мултидисциплинарни екипи, в които специалисти по продукт, дизайн, инженерство и предметната област учат в общ цикъл. Продуктовата и техническата преценка не се сливат в една роля, но трябва да са по-тясно свързани. Продуктовите лидери се нуждаят от достатъчно технически знания за прототипиране и оценяване на варианти. Инженерите се нуждаят от клиентски и бизнес контекст, за да оформят проблема, а не само да реализират готов отговор.
Инженерните организации традиционно приемат кода за основен актив. С по-лесното генериране на код трайната стойност се измества към контекста: отраслови знания, разбиране на клиентите, оперативен опит, собствени данни, набори за оценка, машинночетими правила и история на архитектурните решения, обясняваща работата на системите.
Кодовите бази са важни и защото въплъщават трудно придобити знания за бизнеса и клиентите. AI променя усилията за създаване на код, но не премахва усилията за придобиване на тези знания. Затова организациите трябва да гледат отвъд обема код и да инвестират в активи с натрупваща се стойност: добре управлявани собствени данни, използваеми системи за знания, дълбоко разбиране на клиентите и ясна документация на решенията.
За CIO и CDO това поставя информационната архитектура и управлението на данни в основата на инженерната ефективност. AI агентите използват само контекст, до който имат разрешен достъп и който могат да разбират. Така разпокъсаните знания, неясната отговорност за данните и непоследователните разрешения стават инженерни ограничения, не само информационни проблеми.
Щом контекстът стане част от производствената система, той не може да остане само документация. Той се превръща във функция на платформата.
AI разработката не може да се остави изцяло на отделни екипи, щом контекстът, оценяването и управлението са част от работещата система. Не бива и да се централизира дотолкова, че екипите да загубят връзка с реалните проблеми на клиентите.
Федеративният модел съчетава тези нужди. Самостоятелните екипи за приложения остават близо до проблема, а общата платформа и рамка им осигуряват инструменти за повторна употреба, контролиран достъп до контекст, подходи за оценяване, разрешения и правила за управление. Моделът работи при ясно разпределени отговорности. Екипите за приложения отговарят за процеса и резултата му. Екипите за рамката осигуряват общите средства за безопасна работа. Звената по риск, сигурност и управление запазват независимия надзор.
Екипите за приложения и експертите в областта трябва да определят оценъчните случаи за задачата и прага за приемане. Екипът за рамката трябва да осигури инфраструктурата, общите контроли и отчетността за последователно изпълнение на оценките.
Област | Екип за приложението | Екип за рамката | Риск, сигурност и управление |
|---|---|---|---|
Продукт и резултат | Избира проблема, процеса, потребителското изживяване и показателите за успех; отговаря за клиентския и бизнес резултат | Осигурява многократни подходи, инструменти и телеметрия | Задава ограничения при съществен риск от случая на употреба |
Контекст и достъп | Определя нужните за процеса информация и действия | Осигурява контекстни интерфейси, идентичност на агента и права за инструменти | Одобрява достъпа до чувствителни данни и границите на контрола |
Оценка и пускане | Определя критериите за приемане и преглежда резултатите | Поддържа набори за оценка, одитни записи и одобрени пътища за внедряване | Одобрява високорискови употреби, изключения и съществени промени |
Финансиране и отчетност | Получава финансиране и носи отговорност за резултата от приложението | Финансира се като общ ресурс. Оценява се по повторна употреба, покритие и срок до безопасно внедряване | Отговаря за независимия надзор и контролните решения |
Ритъм и учене | Работи итеративно с експерти и преглежда резултати, отменени решения и инциденти | Превръща наученото в нови тестове, контроли и решения за повторна употреба | Преглежда инциденти и промени на договорените етапи за одобрение |
Това променя и начина, по който лидерите трябва да мислят за размера на екипите. По-малки екипи, произвеждащи повече софтуер, не са самоцел. Целта е човешката преценка да е там, където носи най-много стойност: близо до проблема в екипите за приложения и в общите ресурси, които им позволяват да работят бързо, без да губят контрол.
С по-малки екипи за приложения и повече помощ от AI организациите се нуждаят от по-силни общи ресурси за безопасна, последователна и отчетна разработка.
Традиционните платформи са предимно за хора, а платформеното инженерство цели главно по-висока продуктивност на разработчиците. Платформа, изградена около AI, трябва да поддържа и хора, и агенти.
Агентът използва платформата за разработчици по различен начин от човека. Нужни са му машинно достъпни инструкции и инструменти, изрични разрешения и надеждна оценка на работата. Рамката трябва да обхваща и наблюдаемостта, сигурността, съответствието и управлението на знания. Целта ѝ е да направи автономността полезна чрез ясни, приложими ограничения.
Да разгледаме банка, която въвежда процес с AI за запитвания относно оспорени картови плащания. Екипът за приложението започва с тясна задача: класифициране на случая, извличане на приложимите правила и проект на отговор за служител. Той отговаря за процеса, потребителското изживяване, праговете за ескалация и показателите за успех. Не определя регулаторни правила и не дава нови разрешения на агента.
Тук агентите могат да подпомагат разработката, да изпълняват тестове за задачата и да подготвят версия за пускане. Хората одобряват внедряването, а резултатите в продукция насочват следващия кръг на оценяване и разработка. Контролът при изпълнение е отделен: агентът за обслужване използва само одобрени инструменти и данни и спазва определените разрешения и реда за ескалация.
Контекст: агентът има достъп до случая, нужния минимум клиентски данни, одобрените процедури за продукти и жалби и машинночетимите правила за ескалация. Няма достъп до необработени данни за плащане или несвързани клиентски записи и не може да записва в системата за управление на случаи.
Оценка: преди пускане системата трябва да премине успешно тестове с типични минали и експертно означени гранични случаи. Те проверяват точността на класификацията, спазването на правилата, уместния отказ от отговор, изтичането на лични данни и ескалацията на жалби или финансово чувствителни случаи.
Одобрение: екипът за приложението отговаря за продуктовото решение. Звената по риск, сигурност и съответствие одобряват достъпа до данни, обвързването на правилата с процеса и начина на внедряване. Служител одобрява всяко изходящо съобщение. Агентът не решава сам въпроси за пари или права на клиента.
Запис в рамката: при всяко изпълнение се записват агентът, версията на модела, извлеченият контекст и източници, извиканите инструменти, проверките за спазване на правилата, оценките, човешките корекции и отмени и инцидентите. Екипът създава преизползваеми интерфейси за контекст, тестови случаи, шаблони за разрешения и одобрени начини за внедряване. Грешките и отмените водят до нови тестове и подобрения.
Така агентът получава свобода само чрез одобрени контекст и инструменти, а всяко важно ограничение оставя доказателства за преглед и повторна употреба. Хората остават отговорни за важните решения. С времето реалните успехи, човешки намеси и провали помагат на банката да подобрява процеса и да решава дали да разшири обхвата му. Това са ограничената автономност и ученето, подкрепено с доказателства, на практика.
Това разделение личи в системите и контролите, които управлява екипът за рамката. Такива екипи могат да отговарят за:
Идентичност на агента: създаване на служебни идентичности, запис на отговорник и среда и проследяване на версиите на модела, подканата и инструментите.
Разрешения за инструменти: обхват на четене и запис, граници на достъп до данни, лимити на заявки, одобрения и забрана по подразбиране за агентни действия.
Интерфейси за контекст: одобрени знания и данни чрез версионирани интерфейси, съобразени с разрешенията, с ясен произход и актуалност.
Набори за оценка: представителни примери, гранични случаи, тестове за безопасност, сигурност и регресии и прагове за пускане.
Одитни записи и наблюдаемост: запис на агента, извлечения контекст, извиканите инструменти, резултатите, одобренията, човешките отмени, грешките и инцидентите с подходящ срок на съхранение и контрол на достъпа.
Одобрени начини за внедряване: в изолирана среда, паралелно, поетапно и в продукция, с автоматични проверки, отмяна и контрол на промените.
Екипите за рамката не са ново име за всички платформени функции. Екипите по експлоатация на системи за машинно обучение, сигурност, управление и платформи запазват отговорностите си. Екипът за рамката свързва контролите с изграждането и изпълнението на работни процеси с AI: разрешения и етапи за одобрение за спазване на правилата, контролирани интерфейси за контекст, набори от тестове за оценяване и записи за одит и повторно прилагане на действията на агентите.

Ако разработката на приложения и поддръжката на общата платформа се обособят, трябва да се променят съставът на екипите, лидерството и показателите.
Екипите за приложения се нуждаят от продуктова, инженерна и отраслова преценка, близка до проблема. Екипите за платформи и рамки се нуждаят от хора, които проектират и управляват общата среда за мащабна работа на хора и агенти.
За CTO, CDO и CIO предизвикателството е да решат какво да осигурят централно и какво да оставят на отделните екипи.
Екипите за приложения се нуждаят от свобода да работят бързо и близо до клиентите. Не бива да изграждат наново сигурен достъп до данни, наблюдаемост, оценяване и управление.
В организация, изградена около AI, технологичните лидери трябва частично да пренасочат фокуса от капацитета за разработка към проектирането на самата система. Това включва:
подбор и развитие на хора, които вземат обосновани решения;
инвестиции в общи AI платформи, оценки, защити, одобрени пътища, обмен на знания и модели за достъп;
определяне на работни граници за агенти, хора и съвместни процеси;
оценка на доказани изводи, надеждност, полза за клиенти и сигурно преизползване; и
достатъчно добро познаване на технологията, за да е ясно къде AI реално променя икономиката на разработката.
Добре проектираната система улеснява достъпа до контекст, тестването на работа от AI, повторната употреба на доказани подходи и разпознаването на нуждата от човешко одобрение.
Много инженерни показатели са създадени, когато разработката на софтуер е била съществено ограничение. Скоростта, точките за задачи, обемът свършена работа и честотата на внедряване дават полезни сигнали, но сами по себе си са по-малко показателни, когато AI намалява усилията за създаване на софтуер.
Екипът може да генерира повече код и да провежда повече експерименти, но пак да взема лоши решения, да добавя излишна сложност или да увеличава риска.
Затова технологичните лидери трябва да питат не само колко софтуер се произвежда или колко широко се използва AI. Трябва да знаят дали AI ускорява ученето, подобрява резултатите за клиентите и позволява надеждна работа в договорените граници.
За екипите за приложения полезни показатели са:
време до доказани изводи;
по-добри резултати за клиентите;
създадена бизнес стойност;
възприемане и промени в поведението;
дял на експериментите, водещи до обосновани решения.
Времето до доказани изводи обхваща периода от началото на експеримента до събирането на достатъчно доказателства за решение. Екип, който започва в понеделник, внедрява в сряда и взема обосновано решение в петък, има едноседмичен цикъл на учене, не двудневен цикъл на разработка.
За екипите за платформи и рамки полезни показатели са:
одобрени AI схеми за преупотреба
обхват и ефективност на оценяването;
инциденти и преработки заради AI;
време от идея до безопасен пуск;
наблюдаемост на агентни действия; и
готовност за одит и съответствие.
Разходите за всеки успешен резултат трябва да включват използването на модела, човешкия преглед, неуспешните опити, преработката и поддръжката.
И тези показатели изискват ясни определения, базови стойности и методи за оценка. Целта не е една универсална система от показатели да замени друга, а да се измерва дали разработката дава надеждни резултати.
Моделът с приложения и рамка е един от отговорите на сегашния етап на инженерството, изградено около AI. Не бива да се приема за окончателен.
Няколко промени могат отново да преобразят основната единица инженерна работа:
агенти да поемат цели работни процеси;
част от софтуера да стане временен, вместо да се поддържа с години;
преход за потребителите от интерфейси на приложения към работа чрез агенти;
базовите модели да поемат повече платформени функции; и
регулацията да превърне одитируемостта и отчетността в основно инженерно ограничение.
Това са възможности, не сигурни резултати. Ако се осъществят, дори разделението между екипи за приложения и платформи може да се окаже твърде тясно.
Най-подготвените за тази несигурност организации ще прилагат модел на работа, който могат да адаптират. Ще се организират около ясни принципи, богат контекст, ограничена автономност и бързо учене, а не около фиксирани структури на екипи или инструменти.
AI не намалява значението на инженерните системи. Той увеличава стойността на доброто им проектиране.
С поевтиняването на софтуера предимство имат организациите, които вземат по-добри решения, натрупват полезен контекст и работят безопасно. Инженерството, изградено около AI, не означава просто използване на AI инструменти. То се преустройва според новите ограничения: качество на решенията, общ контекст, ограничена автономност и бързо учене.
Технологичните лидери могат да уточнят четири решения:
Кои решения за клиенти и продукти да останат близо до екипите за приложения?
Кои контекст, контроли и средства за оценяване трябва да са общи?
Къде агентите могат да действат автономно и къде е нужно човешко одобрение?
Кои показатели доказват наученото, стойността за клиента и безопасната работа?
Отговорите ще определят стойността от внедряването на AI повече от броя асистенти в организацията.
