Основная навигация

Операционная модель ИИ-ориентированной инженерии

Создание ПО дешевеет, и преимущество получают организации, способные принимать более качественные решения и безопасно проверять результаты.

Главное для руководителей

  • ИИ снижает стоимость создания ПО, но для получения конкурентного преимущества нужна новая операционная модель. Устойчивого эффекта скорее добьются организации, которые перестраивают работу команд, а не просто внедряют ИИ-ассистентов.

  • ИИ-ориентированной инженерии нужны два взаимодополняющих звена: команды приложений, близкие к клиентам и их задачам, и команды платформ или «обвязки», предоставляющие общий контекст, защитные механизмы, оценки и управление для безопасной масштабной работы людей и ИИ-агентов.

  • Технологическое руководство переходит от управления ресурсами разработки к проектированию самой системы разработки. Руководителям необходимо чётко определить четыре ключевых аспекта: за что отвечают команды приложений, какие контекст и средства контроля являются общими, в каких случаях действиям агентов требуется одобрение человека и как будут измеряться подтверждённые результаты обучения и польза для клиентов.

В прежней модели главным ограничением были ресурсы для реализации

Современные инженерные практики во многом сформировались в мире, где создание ПО стоило дорого. Главный вопрос был таким: как большему числу команд выпускать больше ПО с большей предсказуемостью? Эта установка определяла структуру команд, финансирование платформ и оценку разработки. Масштабирование часто означало найм людей, а успех обычно измерялся объёмом выполненной работы.

ИИ меняет эту установку. По нашему мнению, ИИ-ориентированная инженерия — не традиционная разработка с более совершенными инструментами. Ей нужна другая операционная модель: небольшие команды приложений, близкие к задачам клиентов, при поддержке команд платформ или «обвязки». «Обвязкой» мы называем контролируемую рабочую среду, которая даёт людям и агентам контекст, инструменты, права, обратную связь и границы для безопасного применения ИИ в большом масштабе.

Для руководителей технологий и данных это важно: роста личной продуктивности недостаточно для безопасного внедрения во всей организации. Без продуманной операционной модели возникают разрозненные инструменты, дублирование решений, размытая ответственность, бесконтрольное раскрытие данных и нестабильное качество.

Компаниям нужно сменить вопрос «Как помочь инженерам использовать ИИ?» на «Как перестроить инженерную систему, чтобы люди и агенты безопасно создавали ценность в масштабах предприятия?»

Чем дешевле производство, тем важнее решения

ИИ позволяет инженерам исследовать больше идей, быстрее создавать прототипы и проверять больше подходов. Но больший объём работы не означает автоматически большую ценность. Без взвешенных решений, нужного контекста и действенной оценки объём работы может расти быстрее, чем организация определяет, чему доверять, что внедрять и из чего извлекать уроки.

ИИ может удешевить генерацию кода и эксперименты. Снизится ли общая стоимость ПО, зависит от оставшихся затрат на проверку, интеграцию, эксплуатацию, сопровождение и доработку.

Мы ожидаем, что преимущество в инженерии всё больше будет зависеть от четырёх способностей:

  • Решать, что и как создавать и как фиксировать этот выбор.

  • Обеспечивать людям и ИИ-системам опору на нужные знания организации.

  • Безопасно масштабироваться благодаря общим платформам, контролю и оценке.

  • Проектировать архитектуры, в которые новые инструменты и компоненты встраиваются без постоянных потрясений.

Дефицитной становится не способность производить, а способность повышать отдачу: выбирать нужные задачи, учитывать контекст, проверять работоспособность и понимать, что не стоит выпускать.

По мере удешевления экспериментов возрастает и ценность документирования принятых решений. Организациям нужно знать, что пробовали, что не сработало, чему научились и почему выбрали один путь, а не другой.

Инженерные системы должны обеспечивать быструю проверку, безопасные итерации и фиксацию полученных знаний, а не только скорость выпуска. Это меняет и роль инженера, и его команду.

Инженеры координируют всё больше элементов системы

Для инженеров это не столько уход от создания ПО, сколько переход к формированию, оценке и координации создаваемого.

ПО, созданное ИИ, не устраняет потребность в инженерах. Оно повышает роль людей, умеющих понимать ограничения систем, определять интерфейсы, проектировать оценки и координировать работу людей и агентов. Инженеры, сочетающие глубокие технические знания, здравое суждение, понимание продукта и навыки оценки, часто принесут больше пользы, чем специалисты только по реализации компонентов.

ИИ усиливает цикл обучения в продуктовой разработке

Раньше продуктовые команды решали, что создавать, а инженерные — как это сделать. Сегодня многие организации объединяют продуктовую работу, дизайн и разработку. ИИ меняет работу внутри команды: дешёвые прототипы позволяют пройти путь от постановки задачи до реализации и оценки за один цикл. Команды могут проверять больше вариантов, раньше отсеивать слабые идеи и доводить проверенные до внедрения.

Это даёт преимущество небольшим межфункциональным командам, где продуктовые специалисты, дизайнеры, инженеры и отраслевые эксперты работают в едином цикле обучения. Продуктовая и техническая экспертиза не сливаются в одну роль, но должны теснее взаимодействовать. Продуктовым руководителям нужно достаточно технических знаний для создания прототипов и оценки вариантов. Инженерам нужно понимать клиентов и бизнес, чтобы формулировать задачу, а не только реализовывать готовое решение.

Контекст организации становится стратегическим активом

Инженерные организации традиционно считали код главным активом. Чем проще генерировать код, тем больше долгосрочной ценности в его контексте: отраслевых знаниях, понимании клиентов, опыте эксплуатации, собственных данных, оценочных наборах, машиночитаемых правилах и истории архитектурных решений, объясняющей устройство систем.

Кодовые базы важны в том числе как воплощение с трудом полученных знаний о бизнесе и клиентах. ИИ меняет трудоёмкость создания кода, но не избавляет от усилий, нужных для получения этих знаний. Поэтому стоит смотреть шире объёма кода и вкладываться в активы с нарастающей отдачей: управляемые собственные данные, удобные системы знаний, глубокое понимание клиентов и ясные записи о решениях.

Для CIO и CDO это делает информационную архитектуру и управление данными основой инженерной эффективности. ИИ-агенты могут использовать лишь тот контекст, к которому имеют доступ и который способны интерпретировать. Разрозненные знания, неясное владение данными и несогласованные права становятся ограничениями разработки, а не только проблемами управления информацией.

Став частью рабочей системы, контекст уже не может оставаться пассивной документацией. Он становится функцией платформы.

Федеративная ИИ-разработка: локальные команды, общие защитные механизмы

Когда контекст, оценка и управление входят в рабочую систему, разработку с ИИ нельзя целиком отдавать отдельным командам. Но нельзя и настолько централизовать её, чтобы команды теряли связь с реальными задачами клиентов.

Федеративная модель уравновешивает эти потребности. Автономные команды приложений остаются близки к задаче. Общая платформа и обвязка дают им переиспользуемые инструменты, контролируемый доступ к контексту, шаблоны оценки, права и управление. Федерация работает лишь при ясной ответственности: команды приложений отвечают за процесс и результат; команды обвязки дают общие средства безопасной работы; службы рисков, безопасности и управления сохраняют независимый надзор.

Команды приложений и отраслевые эксперты должны определять тестовые случаи для конкретной задачи и порог приёмки. Команда обвязки должна обеспечивать инфраструктуру оценки, общие средства контроля и отчётность для единообразного проведения проверок.

Область

Команда приложения

Команда обвязки

Риски, безопасность и управление

Продукт и результат

Выбирает задачу, процесс, пользовательский опыт и критерии успеха; отвечает за результат для клиентов и бизнеса

Предоставляет переиспользуемые шаблоны, инструменты и телеметрию

Задаёт ограничения для сценариев с существенным риском

Контекст и доступ

Определяет необходимые процессу сведения и действия

Предоставляет интерфейсы контекста, идентификацию агентов и права на инструменты

Согласует доступ к конфиденциальным данным и границы контроля

Оценка и выпуск

Определяет критерии приёмки и проверяет результаты

Поддерживает наборы тестов, журналы аудита и одобренные пути развёртывания

Согласует высокорисковые сценарии, исключения и существенные изменения

Финансирование и ответственность

Получает финансирование под результат приложения и отвечает за него

Финансируется как общая функция; оценивается по повторному использованию, охвату и времени до безопасного запуска

Отвечает за независимый надзор и решения по контролю

Ритм работы и обучение

Проводит итерации с отраслевыми экспертами, анализирует результаты, отмены решений и инциденты

Превращает полученные знания в новые тесты, средства контроля и переиспользуемые возможности

Рассматривает инциденты и изменения на установленных этапах согласования

Это меняет и подход руководителей к размеру команд. Выпуск большего объёма ПО меньшими командами — не самоцель. Цель — применять человеческое суждение там, где оно полезнее всего: рядом с задачей в командах приложений и в общих средствах, позволяющих этим командам двигаться быстро, не теряя контроля.

Платформа становится обвязкой для людей и агентов

По мере сокращения команд приложений и расширения роли ИИ организациям нужны общие средства для безопасной, стабильной разработки с чёткой ответственностью.

Традиционно платформенная инженерия повышала продуктивность разработчиков, а её основными пользователями были люди. Платформа, изначально ориентированная на ИИ, должна поддерживать и людей, и агентов.

Агент использует платформу разработки иначе, чем человек. Ему нужны машиночитаемые инструкции, доступные инструменты, явные разрешения и надёжная оценка работы. Обвязка также должна учитывать наблюдаемость, безопасность, соблюдение требований и управление знаниями. Её цель — сделать автономность полезной, задав чёткие границы и обеспечив их соблюдение.

Пример: поддержка с ИИ в банке, подчинённом требованиям регулятора

Представим банк, внедряющий ИИ в обработку обращений по оспариванию карточных операций. Команда приложения начинает с узкой задачи: классифицировать обращение, найти нужные правила и подготовить ответ для сотрудника поддержки. Она отвечает за процесс, пользовательский опыт, пороги эскалации и критерии успеха. Она не определяет нормативные требования и не выдаёт агенту новые разрешения.

Здесь агенты могли бы помогать с реализацией, выполнять целевые тесты и готовить релиз. Развёртывание в рабочей среде по-прежнему одобряли бы люди, а результаты эксплуатации учитывались бы в следующем цикле оценки и разработки. Контроль при исполнении — отдельная задача: агент поддержки использует лишь одобренные инструменты и данные в рамках заданных прав и путей эскалации.

  • Контекст: агенту доступны текущее обращение, минимум данных клиента для его решения, утверждённые процедуры по продуктам и жалобам, машиночитаемые правила эскалации. Агент не имеет доступа к исходным платёжным данным и записям других клиентов, а также не может вносить изменения в систему управления обращениями.

  • Оценка: до релиза тесты на типичных прошлых обращениях и размеченных экспертами пограничных случаях должны подтвердить точность классификации, соблюдение правил, обоснованность отказов, отсутствие утечек персональных данных и эскалацию жалоб и финансово значимых случаев.

  • Согласование: за продуктовое решение отвечает команда приложения. Службы рисков, безопасности и комплаенса согласуют доступ к данным, применимость правил и путь развёртывания. Сотрудник поддержки одобряет каждое исходящее сообщение; решения, затрагивающие деньги или права клиента, агент самостоятельно не принимает.

  • Журнал обвязки: для каждого запуска фиксируются идентификатор агента, версия модели, полученные контекст и источники, вызовы инструментов, проверки правил, результаты оценки, правки и отмены решений человеком, инциденты. Удачные решения команда превращает в переиспользуемые интерфейсы контекста, тестовые случаи, шаблоны прав и одобренные пути развёртывания. Сбои и отмены решений становятся основой новых тестов и улучшений процесса.

Так агент получает свободу действий, но лишь через одобренные контекст и инструменты. Контроль каждой важной границы даёт свидетельства для проверки и повторного использования. Ответственность за значимые решения остаётся у людей. Со временем банк может на реальных случаях — успехах, вмешательствах людей и ошибках — улучшать процесс и решать, расширять ли полномочия агента. Именно так на практике выглядят ограниченная автономность и обучение на подтверждённых результатах.

Это разделение отражено в системах и средствах контроля, которыми управляет команда обвязки. Команды обвязки могут отвечать за:

  • Идентификацию агентов: создание служебных учётных записей, фиксацию владельцев и среды, учёт версий моделей, промптов и инструментов каждого агента.

  • Права на инструменты: области чтения и записи, границы доступа к данным, лимиты запросов, этапы согласования и запрет действий агента по умолчанию.

  • Интерфейсы контекста: доступ к одобренным знаниям и данным через версионируемые интерфейсы с учётом прав, указанием происхождения и актуальности.

  • Наборы тестов: типичные примеры, пограничные случаи, проверки безопасности и защищённости, регрессионные тесты и критерии выпуска.

  • Аудит и наблюдаемость: запись идентификаторов агентов, контекста, вызовов инструментов, результатов, согласований, отмен решений людьми, сбоев и инцидентов с нужными сроками хранения и контролем доступа.

  • Одобренные пути развёртывания: песочница, теневой режим, поэтапный и рабочий запуск с автоматическими проверками, откатом и контролем изменений.

Команда обвязки — не новое название для всех существующих платформенных функций. У команд эксплуатации машинного обучения, безопасности, управления и платформ по-прежнему свои обязанности. Команда обвязки связывает эти средства контроля с разработкой и эксплуатацией ИИ-процессов: права и согласования обеспечивают соблюдение правил, управляемые интерфейсы — контекст, тесты — оценку, журналы — аудит поведения агентов и повторное использование опыта.

Схема операционной модели ИИ-ориентированной инженерии: команды приложений опираются на общую платформу и обвязку.

Кадры, руководство и метрики должны меняться

Разделение инженерной работы на разработку приложений и общую инфраструктуру требует изменений в найме, руководстве и измерении результатов.

Командам приложений нужна продуктовая, инженерная и отраслевая экспертиза с глубоким пониманием задачи. Командам платформ и обвязки нужны люди, способные создавать и эксплуатировать общую среду для масштабной работы людей и агентов.

Технологические руководители проектируют систему разработки

Для CTO, CDO и CIO задача — решить, какие возможности предоставлять централизованно, а какие оставить отдельным командам.

Командам приложений нужна свобода для быстрой работы и тесной связи с клиентами. Им не следует заново создавать безопасный доступ к данным, наблюдаемость, оценку и управление.

В организации, построенной вокруг ИИ, руководителям нужно частично сместить фокус с управления ресурсами разработки на проектирование её системы. Это включает:

  • найм и развитие людей с упором на здравое суждение и качество решений;

  • инвестиции в общие ИИ-платформы, оценки, защитные механизмы, одобренные пути, обмен знаниями и схемы доступа;

  • определение границ работы агентов, людей и совместных процессов;

  • измерение подтверждённых результатов обучения, надёжности, пользы для клиентов и безопасного повторного использования; а также

  • достаточное погружение в технологии, чтобы понимать, где ИИ действительно меняет экономику разработки.

Хорошо устроенная система упрощает доступ к нужному контексту, проверку результатов ИИ, повторное использование проверенных решений и выявление задач, требующих одобрения человека.

Нынешние инженерные метрики дают лишь часть картины

Многие метрики создавались, когда производство ПО было главным ограничением. Скорость команды, оценки трудоёмкости задач, пропускная способность и частота развёртываний всё ещё полезны, но сами по себе менее показательны, когда ИИ снижает трудоёмкость создания ПО.

Команда может писать больше кода и проводить больше экспериментов, но принимать плохие решения, усложнять систему или повышать риски.

Поэтому руководителям мало знать объём выпускаемого ПО и распространённость ИИ-инструментов. Нужно понимать, помогает ли ИИ быстрее учиться, улучшать результаты для клиентов и надёжно работать в согласованных границах.

Для команд приложений полезны такие показатели:

  • время до подтверждения гипотез;

  • улучшение результатов для клиентов;

  • созданная ценность для бизнеса;

  • освоение продукта и изменение поведения;

  • доля экспериментов, ведущих к обоснованным решениям.

Время до получения подтверждённых результатов обучения должно охватывать весь интервал — от запуска эксперимента до сбора достаточных доказательств для принятия решения. Если команда начинает работу в понедельник, выкатывает релиз в среду и приходит к обоснованному решению в пятницу, её цикл обучения составляет одну неделю, а не два дня разработки.

Для команд платформ и обвязки полезны:

  • повторное использование одобренных ИИ-решений;

  • охват и эффективность оценок;

  • инциденты и доработки, связанные с ИИ;

  • время от идеи до безопасного запуска;

  • наблюдаемость действий агентов;

  • готовность к аудиту и проверке соблюдения требований.

В затраты на каждый успешный результат нужно включать использование модели, проверку человеком, неудачные попытки, доработки и эксплуатационную поддержку.

Этим показателям всё равно нужны чёткие определения, исходные значения и методы оценки. Цель — не заменить одну универсальную систему показателей другой, а понять, даёт ли система разработки заслуживающие доверия результаты.

Даже эта модель может оказаться временной

Разделение на приложения и обвязку — один из ответов на нынешний этап развития ИИ-ориентированной инженерии. Не стоит считать его окончательным устройством.

Базовую единицу инженерной работы могут вновь изменить:

  • передача агентам ответственности за процессы целиком;

  • появление временного ПО вместо многолетнего сопровождения;

  • переход пользователей от интерфейсов приложений к взаимодействию через агентов;

  • освоение фундаментальными моделями всё большего числа платформенных функций;

  • регулирование, делающее проверяемость и подотчётность главным ограничением разработки.

Это возможные сценарии, а не предрешённые исходы. Если они реализуются, даже деление на команды приложений и платформ может оказаться слишком узким.

Лучше всего к этой неопределённости подготовятся организации с гибкой операционной моделью. Их основой станут ясные принципы, качественный контекст, ограниченная автономность и быстрое обучение, а не жёсткая структура команд или набор инструментов.

Прогресс, которому можно доверять, — новый стандарт инженерного мастерства

ИИ не снижает важность инженерных систем. Он повышает ценность их грамотного проектирования.

По мере удешевления ПО преимущество получают организации, которые лучше принимают решения, накапливают полезный контекст и безопасно работают. ИИ-ориентированная инженерия — не просто использование ИИ-инструментов. Она перестраивается с учётом новых ограничений: качества решений, общего контекста, ограниченной автономности и быстрого обучения.

Руководители могут начать с четырёх явных решений:

  1. Какие решения о клиентах и продукте должны оставаться за командами приложений?

  2. Какие контекст, средства контроля и оценки должны быть общими?

  3. Где агенты могут действовать автономно, а где нужно одобрение человека?

  4. Какие показатели подтверждают получение проверенных результатов обучения, пользу для клиентов и безопасность работы?

Ответы на эти вопросы определят ценность внедрения ИИ сильнее, чем число ассистентов в организации.

Authors

Abbie Manning, Saurabh Singh