AI 降低了軟體開發成本。組織要取得競爭優勢,就必須改變營運模式。除了部署 AI 助理,進一步重新設計團隊工作方式,更有可能帶來長期效益。
AI 原生工程需要兩種互補的能力。應用團隊要貼近客戶,熟悉客戶遇到的問題。平台或「任務執行框架」團隊則提供共用脈絡、安全防護措施、評估與治理機制,讓人員與 AI 智慧體能在組織擴大使用規模時安全工作。
技術主管的工作重心逐漸從管理交付產能轉向設計交付系統。主管應明訂四件事:應用團隊負責哪些事項、各團隊共用哪些脈絡與管控措施、智慧體在哪些環節須取得人工核准,以及如何衡量團隊從實驗中取得的決策依據與為客戶帶來的價值。
許多現代工程做法成形時,開發軟體仍然十分昂貴。當時的核心問題是:如何讓更多團隊交付更多軟體,而且更容易預估交付進度?這個想法影響了組織如何編組團隊、編列平台經費與衡量交付成果。擴大規模通常靠增聘人手,而衡量成效時,多半看整個流程完成了多少工作。
AI 改變了這項假設。我們認為,AI 原生工程除了採用更好的工具,還需要不同的營運模式。規模較小的應用團隊貼近客戶問題,由平台或「任務執行框架」團隊提供支援。「任務執行框架」是指受管控的工作環境,為人員與智慧體提供必要的脈絡、工具、權限與回饋機制,也明定行動界線,讓組織能安全地擴大 AI 的使用規模。
對技術與資料主管而言,即使個人的工作效率提高了,仍不足以讓整個組織安全地導入 AI。若未妥善規劃營運模式,各團隊可能各用各的工具、重複開發相同做法、權責不明,難以控管哪些資料會暴露在外,工作品質也可能不一致。
企業原本問的是「怎麼協助工程師使用 AI?」,現在更該問:「工程系統要怎麼重新設計,才能讓人員與智慧體在整個企業內都能安全地創造價值?」
AI 讓工程師能探索更多構想、更快製作原型,並測試更多方法。然而,產出增加不一定帶來更多價值。若缺乏良好的判斷力、相關脈絡與有效的評估方法,成果可能多到讓組織來不及判斷哪些值得信賴、哪些可以部署,又有哪些經驗可供借鏡。
AI 可以降低產生程式碼與執行實驗的成本。至於軟體總成本能否降低,還得看審查、整合、運行、維護及重做軟體需要投入多少心力。
我們預期,工程優勢將愈來愈取決於以下四種能力:
決定該建置什麼、如何建置,以及如何記錄這些選擇。
讓人員與 AI 系統以適切的組織知識為依據。
透過共用平台、管控措施與評估機制,安全地擴大規模。
設計能納入新工具與元件的架構,避免每次導入都造成干擾。
因此,真正稀缺的逐漸變成讓產出發揮更大效用的能力。這包括選對要做的事、依相關脈絡推進工作、測試做法是否有效,也知道哪些成果不該發布。
隨著實驗成本下降,決策紀錄也變得更有價值。組織需要知道曾嘗試什麼、哪些嘗試失敗、學到了什麼,以及為何選擇某條路而非另一條路。
設計工程系統時,除了交付速度,還要考量團隊能否快速驗證、安全地反覆改進,並記錄每次嘗試的發現。這會改變工程師的角色,也會改變團隊的運作方式。
工程師仍然要動手開發,工作重心則逐漸轉向決定要做出什麼、評估成果,並統籌開發過程。
即使軟體可以由 AI 產生,工程師仍不可或缺。能掌握系統限制、定義介面、設計評估方法,並協調人員與智慧體分工的工程師,角色也更重要。與只專注於實作個別元件的工程師相比,技術扎實、了解產品,又具備判斷力與評估能力的工程師,通常更能創造價值。
過去由產品團隊決定要做什麼,再由工程團隊想辦法實作。如今,許多組織已讓產品、設計與工程人員一起工作。AI 改變的是團隊內部的工作方式:製作原型的成本降低後,團隊能在同一個週期內界定問題、實作構想並評估成效。團隊也能測試更多方案,提早淘汰行不通的構想,將通過驗證的構想進一步落實到正式環境中。
這種做法適合小型跨職能團隊,讓產品、設計、工程與領域專家一起實驗、一起檢視成果。產品判斷和技術判斷仍由不同角色負責,但雙方需要更密切合作。產品主管需要懂技術,才能製作原型、評估各種方案。工程師則需要了解客戶與業務,才有辦法參與界定問題,而非只是照既定方案實作。
工程組織過去一向把程式碼視為主要資產。如今程式碼更容易產生,背後的脈絡也愈來愈有長期價值,包括領域知識、對客戶的了解、營運經驗、專有資料、評估資料集、機器可讀的政策,以及說明系統為何如此運作的架構決策紀錄。
程式碼庫之所以重要,部分原因是裡面保留了團隊好不容易累積的業務與客戶知識。AI 改變了撰寫程式碼所需的心力,但這些知識仍得靠團隊累積。因此,除了程式碼數量,組織也應重視並投資能持續累積價值的資產,包括治理完善的專有資料、實用的知識系統、對客戶的深入了解,以及清楚的決策紀錄。
對資訊長與資料長而言,這使資訊架構與資料治理成為工程績效的核心。AI 智慧體只能使用獲准存取且能夠解讀的脈絡。因此,零散的知識、不明確的資料權責與不一致的權限,都成為工程上的限制,而不只是資訊管理問題。
系統在實際運作時,一旦需要用到這些背景資訊,光把資訊寫進文件供人查閱就不夠了。平台本身也要能在系統需要時,提供適用的資訊。
當軟體系統的運作需要用到脈絡、評估與治理機制,AI 交付就不能完全交由各團隊自行處理。但權責也不宜過度集中,否則團隊容易脫離客戶的實際問題。
聯邦式分工兼顧了這兩項需求。應用團隊保有自主權,也能貼近實際問題。共用平台與任務執行框架則提供可重複使用的工具與評估模式,管控脈絡的存取,並提供權限與治理機制。這種分工要能奏效,各方權責必須清楚:應用團隊負責工作流程與成果,任務執行框架團隊提供共用能力,讓應用團隊能安全地推進工作,風險、資安與治理團隊則保有獨立監督權。
應用團隊與領域專家應針對各項任務訂定評估案例與驗收門檻。任務執行框架團隊則提供評估基礎設施、共用管控措施與報告機制,讓各團隊能以一致的方式執行評估。
範疇 | 應用團隊 | 任務執行框架團隊 | 風險、資安與治理 |
|---|---|---|---|
產品與成果 | 選定問題、工作流程、使用者體驗與成效指標;對客戶與業務成果負責 | 提供可重複使用的模式、工具與遙測能力 | 當使用案例帶來重大風險時,設定限制條件 |
脈絡與存取 | 明定工作流程所需的資訊與動作 | 提供脈絡介面、智慧體身分與工具權限 | 核准敏感資料存取與管控界線 |
評估與發布 | 定義驗收標準並審查結果 | 維護評估套件、稽核日誌與已核准的部署路徑 | 核准高風險使用案例、例外情況與重大變更 |
經費與問責 | 依應用成果獲得經費,並對成果負責 | 經費用於提供共用能力,成效則看這些能力的重用情況、涵蓋範圍,以及安全上線所需的時間 | 負責獨立監督與管控決策 |
工作節奏與學習 | 與領域專家反覆改進工作流程,並檢視成果、人工覆寫紀錄與異常事件 | 將學習成果轉化為新測試、管控措施與可重複使用的能力 | 在約定的核准關卡審查異常事件與變更 |
這也改變了主管看待團隊規模的方式。縮小團隊、增加軟體產量,本身並不是目的。重要的是讓人能在最有價值的環節做判斷:應用團隊貼近問題,在第一線做決定;設計和維運共用能力時也要運用專業判斷,讓各團隊能快速行動,同時掌握風險。
應用團隊規模愈來愈小,也愈來愈仰賴 AI。組織需要加強各團隊共用的能力,讓軟體交付安全、做法一致,責任也有明確歸屬。
傳統平台工程以開發人員為主要使用者,重點是提升開發效率。AI 原生平台則必須同時支援人員與智慧體。
智慧體使用開發平台的方式與人不同,需要機器可存取的指令與工具、明確的權限,也需要可靠的方法來評估工作成果。任務執行框架還須兼顧可觀測性、資安、法規遵循與知識管理,讓智慧體在明確且能確實執行的規範內自主工作。
假設一家銀行為持卡人的爭議款項查詢導入 AI 輔助客服流程。應用團隊先把任務限縮在幾個步驟:將案件分類、查找適用政策,再替真人客服草擬回覆。團隊負責工作流程、使用者體驗、案件升級處理的門檻與成效指標。團隊不制定監管政策,也不授予智慧體新的權限。
在這個案例中,智慧體可以協助實作、針對任務執行測試,並準備發布。部署到正式環境仍須由人員核准,上線後的實際結果則可作為下一輪評估與開發的依據。客服智慧體實際運作時另有管控:只能在既定權限內使用已核准的工具與資料,遇到需要升級處理的案件,須依指定流程辦理。
脈絡:智慧體可存取手上的案件、處理案件必需的客戶資料欄位、已核准的產品與客訴處理程序,以及機器可讀的案件升級規則。智慧體不能存取原始付款憑證或無關的客戶紀錄,也不能把資料寫入案件管理系統。
評估:發布前須用具代表性的歷史案件和專家標註的邊界案例進行測試,確認智慧體能正確分類、遵守政策、在適當時機不作答、避免個資外洩,並在遇到客訴或涉及敏感財務事項的案件時升級處理。各項檢查都須通過。
核准:應用團隊負責產品決策。風險、資安與法遵團隊負責核准資料存取權限、政策對應關係與部署路徑。每則對外訊息都須由真人客服人員核准;凡是影響客戶金錢或權益的決策,都不在智慧體的自主權限內。
任務執行框架紀錄:每次執行都會記錄智慧體身分與模型版本、擷取的脈絡與來源、呼叫的工具、政策檢查、評估結果、人工編輯或覆寫,以及異常事件。團隊將有效做法轉化為可重複使用的脈絡介面、評估案例、權限範本與已核准的部署路徑。失敗與覆寫紀錄則成為新增測試及改善工作流程的依據。
銀行可以讓智慧體自行處理案件,但只能使用已核准的脈絡與工具。每個重要管控環節都會留下紀錄,供日後檢視與重複運用。重要決策仍由人員負責。隨著實際案例累積,銀行可以檢視智慧體做對了什麼、何時需要人員介入、哪些做法失敗,再據此改善流程,決定是否擴大智慧體的職責。這就是如何讓智慧體在明確範圍內自主工作,並根據實際證據判斷哪些做法有效。
從任務執行框架團隊維運的系統與管控措施,就能看出這樣的分工。團隊可能負責下列工作:
智慧體身分:核發服務身分、記錄歸屬與執行環境,並追蹤每個智慧體使用的模型、提示詞及工具版本。
工具權限:定義智慧體行動的讀寫範圍、資料存取界線、速率限制、核准關卡,以及預設拒絕規則。
脈絡介面:透過具備版本管理、依權限控管的介面,提供已核准的知識與資料,並清楚標示來源與更新狀態。
評估套件:維護具代表性的範例、邊界案例、操作安全與資安測試、迴歸測試,以及發布門檻。
稽核日誌與可觀測性:記錄智慧體身分、擷取的脈絡、呼叫的工具、輸出、核准、人工覆寫、失敗與異常事件,並設定適當的保存與存取控管。
已核准的部署路徑:提供沙箱、影子部署、分階段部署與正式環境部署路徑,並配備自動檢查、回復機制與變更管制。
既有的平台職能不會一律改由任務執行框架團隊負責。機器學習維運、資安、治理與平台團隊仍各有職責。框架團隊負責把這些管控措施納入應用團隊開發與執行 AI 工作流程的日常做法,包括用權限和核准關卡落實政策、透過有治理機制的介面提供脈絡、用測試套件進行評估,以及留下日誌,供團隊稽核智慧體的行為並重複運用有效的做法。

如果工程工作的分工逐漸成形,由一部分團隊交付應用,另一部分提供共用工具與支援,人力配置、領導方式與衡量方法也需要跟著調整。
應用團隊需要熟悉實際問題、能從產品、工程與專業領域角度做判斷的人才。平台與任務執行框架團隊則需要能設計及維運共用環境的人才,讓更多人員與智慧體都能在同一套環境中工作。
對技術長、資料長與資訊長而言,領導上的挑戰在於決定哪些能力應集中提供,哪些應交由各團隊掌握。
應用團隊需要有自主空間,才能快速行動、貼近客戶。安全的資料存取機制、可觀測性、評估與治理等共用能力,也不應由每個團隊從頭建立。
在 AI 原生組織中,技術主管除了管理團隊能交付多少軟體,也需要花心力設計交付系統。具體工作包括:
招募與培育人才時,重視判斷力與決策品質;
投資共用 AI 平台、評估機制、安全防護措施、已核准路徑、知識流通與存取模式;
為智慧體、人員及兩者協作的工作流程訂定運作界線;
衡量團隊能否用證據驗證想法、系統是否可靠、對客戶有何影響,以及既有做法能否安全重用;
持續深入掌握技術,了解 AI 究竟在哪些環節改變了交付的成本效益。
只要交付系統設計得當,團隊就更容易取得適當的脈絡、測試 AI 產出的成果、重複運用經過驗證的模式,也更容易辨別哪些環節仍須人工核准。
許多工程指標制定於軟體開發仍是主要瓶頸的時代。開發速度、故事點數、吞吐量與部署頻率,仍有助於了解團隊的運作情況。但隨著 AI 減少開發軟體所需的人力與心力,單看這些指標已愈來愈難掌握全貌。
即使團隊產生更多程式碼、執行更多實驗,仍可能做出不良決策、製造不必要的複雜性,或增加風險。
因此,技術主管除了關心軟體產量和 AI 工具的普及程度,也需要了解 AI 是否讓組織學得更快、為客戶帶來更好的結果,並能在約定的範圍內穩定運作。
對應用團隊而言,有用的衡量指標可能包括:
從開始實驗到取得足夠證據做決策所需的時間;
客戶實際獲得的結果改善了多少;
為企業帶來的價值;
採用情況與行為改變;
實驗結果足以作為決策依據的比例。
衡量團隊多久能從實驗中取得決策依據,應從實驗開始算起,直到證據足以支持決策為止。例如,團隊週一開始實驗、週三部署,到週五才有足夠證據做決定。這樣的學習週期是一週;兩天只算到部署完成。
對平台與任務執行框架團隊而言,有用的衡量指標可能包括:
已核准 AI 模式的重用情況;
評估的涵蓋範圍與有效性;
AI 相關異常事件與重做情況;
從構想到安全上線所需的時間;
智慧體行動的可觀測性;
稽核與法規遵循的準備程度。
計算每次取得成功結果的成本時,模型使用、人工審查、失敗的嘗試、重做與維運支援都應計入。
這些指標仍需要明確的定義、基準與評估方法。目的不是用一套新的通用評分表取代舊表,而是衡量交付系統是否產生值得信賴的成果。
由應用團隊和任務執行框架團隊分工,是因應現階段 AI 原生工程的一種做法。未來的組織模式仍可能改變。
以下幾項發展,可能再次改變工程工作的基本單位:
智慧體開始負責完整工作流程;
部分軟體轉為短期使用,而不再維護多年;
使用者逐漸從操作應用程式介面,轉向由智慧體引導的使用方式;
基礎模型納入更多平台能力;
法規使可稽核性與問責成為工程工作的首要限制條件。
這些是可能的發展,並非已成定局的結果。如果這些發展成真,連應用團隊與平台團隊的劃分方式,都可能顯得過於侷限。
最能因應這種不確定性的組織,會隨情況調整營運模式。安排工作時,重點在於原則明確、脈絡充足、人員與智慧體能在明確範圍內自主工作,以及團隊能快速學習。團隊編制和工具選擇都保有彈性。
工程系統在 AI 時代依然重要,設計得好也更有價值。
隨著軟體開發成本下降,能做出更好決策、持續累積有用脈絡並安全運作的組織,更有優勢。採用 AI 原生工程做法的團隊,除了使用 AI 工具,也會針對新出現的瓶頸調整工作方式:提升決策品質、共享脈絡、在明確範圍內自主工作,並加快學習速度。
技術主管可以先釐清四個問題,再明訂做法:
哪些與客戶及產品有關的決策,必須留在應用團隊這一層處理?
哪些脈絡、管控措施與評估能力應共用?
智慧體在哪些環節可以自主行動,哪些環節需要人工核准?
哪些指標能顯示團隊能從實驗中取得決策依據、為客戶帶來價值,並安全運作?
相較於組織部署了多少個助理,這些問題的答案更能決定導入 AI 的價值。
