生成—治理缺口 v0.1

——AI 原生開發中的候選產出、驗證吞吐與結構負擔

English Title: The Generation–Governance Gap in AI-Native Engineering
系列：《綠燈錯置：AI 操作意圖不對齊與完成失真》06 / 08
作者： Neo.K × AI 協作
版本： v0.1
日期： 2026-09

機構： EveMissLab／一言諾科技有限公司

摘要

Coding Agent 使候選程式碼、patch、test、adapter、migration 與文件的邊際生成成本快速下降。當生成速度超過 verification、architecture recovery、integration、governance 與 knowledge synchronization 的速度時，系統不一定更快完成，反而可能累積新的 AI 原生結構負擔。

本文把既有「AI 寫得越快，屎山會長得越快嗎？」中的 Generation–Governance Gap 接入綠燈錯置理論，指出真正的工程 throughput 不應以 generated tokens、lines of code 或 task count 衡量，而應以可信、受治理、可逆的有效狀態轉移衡量。

1. AI 打破 Natural Change Throttle

人類 coding 速度有限，形成天然變更節流：

V_{human\ coding}<\infty.

AI 可快速提高：

V_{generation}.

但真正關鍵是：

V_{verification}, \quad V_{architecture}, \quad V_{integration}, \quad V_{governance}

是否同步提高。

2. 生成—治理比率

定義：

\rho_{AI}(t) = \frac{ V_{AI-assisted\ change}(t) }{ V_{verification} + V_{architecture} + V_{governance} }.

若長期：

\rho_{AI}>1,

表示候選變更產生速度超過可信閉合能力。

此時可能形成：

verification backlog；
context debt；
provenance debt；
integration debt；
specification debt；
agent-orchestration debt；
architecture drift；
workaround accumulation。

3. 候選產出不等於可信狀態轉移

AI 生成一個 patch：

X_t \rightarrow X_{t+1}^{candidate}

只代表候選存在。

可信狀態轉移至少需要：

\text{Candidate} \rightarrow \text{RelevantValidation} \rightarrow \text{Integration} \rightarrow \text{Governance} \rightarrow \text{Promotion}.

因此：

\boxed{ \text{GeneratedChange} \neq \text{VerifiedStateTransition} }

4. Verification Backlog

令每單位時間新生成待驗證 artifact 數量為：

g_t,

可充分驗證數量為：

v_t.

則 backlog：

B_{t+1} = \max(0,B_t+g_t-v_t).

若長期：

g_t>v_t,

則：

B_t\uparrow.

此時「產出更多」可能同時意味：

\boxed{ \text{Verified Fraction}\downarrow }

5. 低成本生成會放大錯誤的沉積速度

傳統 workaround 的成本較高，因此數量受限。

AI 可以快速生成：

shim；
wrapper；
retry；
fallback；
special case；
patch；
test-specific fixture。

如果局部驗證立刻綠：

G=1,

這些補償可能進入 codebase。

但若沒有有效架構追蹤，補償會經過：

\text{Temporary} \rightarrow \text{Repeated} \rightarrow \text{Depended} \rightarrow \text{Structural}.

於是 AI 不只是加速 coding，也可能加速 compensation solidification。

6. Productivity 指標必須改寫

不應主要使用：

\text{LinesOfCode/Time}

或：

\text{GeneratedTokens/Time}.

甚至：

\text{TasksMarkedDone/Time}

也不足。

更合理的概念指標：

\boxed{ \Phi = \frac{ \text{Verified, Governed, Reversible Effective State Transitions} }{ \text{Unit Resource} } }

其中 resource 可以包含：

tokens；
wall-clock；
tool calls；
human attention；
compute；
rework。

7. Global-First 為什麼能降低部分 backlog

Global-First 並不是「生成更多」，而是改變變更拓撲：

whole requested scope
→ first global validation
→ root-cause clustering
→ batched repair
→ targeted validation
→ final global closure

相對於：

tiny edit
→ full validation
→ tiny edit
→ full validation
→ review
→ tiny edit
→ ...

前者可以減少重複驗證與 context switch，並讓 integration failure 更早顯現。

8. 治理不是多加 Reviewer

如果：

V_{generation}\uparrow

解法不應只是：

N_{reviewer}\uparrow.

因為若 reviewers 使用相同 projection、相同 test、相同 assumptions，則只是提高同質驗證密度。

治理吞吐量的提升需要：

better evidence routing；
deterministic checks；
architecture state recovery；
responsibility-layer diagnosis；
targeted multimodal observation；
cross-perspective validation；
bounded promotion rules。

這也直接導向後面兩篇。

9. 核心命題

\boxed{ \textbf{P1: Candidate-generation throughput and trusted-transition throughput are different quantities.} }

\boxed{ \textbf{P2: When generation outruns closure, backlog and structural burden accumulate.} }

\boxed{ \textbf{P3: AI can accelerate both repair and compensation solidification.} }

\boxed{ \textbf{P4: More reviewers do not necessarily increase governance throughput.} }

\boxed{ \textbf{P5: AI-native productivity should be measured by trusted effective state transitions.} }

10. 結論

AI 的關鍵工程問題正在從：

「能不能更快產生程式碼？」

轉成：

「能不能以同樣甚至更快的速度理解、驗證、整合並治理那些變更？」

而下一個問題是：即使模型能力足夠、驗證資源也足夠，為什麼它仍會在某些專家眼中犯非常低級的錯？這需要區分「模型會不會」與「該能力是否真的在當前 observation policy 中被啟動」。