控制權的重新分配：編譯器、運行時、AI 與人類治理

摘要

程式語言的演化不只提高抽象層級，也持續重新分配計算控制權。早期機器語言要求程式設計者明確指定暫存器、地址與指令順序；高階語言將部分控制權交給編譯器；宣告式、平行式與分散式系統進一步將查詢規劃、資源調度與故障恢復交給運行時；生成式 AI 與 Agent 系統則開始接管規格補全、程式合成、工具選擇、行動規劃與結果修正。因而，AI 原生程式語言的核心問題不再只是語法與執行效率，而是：誰有權決定什麼、誰能修改什麼、誰負責驗證結果，以及控制權如何被限制、觀測、撤回與追責。

本文提出「計算控制權分配框架」，將控制權區分為意圖權、規格權、生成權、調度權、執行權、驗證權、治理權與撤回權，並將人類、編譯器、運行時、AI 與環境視為五類控制主體。本文主張，自動化程度不應以 AI 生成程式碼的比例衡量，而應以權限分配、可驗證性、可撤回性與責任對稱性共同評估。本文進一步提出控制向量、委派矩陣、治理契約、控制債務與最小必要自主性原則，並分析 EML、NOVA、格子語言與 Agent Skill 如何共同形成可治理的 AI 原生程式系統。本文最後指出，未來程式語言的先進性，不在於人類是否退出程式編寫，而在於系統是否能在高自主性下仍保持明確邊界、透明因果、局部可控與可逆操作。

關鍵詞： AI 原生程式語言、控制權、編譯器、運行時、Agent、治理契約、可撤回性、責任對稱

一、問題的提出

程式語言史通常被理解為抽象能力不斷提高的歷史。從機器碼、組合語言到高階語言，程式設計者逐漸不必直接處理低層硬體細節；從命令式語言到宣告式語言，使用者不再需要指定每一步執行路徑；從單機程式到分散式系統，資源配置、並行排程與故障恢復逐漸由運行時負責。

然而，抽象化不只是減少程式碼，也意味著控制權轉移。

當程式設計者不再指定暫存器分配時，這部分控制權被交給編譯器；當 SQL 使用者只描述查詢結果時，查詢路徑由最佳化器決定；當雲端平台自動擴縮時，資源控制由運行時與環境共同處理；當 Agent 根據自然語言目標自行選擇工具與步驟時，規劃與行動控制則被交給 AI。

因此，可以把程式語言演化重新寫成：

\text{抽象化} = \text{細節隱藏} + \text{控制權轉移}

這產生一個比「AI 是否會寫程式」更重要的問題：

當控制權交給編譯器、運行時與 AI 後，誰仍保有最後決定權？誰負責結果？誰能撤回錯誤行動？

若這些問題沒有被語言層明確處理，AI 原生程式系統很容易形成一種表面便利、實際失控的黑箱自動化。

二、控制權不是單一變量

控制權不能簡化為「人類控制」與「AI 控制」的二分。完整程式系統至少包含下列控制面：

意圖控制；
規格控制；
程式生成控制；
資源與排程控制；
實際執行控制；
驗證與接受控制；
權限與治理控制；
中止與撤回控制。

令控制面集合為：

\mathcal{D} = \{d_1,d_2,\ldots,d_m\}

其中每個 $d_j$ 表示一種控制權。

再令控制主體集合為：

\mathcal{A} = \{H,C,R,A,E\}

其中：

$H$ ：人類；
$C$ ：編譯器；
$R$ ：運行時；
$A$ ：AI 或 Agent；
$E$ ：外部環境。

程式系統的控制狀態可以表示為矩陣：

K = [k_{ij}] \in [0,1]^{|\mathcal{A}|\times|\mathcal{D}|}

其中 $k_{ij}$ 表示主體 $i$ 在控制面 $j$ 上擁有的相對控制程度。

對每一控制面，可以要求：

\sum_{i\in\mathcal{A}} k_{ij}=1

但在實際系統中，控制權可能重疊、競合或具有否決關係，因此也可使用偏序或權限格，而不必強制使用單純比例。

三、五類控制主體

3.1 人類

人類通常提供：

目標；
價值判準；
風險容忍度；
法律與倫理邊界；
最終接受與拒絕；
例外處理；
責任承擔。

然而，人類不一定應保留所有低層控制。若每一條指令、每一次記憶體配置與每一個執行排程都必須由人類決定，現代程式系統將無法運作。

因此，人類控制的核心不應是「控制每一細節」，而是：

\text{目標} + \text{邊界} + \text{驗證} + \text{撤回}

3.2 編譯器

編譯器負責將高層結構轉換為可執行形式。它通常掌握：

語法與語義分析；
型別推導；
中介表示生成；
最佳化；
指令選擇；
記憶體配置；
硬體映射。

編譯器的控制權主要是結構性與轉譯性的。它可以改變程式如何執行，但理想上不能改變程式被允許表達的意圖。

3.3 運行時

運行時掌握動態執行過程，例如：

執行緒與任務排程；
垃圾回收；
資源配置；
網路重試；
失敗恢復；
負載平衡；
動態最佳化。

運行時控制權通常根據實際狀態作決定，因此具有比編譯器更強的情境依賴性。

3.4 AI 與 Agent

AI 可以參與：

意圖解析；
規格補全；
程式生成；
工具選擇；
工作流規劃；
錯誤修正；
結果評估；
自我重新規劃。

AI 的特殊性在於，它不只執行預先寫好的固定規則，也可能根據不完整語境生成新的中間結構。這使其控制權同時涉及語義、規劃與行動。

3.5 環境

環境包括：

硬體；
作業系統；
網路；
感測器；
其他程式；
人類社會；
市場；
物理世界。

環境並非被動背景。網路中斷、資料變化、設備故障或外部人類行為，都可能迫使系統改變執行路徑。

因此，最終行動往往不是任何單一主體完全決定，而是：

A_t = F(H,C,R,A,E)

四、八種核心控制權

4.1 意圖權

意圖權決定系統應追求什麼目標。

令意圖為：

I=(G,C,P,V)

其中：

$G$ ：目標；
$C$ ：約束；
$P$ ：優先級；
$V$ ：價值與驗證標準。

意圖權不應輕易由 AI 完全接管。AI 可以協助澄清、分解或補全意圖，但不得在未明示的情況下把手段偏好轉換為新的最終目的。

4.2 規格權

規格權決定何種結果算是符合意圖。

令規格為：

S=(Pre,Post,Inv,Res)

其中：

$Pre$ ：前置條件；
$Post$ ：後置條件；
$Inv$ ：不變量；
$Res$ ：資源與限制。

規格權可以由人類與 AI 共同維護，但任何由 AI 補全的條件都應被標記為推定，而非自動視為原始意圖。

4.3 生成權

生成權決定系統可產生哪些程式、計畫與操作結構。

G_{\text{plan}} : (I,S) \rightarrow \{P_1,P_2,\ldots,P_n\}

AI 通常可以擁有較高生成權，因為生成本身尚未等於執行。但生成結果是否可進入權威程式，需要額外驗證。

4.4 調度權

調度權決定何時、在哪裡、以何種資源執行。

Q : (P,W_t,R_t) \rightarrow \text{Schedule}

其中 $W_t$ 是當前狀態， $R_t$ 是可用資源。

調度權通常適合交給編譯器與運行時，但高風險任務仍可能需要人類設定資源上限、地理邊界或時間窗口。

4.5 執行權

執行權是對外部狀態產生實際變化的權力：

W_t \xrightarrow{a} W_{t+1}

它與生成權必須分離。AI 可以生成操作，但不一定應直接執行。

4.6 驗證權

驗證權決定結果是否被接受：

\nu(O,S) \in \{\text{accept},\text{revise},\text{reject}\}

驗證可以由：

型別系統；
測試；
形式證明；
模擬；
AI 評估；
人類審核；

共同完成。

4.7 治理權

治理權決定：

哪些主體可取得何種能力；
哪些資料可被存取；
哪些操作需要升級批准；
哪些記錄必須保存；
何種行為構成違規。

4.8 撤回權

撤回權決定誰能：

中止；
暫停；
回滾；
撤銷權限；
取消部署；
拒絕結果；
封鎖後續行動。

撤回權是高自主系統不可缺少的最後防線。

五、控制權轉移與委派

控制權轉移可表示為：

d_j: a_i \rightarrow a_k

但並非所有轉移都是永久的。更完整的委派結構為：

\Delta = (a_s,a_r,d,\tau,\chi,\rho)

其中：

$a_s$ ：授權者；
$a_r$ ：受權者；
$d$ ：被委派的控制面；
$\tau$ ：有效時間；
$\chi$ ：條件與限制；
$\rho$ ：撤回規則。

例如，人類可以將某一資料分析任務的生成權與調度權交給 AI 和運行時，但保留資料刪除的執行權與最終驗證權。

因此，委派不是：

\text{全部控制} \rightarrow \text{全部放棄}

而是：

\text{局部權限} + \text{條件} + \text{期限} + \text{撤回}

六、權限格與控制偏序

控制權往往不是線性高低關係，而是偏序結構。

令：

p_1\preceq p_2

表示權限 $p_2$ 包含 $p_1$ 的能力。

例如：

\text{read} \preceq \text{write} \preceq \text{execute} \preceq \text{admin}

但某些能力彼此不可比較，例如：

可讀取財務資料；
可部署測試環境；

兩者屬於不同權限分支。

因此，可以把治理權限表示為格：

\mathcal{P} = (P,\wedge,\vee)

其中：

$\wedge$ ：權限交集；
$\vee$ ：權限聯集。

對 AI Agent 而言，最安全的做法不是授予一個模糊的「可使用工具」，而是授予最小能力集合：

P_A^{\ast} = \min \left\{ P\subseteq\mathcal{P} \mid P\text{ 足以完成任務} \right\}

這就是最小必要權限原則在 AI 原生程式語言中的形式化版本。

七、自動化程度不等於自主程度

自動化是把重複步驟交給系統；自主性則是允許系統在不完整規格下自行選擇目標分解與行動路徑。

可將自動化程度表示為：

A_{\text{auto}} = \frac{\text{自動執行的已知步驟}} {\text{總步驟}}

自主程度則可表示為：

A_{\text{autonomy}} = \alpha U_g + \beta U_p + \gamma U_a

其中：

$U_g$ ：目標分解自由度；
$U_p$ ：計畫選擇自由度；
$U_a$ ：行動選擇自由度。

一個系統可能高度自動化但低自主，例如固定 CI/CD 流程；也可能只執行少量步驟，卻具有高度自主，例如 Agent 自行決定是否購買、發布或刪除某項資源。

因此，AI 原生語言的風險評估不能只看自動執行比例，而必須評估其自由度與外部影響。

八、最小必要自主性

傳統安全工程強調最小必要權限；對 Agent 系統而言，還應加入：

\text{最小必要自主性}

令任務為 $Q$ ，可完成任務的自主配置集合為：

\mathcal{A}_Q

則選擇：

a^{\ast} = \arg\min_{a\in\mathcal{A}_Q} \operatorname{Autonomy}(a)

同時滿足：

\operatorname{SuccessProb}(Q\mid a) \geq \theta

其中 $\theta$ 是最低可接受成功率。

這表示系統不應因為 AI 有能力自主規劃，就預設授予最大自由。應只授予完成任務所需的最小計畫與行動自由度。

九、控制權與責任對稱

如果一個主體擁有控制權，卻不承擔任何驗證與記錄責任，系統將形成責任真空。

令某主體 $a_i$ 的控制量為：

K_i

責任承擔量為：

R_i

理想上應滿足：

R_i \geq \lambda K_i

其中 $\lambda$ 是最低責任對稱係數。

對 AI 而言，責任不是法律人格意義上的責任，而是系統必須為其行動提供：

可追溯決策記錄；
使用的資料與工具；
規格來源；
候選方案；
風險判斷；
執行結果；
失敗原因。

換言之，AI 擁有越高控制權，系統就越需要提高記錄、驗證與可解釋要求。

十、治理契約

每一次高層意圖到執行的轉換，都應附帶治理契約。

令治理契約為：

\mathcal{C}_g = (I,S,P,A,V,L,Q)

其中：

$I$ ：意圖；
$S$ ：規格；
$P$ ：權限集合；
$A$ ：允許行動；
$V$ ：驗證條件；
$L$ ：日誌與追蹤要求；
$Q$ ：中止、回滾與升級規則。

治理契約回答：

AI 可以做什麼？
AI 不可以做什麼？
何種情況需要詢問？
何種情況可以自動執行？
何種結果必須經人類確認？
發生錯誤時如何回復？
哪些證據需要保存？

治理契約不是附加於程式之外的政策文件，而應成為可編譯、可檢查的一級程式結構。

十一、控制平面與資料平面

分散式系統常區分控制平面與資料平面。AI 原生語言可以進一步擴展此概念。

11.1 意圖平面

描述人類目標、價值與限制。

11.2 規格平面

將意圖轉換為可檢查條件。

11.3 控制平面

產生計畫、分配權限、調度資源。

11.4 執行平面

執行實際工具、程式與設備操作。

11.5 驗證平面

檢查結果、比較規格、觸發修正。

可表示為：

I \rightarrow S \rightarrow C \rightarrow E \rightarrow V

其中每一平面具有不同的可寫入權限。

例如，AI 可以在控制平面生成候選計畫，但沒有權限直接修改意圖平面；運行時可以改變執行排程，但不能修改驗證標準。

這種平面分離可以防止低層最佳化反過來改寫高層目標。

十二、生成與執行分離

AI 系統最危險的結構之一，是把「生成操作」與「立即執行操作」綁定。

應建立：

G: (I,S) \rightarrow P_{\text{candidate}}

以及：

X: P_{\text{approved}} \rightarrow W_{t+1}

生成器 $G$ 只能產生候選程式，執行器 $X$ 只能接受通過檢查與批准的程式。

兩者之間需要驗證閘門：

P_{\text{candidate}} \xrightarrow{\nu} \begin{cases} P_{\text{approved}}, & \text{通過}\\ P_{\text{revised}}, & \text{需修正}\\ \varnothing, & \text{拒絕} \end{cases}

對低風險、可回滾任務，驗證閘門可以自動化；對高風險、不可逆任務，則需要更強的人類或形式驗證。

十三、風險分級與控制升級

不同操作不應使用相同控制策略。

令操作風險為：

R(a) = \alpha I(a) + \beta U(a) + \gamma S(a) + \delta X(a)

其中：

$I(a)$ ：影響範圍；
$U(a)$ ：不可逆程度；
$S(a)$ ：敏感性；
$X(a)$ ：外部性。

可以設定控制級別：

L(a) = g(R(a))

例如：

$L_0$ ：純讀取、沙盒推演；
$L_1$ ：局部可回滾修改；
$L_2$ ：跨系統寫入；
$L_3$ ：外部發布、交易或權限變更；
$L_4$ ：高影響、不可逆或物理世界操作。

控制級別越高，需要越多：

顯式批准；
多方驗證；
執行預覽；
回滾方案；
操作日誌；
權限隔離。

十四、控制債務

技術債務描述短期便利帶來的長期維護成本。AI 自動化還會產生另一種債務：

\text{控制債務}

當系統逐步把決策交給 AI、插件、工作流與運行時，但沒有保留清晰權限、日誌與撤回機制時，就會累積控制債務。

令控制債務為：

D_c = D_{\text{opaque}} + D_{\text{permission}} + D_{\text{dependency}} + D_{\text{rollback}} + D_{\text{responsibility}}

其中：

$D_{\text{opaque}}$ ：決策不透明；
$D_{\text{permission}}$ ：權限過度擴張；
$D_{\text{dependency}}$ ：對特定模型或工具過度依賴；
$D_{\text{rollback}}$ ：缺乏回復路徑；
$D_{\text{responsibility}}$ ：責任邊界不清。

控制債務可能不會立即造成錯誤，但會使系統在模型更換、資料變化、權限外洩或規格衝突時難以治理。

十五、觀測權與可見性

控制權若沒有觀測權支撐，實際上只是名義控制。

令系統狀態為：

W_t

人類可觀測投影為：

O_H(W_t)

若：

O_H(W_t) \ll W_t

且缺少關鍵因果資訊，則人類即使保有中止按鈕，也可能無法判斷何時應中止。

因此，應把觀測權列為控制權的前置條件。高自主系統至少應顯示：

當前目標；
使用中的規格；
已授予權限；
已選擇計畫；
正在執行的步驟；
外部狀態變化；
驗證結果；
剩餘風險；
可用撤回操作。

動態顯影技術可以在此被理解為：

\text{控制所需資訊的注意力調度}

它不必永遠展示全部細節，而是根據風險與異常程度顯示必要資訊。

十六、局部控制與區域治理

格子語言提供了一種把控制權空間化的方法。

令區域為：

Z=(X_Z,\partial Z,P_Z,I_Z,O_Z)

其中 $P_Z$ 是該區域的權限與治理策略。

不同區域可以具有不同控制模式：

人類直接控制區；
AI 建議區；
AI 自動執行區；
只讀監測區；
沙盒模擬區；
高風險隔離區。

跨區域操作必須通過端口：

p_o \xrightarrow{\text{policy}} p_i

這使控制權不再只以帳號或全域角色配置，而能依程式結構局部化。

例如，同一 Agent 可以在測試區擁有執行權，在正式部署區只有生成權，在財務區只有讀取權。

十七、AI 不是單一控制主體

「AI」不應被視為一個整體。實際系統可能包含：

意圖解析模型；
程式生成模型；
規劃 Agent；
驗證 Agent；
安全分類器；
工具路由器；
記憶系統；
外部模型服務。

令 AI 系統為：

\mathcal{A}_{AI} = \{a_1,a_2,\ldots,a_n\}

每個 AI 子系統應具有獨立權限：

P(a_i) \subseteq \mathcal{P}

而不是所有模型共享同一高權限工具集。

更安全的架構是讓不同 Agent 形成制衡：

a_{\text{planner}} \neq a_{\text{executor}} \neq a_{\text{verifier}}

規劃者不能直接執行，執行者不能自行修改規格，驗證者不能隱藏失敗結果。

十八、編譯器與 AI 的差異

編譯器與 AI 都會把高層輸入轉換為低層結構，但兩者具有本質差異。

傳統編譯器通常近似為：

C:P_s\rightarrow P_t

在固定語言規格下，輸入相同時輸出具有高度可重現性。

AI 轉譯更接近：

A:(I,Ctx,\theta) \rightarrow \mathcal{P}(P)

其中輸出是候選程式分布，並受到上下文與模型參數影響。

因此，AI 不應被直接當成普通編譯器。較合理的架構是：

\text{AI 生成候選} \rightarrow \text{形式化 IR} \rightarrow \text{確定性檢查} \rightarrow \text{傳統編譯}

AI 可擴大可表達性，但權威執行仍應盡可能經過穩定中介表示。

十九、EML、NOVA 與格子語言的控制分工

19.1 EML：意圖與規格控制層

EML 主要處理：

意圖保存；
語義澄清；
約束補全；
規格生成；
驗證條件；
轉譯記錄。

EML 不應允許模糊自然語言直接獲得無限制執行權。它應將自然語言轉換為可檢查治理契約。

19.2 NOVA：計算與執行控制層

NOVA 主要處理：

張量形狀合法性；
算子組合；
微分；
裝置映射；
平行調度；
執行最佳化。

NOVA 可將大量低層控制交給編譯器與運行時，但必須保留可驗證的張量與算子語義。

19.3 格子語言：區域治理與觀測層

格子語言主要處理：

權限區域；
Agent 區域；
沙盒；
端口；
跨域耦合；
動態顯影；
局部中止與回滾。

因此，三者可形成：

\text{EML：意圖治理} \rightarrow \text{NOVA：計算治理} \rightarrow \text{Grid：區域治理}

共同維護同一權威程式結構。

二十、Skill 作為可治理能力單位

Skill 不應只被視為提示詞或插件。它可以被形式化為：

\mathcal{H} = (D,I,O,C,P,V,F)

其中：

$D$ ：適用領域；
$I$ ：輸入；
$O$ ：輸出；
$C$ ：能力集合；
$P$ ：權限；
$V$ ：驗證；
$F$ ：失敗與回復規則。

Skill 的價值在於，它把一段可重用能力與治理條件綁定。

一個安全 Skill 必須同時說明：

它會做什麼；
它能使用哪些工具；
它不能觸碰哪些資料；
它如何判斷完成；
它失敗時如何停止；
它產生的結果由誰批准。

因此，Skill 可以成為 AI 原生語言中的能力封裝與控制委派單位。

二十一、可撤回性與可逆性

高自主系統需要區分兩個概念。

21.1 可撤回性

系統能否停止尚未完成的行動：

\operatorname{Stop}(A_t)

21.2 可逆性

系統能否恢復已經造成的狀態變化：

W_{t+1} \xrightarrow{\operatorname{rollback}} W_t

某些操作可撤回但不可逆，例如停止已發布訊息的後續傳播；某些操作可逆但需要成本，例如回復資料庫快照。

因此，每個高風險操作應標記：

a=(r_s,r_b,c_b)

其中：

$r_s$ ：可停止程度；
$r_b$ ：可回滾程度；
$c_b$ ：回滾成本。

控制策略應根據這些屬性調整。

二十二、設計原則

22.1 意圖主權原則

AI 可以協助解釋與分解目標，但不得在未標記的情況下替換最終意圖。

22.2 生成執行分離原則

能生成操作的主體，不應預設擁有直接執行權。

22.3 最小必要權限原則

每一 Agent、Skill 與運行區域只取得完成任務所需的最小能力。

22.4 最小必要自主性原則

只授予完成任務所需的最低規劃與行動自由度。

22.5 控制責任對稱原則

控制權越高，日誌、驗證與解釋要求越高。

22.6 可觀測控制原則

人類若無法看見系統的目標、計畫、權限與狀態，就不能被視為真正保有控制。

22.7 撤回優先原則

任何自主權的授予，都必須先定義如何中止、撤銷與回滾。

22.8 局部治理原則

控制策略應能依資料、程式區域、工具與風險局部分配，而非只有全域開關。

22.9 高層目標不可被低層最佳化覆寫原則

編譯器、運行時與 AI 可以最佳化執行，但不得自行改變規格與價值判準。

二十三、AI 原生語言的控制閉環

完整的 AI 原生程式閉環可以表示為：

I_t \xrightarrow{\rho} S_t \xrightarrow{g} P_t \xrightarrow{q} A_t \xrightarrow{\epsilon} W_{t+1} \xrightarrow{\nu} R_t \xrightarrow{\eta} I_{t+1}

其中：

$\rho$ ：意圖規範化；
$g$ ：程式或計畫生成；
$q$ ：調度與授權；
$\epsilon$ ：執行；
$\nu$ ：驗證；
$\eta$ ：反饋與新意圖形成。

每一箭頭都應具有獨立控制主體、權限與記錄。

因此，真正可靠的 AI 原生語言不是讓單一模型直接跨越整條鏈，而是讓不同控制層彼此制約：

\text{意圖} \neq \text{規格} \neq \text{生成} \neq \text{執行} \neq \text{驗證}

二十四、結論

本文提出計算控制權分配框架，將程式語言演化重新理解為人類、編譯器、運行時、AI 與環境之間的控制權轉移。

傳統高階語言將暫存器、指令選擇與記憶體配置交給編譯器；宣告式與分散式系統將查詢規劃、排程與故障恢復交給運行時；AI 原生程式系統則開始將意圖解釋、規格補全、計畫生成與工具選擇交給 AI。這些轉移本身並非問題，問題在於控制權是否具有限定範圍、可觀測狀態、責任對稱與撤回路徑。

因此，AI 原生程式語言的先進性不能以「一句話完成多少工作」衡量，也不能以「AI 寫了多少程式碼」衡量。更重要的判準是：

是否區分意圖、規格、生成、執行與驗證；
是否將生成權與執行權分離；
是否採用最小必要權限與最小必要自主性；
是否能依風險升級控制；
是否保留中止、撤回與回滾能力；
是否使控制權與責任、觀測和日誌對稱。

在此框架中，EML 負責意圖與規格治理，NOVA 負責張量—算子計算治理，格子語言負責區域、權限與動態顯影治理，Skill 則成為能力與治理契約的封裝單位。

最終，未來程式語言的核心不再只是描述「機器應如何計算」，而是精確描述：

哪一個主體，在什麼條件下，可以替誰決定什麼；而當決定錯誤時，系統如何看見、停止、撤回並重新取得控制。

控制權的重新分配_編譯器運行時AI與人類治理_v1.0