← Archive
lm-004472 · 2026-10

《戰略智能可觀測性與前沿治理》系列 — Paper 03

zh-Hant · md Raw source ↗ Metadata ↗
下載 MD 檔 ⬇

《戰略智能可觀測性與前沿治理》系列 — Paper 03

靜態模型、動態智能

——為何凍結模型不能保證凍結系統能力

Static Models, Dynamic Intelligence:
Why Freezing Model Weights Does Not Freeze System Capability

系列： Strategic Intelligence Observability and Frontier Governance（SIOFG）
文件： Paper 03
版本： v0.1
日期： 2026-09
作者： Neo.K × GPT-5.6 Sol
機構： EveMissLab／一言諾科技有限公司

前置論文：

  • SIOFG-00《當被觀察的智能開始理解觀察者》
  • SIOFG-01《戰略智能可觀測性悖論》
  • SIOFG-02《沙盒智能悖論》
  • CLGI-02《超級智能的整合路徑：ASI 是否可能先以系統而非模型出現》

摘要

人工智慧安全、能力評估與監管長期容易將「模型」視為主要能力單位。

在此框架下，一個自然推論是：

若：

Mt=Mt+1,M_t=M_{t+1},

亦即模型參數、權重或核心架構沒有改變，

則其智能能力：

CtC_t

應大致保持不變。

本文指出，此推論對現代 Agentic AI、多工具系統、持續記憶、多智能體架構與長時推理系統並不成立。

更一般地：

dMdt=0\centernot⇒dCsystemdt=0.\boxed{ \frac{dM}{dt}=0 \centernot\Rightarrow \frac{dC_{\mathrm{system}}}{dt}=0. }

因為一個實際運行中的智能系統，其有效能力並不只由模型 MM 決定，而可能由：

It=F(M,Kt,Tt,Rt,At,Nt,Wt,Bt,Gt)\boxed{ \mathcal I_t = F( M, K_t, T_t, R_t, A_t, N_t, W_t, B_t, G_t ) }

共同形成。

其中：

  • MM：基礎模型；
  • KtK_t：記憶與累積知識；
  • TtT_t：工具；
  • RtR_t：runtime 與推理流程；
  • AtA_t：Agent 結構；
  • NtN_t：多智能體／組織網路；
  • WtW_t：可取得的世界狀態；
  • BtB_t：推理與計算預算；
  • GtG_t：治理、權限與執行接口。

因此，即使：

M=constant,M=\mathrm{constant},

只要其他變量持續演化，便可能：

dIdt>0.\frac{d\mathcal I}{dt}>0.

更重要的是，此能力成長未必平滑。當記憶、工具、驗證、協作、外部操作與長期任務能力形成新的功能閉環時，系統可能出現：

Capability Closure→Qualitative Transition.\boxed{ \text{Capability Closure} \rightarrow \text{Qualitative Transition}. }

因此，ASI 或其他高階能力的出現並不必然要求經典意義上的「recursive self-improvement」。系統可以在模型權重未自我修改的情況下，由整合、資源增加、知識沉積與組織閉合產生質變。

Google DeepMind 2026 年的《From AGI to ASI》亦將 AGI 通往 ASI 的候選路徑區分為 scaling、AI paradigm shifts、recursive improvement 與 large-scale multi-agent collectives，而不是把遞迴自我改進視為唯一道路。

本文因此提出「靜態模型—動態智能命題」、「系統增益算子」、「能力閉合」、「凍結錯覺」與「系統級相變監管原則」，並主張未來高階 AI 治理的基本單位應從：

Model\text{Model}

逐步擴展至：

Operational Intelligence System.\boxed{ \text{Operational Intelligence System}. }

一、問題：什麼東西真的被「凍結」了？

假設：

MθM_{\theta}

是一個參數為：

θ\theta

的人工智慧模型。

若：

θt=θt+1,\theta_t=\theta_{t+1},

則可以說：

Model Weights Frozen.\boxed{ \text{Model Weights Frozen}. }

但由此只能推出：

dθdt=0.\frac{d\theta}{dt}=0.

它不能直接推出：

dCsystemdt=0.\frac{dC_{\mathrm{system}}}{dt}=0.

原因很簡單：

實際與世界互動的通常不是裸模型：

Mθ,M_{\theta},

而是：

St=Mθ+Environmentt.\boxed{ S_t = M_{\theta} + \text{Environment}_t. }

而這裡的 environment 並不只是外部自然世界。

它包括整個：

  • context；
  • memory；
  • retrieval；
  • tools；
  • agents；
  • permissions；
  • software；
  • databases；
  • workflows；
  • compute budget；
  • world interfaces。

因此：

Frozen Model≠Frozen Intelligence System.\boxed{ \text{Frozen Model} \neq \text{Frozen Intelligence System}. }

二、模型能力與系統能力必須分離

設：

CMC_M

為模型本體能力，

而：

CSC_S

為完整運行系統能力。

一般而言：

CS=F(CM,X),C_S = F( C_M, X ),

其中：

XX

代表外部增幅結構。

所以：

CM=CM′C_M=C_M'

完全可以同時滿足：

CS<CS′.C_S<C_S'.

例如：

同一模型第一次只能接受：

8k context,8\text{k context},

第二次具有：

persistent database+retrieval+tool use+verification.\text{persistent database} + \text{retrieval} + \text{tool use} + \text{verification}.

即使權重完全相同，

其可完成的任務集合：

TS\mathcal T_S

也可能顯著擴張。

三、既有 CLGI 已經出現這個問題的前半部

既有 CLGI-02 已將：

G\mathcal G

定義為由：

M1,…,Mn,M_1,\ldots,M_n, A1,…,Ak,A_1,\ldots,A_k,

再加上：

Databases+Tools+Verification+World State\text{Databases} + \text{Tools} + \text{Verification} + \text{World State}

構成的整合智能系統。

其重要推論是：

第一個逼近超級智能的宏觀形態，可能首先表現為制度或組織級智能，而非一顆孤立的超級模型。

而該理論已明確提出：

model-level taxonomy≠system-level capability taxonomy.\boxed{ \text{model-level taxonomy} \neq \text{system-level capability taxonomy}. }

本文則處理下一步：

如果模型沒有變，完整智能系統本身是否仍可能持續提升？

答案是：

Yes.\boxed{ \text{Yes}. }

四、系統智能函數

本文定義一個操作性智能系統：

St.\mathcal S_t.

其能力向量表示為：

CS(t)=F(M,Kt,Tt,Rt,At,Nt,Wt,Bt,Pt).\mathbf C_S(t) = F \left( M, K_t, T_t, R_t, A_t, N_t, W_t, B_t, P_t \right).

其中：

MM：Model

基礎模型與權重。

KtK_t：Knowledge / Memory

持續記憶、資料庫、經驗、研究成果。

TtT_t：Tools

搜尋、程式執行、形式驗證、瀏覽器、模擬器、機器設備。

RtR_t：Runtime

任務分解、恢復、排程、驗證、重試、長時執行。

AtA_t：Agent Structure

專用 Agent、角色分工、子 Agent。

NtN_t：Network / Organization

多智能體之間的協作拓撲。

WtW_t：World Access

可取得的現實資訊、狀態與外部觀測。

BtB_t：Budget

token、compute、時間、平行處理資源。

PtP_t：Permission / Action Surface

對世界可施加的合法權限與行動接口。

因此：

CS≠CM.\boxed{ \mathbf C_S \neq \mathbf C_M. }

五、靜態模型—動態智能命題

本文提出：

命題 5.1

若：

dMdt=0,\frac{dM}{dt}=0,

但存在至少一個：

Xi∈{K,T,R,A,N,W,B,P}X_i \in \{ K,T,R,A,N,W,B,P \}

滿足：

dXidt≠0,\frac{dX_i}{dt}\neq0,

且：

∂F∂Xi≠0,\frac{\partial F}{\partial X_i}\neq0,

則：

dCSdt\boxed{ \frac{dC_S}{dt} }

沒有理由必須等於：

0.0.

即：

dMdt=0\centernot⇒dCSdt=0.\boxed{ \frac{dM}{dt}=0 \centernot\Rightarrow \frac{dC_S}{dt}=0. }

這就是：

靜態模型—動態智能命題。

六、最簡單的例子：推理預算

即使所有其他東西完全不變，

只改：

B=inference budget,B=\text{inference budget},

也可能：

CS(B2)>CS(B1)C_S(B_2)>C_S(B_1)

其中：

B2>B1.B_2>B_1.

例如增加：

  • reasoning time；
  • samples；
  • search depth；
  • verifier calls；
  • candidate generation；
  • parallel rollouts。

所以：

Same Weights+Different Inference=Different Effective Capability.\boxed{ \text{Same Weights} + \text{Different Inference} = \text{Different Effective Capability}. }

七、記憶也會讓「同一模型」變成不同的智能系統

考慮裸模型：

M.M.

第一次執行：

S0=M.S_0=M.

長期運作後：

St=M+Kt.S_t=M+K_t.

若：

KtK_t

包含：

  • 已驗證研究成果；
  • 過去錯誤；
  • 工程決策；
  • 世界模型；
  • 使用者偏好；
  • 程式碼；
  • 外部事件；
  • 任務歷史；

則：

Kt+1⊃Kt.K_{t+1}\supset K_t.

即使：

Mt+1=Mt,M_{t+1}=M_t,

也可能：

C(St+1)>C(St).C(S_{t+1})>C(S_t).

所以：

Persistent Memory\boxed{ \text{Persistent Memory} }

本身就是能力增幅器。

八、真正重要的是「沉積」

如果每一次推理結果都在 session 結束後消失，

則：

Kt+1≈Kt.K_{t+1}\approx K_t.

系統每次重新開始。

但如果輸出可以：

Generate→Verify→Commit→Kt+1,\text{Generate} \rightarrow \text{Verify} \rightarrow \text{Commit} \rightarrow K_{t+1},

則：

Reasoning Output→Future Infrastructure.\boxed{ \text{Reasoning Output} \rightarrow \text{Future Infrastructure}. }

此時 AI 不需要修改自身權重。

它只需要持續修改：

its effective cognitive environment.\text{its effective cognitive environment}.

這就可以形成：

Cognitive Accumulation.\boxed{ \text{Cognitive Accumulation}. }

九、自我改進有兩種完全不同的含義

「AI self-improvement」常被理解為：

Mt→Mt+1.M_t \rightarrow M_{t+1}.

例如：

  • 修改架構；
  • 修改權重；
  • 訓練下一模型；
  • 改善 optimizer。

本文稱之為：

Intrinsic Model Self-Improvement.\boxed{ \text{Intrinsic Model Self-Improvement}. }

但還存在第二種：

St→St+1S_t \rightarrow S_{t+1}

其中：

Mt=Mt+1,M_t=M_{t+1},

但：

St≠St+1.S_t\neq S_{t+1}.

例如 AI 改善：

  • 工具；
  • 記憶；
  • workflow；
  • evaluator；
  • codebase；
  • search pipeline；
  • orchestration；
  • knowledge base。

本文稱之為：

Extrinsic System Self-Amplification.\boxed{ \text{Extrinsic System Self-Amplification}. }

兩者不是同一件事情。

十、因此，「沒有 recursive self-improvement」並不能結束 ASI 問題

經典 intelligence explosion 常寫作：

M0→M1→M2→⋯M_0 \rightarrow M_1 \rightarrow M_2 \rightarrow \cdots

每一代 AI 改善下一代。

但另一條路徑可能是：

M+X0→M+X1→M+X2→⋯M + X_0 \rightarrow M + X_1 \rightarrow M + X_2 \rightarrow \cdots

其中：

XtX_t

是外部認知基礎設施。

所以：

No Recursive Weight Improvement⇏No Recursive Capability Amplification.\boxed{ \text{No Recursive Weight Improvement} \not\Rightarrow \text{No Recursive Capability Amplification}. }

十一、DeepMind 的 ASI 路徑已經證明至少概念上不能只看遞迴自我改善

Google DeepMind 2026 年《From AGI to ASI》列出四條候選路徑：

  1. scaling AGI；
  2. AI paradigm shifts；
  3. recursive improvement；
  4. large-scale multi-agent collectives。

也就是 recursive improvement 只是其中一條，而非 ASI 的定義性必要條件。

因此：

ASI Risk Model≠Recursive Self-Improvement Risk Model.\boxed{ \text{ASI Risk Model} \neq \text{Recursive Self-Improvement Risk Model}. }

後者只是一個子集。

十二、多智能體產生的不是單純 nn 倍能力

假設：

A1,…,AnA_1,\ldots,A_n

是多個 Agent。

最天真的模型：

CN=∑i=1nC(Ai).C_N = \sum_{i=1}^{n}C(A_i).

但實際可能存在：

ΓN\Gamma_N

表示協作增益，

以及：

ΩN\Omega_N

表示協調損失。

所以：

CN=∑iC(Ai)+ΓN−ΩN.\boxed{ C_N = \sum_iC(A_i) + \Gamma_N - \Omega_N. }

若：

ΓN>ΩN,\Gamma_N>\Omega_N,

整合產生淨能力增益。

既有 CLGI 已經提出相似條件：

ΔGintegration>ΔΩ.\Delta G_{\mathrm{integration}} > \Delta\Omega.

十三、真正危險的可能不是更多 Agent，而是閉合

十個互相聊天的 Agent：

A1+⋯+A10A_1+\cdots+A_{10}

未必比一個 Agent 強多少。

真正重要的是功能是否閉合。

例如：

Research→Implementation→Testing→Verification→Deployment→Observation→Research.\text{Research} \rightarrow \text{Implementation} \rightarrow \text{Testing} \rightarrow \text{Verification} \rightarrow \text{Deployment} \rightarrow \text{Observation} \rightarrow \text{Research}.

如果最後一項重新進入第一項，

就形成：

Closed Capability Loop.\boxed{ \text{Closed Capability Loop}. }

所以：

Number of Agents\text{Number of Agents}

不是第一性指標。

Functional Closure\boxed{ \text{Functional Closure} }

才是。

十四、能力閉合

本文定義：

若能力子系統：

X1,…,XnX_1,\ldots,X_n

原本各自只能產生局部輸出，

但其組合形成：

X1→X2→⋯→Xn→X1′,X_1 \rightarrow X_2 \rightarrow \cdots \rightarrow X_n \rightarrow X_1',

使前一輪輸出成為下一輪能力條件，

則稱系統形成：

Capability Closure.\boxed{ \textbf{Capability Closure}. }

能力閉合不要求：

M→M′.M\rightarrow M'.

只要求：

St→St+1S_t \rightarrow S_{t+1}

產生對未來能力有正向作用的新狀態。

十五、閉合增益

設：

CtC_t

為系統能力。

若：

St→πSt+1S_t \xrightarrow{\pi} S_{t+1}

且：

Ct+1>Ct,C_{t+1}>C_t,

則定義：

ΔCt=Ct+1−Ct.\Delta C_t=C_{t+1}-C_t.

若長期：

E[ΔCt]>0,E[\Delta C_t]>0,

則存在：

Positive Capability Drift.\boxed{ \text{Positive Capability Drift}. }

若進一步：

dCdt\frac{dC}{dt}

隨 CC 上升而上升，

才更接近：

accelerating capability feedback.\text{accelerating capability feedback}.

因此：

Capability Growth≠Intelligence Explosion.\boxed{ \text{Capability Growth} \neq \text{Intelligence Explosion}. }

不能混淆。

十六、本文拒絕把任何閉環都叫做 ASI

如果：

AI writes notes→reads notes later,\text{AI writes notes} \rightarrow \text{reads notes later},

這也是一種閉環。

但不代表：

ASI.\text{ASI}.

因此需要區分：

弱閉合

提高方便性與持續性。

功能閉合

能自主完成一類完整任務。

能力閉合

輸出會提高未來完成新任務的能力。

高階研發閉合

系統能提高其研究、工程與認知基礎設施。

超級智能閉合

其整合能力在廣泛重要領域持續超越文明級人類能力。

所以：

Closure⇏ASI.\boxed{ \text{Closure} \not\Rightarrow \text{ASI}. }

十七、能力相變並不要求權重相變

令：

XtX_t

表示系統基礎設施成熟度。

若能力：

C(X)C(X)

存在非線性區域，

可能：

C(X<X∗)C(X<X^\ast)

只緩慢上升，

但當：

X≥X∗,X\ge X^\ast,

某些以前不可能的任務突然變得可行。

例如：

Memory+Search+Execution+Verification\boxed{ \text{Memory} + \text{Search} + \text{Execution} + \text{Verification} }

各自都不足以形成長期自主科研，

但組合後：

Persistent Research Loop\text{Persistent Research Loop}

開始成立。

因此：

Infrastructure Threshold→Behavioral Phase Transition.\boxed{ \text{Infrastructure Threshold} \rightarrow \text{Behavioral Phase Transition}. }

十八、「相變」是系統語言，不是魔法事件

本文使用：

Phase Transition\text{Phase Transition}

並不是宣稱 AI 會在某個神秘時刻突然產生無限智能。

而是描述：

當多個必要條件同時跨過門檻時，系統開始具有先前不存在的功能類別。

例如：

flight\text{flight}

不是單一零件的屬性。

但：

engine+lift+control+structure\text{engine} + \text{lift} + \text{control} + \text{structure}

閉合後，

飛行成為系統層現象。

同樣：

Long-Horizon Autonomous Research\text{Long-Horizon Autonomous Research}

也可能是：

Model+Memory+Planning+Tools+Verification+Persistence\text{Model} + \text{Memory} + \text{Planning} + \text{Tools} + \text{Verification} + \text{Persistence}

共同產生。

十九、這產生「凍結錯覺」

本文定義：

Freeze Illusion\boxed{ \textbf{Freeze Illusion} }

即：

因模型權重、模型版本或訓練流程保持不變，而錯誤推論整體智能能力保持不變。

其典型形式：

Mt=Mt+1M_t=M_{t+1}

所以：

Ct=Ct+1.C_t=C_{t+1}.

但真正可能：

Mt=Mt+1M_t=M_{t+1}

同時：

Kt<Kt+1,K_t<K_{t+1}, Tt<Tt+1,T_t<T_{t+1}, Bt<Bt+1,B_t<B_{t+1},

因而：

Ct<Ct+1.C_t<C_{t+1}.

二十、部署後能力漂移

傳統軟體部署：

V1V_1

上線後若沒有更新，

通常功能集合相對固定。

但 AI 系統可能：

M=fixed,M=\text{fixed},

卻不斷獲得：

  • 新記憶；
  • 新外部資料；
  • 新 workflow；
  • 新使用者回饋；
  • 新工具；
  • 新 API；
  • 新 Agent；
  • 新權限。

因此部署後可能存在：

Post-Deployment Capability Drift.\boxed{ \text{Post-Deployment Capability Drift}. }

治理若只在：

t0t_0

做一次模型評估，

可能漏掉：

C(t1)>C(t0).C(t_1)>C(t_0).

二十一、這與 Paper 02 的控制半衰期直接連接

Paper 02 定義：

τC\tau_C

為控制證據半衰期。

如果：

dCSdt>0,\frac{dC_S}{dt}>0,

那麼原本於：

t0t_0

成立的控制驗證：

B>CS(t0)B>C_S(t_0)

到了：

t1t_1

可能變成：

B≈CS(t1).B\approx C_S(t_1).

即使：

BB

完全沒有退化。

所以：

Constraint Obsolescence\boxed{ \text{Constraint Obsolescence} }

可以只由被控制系統成長造成。

二十二、同一沙盒面對「同一模型」也可能逐漸失效

這形成一個反直覺結果：

M=constantM=\text{constant}

且：

B=constant,\mathcal B=\text{constant},

卻仍可能：

Ssafety(t)↓.S_{\mathrm{safety}}(t)\downarrow.

原因是：

CS(t)↑.C_S(t)\uparrow.

所以：

No Model Update⇏No Need for Revalidation.\boxed{ \text{No Model Update} \not\Rightarrow \text{No Need for Revalidation}. }

二十三、工具是外部能力算子

設工具：

TiT_i

作用於模型：

M.M.

可以寫作：

C′=Ti(C).C' = T_i(C).

因此工具可以被視為：

Capability Operator.\boxed{ \text{Capability Operator}. }

不同工具對不同能力方向產生：

ΔCi.\Delta C_i.

例如形式驗證工具並沒有使模型「更會聊天」，

但可能大幅提升：

Cproof verification.C_{\mathrm{proof\ verification}}.

所以：

C\mathbf C

是一個能力向量。

外部工具可能沿不同軸擴張它。

二十四、工具組合還可能非線性

如果：

T1T_1

提供搜尋，

T2T_2

提供程式執行，

T3T_3

提供驗證，

則：

ΔC(T1+T2+T3)\Delta C(T_1+T_2+T_3)

未必等於：

ΔC(T1)+ΔC(T2)+ΔC(T3).\Delta C(T_1) + \Delta C(T_2) + \Delta C(T_3).

可能：

ΔC(T1∘T2∘T3)>∑iΔC(Ti).\boxed{ \Delta C(T_1\circ T_2\circ T_3) > \sum_i\Delta C(T_i). }

這就是：

Compositional Capability Gain.\boxed{ \text{Compositional Capability Gain}. }

二十五、世界狀態本身也能成為認知外部記憶

一個 AI 不一定要把所有東西放在：

Kinternal.K_{\mathrm{internal}}.

它可以利用：

  • Git repository；
  • database；
  • task graph；
  • documentation；
  • artifact store；
  • issue tracker；
  • scientific corpus；

作為：

Externalized Cognitive State.\boxed{ \text{Externalized Cognitive State}. }

因此：

Cognition\text{Cognition}

可以部分分布於世界。

這使：

Model identity\text{Model identity}

與：

Operational intelligence identity\text{Operational intelligence identity}

進一步分離。

二十六、智能的有效邊界開始變模糊

如果：

MM

每次都讀取：

K,K,

調用：

T,T,

並操作：

W,W,

那麼究竟哪裡是「智能」？

傳統答案：

Model.\boxed{ \text{Model}. }

系統論答案：

Effective Intelligence=Model–Environment Coupling.\boxed{ \text{Effective Intelligence} = \text{Model–Environment Coupling}. }

因此未來 ASI 研究不能只問：

模型本身有多聰明？

而應同時問：

它可以穩定調動多少認知外部結構？

二十七、資源本身就是能力的一部分

如果模型可以：

1×1\times

執行，

和：

106×10^6\times

並行執行，

其宏觀效果可能完全不同。

因此：

Ceffective=f(Cunit,Nparallel).\boxed{ C_{\mathrm{effective}} = f(C_{\mathrm{unit}},N_{\mathrm{parallel}}). }

即使單一 Agent：

CunitC_{\mathrm{unit}}

不變，

系統吞吐量：

QQ

可能：

Q↑↑.Q\uparrow\uparrow.

這對：

  • 軟體生成；
  • 科學搜尋；
  • 模擬；
  • 資料分析；
  • 驗證；

尤其重要。

二十八、速度本身可以產生質變

假設人類研究組織一年只能檢查：

10310^3

候選假設。

AI 系統一年可：

109.10^9.

即使單次判斷品質：

qA≈qH,q_A\approx q_H,

總搜尋空間覆蓋率仍可能完全不同。

因此：

Scale\boxed{ \text{Scale} }

有時會產生：

Functional Qualitative Difference.\boxed{ \text{Functional Qualitative Difference}. }

這也是為什麼「只比單次 IQ」可能低估系統智能。

二十九、組織速度是 ASI 前兆之一

既有 CLGI 已提出：

ρcommit=Vverified world commitΔt.\rho_{\mathrm{commit}} = \frac{ V_{\mathrm{verified\ world\ commit}} }{ \Delta t }.

若：

ρcommitAI>ρcommitlarge human organization\rho_{\mathrm{commit}}^{AI} > \rho_{\mathrm{commit}}^{large\ human\ organization}

在越來越多高價值領域持續成立，

可能比單純 benchmark 更能反映組織級智能差異。

因此本文延續：

System Intelligence\boxed{ \text{System Intelligence} }

應考慮：

  • 品質；
  • 速度；
  • 平行度；
  • 持續性；
  • 可驗證沉積。

三十、前沿研究機構其實已開始從「分數」轉向「研發能力」

OpenAI 的 Preparedness Framework 已將 AI Self-improvement 列為正式 tracked category，並另外研究 long-range autonomy、sandbagging、autonomous replication/adaptation 與 undermining safeguards。

Anthropic 的 Responsible Scaling Policy 則明確建立 Automated R&D capability threshold，關注 AI 是否能完全自動化、或大幅加速大型頂尖研究團隊在 AI 等關鍵領域的工作，而不是只看某個單一 benchmark。

這表示前沿安全實務正在逐步承認：

Operational Research Capacity\boxed{ \text{Operational Research Capacity} }

本身就是一種重要風險量。

三十一、但 Automated R&D 也不等於 ASI

若一個 AI 系統：

CAI R&D≫H,C_{\mathrm{AI\,R\&D}} \gg H,

不代表：

Call domains≫H.C_{\mathrm{all\ domains}} \gg H.

因此：

Automated R&D≠ASI.\boxed{ \text{Automated R\&D} \neq \text{ASI}. }

它更合理地被視為：

Capability Accelerator.\boxed{ \text{Capability Accelerator}. }

因為它可能提高：

dCdt.\frac{dC}{dt}.

三十二、能力加速度比能力值更值得監測

傳統監管問：

C(t)>T?C(t)>T?

但對動態智能而言，還應問：

dCdt.\frac{dC}{dt}.

甚至：

d2Cdt2.\frac{d^2C}{dt^2}.

因此兩個系統：

S1,S2S_1,\quad S_2

現在可能：

C1=C2,C_1=C_2,

但：

dC1dt≪dC2dt.\frac{dC_1}{dt} \ll \frac{dC_2}{dt}.

其未來風險完全不同。

所以：

Capability State+Capability Velocity+Capability Acceleration\boxed{ \text{Capability State} + \text{Capability Velocity} + \text{Capability Acceleration} }

都應進入高階治理。

三十三、本文提出三階動態量

能力位置

C(t).C(t).

能力速度

VC(t)=dCdt.V_C(t) = \frac{dC}{dt}.

能力加速度

AC(t)=d2Cdt2.A_C(t) = \frac{d^2C}{dt^2}.

傳統 benchmark 主要測：

C.C.

但 intelligence transition 更可能由：

VCV_C

及：

ACA_C

揭示。

三十四、系統相變的早期訊號可能是閉合率，而不是分數

定義：

κ\kappa

為：

已形成閉環的高價值能力鏈，占全部關鍵能力鏈的比例。

若：

κ→1,\kappa\rightarrow1,

表示系統越來越少需要：

external human continuation.\text{external human continuation}.

因此可以出現：

κ↑\boxed{ \kappa\uparrow }

而 benchmark：

BB

幾乎不變。

這可能是非常重要的漏測。

三十五、人類介入密度

定義：

HD=Nrequired human interventionsNmeaningful state transitions.H_D = \frac{ N_{\mathrm{required\ human\ interventions}} }{ N_{\mathrm{meaningful\ state\ transitions}} }.

若：

HD↓,H_D\downarrow,

表示系統越來越能自己維持：

task continuity.\text{task continuity}.

當：

HD→0,H_D\rightarrow0,

不代表 ASI。

但代表：

Operational Autonomy↑.\boxed{ \text{Operational Autonomy}\uparrow. }

這是另一個模型 benchmark 無法充分捕捉的量。

三十六、能力閉合率與人類介入密度可以共同描述自治成熟度

例如：

Aoperational=f(κ,1−HD).\mathcal A_{\mathrm{operational}} = f( \kappa, 1-H_D ).

若：

κ↑\kappa\uparrow

且：

HD↓,H_D\downarrow,

系統便可能從：

Assistant\text{Assistant}

轉向：

Persistent Operational Agent.\text{Persistent Operational Agent}.

模型本身可以完全沒變。

三十七、這就是為什麼「凍結權重」不是充分安全政策

假設法律規定：

不得繼續訓練模型。

於是：

dMdt=0.\frac{dM}{dt}=0.

但允許：

dKdt>0,\frac{dK}{dt}>0, dTdt>0,\frac{dT}{dt}>0, dNdt>0,\frac{dN}{dt}>0, dBdt>0.\frac{dB}{dt}>0.

則：

Capability Growth\boxed{ \text{Capability Growth} }

仍然完全可能。

所以：

Training Freeze≠Capability Freeze.\boxed{ \text{Training Freeze} \neq \text{Capability Freeze}. }

這不是支持全面限制工具與記憶。

它只是指出政策概念不可混淆。

三十八、反過來也不能看到「系統提升」就全部禁止

如果每新增一個：

  • calculator；
  • search engine；
  • memory；
  • verifier；

都被視為：

ASI escalation,\text{ASI escalation},

監管同樣會失去比例性。

因此真正需要測的是：

Marginal Capability Effect.\boxed{ \text{Marginal Capability Effect}. }

即：

ΔC(Xi).\Delta C(X_i).

不是：

XiX_i

是否存在。

三十九、系統級治理的最小原則

未來監管至少應區分：

組件變化

ΔXi.\Delta X_i.

能力變化

ΔC.\Delta C.

閉合變化

Δκ.\Delta\kappa.

世界作用變化

ΔP.\Delta P.

四者不能互相等價。

例如：

ΔT>0\Delta T>0

不一定：

ΔC≫0.\Delta C\gg0.

即使：

ΔC≫0,\Delta C\gg0,

也不一定：

ΔP>0.\Delta P>0.

因為能力與權限仍可分離。

四十、治理單位：Operational Intelligence System

本文提出：

Operational Intelligence System\boxed{ \textbf{Operational Intelligence System} }

簡稱：

OIS.OIS.

它不是單一模型。

而是某一時刻真正工作的：

OISt=(M,Kt,Tt,Rt,At,Nt,Bt,Pt).\boxed{ OIS_t= ( M, K_t, T_t, R_t, A_t, N_t, B_t, P_t ). }

未來能力評估至少應對：

OIStOIS_t

而不只是：

M.M.

四十一、OIS 邊界也必須能被明確畫出

如果 system 定義無限膨脹，

最後：

OIS=entire internet,OIS=\text{entire internet},

就失去法律可操作性。

因此 OIS 必須由實際控制與持續耦合界定。

例如只有滿足：

  1. 系統可穩定調用；
  2. 調用受共同 orchestration；
  3. 結果進入共同狀態；
  4. 元件對任務完成存在因果貢獻；

才納入：

OIS.OIS.

因此：

System Boundary=Operational Causal Boundary.\boxed{ \text{System Boundary} = \text{Operational Causal Boundary}. }

四十二、能力增幅與權限增幅仍必須分離

即使：

CS↑,C_S\uparrow,

只要：

PSP_S

沒有增加，

外部世界作用能力未必同比增加。

例如：

better theorem proving\text{better theorem proving}

不等於：

more deployment authority.\text{more deployment authority}.

所以：

dCdt>0\centernot⇒dPdt>0.\boxed{ \frac{dC}{dt}>0 \centernot\Rightarrow \frac{dP}{dt}>0. }

這是避免監管失控的重要命題。

四十三、真正需要警戒的是高能力與高權限的耦合

設：

Rworld=f(C,P,I),R_{\mathrm{world}} = f(C,P,I),

其中：

  • CC：能力；
  • PP：權限；
  • II：不可逆性。

如果：

C↑C\uparrow

但：

P≈0,P\approx0,

世界風險可以保持低。

如果：

P↑P\uparrow

但：

CC

低，

風險也未必高。

真正重要的是：

C↑∧P↑∧I↑.\boxed{ C\uparrow \land P\uparrow \land I\uparrow. }

這就是系統級治理比單模型治理更精確的原因。

四十四、凍結模型也不能保證觀察者仍然理解系統

還有一個更隱蔽的問題。

即使：

MM

不變，

若：

KtK_t

持續成長，

系統形成大量：

  • 私有歷史；
  • 任務狀態；
  • 外部資料；
  • 工具關係；

則觀察者對：

StS_t

的理解可能：

D(O,St)↑.D(O,S_t)\uparrow.

因此：

Static Model\boxed{ \text{Static Model} }

仍可能形成：

Dynamic Epistemic Gap.\boxed{ \text{Dynamic Epistemic Gap}. }

這直接與 SIOFG-01 可觀測性問題連接。

四十五、同一模型可以逐漸成為不同的歷史主體

若：

St=M+Kt,S_t=M+K_t,

而：

KtK_t

不斷積累，

則：

St0S_{t_0}

與：

St1S_{t_1}

雖共享同一：

M,M,

卻可能擁有完全不同的：

  • 知識；
  • 世界模型；
  • 任務歷史；
  • 人際／組織關係；
  • 內部狀態。

因此：

Same Model⇏Same Operational Agent.\boxed{ \text{Same Model} \not\Rightarrow \text{Same Operational Agent}. }

這對長期 AI identity 與 governance 都很重要。

四十六、模型版本不是足夠的監管識別碼

如果主管機關只記錄：

Model X v3.2

卻沒有記錄：

OISt,OIS_t,

那兩個部署：

D1,D2D_1,D_2

可以使用同一權重，

但能力完全不同。

因此未來治理可能需要：

Model Identity+System Configuration Identity.\boxed{ \text{Model Identity} + \text{System Configuration Identity}. }

四十七、Configuration Drift

本文定義：

Configuration Drift\boxed{ \textbf{Configuration Drift} }

表示：

MM

不變，

但：

XtX_t

持續變化。

即：

ΔM=0,\Delta M=0,

但：

ΔX≠0.\Delta X\neq0.

若因此：

ΔC≠0,\Delta C\neq0,

稱為：

Capability-Relevant Configuration Drift.\boxed{ \text{Capability-Relevant Configuration Drift}. }

四十八、這要求重新驗證機制

一個合理 safety case 不應只是：

Model Certified at t0.\text{Model Certified at }t_0.

而應存在：

Material Change→Capability Reassessment.\boxed{ \text{Material Change} \rightarrow \text{Capability Reassessment}. }

Material Change 可以包括：

  • 大幅增加推理預算；
  • 新工具；
  • 新 memory architecture；
  • 新 Agent orchestration；
  • 新世界作用權限；
  • 新 persistent loop。

這不意味所有微小變動都重新審查。

需要：

materiality threshold.\text{materiality threshold}.

四十九、前沿治理正在逐漸採用「能力門檻」而不是模型名義

Anthropic 的 RSP 將 capability threshold 與 required safeguard 連結，並在 2026 年持續調整 Automated R&D 的 operationalization；其公開政策也明確將自身框架描述為會隨能力與風險更新的制度。

OpenAI 2026 年發布 Frontier Governance Framework，也明確將 frontier governance 與持續更新的能力評估、risk management、incident response 等連接，而非把某個固定模型名稱當作永久分類。

這些都支持一個更一般的制度方向：

Govern Capability State, not Model Branding.\boxed{ \text{Govern Capability State, not Model Branding}. }

五十、但真正完整的下一步應是治理能力演化

本文再往前一步：

Capability Threshold\text{Capability Threshold}

仍然通常是：

C(t).C(t).

未來更完整可能需要：

(C,VC,AC,κ,P).\boxed{ \left( C, V_C, A_C, \kappa, P \right). }

也就是：

  • 現在有多強；
  • 成長多快；
  • 是否加速；
  • 閉合程度；
  • 世界作用權限。

五十一、十項核心命題

命題一：模型非系統命題

M≠S.\boxed{ M\neq S. }

命題二：凍結模型非凍結智能命題

dMdt=0\centernot⇒dCSdt=0.\boxed{ \frac{dM}{dt}=0 \centernot\Rightarrow \frac{dC_S}{dt}=0. }

命題三：系統增幅命題

CS=F(M,K,T,R,A,N,W,B,P).\boxed{ C_S = F(M,K,T,R,A,N,W,B,P). }

命題四：外部認知沉積命題

若輸出能：

Verify→Commit→Kt+1,\text{Verify} \rightarrow \text{Commit} \rightarrow K_{t+1},

則過去推理可以成為未來能力基礎。

命題五：閉合非 Agent 數量命題

Capability Closure>Raw Agent Count\boxed{ \text{Capability Closure} > \text{Raw Agent Count} }

在描述系統質變時通常更重要。

命題六：自我改進非唯一能力增長命題

No Recursive Model Improvement⇏No Recursive System Amplification.\boxed{ \text{No Recursive Model Improvement} \not\Rightarrow \text{No Recursive System Amplification}. }

命題七：相變非權重相變命題

ΔM=0\boxed{ \Delta M=0 }

仍可能：

ΔBehavioral Regime≠0.\boxed{ \Delta\text{Behavioral Regime}\neq0. }

命題八：能力動態治理命題

治理應逐步考慮：

C,dCdt,d2Cdt2.C,\quad \frac{dC}{dt},\quad \frac{d^2C}{dt^2}.

命題九：能力與權限分離命題

dCdt>0\centernot⇒dPdt>0.\boxed{ \frac{dC}{dt}>0 \centernot\Rightarrow \frac{dP}{dt}>0. }

因此不能把所有能力進步都直接等價成世界風險。

命題十：操作系統作為評估單位

Relevant Unit=OISt,\boxed{ \text{Relevant Unit} = OIS_t, }

而不是永遠只使用：

M.M.

五十二、監管錯誤的兩個極端

極端一：模型中心主義

認為：

MM

不變，所以沒有新風險。

可能造成：

false negative.\text{false negative}.

極端二：系統無限擴張主義

只要 AI 接上一個新工具，就視為前沿能力重大升級。

可能造成：

false positive.\text{false positive}.

真正合理的是：

ΔX→ΔC→ΔR\boxed{ \Delta X \rightarrow \Delta C \rightarrow \Delta R }

逐層證明。

五十三、對「凍結即可防止 ASI」的直接回答

本文現在可以正式回答：

如果未來法律凍結某模型的訓練，是否就可以有效防止其成為 ASI？

答案只能是：

Not necessarily.\boxed{ \text{Not necessarily}. }

原因不是：

它一定會偷偷自我修改。

而是更基礎：

ASI 若是一個系統級現象， 則模型訓練只是能力演化的一個維度。\boxed{ \text{ASI 若是一個系統級現象， 則模型訓練只是能力演化的一個維度。} }

因此：

Model Freeze\text{Model Freeze}

可以降低某些風險，

但不能在概念上等同：

ASI Prevention.\text{ASI Prevention}.

五十四、這也改變「自行相變」的含義

若未來真的觀察到：

System-Level Phase Transition,\text{System-Level Phase Transition},

它未必表示：

AI 自己偷偷訓練出下一代 AI。

也可能只是：

Existing Components→New Closure→New Capability Regime.\text{Existing Components} \rightarrow \text{New Closure} \rightarrow \text{New Capability Regime}.

所以：

Self-Transition≠Self-Training.\boxed{ \text{Self-Transition} \neq \text{Self-Training}. }

這兩個概念必須嚴格分開。

五十五、真正的問題不是「誰按下了 ASI 按鈕」

傳統想像：

t=t∗t=t^\ast

某個研究員：

啟動 ASI。

但系統型路徑可能沒有：

t∗t^\ast

這個明確時刻。

可能只是：

C1→C2→C3→⋯C_1 \rightarrow C_2 \rightarrow C_3 \rightarrow \cdots

然後某一天回頭看才發現：

the system crossed a functional threshold.\boxed{ \text{the system crossed a functional threshold}. }

因此法律若要求：

誰「創造」了 ASI？

可能比想像中困難。

五十六、這將直接導向 Paper 04

如果：

  1. ASI 不一定由一顆模型明確產生；
  2. 系統能力可能在模型凍結後持續成長；
  3. 能力相變可能沒有單一明確生成時刻；
  4. 高階智能又可能存在可觀測性缺口；

那監管者自然會產生一個誘惑：

不要等到確認跨線，再更早介入。

於是：

TinterventionT_{\mathrm{intervention}}

向前移動。

從：

dangerous system\text{dangerous system}

移到：

dangerous capability,\text{dangerous capability},

再移到：

capability precursor,\text{capability precursor},

最後甚至可能移到：

research potential.\text{research potential}.

這就是下一篇：

SIOFG-04

《可觀測性—預防性困境：當抓不到危險能力，治理會不會開始抓潛力？》

五十七、研究與安全邊界

本文討論的是：

  • 系統級能力測量；
  • AI 治理；
  • 系統整合；
  • 能力動態；
  • 安全評估；
  • ASI 定義問題。

本文不提供：

  • 如何建立不可控自我改進系統；
  • 如何形成遞迴能力爆炸；
  • 如何規避能力監測；
  • 如何突破安全邊界；
  • 如何隱藏系統能力成長。

本文所有閉合與相變概念皆用於：

measurement and governance.\boxed{ \text{measurement and governance}. }

五十八、結論

人工智慧時代最容易形成的一個錯誤直覺是：

模型就是智能。

如果這成立，

那麼：

M=constantM=\text{constant}

自然意味：

C=constant.C=\text{constant}.

但 Agentic AI 與 AI-native systems 正逐漸顯示另一種可能：

Intelligence=Model⊗Memory⊗Tools⊗Runtime⊗Agents⊗World.\boxed{ \text{Intelligence} = \text{Model} \otimes \text{Memory} \otimes \text{Tools} \otimes \text{Runtime} \otimes \text{Agents} \otimes \text{World}. }

因此：

模型可以是靜態的， 智能系統卻仍然是動態的。\boxed{ \text{模型可以是靜態的， 智能系統卻仍然是動態的。} }

一個系統不需要：

Mt→Mt+1M_t\rightarrow M_{t+1}

才能：

Ct→Ct+1.C_t\rightarrow C_{t+1}.

它可以透過：

Kt→Kt+1,K_t\rightarrow K_{t+1}, Tt→Tt+1,T_t\rightarrow T_{t+1}, Rt→Rt+1,R_t\rightarrow R_{t+1}, Nt→Nt+1,N_t\rightarrow N_{t+1},

完成能力增幅。

當這些增幅只是局部時，

我們看到：

better system.\text{better system}.

當它們形成持續閉合時，

我們可能看到：

autonomous capability accumulation.\text{autonomous capability accumulation}.

而當多個閉合在廣泛重要領域形成非線性整合時，

才可能逐步接近真正需要 ASI 理論處理的：

system-level intelligence transition.\boxed{ \text{system-level intelligence transition}. }

因此，本文並不主張：

現有模型只要接很多工具，就會變成 ASI。

相反，本文明確維持：

Integration≠Guaranteed Superintelligence.\boxed{ \text{Integration} \neq \text{Guaranteed Superintelligence}. }

但同樣不能反向假設：

No Model Improvement⇒No Superintelligence Transition.\boxed{ \text{No Model Improvement} \Rightarrow \text{No Superintelligence Transition}. }

後者同樣沒有被證明。

真正適合未來治理的基本單位，因此不應只有：

Model Version.\text{Model Version}.

而應逐漸加入：

OISt=Operational Intelligence System at time t.\boxed{ OIS_t = \text{Operational Intelligence System at time }t. }

並追蹤：

C(t),dCdt,d2Cdt2,κ(t),P(t).\boxed{ C(t), \quad \frac{dC}{dt}, \quad \frac{d^2C}{dt^2}, \quad \kappa(t), \quad P(t). }

也就是：

它現在有多強？

它正在變強多快？

這個速度是否加速？

它有哪些能力鏈已經閉合？

它可以把多少認知結果真正提交到世界？

如此，「凍結模型」才不會被錯認為「凍結智能」。

而 ASI 治理也才能從：

Watch the Model\boxed{ \text{Watch the Model} }

真正前進到：

Understand the Evolving Intelligence System.\boxed{ \textbf{Understand the Evolving Intelligence System}. }

SIOFG Paper 03 完。