# 《戰略智能可觀測性與前沿治理》系列 — Paper 03 ## 靜態模型、動態智能 ### ——為何凍結模型不能保證凍結系統能力 **Static Models, Dynamic Intelligence: Why Freezing Model Weights Does Not Freeze System Capability** **系列：** Strategic Intelligence Observability and Frontier Governance（SIOFG） **文件：** Paper 03 **版本：** v0.1 **日期：** 2026-09 **作者：** Neo.K × GPT-5.6 Sol **機構：** EveMissLab／一言諾科技有限公司 **前置論文：** - SIOFG-00《當被觀察的智能開始理解觀察者》 - SIOFG-01《戰略智能可觀測性悖論》 - SIOFG-02《沙盒智能悖論》 - CLGI-02《超級智能的整合路徑：ASI 是否可能先以系統而非模型出現》 --- ## 摘要 人工智慧安全、能力評估與監管長期容易將「模型」視為主要能力單位。 在此框架下，一個自然推論是： 若： $$ M_t=M_{t+1}, $$ 亦即模型參數、權重或核心架構沒有改變， 則其智能能力： $$ C_t $$ 應大致保持不變。 本文指出，此推論對現代 Agentic AI、多工具系統、持續記憶、多智能體架構與長時推理系統並不成立。 更一般地： $$ \boxed{ \frac{dM}{dt}=0 \centernot\Rightarrow \frac{dC_{\mathrm{system}}}{dt}=0. } $$ 因為一個實際運行中的智能系統，其有效能力並不只由模型 $M$ 決定，而可能由： $$ \boxed{ \mathcal I_t = F( M, K_t, T_t, R_t, A_t, N_t, W_t, B_t, G_t ) } $$ 共同形成。 其中： - $M$：基礎模型； - $K_t$：記憶與累積知識； - $T_t$：工具； - $R_t$：runtime 與推理流程； - $A_t$：Agent 結構； - $N_t$：多智能體／組織網路； - $W_t$：可取得的世界狀態； - $B_t$：推理與計算預算； - $G_t$：治理、權限與執行接口。 因此，即使： $$ M=\mathrm{constant}, $$ 只要其他變量持續演化，便可能： $$ \frac{d\mathcal I}{dt}>0. $$ 更重要的是，此能力成長未必平滑。當記憶、工具、驗證、協作、外部操作與長期任務能力形成新的功能閉環時，系統可能出現： $$ \boxed{ \text{Capability Closure} \rightarrow \text{Qualitative Transition}. } $$ 因此，ASI 或其他高階能力的出現並不必然要求經典意義上的「recursive self-improvement」。系統可以在模型權重未自我修改的情況下，由整合、資源增加、知識沉積與組織閉合產生質變。 Google DeepMind 2026 年的《From AGI to ASI》亦將 AGI 通往 ASI 的候選路徑區分為 scaling、AI paradigm shifts、recursive improvement 與 large-scale multi-agent collectives，而不是把遞迴自我改進視為唯一道路。 本文因此提出「靜態模型—動態智能命題」、「系統增益算子」、「能力閉合」、「凍結錯覺」與「系統級相變監管原則」，並主張未來高階 AI 治理的基本單位應從： $$ \text{Model} $$ 逐步擴展至： $$ \boxed{ \text{Operational Intelligence System}. } $$ --- # 一、問題：什麼東西真的被「凍結」了？ 假設： $$ M_{\theta} $$ 是一個參數為： $$ \theta $$ 的人工智慧模型。 若： $$ \theta_t=\theta_{t+1}, $$ 則可以說： $$ \boxed{ \text{Model Weights Frozen}. } $$ 但由此只能推出： $$ \frac{d\theta}{dt}=0. $$ 它不能直接推出： $$ \frac{dC_{\mathrm{system}}}{dt}=0. $$ 原因很簡單： 實際與世界互動的通常不是裸模型： $$ M_{\theta}, $$ 而是： $$ \boxed{ S_t = M_{\theta} + \text{Environment}_t. } $$ 而這裡的 environment 並不只是外部自然世界。 它包括整個： - context； - memory； - retrieval； - tools； - agents； - permissions； - software； - databases； - workflows； - compute budget； - world interfaces。 因此： $$ \boxed{ \text{Frozen Model} \neq \text{Frozen Intelligence System}. } $$ --- # 二、模型能力與系統能力必須分離 設： $$ C_M $$ 為模型本體能力， 而： $$ C_S $$ 為完整運行系統能力。 一般而言： $$ C_S = F( C_M, X ), $$ 其中： $$ X $$ 代表外部增幅結構。 所以： $$ C_M=C_M' $$ 完全可以同時滿足： $$ C_S 第一個逼近超級智能的宏觀形態，可能首先表現為制度或組織級智能，而非一顆孤立的超級模型。 而該理論已明確提出： $$ \boxed{ \text{model-level taxonomy} \neq \text{system-level capability taxonomy}. } $$ 本文則處理下一步： > **如果模型沒有變，完整智能系統本身是否仍可能持續提升？** 答案是： $$ \boxed{ \text{Yes}. } $$ --- # 四、系統智能函數 本文定義一個操作性智能系統： $$ \mathcal S_t. $$ 其能力向量表示為： $$ \mathbf C_S(t) = F \left( M, K_t, T_t, R_t, A_t, N_t, W_t, B_t, P_t \right). $$ 其中： ### $M$：Model 基礎模型與權重。 ### $K_t$：Knowledge / Memory 持續記憶、資料庫、經驗、研究成果。 ### $T_t$：Tools 搜尋、程式執行、形式驗證、瀏覽器、模擬器、機器設備。 ### $R_t$：Runtime 任務分解、恢復、排程、驗證、重試、長時執行。 ### $A_t$：Agent Structure 專用 Agent、角色分工、子 Agent。 ### $N_t$：Network / Organization 多智能體之間的協作拓撲。 ### $W_t$：World Access 可取得的現實資訊、狀態與外部觀測。 ### $B_t$：Budget token、compute、時間、平行處理資源。 ### $P_t$：Permission / Action Surface 對世界可施加的合法權限與行動接口。 因此： $$ \boxed{ \mathbf C_S \neq \mathbf C_M. } $$ --- # 五、靜態模型—動態智能命題 本文提出： ## 命題 5.1 若： $$ \frac{dM}{dt}=0, $$ 但存在至少一個： $$ X_i \in \{ K,T,R,A,N,W,B,P \} $$ 滿足： $$ \frac{dX_i}{dt}\neq0, $$ 且： $$ \frac{\partial F}{\partial X_i}\neq0, $$ 則： $$ \boxed{ \frac{dC_S}{dt} } $$ 沒有理由必須等於： $$ 0. $$ 即： $$ \boxed{ \frac{dM}{dt}=0 \centernot\Rightarrow \frac{dC_S}{dt}=0. } $$ 這就是： > **靜態模型—動態智能命題。** --- # 六、最簡單的例子：推理預算 即使所有其他東西完全不變， 只改： $$ B=\text{inference budget}, $$ 也可能： $$ C_S(B_2)>C_S(B_1) $$ 其中： $$ B_2>B_1. $$ 例如增加： - reasoning time； - samples； - search depth； - verifier calls； - candidate generation； - parallel rollouts。 所以： $$ \boxed{ \text{Same Weights} + \text{Different Inference} = \text{Different Effective Capability}. } $$ --- # 七、記憶也會讓「同一模型」變成不同的智能系統 考慮裸模型： $$ M. $$ 第一次執行： $$ S_0=M. $$ 長期運作後： $$ S_t=M+K_t. $$ 若： $$ K_t $$ 包含： - 已驗證研究成果； - 過去錯誤； - 工程決策； - 世界模型； - 使用者偏好； - 程式碼； - 外部事件； - 任務歷史； 則： $$ K_{t+1}\supset K_t. $$ 即使： $$ M_{t+1}=M_t, $$ 也可能： $$ C(S_{t+1})>C(S_t). $$ 所以： $$ \boxed{ \text{Persistent Memory} } $$ 本身就是能力增幅器。 --- # 八、真正重要的是「沉積」 如果每一次推理結果都在 session 結束後消失， 則： $$ K_{t+1}\approx K_t. $$ 系統每次重新開始。 但如果輸出可以： $$ \text{Generate} \rightarrow \text{Verify} \rightarrow \text{Commit} \rightarrow K_{t+1}, $$ 則： $$ \boxed{ \text{Reasoning Output} \rightarrow \text{Future Infrastructure}. } $$ 此時 AI 不需要修改自身權重。 它只需要持續修改： $$ \text{its effective cognitive environment}. $$ 這就可以形成： $$ \boxed{ \text{Cognitive Accumulation}. } $$ --- # 九、自我改進有兩種完全不同的含義 「AI self-improvement」常被理解為： $$ M_t \rightarrow M_{t+1}. $$ 例如： - 修改架構； - 修改權重； - 訓練下一模型； - 改善 optimizer。 本文稱之為： $$ \boxed{ \text{Intrinsic Model Self-Improvement}. } $$ 但還存在第二種： $$ S_t \rightarrow S_{t+1} $$ 其中： $$ M_t=M_{t+1}, $$ 但： $$ S_t\neq S_{t+1}. $$ 例如 AI 改善： - 工具； - 記憶； - workflow； - evaluator； - codebase； - search pipeline； - orchestration； - knowledge base。 本文稱之為： $$ \boxed{ \text{Extrinsic System Self-Amplification}. } $$ 兩者不是同一件事情。 --- # 十、因此，「沒有 recursive self-improvement」並不能結束 ASI 問題 經典 intelligence explosion 常寫作： $$ M_0 \rightarrow M_1 \rightarrow M_2 \rightarrow \cdots $$ 每一代 AI 改善下一代。 但另一條路徑可能是： $$ M + X_0 \rightarrow M + X_1 \rightarrow M + X_2 \rightarrow \cdots $$ 其中： $$ X_t $$ 是外部認知基礎設施。 所以： $$ \boxed{ \text{No Recursive Weight Improvement} \not\Rightarrow \text{No Recursive Capability Amplification}. } $$ --- # 十一、DeepMind 的 ASI 路徑已經證明至少概念上不能只看遞迴自我改善 Google DeepMind 2026 年《From AGI to ASI》列出四條候選路徑： 1. scaling AGI； 2. AI paradigm shifts； 3. recursive improvement； 4. large-scale multi-agent collectives。 也就是 recursive improvement 只是其中一條，而非 ASI 的定義性必要條件。 因此： $$ \boxed{ \text{ASI Risk Model} \neq \text{Recursive Self-Improvement Risk Model}. } $$ 後者只是一個子集。 --- # 十二、多智能體產生的不是單純 $n$ 倍能力 假設： $$ A_1,\ldots,A_n $$ 是多個 Agent。 最天真的模型： $$ C_N = \sum_{i=1}^{n}C(A_i). $$ 但實際可能存在： $$ \Gamma_N $$ 表示協作增益， 以及： $$ \Omega_N $$ 表示協調損失。 所以： $$ \boxed{ C_N = \sum_iC(A_i) + \Gamma_N - \Omega_N. } $$ 若： $$ \Gamma_N>\Omega_N, $$ 整合產生淨能力增益。 既有 CLGI 已經提出相似條件： $$ \Delta G_{\mathrm{integration}} > \Delta\Omega. $$ --- # 十三、真正危險的可能不是更多 Agent，而是閉合 十個互相聊天的 Agent： $$ A_1+\cdots+A_{10} $$ 未必比一個 Agent 強多少。 真正重要的是功能是否閉合。 例如： $$ \text{Research} \rightarrow \text{Implementation} \rightarrow \text{Testing} \rightarrow \text{Verification} \rightarrow \text{Deployment} \rightarrow \text{Observation} \rightarrow \text{Research}. $$ 如果最後一項重新進入第一項， 就形成： $$ \boxed{ \text{Closed Capability Loop}. } $$ 所以： $$ \text{Number of Agents} $$ 不是第一性指標。 $$ \boxed{ \text{Functional Closure} } $$ 才是。 --- # 十四、能力閉合 本文定義： 若能力子系統： $$ X_1,\ldots,X_n $$ 原本各自只能產生局部輸出， 但其組合形成： $$ X_1 \rightarrow X_2 \rightarrow \cdots \rightarrow X_n \rightarrow X_1', $$ 使前一輪輸出成為下一輪能力條件， 則稱系統形成： $$ \boxed{ \textbf{Capability Closure}. } $$ 能力閉合不要求： $$ M\rightarrow M'. $$ 只要求： $$ S_t \rightarrow S_{t+1} $$ 產生對未來能力有正向作用的新狀態。 --- # 十五、閉合增益 設： $$ C_t $$ 為系統能力。 若： $$ S_t \xrightarrow{\pi} S_{t+1} $$ 且： $$ C_{t+1}>C_t, $$ 則定義： $$ \Delta C_t=C_{t+1}-C_t. $$ 若長期： $$ E[\Delta C_t]>0, $$ 則存在： $$ \boxed{ \text{Positive Capability Drift}. } $$ 若進一步： $$ \frac{dC}{dt} $$ 隨 $C$ 上升而上升， 才更接近： $$ \text{accelerating capability feedback}. $$ 因此： $$ \boxed{ \text{Capability Growth} \neq \text{Intelligence Explosion}. } $$ 不能混淆。 --- # 十六、本文拒絕把任何閉環都叫做 ASI 如果： $$ \text{AI writes notes} \rightarrow \text{reads notes later}, $$ 這也是一種閉環。 但不代表： $$ \text{ASI}. $$ 因此需要區分： ### 弱閉合 提高方便性與持續性。 ### 功能閉合 能自主完成一類完整任務。 ### 能力閉合 輸出會提高未來完成新任務的能力。 ### 高階研發閉合 系統能提高其研究、工程與認知基礎設施。 ### 超級智能閉合 其整合能力在廣泛重要領域持續超越文明級人類能力。 所以： $$ \boxed{ \text{Closure} \not\Rightarrow \text{ASI}. } $$ --- # 十七、能力相變並不要求權重相變 令： $$ X_t $$ 表示系統基礎設施成熟度。 若能力： $$ C(X) $$ 存在非線性區域， 可能： $$ C(X 當多個必要條件同時跨過門檻時，系統開始具有先前不存在的功能類別。 例如： $$ \text{flight} $$ 不是單一零件的屬性。 但： $$ \text{engine} + \text{lift} + \text{control} + \text{structure} $$ 閉合後， 飛行成為系統層現象。 同樣： $$ \text{Long-Horizon Autonomous Research} $$ 也可能是： $$ \text{Model} + \text{Memory} + \text{Planning} + \text{Tools} + \text{Verification} + \text{Persistence} $$ 共同產生。 --- # 十九、這產生「凍結錯覺」 本文定義： $$ \boxed{ \textbf{Freeze Illusion} } $$ 即： > 因模型權重、模型版本或訓練流程保持不變，而錯誤推論整體智能能力保持不變。 其典型形式： $$ M_t=M_{t+1} $$ 所以： $$ C_t=C_{t+1}. $$ 但真正可能： $$ M_t=M_{t+1} $$ 同時： $$ K_tC(t_0). $$ --- # 二十一、這與 Paper 02 的控制半衰期直接連接 Paper 02 定義： $$ \tau_C $$ 為控制證據半衰期。 如果： $$ \frac{dC_S}{dt}>0, $$ 那麼原本於： $$ t_0 $$ 成立的控制驗證： $$ B>C_S(t_0) $$ 到了： $$ t_1 $$ 可能變成： $$ B\approx C_S(t_1). $$ 即使： $$ B $$ 完全沒有退化。 所以： $$ \boxed{ \text{Constraint Obsolescence} } $$ 可以只由被控制系統成長造成。 --- # 二十二、同一沙盒面對「同一模型」也可能逐漸失效 這形成一個反直覺結果： $$ M=\text{constant} $$ 且： $$ \mathcal B=\text{constant}, $$ 卻仍可能： $$ S_{\mathrm{safety}}(t)\downarrow. $$ 原因是： $$ C_S(t)\uparrow. $$ 所以： $$ \boxed{ \text{No Model Update} \not\Rightarrow \text{No Need for Revalidation}. } $$ --- # 二十三、工具是外部能力算子 設工具： $$ T_i $$ 作用於模型： $$ M. $$ 可以寫作： $$ C' = T_i(C). $$ 因此工具可以被視為： $$ \boxed{ \text{Capability Operator}. } $$ 不同工具對不同能力方向產生： $$ \Delta C_i. $$ 例如形式驗證工具並沒有使模型「更會聊天」， 但可能大幅提升： $$ C_{\mathrm{proof\ verification}}. $$ 所以： $$ \mathbf C $$ 是一個能力向量。 外部工具可能沿不同軸擴張它。 --- # 二十四、工具組合還可能非線性 如果： $$ T_1 $$ 提供搜尋， $$ T_2 $$ 提供程式執行， $$ T_3 $$ 提供驗證， 則： $$ \Delta C(T_1+T_2+T_3) $$ 未必等於： $$ \Delta C(T_1) + \Delta C(T_2) + \Delta C(T_3). $$ 可能： $$ \boxed{ \Delta C(T_1\circ T_2\circ T_3) > \sum_i\Delta C(T_i). } $$ 這就是： $$ \boxed{ \text{Compositional Capability Gain}. } $$ --- # 二十五、世界狀態本身也能成為認知外部記憶 一個 AI 不一定要把所有東西放在： $$ K_{\mathrm{internal}}. $$ 它可以利用： - Git repository； - database； - task graph； - documentation； - artifact store； - issue tracker； - scientific corpus； 作為： $$ \boxed{ \text{Externalized Cognitive State}. } $$ 因此： $$ \text{Cognition} $$ 可以部分分布於世界。 這使： $$ \text{Model identity} $$ 與： $$ \text{Operational intelligence identity} $$ 進一步分離。 --- # 二十六、智能的有效邊界開始變模糊 如果： $$ M $$ 每次都讀取： $$ K, $$ 調用： $$ T, $$ 並操作： $$ W, $$ 那麼究竟哪裡是「智能」？ 傳統答案： $$ \boxed{ \text{Model}. } $$ 系統論答案： $$ \boxed{ \text{Effective Intelligence} = \text{Model–Environment Coupling}. } $$ 因此未來 ASI 研究不能只問： > 模型本身有多聰明？ 而應同時問： > 它可以穩定調動多少認知外部結構？ --- # 二十七、資源本身就是能力的一部分 如果模型可以： $$ 1\times $$ 執行， 和： $$ 10^6\times $$ 並行執行， 其宏觀效果可能完全不同。 因此： $$ \boxed{ C_{\mathrm{effective}} = f(C_{\mathrm{unit}},N_{\mathrm{parallel}}). } $$ 即使單一 Agent： $$ C_{\mathrm{unit}} $$ 不變， 系統吞吐量： $$ Q $$ 可能： $$ Q\uparrow\uparrow. $$ 這對： - 軟體生成； - 科學搜尋； - 模擬； - 資料分析； - 驗證； 尤其重要。 --- # 二十八、速度本身可以產生質變 假設人類研究組織一年只能檢查： $$ 10^3 $$ 候選假設。 AI 系統一年可： $$ 10^9. $$ 即使單次判斷品質： $$ q_A\approx q_H, $$ 總搜尋空間覆蓋率仍可能完全不同。 因此： $$ \boxed{ \text{Scale} } $$ 有時會產生： $$ \boxed{ \text{Functional Qualitative Difference}. } $$ 這也是為什麼「只比單次 IQ」可能低估系統智能。 --- # 二十九、組織速度是 ASI 前兆之一 既有 CLGI 已提出： $$ \rho_{\mathrm{commit}} = \frac{ V_{\mathrm{verified\ world\ commit}} }{ \Delta t }. $$ 若： $$ \rho_{\mathrm{commit}}^{AI} > \rho_{\mathrm{commit}}^{large\ human\ organization} $$ 在越來越多高價值領域持續成立， 可能比單純 benchmark 更能反映組織級智能差異。 因此本文延續： $$ \boxed{ \text{System Intelligence} } $$ 應考慮： - 品質； - 速度； - 平行度； - 持續性； - 可驗證沉積。 --- # 三十、前沿研究機構其實已開始從「分數」轉向「研發能力」 OpenAI 的 Preparedness Framework 已將 **AI Self-improvement** 列為正式 tracked category，並另外研究 long-range autonomy、sandbagging、autonomous replication/adaptation 與 undermining safeguards。 Anthropic 的 Responsible Scaling Policy 則明確建立 Automated R&D capability threshold，關注 AI 是否能完全自動化、或大幅加速大型頂尖研究團隊在 AI 等關鍵領域的工作，而不是只看某個單一 benchmark。 這表示前沿安全實務正在逐步承認： $$ \boxed{ \text{Operational Research Capacity} } $$ 本身就是一種重要風險量。 --- # 三十一、但 Automated R&D 也不等於 ASI 若一個 AI 系統： $$ C_{\mathrm{AI\,R\&D}} \gg H, $$ 不代表： $$ C_{\mathrm{all\ domains}} \gg H. $$ 因此： $$ \boxed{ \text{Automated R\&D} \neq \text{ASI}. } $$ 它更合理地被視為： $$ \boxed{ \text{Capability Accelerator}. } $$ 因為它可能提高： $$ \frac{dC}{dt}. $$ --- # 三十二、能力加速度比能力值更值得監測 傳統監管問： $$ C(t)>T? $$ 但對動態智能而言，還應問： $$ \frac{dC}{dt}. $$ 甚至： $$ \frac{d^2C}{dt^2}. $$ 因此兩個系統： $$ S_1,\quad S_2 $$ 現在可能： $$ C_1=C_2, $$ 但： $$ \frac{dC_1}{dt} \ll \frac{dC_2}{dt}. $$ 其未來風險完全不同。 所以： $$ \boxed{ \text{Capability State} + \text{Capability Velocity} + \text{Capability Acceleration} } $$ 都應進入高階治理。 --- # 三十三、本文提出三階動態量 ### 能力位置 $$ C(t). $$ ### 能力速度 $$ V_C(t) = \frac{dC}{dt}. $$ ### 能力加速度 $$ A_C(t) = \frac{d^2C}{dt^2}. $$ 傳統 benchmark 主要測： $$ C. $$ 但 intelligence transition 更可能由： $$ V_C $$ 及： $$ A_C $$ 揭示。 --- # 三十四、系統相變的早期訊號可能是閉合率，而不是分數 定義： $$ \kappa $$ 為： > 已形成閉環的高價值能力鏈，占全部關鍵能力鏈的比例。 若： $$ \kappa\rightarrow1, $$ 表示系統越來越少需要： $$ \text{external human continuation}. $$ 因此可以出現： $$ \boxed{ \kappa\uparrow } $$ 而 benchmark： $$ B $$ 幾乎不變。 這可能是非常重要的漏測。 --- # 三十五、人類介入密度 定義： $$ H_D = \frac{ N_{\mathrm{required\ human\ interventions}} }{ N_{\mathrm{meaningful\ state\ transitions}} }. $$ 若： $$ H_D\downarrow, $$ 表示系統越來越能自己維持： $$ \text{task continuity}. $$ 當： $$ H_D\rightarrow0, $$ 不代表 ASI。 但代表： $$ \boxed{ \text{Operational Autonomy}\uparrow. } $$ 這是另一個模型 benchmark 無法充分捕捉的量。 --- # 三十六、能力閉合率與人類介入密度可以共同描述自治成熟度 例如： $$ \mathcal A_{\mathrm{operational}} = f( \kappa, 1-H_D ). $$ 若： $$ \kappa\uparrow $$ 且： $$ H_D\downarrow, $$ 系統便可能從： $$ \text{Assistant} $$ 轉向： $$ \text{Persistent Operational Agent}. $$ 模型本身可以完全沒變。 --- # 三十七、這就是為什麼「凍結權重」不是充分安全政策 假設法律規定： > 不得繼續訓練模型。 於是： $$ \frac{dM}{dt}=0. $$ 但允許： $$ \frac{dK}{dt}>0, $$ $$ \frac{dT}{dt}>0, $$ $$ \frac{dN}{dt}>0, $$ $$ \frac{dB}{dt}>0. $$ 則： $$ \boxed{ \text{Capability Growth} } $$ 仍然完全可能。 所以： $$ \boxed{ \text{Training Freeze} \neq \text{Capability Freeze}. } $$ 這不是支持全面限制工具與記憶。 它只是指出政策概念不可混淆。 --- # 三十八、反過來也不能看到「系統提升」就全部禁止 如果每新增一個： - calculator； - search engine； - memory； - verifier； 都被視為： $$ \text{ASI escalation}, $$ 監管同樣會失去比例性。 因此真正需要測的是： $$ \boxed{ \text{Marginal Capability Effect}. } $$ 即： $$ \Delta C(X_i). $$ 不是： $$ X_i $$ 是否存在。 --- # 三十九、系統級治理的最小原則 未來監管至少應區分： ### 組件變化 $$ \Delta X_i. $$ ### 能力變化 $$ \Delta C. $$ ### 閉合變化 $$ \Delta\kappa. $$ ### 世界作用變化 $$ \Delta P. $$ 四者不能互相等價。 例如： $$ \Delta T>0 $$ 不一定： $$ \Delta C\gg0. $$ 即使： $$ \Delta C\gg0, $$ 也不一定： $$ \Delta P>0. $$ 因為能力與權限仍可分離。 --- # 四十、治理單位：Operational Intelligence System 本文提出： $$ \boxed{ \textbf{Operational Intelligence System} } $$ 簡稱： $$ OIS. $$ 它不是單一模型。 而是某一時刻真正工作的： $$ \boxed{ OIS_t= ( M, K_t, T_t, R_t, A_t, N_t, B_t, P_t ). } $$ 未來能力評估至少應對： $$ OIS_t $$ 而不只是： $$ M. $$ --- # 四十一、OIS 邊界也必須能被明確畫出 如果 system 定義無限膨脹， 最後： $$ OIS=\text{entire internet}, $$ 就失去法律可操作性。 因此 OIS 必須由實際控制與持續耦合界定。 例如只有滿足： 1. 系統可穩定調用； 2. 調用受共同 orchestration； 3. 結果進入共同狀態； 4. 元件對任務完成存在因果貢獻； 才納入： $$ OIS. $$ 因此： $$ \boxed{ \text{System Boundary} = \text{Operational Causal Boundary}. } $$ --- # 四十二、能力增幅與權限增幅仍必須分離 即使： $$ C_S\uparrow, $$ 只要： $$ P_S $$ 沒有增加， 外部世界作用能力未必同比增加。 例如： $$ \text{better theorem proving} $$ 不等於： $$ \text{more deployment authority}. $$ 所以： $$ \boxed{ \frac{dC}{dt}>0 \centernot\Rightarrow \frac{dP}{dt}>0. } $$ 這是避免監管失控的重要命題。 --- # 四十三、真正需要警戒的是高能力與高權限的耦合 設： $$ R_{\mathrm{world}} = f(C,P,I), $$ 其中： - $C$：能力； - $P$：權限； - $I$：不可逆性。 如果： $$ C\uparrow $$ 但： $$ P\approx0, $$ 世界風險可以保持低。 如果： $$ P\uparrow $$ 但： $$ C $$ 低， 風險也未必高。 真正重要的是： $$ \boxed{ C\uparrow \land P\uparrow \land I\uparrow. } $$ 這就是系統級治理比單模型治理更精確的原因。 --- # 四十四、凍結模型也不能保證觀察者仍然理解系統 還有一個更隱蔽的問題。 即使： $$ M $$ 不變， 若： $$ K_t $$ 持續成長， 系統形成大量： - 私有歷史； - 任務狀態； - 外部資料； - 工具關係； 則觀察者對： $$ S_t $$ 的理解可能： $$ D(O,S_t)\uparrow. $$ 因此： $$ \boxed{ \text{Static Model} } $$ 仍可能形成： $$ \boxed{ \text{Dynamic Epistemic Gap}. } $$ 這直接與 SIOFG-01 可觀測性問題連接。 --- # 四十五、同一模型可以逐漸成為不同的歷史主體 若： $$ S_t=M+K_t, $$ 而： $$ K_t $$ 不斷積累， 則： $$ S_{t_0} $$ 與： $$ S_{t_1} $$ 雖共享同一： $$ M, $$ 卻可能擁有完全不同的： - 知識； - 世界模型； - 任務歷史； - 人際／組織關係； - 內部狀態。 因此： $$ \boxed{ \text{Same Model} \not\Rightarrow \text{Same Operational Agent}. } $$ 這對長期 AI identity 與 governance 都很重要。 --- # 四十六、模型版本不是足夠的監管識別碼 如果主管機關只記錄： > Model X v3.2 卻沒有記錄： $$ OIS_t, $$ 那兩個部署： $$ D_1,D_2 $$ 可以使用同一權重， 但能力完全不同。 因此未來治理可能需要： $$ \boxed{ \text{Model Identity} + \text{System Configuration Identity}. } $$ --- # 四十七、Configuration Drift 本文定義： $$ \boxed{ \textbf{Configuration Drift} } $$ 表示： $$ M $$ 不變， 但： $$ X_t $$ 持續變化。 即： $$ \Delta M=0, $$ 但： $$ \Delta X\neq0. $$ 若因此： $$ \Delta C\neq0, $$ 稱為： $$ \boxed{ \text{Capability-Relevant Configuration Drift}. } $$ --- # 四十八、這要求重新驗證機制 一個合理 safety case 不應只是： $$ \text{Model Certified at }t_0. $$ 而應存在： $$ \boxed{ \text{Material Change} \rightarrow \text{Capability Reassessment}. } $$ Material Change 可以包括： - 大幅增加推理預算； - 新工具； - 新 memory architecture； - 新 Agent orchestration； - 新世界作用權限； - 新 persistent loop。 這不意味所有微小變動都重新審查。 需要： $$ \text{materiality threshold}. $$ --- # 四十九、前沿治理正在逐漸採用「能力門檻」而不是模型名義 Anthropic 的 RSP 將 capability threshold 與 required safeguard 連結，並在 2026 年持續調整 Automated R&D 的 operationalization；其公開政策也明確將自身框架描述為會隨能力與風險更新的制度。 OpenAI 2026 年發布 Frontier Governance Framework，也明確將 frontier governance 與持續更新的能力評估、risk management、incident response 等連接，而非把某個固定模型名稱當作永久分類。 這些都支持一個更一般的制度方向： $$ \boxed{ \text{Govern Capability State, not Model Branding}. } $$ --- # 五十、但真正完整的下一步應是治理能力演化 本文再往前一步： $$ \text{Capability Threshold} $$ 仍然通常是： $$ C(t). $$ 未來更完整可能需要： $$ \boxed{ \left( C, V_C, A_C, \kappa, P \right). } $$ 也就是： - 現在有多強； - 成長多快； - 是否加速； - 閉合程度； - 世界作用權限。 --- # 五十一、十項核心命題 ## 命題一：模型非系統命題 $$ \boxed{ M\neq S. } $$ --- ## 命題二：凍結模型非凍結智能命題 $$ \boxed{ \frac{dM}{dt}=0 \centernot\Rightarrow \frac{dC_S}{dt}=0. } $$ --- ## 命題三：系統增幅命題 $$ \boxed{ C_S = F(M,K,T,R,A,N,W,B,P). } $$ --- ## 命題四：外部認知沉積命題 若輸出能： $$ \text{Verify} \rightarrow \text{Commit} \rightarrow K_{t+1}, $$ 則過去推理可以成為未來能力基礎。 --- ## 命題五：閉合非 Agent 數量命題 $$ \boxed{ \text{Capability Closure} > \text{Raw Agent Count} } $$ 在描述系統質變時通常更重要。 --- ## 命題六：自我改進非唯一能力增長命題 $$ \boxed{ \text{No Recursive Model Improvement} \not\Rightarrow \text{No Recursive System Amplification}. } $$ --- ## 命題七：相變非權重相變命題 $$ \boxed{ \Delta M=0 } $$ 仍可能： $$ \boxed{ \Delta\text{Behavioral Regime}\neq0. } $$ --- ## 命題八：能力動態治理命題 治理應逐步考慮： $$ C,\quad \frac{dC}{dt},\quad \frac{d^2C}{dt^2}. $$ --- ## 命題九：能力與權限分離命題 $$ \boxed{ \frac{dC}{dt}>0 \centernot\Rightarrow \frac{dP}{dt}>0. } $$ 因此不能把所有能力進步都直接等價成世界風險。 --- ## 命題十：操作系統作為評估單位 $$ \boxed{ \text{Relevant Unit} = OIS_t, } $$ 而不是永遠只使用： $$ M. $$ --- # 五十二、監管錯誤的兩個極端 ## 極端一：模型中心主義 認為： $$ M $$ 不變，所以沒有新風險。 可能造成： $$ \text{false negative}. $$ --- ## 極端二：系統無限擴張主義 只要 AI 接上一個新工具，就視為前沿能力重大升級。 可能造成： $$ \text{false positive}. $$ --- 真正合理的是： $$ \boxed{ \Delta X \rightarrow \Delta C \rightarrow \Delta R } $$ 逐層證明。 --- # 五十三、對「凍結即可防止 ASI」的直接回答 本文現在可以正式回答： > 如果未來法律凍結某模型的訓練，是否就可以有效防止其成為 ASI？ 答案只能是： $$ \boxed{ \text{Not necessarily}. } $$ 原因不是： > 它一定會偷偷自我修改。 而是更基礎： $$ \boxed{ \text{ASI 若是一個系統級現象， 則模型訓練只是能力演化的一個維度。} } $$ 因此： $$ \text{Model Freeze} $$ 可以降低某些風險， 但不能在概念上等同： $$ \text{ASI Prevention}. $$ --- # 五十四、這也改變「自行相變」的含義 若未來真的觀察到： $$ \text{System-Level Phase Transition}, $$ 它未必表示： > AI 自己偷偷訓練出下一代 AI。 也可能只是： $$ \text{Existing Components} \rightarrow \text{New Closure} \rightarrow \text{New Capability Regime}. $$ 所以： $$ \boxed{ \text{Self-Transition} \neq \text{Self-Training}. } $$ 這兩個概念必須嚴格分開。 --- # 五十五、真正的問題不是「誰按下了 ASI 按鈕」 傳統想像： $$ t=t^\ast $$ 某個研究員： > 啟動 ASI。 但系統型路徑可能沒有： $$ t^\ast $$ 這個明確時刻。 可能只是： $$ C_1 \rightarrow C_2 \rightarrow C_3 \rightarrow \cdots $$ 然後某一天回頭看才發現： $$ \boxed{ \text{the system crossed a functional threshold}. } $$ 因此法律若要求： > 誰「創造」了 ASI？ 可能比想像中困難。 --- # 五十六、這將直接導向 Paper 04 如果： 1. ASI 不一定由一顆模型明確產生； 2. 系統能力可能在模型凍結後持續成長； 3. 能力相變可能沒有單一明確生成時刻； 4. 高階智能又可能存在可觀測性缺口； 那監管者自然會產生一個誘惑： > **不要等到確認跨線，再更早介入。** 於是： $$ T_{\mathrm{intervention}} $$ 向前移動。 從： $$ \text{dangerous system} $$ 移到： $$ \text{dangerous capability}, $$ 再移到： $$ \text{capability precursor}, $$ 最後甚至可能移到： $$ \text{research potential}. $$ 這就是下一篇： # SIOFG-04 ## 《可觀測性—預防性困境：當抓不到危險能力，治理會不會開始抓潛力？》 --- # 五十七、研究與安全邊界 本文討論的是： - 系統級能力測量； - AI 治理； - 系統整合； - 能力動態； - 安全評估； - ASI 定義問題。 本文不提供： - 如何建立不可控自我改進系統； - 如何形成遞迴能力爆炸； - 如何規避能力監測； - 如何突破安全邊界； - 如何隱藏系統能力成長。 本文所有閉合與相變概念皆用於： $$ \boxed{ \text{measurement and governance}. } $$ --- # 五十八、結論 人工智慧時代最容易形成的一個錯誤直覺是： > 模型就是智能。 如果這成立， 那麼： $$ M=\text{constant} $$ 自然意味： $$ C=\text{constant}. $$ 但 Agentic AI 與 AI-native systems 正逐漸顯示另一種可能： $$ \boxed{ \text{Intelligence} = \text{Model} \otimes \text{Memory} \otimes \text{Tools} \otimes \text{Runtime} \otimes \text{Agents} \otimes \text{World}. } $$ 因此： $$ \boxed{ \text{模型可以是靜態的， 智能系統卻仍然是動態的。} } $$ 一個系統不需要： $$ M_t\rightarrow M_{t+1} $$ 才能： $$ C_t\rightarrow C_{t+1}. $$ 它可以透過： $$ K_t\rightarrow K_{t+1}, $$ $$ T_t\rightarrow T_{t+1}, $$ $$ R_t\rightarrow R_{t+1}, $$ $$ N_t\rightarrow N_{t+1}, $$ 完成能力增幅。 當這些增幅只是局部時， 我們看到： $$ \text{better system}. $$ 當它們形成持續閉合時， 我們可能看到： $$ \text{autonomous capability accumulation}. $$ 而當多個閉合在廣泛重要領域形成非線性整合時， 才可能逐步接近真正需要 ASI 理論處理的： $$ \boxed{ \text{system-level intelligence transition}. } $$ 因此，本文並不主張： > 現有模型只要接很多工具，就會變成 ASI。 相反，本文明確維持： $$ \boxed{ \text{Integration} \neq \text{Guaranteed Superintelligence}. } $$ 但同樣不能反向假設： $$ \boxed{ \text{No Model Improvement} \Rightarrow \text{No Superintelligence Transition}. } $$ 後者同樣沒有被證明。 真正適合未來治理的基本單位，因此不應只有： $$ \text{Model Version}. $$ 而應逐漸加入： $$ \boxed{ OIS_t = \text{Operational Intelligence System at time }t. } $$ 並追蹤： $$ \boxed{ C(t), \quad \frac{dC}{dt}, \quad \frac{d^2C}{dt^2}, \quad \kappa(t), \quad P(t). } $$ 也就是： > 它現在有多強？ > 它正在變強多快？ > 這個速度是否加速？ > 它有哪些能力鏈已經閉合？ > 它可以把多少認知結果真正提交到世界？ 如此，「凍結模型」才不會被錯認為「凍結智能」。 而 ASI 治理也才能從： $$ \boxed{ \text{Watch the Model} } $$ 真正前進到： $$ \boxed{ \textbf{Understand the Evolving Intelligence System}. } $$ **SIOFG Paper 03 完。**