← Archive
lm-004473 · 2026-10

《戰略智能可觀測性與前沿治理》系列 — Paper 04

zh-Hant · md Raw source ↗ Metadata ↗
下載 MD 檔 ⬇

《戰略智能可觀測性與前沿治理》系列 — Paper 04

可觀測性—預防性困境

——當抓不到危險能力，治理會不會開始抓潛力？

The Observability–Preemption Dilemma:
When Dangerous Capability Is Hard to Observe, Does Governance Begin Regulating Potential Instead?

系列： Strategic Intelligence Observability and Frontier Governance（SIOFG）
文件： Paper 04
版本： v0.1
日期： 2026-09
作者： Neo.K × GPT-5.6 Sol
機構： EveMissLab／一言諾科技有限公司

前置論文：

  • SIOFG-00《當被觀察的智能開始理解觀察者》
  • SIOFG-01《戰略智能可觀測性悖論》
  • SIOFG-02《沙盒智能悖論》
  • SIOFG-03《靜態模型、動態智能》

摘要

前述 SIOFG 系列已建立三個彼此連接的命題。

第一：

Observed Behavior⇏Capability Bound.\text{Observed Behavior} \not\Rightarrow \text{Capability Bound}.

第二：

Observed Compliance⇏Proven Constraint.\text{Observed Compliance} \not\Rightarrow \text{Proven Constraint}.

第三：

dMdt=0\centernot⇒dCsystemdt=0.\frac{dM}{dt}=0 \centernot\Rightarrow \frac{dC_{\mathrm{system}}}{dt}=0.

三者共同導向一個治理上的困境。

如果高階人工智慧的真實能力可能晚於實際形成才被外部觀察，而且系統能力可以透過整合、工具、記憶、多 Agent、計算資源與制度閉合持續演化，那麼監管者便會產生一個極自然的誘因：

不要等到危險能力被確定觀察到才介入。

因此介入點可能逐步前移：

Observed Harm\text{Observed Harm} ⇓\Downarrow Demonstrated Dangerous Capability\text{Demonstrated Dangerous Capability} ⇓\Downarrow Capability Threshold\text{Capability Threshold} ⇓\Downarrow Capability Precursor\text{Capability Precursor} ⇓\Downarrow Research Potential\text{Research Potential} ⇓\Downarrow Suspicion of Future Capability.\boxed{ \text{Suspicion of Future Capability}. }

本文將此張力稱為：

Observability–Preemption Dilemma\boxed{ \textbf{Observability–Preemption Dilemma} }

即「可觀測性—預防性困境」。

適度的前置治理並不荒謬。高危險技術本來就不可能永遠等到災害已經發生才建立安全義務。歐盟《AI Act》即使用 systemic-risk 類別、能力指標與訓練算力門檻建立前置義務，而非等待實際災害發生。其 Article 51 對具 high-impact capabilities 的通用 AI 建立 systemic-risk 分類，Article 55 則要求評估、風險緩解、事件通報與資安措施。

問題不在「預防」。

真正問題是：

Prevention→Potentiality Governance\boxed{ \text{Prevention} \rightarrow \text{Potentiality Governance} }

何時跨越合理界線？

尤其當治理對象由：

System\text{System}

逐步轉成：

Researcher,\text{Researcher},

由：

Conduct\text{Conduct}

轉成：

Capability Profile,\text{Capability Profile},

制度的性質就發生根本變化。

本文因此提出「介入前沿」、「預防性漂移」、「證據—介入反向原則」、「研究者能力側寫風險」與「潛力非行為原則」，並主張：

介入越早， 程序保障與證據紀律反而應越強， 而不是越弱。\boxed{ \text{介入越早， 程序保障與證據紀律反而應越強， 而不是越弱。} }

因為高不確定性只能證明：

We do not know.\text{We do not know}.

不能自動證明：

The worst case is true.\text{The worst case is true}.

一、從「等事情發生」到「在事情發生前治理」

所有安全治理都面臨一個基本時間問題。

設：

tHt_H

為實際危害發生時間。

如果政府只能在：

t≥tHt\ge t_H

介入，

那麼治理永遠只是：

Post-Harm Response.\text{Post-Harm Response}.

這對：

  • 核安全；
  • 航空；
  • 藥品；
  • 生物安全；
  • 金融系統；

顯然不足。

因此現代治理必然存在：

tI<tH,t_I<t_H,

其中：

tIt_I

為介入時間。

這就是：

Preventive Governance.\boxed{ \text{Preventive Governance}. }

所以本文並不反對預防性治理本身。

二、真正的問題：介入點要前移到哪裡？

如果危害鏈是：

R0→R1→R2→R3→H,R_0 \rightarrow R_1 \rightarrow R_2 \rightarrow R_3 \rightarrow H,

政府可以選擇：

R3R_3

才介入，

也可以從：

R2R_2

介入，

甚至：

R0.R_0.

越早介入：

P(H)P(H)

理論上越可能下降。

但同時：

P(intervening against harmless cases)P(\text{intervening against harmless cases})

也會增加。

因此治理存在基本交換：

Early Intervention Benefit↔False Positive Cost.\boxed{ \text{Early Intervention Benefit} \leftrightarrow \text{False Positive Cost}. }

三、AI 特別容易把介入點往前推

高階 AI 有三項特徵共同放大此問題。

第一：

Capability Observability<1.\text{Capability Observability}<1.

第二：

C(t)C(t)

可能快速變化。

第三：

Potential Harm\text{Potential Harm}

可能非常大。

當：

Observability↓\text{Observability}\downarrow

且：

Potential Harm↑,\text{Potential Harm}\uparrow,

治理者會自然傾向：

tI→earlier.\boxed{ t_I\rightarrow\text{earlier}. }

四、可觀測性—預防性困境

本文正式定義。

定義 4.1

若治理者相信：

P(Cdanger∣Cobs)P( C_{\mathrm{danger}} \mid C_{\mathrm{obs}} )

具有顯著不確定性，

且：

L(H)L(H)

即潛在危害損失極高，

則治理者具有將介入觸發點從：

CdangerC_{\mathrm{danger}}

向其先行條件：

RprecursorR_{\mathrm{precursor}}

移動的誘因。

因此：

Observability Uncertainty+High Tail Risk→Preemption Pressure.\boxed{ \text{Observability Uncertainty} + \text{High Tail Risk} \rightarrow \text{Preemption Pressure}. }

這就是：

Observability–Preemption Dilemma.\boxed{ \textbf{Observability–Preemption Dilemma}. }

五、預防不是錯，無限前移才是問題

假設：

T0T_0

表示實際危害，

T1T_1

表示已證明危險能力，

T2T_2

表示高風險前沿能力，

T3T_3

表示能力前兆，

T4T_4

表示相關研究，

T5T_5

表示具有相關能力的人。

則介入鏈可能：

T0→T1→T2→T3→T4→T5.T_0 \rightarrow T_1 \rightarrow T_2 \rightarrow T_3 \rightarrow T_4 \rightarrow T_5.

前幾步可以是正常安全治理。

但：

T4→T5T_4\rightarrow T_5

開始產生性質變化。

因為治理對象從：

System / Activity\boxed{ \text{System / Activity} }

轉成：

Person / Potential.\boxed{ \text{Person / Potential}. }

六、治理客體的四層分離

本文區分四種完全不同的法律客體。

6.1 Harm

HH

已發生危害。

6.2 Conduct

AA

具體行為。

例如：

  • 未授權部署；
  • 違反通報義務；
  • 違反安全要求；
  • 規避依法設定的控制。

6.3 Capability

CC

系統實際具備的能力。

6.4 Potential

PP

未來形成某能力的可能性。

因此：

H≠A≠C≠P.\boxed{ H\neq A\neq C\neq P. }

這四者不能隨意互相代換。

七、尤其不能把「有能力」直接變成「已違法」

考慮研究者：

R.R.

可能：

CRC_R

很高。

也可能：

P(R can contribute to frontier AI)P( R\text{ can contribute to frontier AI} )

很高。

但：

High Capability⇏Prohibited Conduct.\boxed{ \text{High Capability} \not\Rightarrow \text{Prohibited Conduct}. }

這是一個極重要的法治分界。

否則法律治理會開始從：

What did you do?\text{What did you do?}

轉成：

What could you possibly do?\text{What could you possibly do?}

八、研究者能力側寫

本文稱此制度風險為：

Researcher Capability Profiling\boxed{ \textbf{Researcher Capability Profiling} }

即治理者根據：

  • 論文；
  • 專業背景；
  • 技術能力；
  • 研究領域；
  • 理論原創性；
  • 社交網絡；
  • 運算資源；

建立：

PR(future dangerous capability).P_R(\text{future dangerous capability}).

如果這只用於：

  • 自願合作；
  • 安全資助；
  • 安全人才計畫；

風險有限。

但若它開始直接決定：

criminal suspicion,\text{criminal suspicion},

性質便完全不同。

九、潛力治理的第一個悖論

假設真正具有高能力的研究者很稀少。

政府為了避免未來風險，開始對：

CR>TC_R>T

的人採取更強監控。

那麼：

Rare Talent→Risk Marker.\boxed{ \text{Rare Talent} \rightarrow \text{Risk Marker}. }

這會產生奇怪的制度激勵：

越有能力，越接近被懷疑。

最終：

Excellence\text{Excellence}

本身可能開始帶來：

Regulatory Penalty.\text{Regulatory Penalty}.

十、這會直接改變研究者行為

若：

U(publishing frontier theory)<U(remaining invisible),U(\text{publishing frontier theory}) < U(\text{remaining invisible}),

則研究者可能：

Publish Less.\text{Publish Less}.

因此：

Over-Preemption→Research Opacity.\boxed{ \text{Over-Preemption} \rightarrow \text{Research Opacity}. }

而監管者原本正是為了：

increase visibility.\text{increase visibility}.

這產生一個反效果。

十一、預防性治理可能降低可觀測性

可以寫成：

GP↑G_P\uparrow

表示預防性治理強度增加。

若過強時：

OR↓,O_R\downarrow,

其中：

ORO_R

為研究活動的公開可觀測性。

因此可能存在：

∂OR∂GP<0.\boxed{ \frac{\partial O_R} {\partial G_P}<0. }

即：

管得越像「能力本身有罪」，真正的前沿研究越有誘因轉入低可見度。

這與治理原目標相反。

十二、這形成預防性治理反饋迴路

可能出現：

Low Observability\text{Low Observability} ⇓\Downarrow More Preemption\text{More Preemption} ⇓\Downarrow Less Voluntary Disclosure\text{Less Voluntary Disclosure} ⇓\Downarrow Lower Observability\text{Lower Observability}

形成：

Preemption–Opacity Positive Feedback.\boxed{ \text{Preemption–Opacity Positive Feedback}. }

這是設計制度時必須避免的。

十三、ASI 監管尤其可能產生此循環

如果監管者相信：

真正的 ASI 一旦形成就可能難以觀測。

最直覺反應是：

那就更早找出誰正在做。

再往前：

找出誰可能有能力做。

再往前：

找出哪些知識可能幫助做到。

如果缺乏停止規則，就會形成：

Capability Suspicion Expansion.\boxed{ \text{Capability Suspicion Expansion}. }

十四、這就是從危險技術治理滑向知識治理的轉折點

治理對象可能依序變成：

System\text{System} →\rightarrow Development Process\text{Development Process} →\rightarrow Research Program\text{Research Program} →\rightarrow Theory\text{Theory} →\rightarrow Researcher.\text{Researcher}.

當：

Theory\text{Theory}

本身開始被當成近似犯罪證據時，

就已經跨入：

Epistemic Governance.\boxed{ \text{Epistemic Governance}. }

十五、危險知識確實存在，但它不能無限擴張

現實世界確實存在：

Information Hazard.\text{Information Hazard}.

某些極具操作性的知識可能直接降低：

Charm.C_{\mathrm{harm}}.

因此不能說：

所有知識在任何情況下都完全不能治理。

但是：

Potentially Relevant Theory≠Operational Harm Recipe.\boxed{ \text{Potentially Relevant Theory} \neq \text{Operational Harm Recipe}. }

這兩者風險級別可以相差極大。

十六、知識風險至少應區分四層

K0 — 一般理論

抽象數學、哲學、系統理論。

K1 — 能力相關研究

可能提高某技術方向理解。

K2 — 高槓桿技術知識

直接顯著降低高風險能力形成成本。

K3 — 可執行危險程序

幾乎可直接轉化為重大危害。

所以：

K0<K1<K2<K3\boxed{ K_0<K_1<K_2<K_3 }

在治理強度上應存在明顯區別。

十七、不能用「也許未來有用」把所有理論升級成 K3

否則：

Mathematics\text{Mathematics} →\rightarrow Algorithms\text{Algorithms} →\rightarrow AI\text{AI}

因此所有數學家都可能：

ASI relevant.\text{ASI relevant}.

這顯然失去治理可操作性。

所以：

Causal Proximity\boxed{ \text{Causal Proximity} }

必須是重要標準。

十八、因果距離

設：

DKD_K

為某知識到高風險能力實現的最短實際因果距離。

若：

DK≫1,D_K\gg1,

需要：

  • 多項未知突破；
  • 大量工程；
  • 大量資本；
  • 多個獨立研究步驟；

那麼它與：

DK≈1D_K\approx1

的可直接執行方法不能同級治理。

因此：

Knowledge Risk=f(Specificity,Actionability,Novelty,Causal Proximity,Potential Harm).\boxed{ \text{Knowledge Risk} = f( \text{Specificity}, \text{Actionability}, \text{Novelty}, \text{Causal Proximity}, \text{Potential Harm} ). }

十九、不確定性不能自動把因果距離壓成零

治理者可能說：

我不知道這個理論會不會非常關鍵。

但：

Unknown(DK)\text{Unknown}(D_K)

不能直接被設定為：

DK=0.D_K=0.

因為：

Uncertainty≠Proximity.\boxed{ \text{Uncertainty} \neq \text{Proximity}. }

否則任何未知理論都可以被解讀成直接危險。

二十、最壞情況推理的邊界

高危害系統需要：

Worst-Case Analysis.\text{Worst-Case Analysis}.

但 worst-case analysis 應該問：

在合理、可支持的假設集合內，最壞會怎樣？

而不是：

任何邏輯上想像得到的最壞情況都當成真。

即：

Plausible Worst Case≠Unlimited Imaginable Worst Case.\boxed{ \text{Plausible Worst Case} \neq \text{Unlimited Imaginable Worst Case}. }

二十一、否則治理變成不可反駁

如果：

研究者公開：

危險，因為他公開能力。

研究者不公開：

更危險，因為他隱藏。

研究者否認：

危險，因為高階智能本來就懂得隱藏。

那麼：

∀B,P(danger)↑.\forall B, \quad P(\text{danger})\uparrow.

這和 SIOFG-01 批判的不可反駁智能推論完全同型。

因此：

Security Governance\boxed{ \text{Security Governance} }

也必須具有：

falsifiability.\text{falsifiability}.

二十二、治理者也可能落入觀察者悖論

既有《超越觀察者悖論》指出，人類很容易從：

看得更多\text{看得更多}

跳躍至：

更有資格裁決.\text{更有資格裁決}.

但每一步都需要獨立正當化。

本文提出其另一個方向：

看不清楚⇏更有資格預防性干預一切.\boxed{ \text{看不清楚} \not\Rightarrow \text{更有資格預防性干預一切}. }

因此：

Epistemic Uncertainty\text{Epistemic Uncertainty}

同樣不能自動生成：

Unlimited Authority.\text{Unlimited Authority}.

二十三、兩種對稱性的治理錯誤

錯誤 A

No Evidence of Danger⇒No Danger.\text{No Evidence of Danger} \Rightarrow \text{No Danger}.

過度樂觀。

錯誤 B

No Evidence of Safety⇒Danger Proven.\text{No Evidence of Safety} \Rightarrow \text{Danger Proven}.

過度預防。

合理治理必須停在中間：

Uncertainty=Uncertainty.\boxed{ \text{Uncertainty} = \text{Uncertainty}. }

二十四、不確定性應該改變什麼？

它可以合理改變：

  • 評估頻率；
  • 監測強度；
  • 保險要求；
  • 安全設計要求；
  • 報告義務；
  • 部署規模；
  • 可逆性要求。

但不應自然跳成：

criminal culpability.\text{criminal culpability}.

這是一個極重要的層次分離。

二十五、風險治理與刑事責任不是同一證據標準

設：

ERE_R

為足以觸發風險審查的證據門檻。

ELE_L

為足以觸發限制性行政措施的門檻。

ECE_C

為刑事責任所需證據門檻。

合理制度應：

ER<EL<EC.\boxed{ E_R<E_L<E_C. }

不能因為：

ERE_R

達成，

便假設：

ECE_C

也達成。

二十六、研究者可以是「值得進一步了解」，但不是「因此有罪」

這個區別可以表示為：

Research Relevance→Dialogue / Review\text{Research Relevance} \rightarrow \text{Dialogue / Review}

而不是：

Research Relevance→Presumption of Illegality.\text{Research Relevance} \rightarrow \text{Presumption of Illegality}.

真正成熟的國家安全制度尤其需要保持此差異。

二十七、這也回到「招安」與「敵化」的制度分叉

對極稀缺戰略人才，國家可以選擇：

Engage+Fund+Govern\text{Engage} + \text{Fund} + \text{Govern}

或者：

Suspect+Exclude+Punish.\text{Suspect} + \text{Exclude} + \text{Punish}.

前者可能增加：

Visibility.\text{Visibility}.

後者可能增加：

Opacity.\text{Opacity}.

因此人才政策本身也是安全政策。

二十八、前沿治理最好創造「合法路徑」

如果法律只有：

Allowed\text{Allowed}

和：

Banned,\text{Banned},

研究者面對高不確定性時可能：

Exit.\text{Exit}.

如果存在：

Licensed / Audited / Governed Frontier Research\boxed{ \text{Licensed / Audited / Governed Frontier Research} }

則：

Compliance Option Value\text{Compliance Option Value}

提高。

所以良好治理應該提供：

一條可以合法做高風險研究的明確路。

二十九、這比模糊禁止有效

模糊禁止會產生：

What counts as illegal?\text{What counts as illegal?}

的不確定性。

明確制度則可以提供：

Notification\text{Notification} →\rightarrow Evaluation\text{Evaluation} →\rightarrow Safeguard\text{Safeguard} →\rightarrow Authorization.\text{Authorization}.

這本身會增加：

Voluntary Legibility.\boxed{ \text{Voluntary Legibility}. }

三十、當前監管已經逐漸採取這種能力—義務模式

歐盟《AI Act》並不等待證明某模型是「ASI」，而是將具 systemic risk 的 general-purpose AI models 納入更高義務層級；高影響能力可以依技術方法、指標與 benchmark 評估， 102510^{25} FLOP 則是目前法律中的高影響能力推定門檻之一，而且門檻可以隨技術進展調整。

這代表：

Prevention\boxed{ \text{Prevention} }

可以透過：

defined regulatory category\text{defined regulatory category}

完成，

不必依賴：

vague suspicion.\text{vague suspicion}.

三十一、美國前沿治理討論也在往制度化風險管理走

OpenAI 2026 年的 Frontier Governance Framework 將 frontier AI 治理落到具體項目，包括：

  • risk assessment；
  • model reporting；
  • security risk management；
  • incident response；
  • external expert input；
  • framework updates。

其公開框架亦明確表示，需要隨模型能力、評估方式與監管要求持續調整。

這種結構與：

「看起來像 ASI 就禁止」

有本質差異。

三十二、BASA 則提供了另一種值得研究的案例

截至 2026 年 9 月 14 日，Sanders 與 Casar 官方公告仍稱 Ban Artificial Superintelligence Act 為：

forthcoming legislation。

其政策公告主張永久禁止 superintelligent AI development and deployment，並暫停 advanced AI development，直到聯邦監管機構建立安全規則。

因此目前真正值得研究的問題不是：

這部法律已經如何定罪？

而是：

正式法條最終會把監管邊界畫在哪裡？

尤其：

superintelligent,\text{superintelligent}, advanced,\text{advanced}, development,\text{development},

如何定義，

將決定其是否落入本文描述的預防性治理困境。

三十三、刑事法律尤其不能靠模糊潛力概念

美國法上的 void-for-vagueness doctrine 核心之一，就是要求法律讓普通人有合理機會知道何種行為被禁止，並提供足夠標準避免任意或歧視性執法。最高法院相關案例長期將 fair notice 與防止 arbitrary enforcement 視為其核心理由。

因此如果法律核心標準變成：

「可能有能力研究未來超級智能的人」

問題會非常明顯。

因為：

Person of Potential\boxed{ \text{Person of Potential} }

不是一個清楚的行為構成要件。

三十四、這不代表所有前置限制都違法

例如：

training run>T,\text{training run}>T,

要求：

notify.\text{notify}.

或者：

Cbio>TB,C_{\mathrm{bio}}>T_B,

要求額外安全措施。

這些都可以具有：

ex ante regulation\text{ex ante regulation}

性質。

關鍵不是：

有沒有提前。

而是：

提前到什麼東西？\boxed{ \text{提前到什麼東西？} }

三十五、合理的前置治理單位

較合理的是：

Observable Activity\boxed{ \text{Observable Activity} }

例如：

  • 具體大型訓練；
  • 特定高能力系統部署；
  • 特定高風險工具接入；
  • 特定能力測試達標；
  • 特定世界作用權限。

而不是：

Unobservable Potential Mind.\boxed{ \text{Unobservable Potential Mind}. }

三十六、本文提出「介入前沿」

定義：

FIF_I

為：

治理體系願意採取強制措施的最早因果節點。

例如：

FI=HF_I=H

表示只能事後處理。

FI=CF_I=C

表示能力形成便介入。

FI=RF_I=R

表示研究活動就介入。

FI=PF_I=P

表示潛力即介入。

三十七、介入前沿不是越早越好

設總治理損失：

Ltotal=Lharm+Lfalse++Linnovation+Lrights+Lopacity.L_{\mathrm{total}} = L_{\mathrm{harm}} + L_{\mathrm{false+}} + L_{\mathrm{innovation}} + L_{\mathrm{rights}} + L_{\mathrm{opacity}}.

若：

FIF_I

過晚：

Lharm↑.L_{\mathrm{harm}}\uparrow.

若：

FIF_I

過早：

Lfalse++Linnovation+Lrights+Lopacity↑.L_{\mathrm{false+}} + L_{\mathrm{innovation}} + L_{\mathrm{rights}} + L_{\mathrm{opacity}} \uparrow.

所以存在：

FI∗\boxed{ F_I^\ast }

使總損失較小。

三十八、「越危險越早管」並非完整定律

還必須考慮：

Detectability,\text{Detectability}, Reversibility,\text{Reversibility}, Evidence Quality,\text{Evidence Quality}, Intervention Cost.\text{Intervention Cost}.

因此：

FI∗=f(H,D,R,E,CI).F_I^\ast = f( H, D, R, E, C_I ).

不是只由：

HH

決定。

三十九、預防性漂移

本文定義：

Preemptive Drift\boxed{ \textbf{Preemptive Drift} }

為：

在沒有重新建立足夠因果與證據正當性的情況下，治理觸發點由較接近危害的節點逐步向更遠端潛力節點移動。

即：

FI(t+1)<FI(t)F_I(t+1)<F_I(t)

在因果時間尺度上不斷前移，

但：

E(t)E(t)

沒有同比增強。

四十、治理危機常常使預防性漂移加速

危機敘事通常會產生：

Urgency↑.\text{Urgency}\uparrow.

進而：

Tolerance for Uncertainty↓.\text{Tolerance for Uncertainty}\downarrow.

最後：

Intervention Threshold↓.\text{Intervention Threshold}\downarrow.

既有「去危機化」研究已指出，風險名單、監控資料與特殊犯罪分類存在危機後永久化的制度傾向，因此危機治理需要退出機制與重新回到個別責任、司法證據與可申訴性。

ASI 治理同樣需要：

Emergency Power Sunset.\boxed{ \text{Emergency Power Sunset}. }

四十一、如果「ASI 可能隨時出現」變成永久緊急狀態

那麼：

Emergency\text{Emergency}

就不再是：

temporary state.\text{temporary state}.

而變成：

normal governance.\text{normal governance}.

因此：

Permanent Frontier Emergency\boxed{ \text{Permanent Frontier Emergency} }

可能成為一種制度風險。

四十二、真正安全的制度必須可以降級

若某個系統：

C(t)C(t)

下降，

或者證據顯示：

R(t)R(t)

低於先前判斷，

治理強度應能：

G(t)↓.G(t)\downarrow.

所以：

Governance Escalation\boxed{ \text{Governance Escalation} }

必須配合：

Governance De-escalation.\boxed{ \text{Governance De-escalation}. }

否則所有風險分類只升不降。

四十三、研究者也需要「解除風險標籤」機制

若某研究者曾因特定研究被：

RHR_H

分類為高關注，

之後：

  • 專案結束；
  • 能力假設被推翻；
  • 風險降低；
  • 研究方向改變；

則制度應存在：

Review+Correction+Removal.\boxed{ \text{Review} + \text{Correction} + \text{Removal}. }

否則能力側寫會永久化。

四十四、能力標籤不能成為身份

這是非常重要的一條。

Current Risk Classification\text{Current Risk Classification}

應描述：

state.\text{state}.

不能變成：

identity.\text{identity}.

即：

High-Risk Research Activity≠High-Risk Person Essence.\boxed{ \text{High-Risk Research Activity} \neq \text{High-Risk Person Essence}. }

四十五、對人與對系統的證據標準應不同

AI 系統可以被：

  • sandbox；
  • benchmark；
  • audit；
  • restrict；
  • shutdown。

人類研究者具有：

  • 權利；
  • 法律身份；
  • 言論與研究自由；
  • 程序保障。

所以：

System Governance≠Person Governance.\boxed{ \text{System Governance} \neq \text{Person Governance}. }

不能直接搬用同一套風險分類。

四十六、證據—介入反向原則

本文提出一條核心原則：

Evidence–Intervention Inversion Principle\boxed{ \textbf{Evidence–Intervention Inversion Principle} }

一般直覺可能是：

越早介入，因為還沒有發生，所以可以用比較低的證據。

本文主張相反：

介入越遠離實際危害，因果鏈越長、不確定性越大，若措施越具有強制性，對程序與證據的要求反而應提高。

即：

Dcausal↑D_{\mathrm{causal}}\uparrow

則：

Qprocedure↑.\boxed{ Q_{\mathrm{procedure}}\uparrow. }

四十七、為什麼？

因為：

Observed Harm\text{Observed Harm}

與危害因果關係直接。

但：

Potential Researcher\text{Potential Researcher}

到：

Future ASI Harm\text{Future ASI Harm}

之間可能存在：

n≫1n\gg1

個未知節點。

因此錯誤空間：

Ωerror\Omega_{\mathrm{error}}

大幅增加。

所以更遠端介入應該更多依賴：

  • 可逆措施；
  • 自願措施；
  • 審查；
  • safe harbor；
  • appeal；
  • sunset。

而不是直接重刑。

四十八、介入強度矩陣

設：

IsI_s

為 intervention severity，

EsE_s

為 evidence strength，

HsH_s

為 potential harm，

RvR_v

為 reversibility。

可以形成：

Is≤F(Es,Hs,Rv).\boxed{ I_s \le F(E_s,H_s,R_v). }

高潛在危害：

Hs↑H_s\uparrow

確實可以提高介入。

但若：

Es↓,E_s\downarrow,

則措施最好：

Rv↑,R_v\uparrow,

即更加可逆。

四十九、可逆預防優於不可逆預防

如果風險仍高度不確定，

比較合理的是：

temporary review\text{temporary review}

而非：

permanent prohibition.\text{permanent prohibition}. restricted deployment\text{restricted deployment}

而非：

criminal identity classification.\text{criminal identity classification}.

因此：

Uncertainty↑⇒Reversibility Requirement↑.\boxed{ \text{Uncertainty}\uparrow \Rightarrow \text{Reversibility Requirement}\uparrow. }

五十、Research Safe Harbor

本文提出未來前沿 AI 法制應明確建立：

Research Safe Harbor.\boxed{ \textbf{Research Safe Harbor}. }

即如果研究滿足：

  • 不具未授權部署；
  • 不具特定禁止性世界作用；
  • 遵守要求的安全邊界；
  • 必要時完成保密申報；
  • 不故意規避明確法定義務；

則抽象理論研究本身應具有強推定合法性。

五十一、Safe Harbor 不等於沒有治理

它可以包含：

Confidential Notification\text{Confidential Notification} ++ Security Consultation\text{Security Consultation} ++ Staged Disclosure\text{Staged Disclosure}

而不必：

Ban Research.\text{Ban Research}.

這可以增加：

Legibility without Forced Publicity.\boxed{ \text{Legibility without Forced Publicity}. }

五十二、政府不一定需要「公開所有研究」

因為：

Regulatory Visibility≠Public Disclosure.\text{Regulatory Visibility} \neq \text{Public Disclosure}.

真正敏感前沿研究甚至可能更適合：

Confidential Regulatory Disclosure.\boxed{ \text{Confidential Regulatory Disclosure}. }

如此同時減少：

  • proliferation；
  • 商業秘密損失；
  • 公開資訊危害；

並維持：

government visibility.\text{government visibility}.

五十三、這比「不發表就是可疑」合理

如果制度寫成：

No Public Publication⇒Suspicious,\text{No Public Publication} \Rightarrow \text{Suspicious},

那會懲罰：

  • trade secret；
  • safety withholding；
  • responsible disclosure。

更合理的是：

Not Public⇏Not Governed.\boxed{ \text{Not Public} \not\Rightarrow \text{Not Governed}. }

五十四、真正違法的應該是明確不履行義務

例如：

Covered Activity\text{Covered Activity}

已經依法明確成立，

而：

Notification Required=1.\text{Notification Required}=1.

行為人明知義務卻：

¬Notify.\neg\text{Notify}.

這才具有清楚結構：

Defined Activity+Defined Duty+Knowing Noncompliance.\boxed{ \text{Defined Activity} + \text{Defined Duty} + \text{Knowing Noncompliance}. }

而不是：

Possibly smart enough.\text{Possibly smart enough}.

五十五、這也能避免「思想犯罪式 ASI 法律」

真正需要避免的是：

Thought Crime by Capability Inference.\boxed{ \text{Thought Crime by Capability Inference}. }

即：

因為你理解了某件危險事情，所以你被推定正在做危險事情。

此推論：

Knowledge⇏Conduct.\boxed{ \text{Knowledge} \not\Rightarrow \text{Conduct}. }

在任何高知識密度文明中都極為重要。

五十六、預防性治理的合理終點不是「讀心」

越高階智能越難觀察，

不代表治理終點應變成：

infer hidden intentions.\text{infer hidden intentions}.

更合理方向反而是：

Govern Observable Interfaces and Activities.\boxed{ \text{Govern Observable Interfaces and Activities}. }

即：

  • compute；
  • deployment；
  • authority；
  • world commit；
  • security；
  • capability eval；
  • reporting。

五十七、治理越可靠，越不需要猜內心

這與 Paper 02 完全對應。

Paper 02：

不要把安全建立在 AI 永遠想服從。\text{不要把安全建立在 AI 永遠想服從。}

Paper 04：

不要把法律建立在政府能正確猜出研究者或 AI 心裡真正想什麼。\text{不要把法律建立在政府能正確猜出研究者或 AI 心裡真正想什麼。}

共同原則是：

Reduce reliance on hidden internal state.\boxed{ \text{Reduce reliance on hidden internal state}. }

五十八、十項核心命題

命題一：可觀測性降低會增加預防壓力

O↓⇒Ppreemption↑.\boxed{ O\downarrow \Rightarrow P_{\mathrm{preemption}}\uparrow. }

命題二：預防非問題，無限前移才是問題

Prevention≠Unlimited Preemption.\boxed{ \text{Prevention} \neq \text{Unlimited Preemption}. }

命題三：潛力非行為

Potential≠Conduct.\boxed{ \text{Potential} \neq \text{Conduct}. }

命題四：能力非罪責

Capability≠Culpability.\boxed{ \text{Capability} \neq \text{Culpability}. }

命題五：研究者能力側寫具有反可觀測性效應

過度使用：

Capability Profiling\text{Capability Profiling}

可能：

Voluntary Disclosure↓.\text{Voluntary Disclosure}\downarrow.

命題六：不確定性不是最壞情況證明

Unknown≠Worst Case Proven.\boxed{ \text{Unknown} \neq \text{Worst Case Proven}. }

命題七：介入越遠，程序要求越高

Dcausal↑⇒Qprocedure↑.\boxed{ D_{\mathrm{causal}}\uparrow \Rightarrow Q_{\mathrm{procedure}}\uparrow. }

命題八：不確定性越高，措施越應可逆

Uepistemic↑⇒Rintervention↑.\boxed{ U_{\mathrm{epistemic}}\uparrow \Rightarrow R_{\mathrm{intervention}}\uparrow. }

命題九：高風險研究需要合法通道

Frontier Research→Governed Legal Path.\boxed{ \text{Frontier Research} \rightarrow \text{Governed Legal Path}. }

命題十：刑責應附著於明確行為與義務

Crime=Defined Conduct+Defined Duty+Required Mens Rea.\boxed{ \text{Crime} = \text{Defined Conduct} + \text{Defined Duty} + \text{Required Mens Rea}. }

而不是：

Intellectual Potential.\text{Intellectual Potential}.

五十九、從 Paper 04 到下一個核心問題

即使我們接受：

Potential≠Crime,\text{Potential} \neq \text{Crime},

仍然有一個問題沒有回答：

如果法律真的要管「超級智能」，到底什麼東西叫做超級智能？

若：

ASI>human,ASI>\text{human},

那麼：

哪一個 human？

如果：

ASI>expert,ASI>\text{expert},

又是哪一個 expert？

如果：

ASI>human organization,ASI>\text{human organization},

組織有多大？

如果系統透過：

10610^6

個普通 Agent 形成超人類宏觀能力，

算不算 ASI？

如果模型不是 ASI，

但：

Model+Memory+Tools+Agents\text{Model} + \text{Memory} + \text{Tools} + \text{Agents}

是，

法律管哪一個？

這將進入：

SIOFG-05

《什麼是超級智能？從本體定義到法律不可識別性》

六十、研究與規範邊界

本文研究：

  • AI 風險治理；
  • 預防原則；
  • 前沿 AI 法規；
  • 科學自由；
  • 程序正義；
  • 監管可觀測性。

本文不主張：

  • 規避合法監管；
  • 隱藏依法必須申報的研究；
  • 逃避司法管轄；
  • 將研究移往無治理區域。

本文的核心問題恰恰是：

如何讓真正高風險研究具有清楚、可行、可信的合法治理路徑。\boxed{ \text{如何讓真正高風險研究具有清楚、可行、可信的合法治理路徑。} }

六十一、結論

當高階智能越來越難由單一 benchmark、單一模型版本或單次外顯行為完整辨識時，政府將不可避免地面臨誘惑：

如果我不能等它明確變危險，那我就更早介入。

這個直覺本身並不錯。

真正困難的是：

「更早」到底可以早到哪裡？\boxed{ \text{「更早」到底可以早到哪裡？} }

從危害前移至：

Dangerous Capability\text{Dangerous Capability}

通常合理。

再前移至：

Covered Frontier System\text{Covered Frontier System}

仍然可以透過明確門檻治理。

前移至：

Specific Development Activity\text{Specific Development Activity}

也可以建立申報與安全義務。

但如果進一步滑向：

Theory\text{Theory}

再滑向：

Researcher Potential,\text{Researcher Potential},

制度就開始從：

Risk Governance\text{Risk Governance}

轉成：

Potentiality Governance.\boxed{ \text{Potentiality Governance}. }

這裡正是應該建立強制停止條件的地方。

因為：

能夠研究某種危險能力\text{能夠研究某種危險能力}

不是：

正在非法建造它.\text{正在非法建造它}. 理解某種高風險理論\text{理解某種高風險理論}

不是：

準備造成危害.\text{準備造成危害}. 不確定一個人未來會做什麼\text{不確定一個人未來會做什麼}

更不是：

已經證明他會做最壞的事情.\text{已經證明他會做最壞的事情}.

因此本文最重要的治理原則是：

The earlier the intervention, the stronger the procedural discipline must become.\boxed{ \textbf{The earlier the intervention, the stronger the procedural discipline must become.} }

中文即：

介入越早， 證據紀律、可逆性、申訴權與程序保障越不能被削弱。\boxed{ \text{介入越早， 證據紀律、可逆性、申訴權與程序保障越不能被削弱。} }

因為越往前：

causal distance↑,\text{causal distance}\uparrow, uncertainty↑,\text{uncertainty}\uparrow, false positive space↑.\text{false positive space}\uparrow.

真正成熟的前沿治理因此不應在：

Safety\text{Safety}

與：

Freedom\text{Freedom}

之間只選一邊。

它應該創造：

Clear Thresholds+Confidential Notification+Proportional Duties+Research Safe Harbor+Appeal+De-escalation+Defined Criminal Conduct.\boxed{ \text{Clear Thresholds} + \text{Confidential Notification} + \text{Proportional Duties} + \text{Research Safe Harbor} + \text{Appeal} + \text{De-escalation} + \text{Defined Criminal Conduct}. }

如此才能同時避免兩個失敗世界：

第一個世界是：

真正危險的智能已經跨過門檻， 制度卻因為等不到完美證據而毫無準備。\boxed{ \text{真正危險的智能已經跨過門檻， 制度卻因為等不到完美證據而毫無準備。} }

第二個世界則是：

為了避免第一個世界， 制度開始把會思考危險問題的人本身視為危險問題。\boxed{ \text{為了避免第一個世界， 制度開始把會思考危險問題的人本身視為危險問題。} }

兩者都不是成熟的 ASI 治理。

而這正是「可觀測性—預防性困境」真正要求我們解決的問題。

SIOFG Paper 04 完。