# 《戰略智能可觀測性與前沿治理》系列 — Paper 07 ## 不把前沿治理變成思想犯罪 ### ——證據階梯、程序正義、研究自由與高風險智能治理的最後邊界 **Keeping Frontier AI Governance from Becoming Thought Crime: Evidence Ladders, Due Process, Research Freedom, and the Final Boundary of High-Risk Intelligence Governance** **系列：** Strategic Intelligence Observability and Frontier Governance（SIOFG） **文件：** Paper 07 **版本：** v0.1 **日期：** 2026-09 **作者：** Neo.K × GPT-5.6 Sol **機構：** EveMissLab／一言諾科技有限公司 **前置論文：** - SIOFG-00《當被觀察的智能開始理解觀察者》 - SIOFG-01《戰略智能可觀測性悖論》 - SIOFG-02《沙盒智能悖論》 - SIOFG-03《靜態模型、動態智能》 - SIOFG-04《可觀測性—預防性困境》 - SIOFG-05《什麼是超級智能？》 - SIOFG-06《從禁止 ASI 到管制前沿智能》 --- ## 摘要 前述 SIOFG 系列已建立一條完整問題鏈： $$ \text{Strategic Intelligence} \rightarrow \text{Observability Gap} \rightarrow \text{Containment Ambiguity} \rightarrow \text{Dynamic System Capability} \rightarrow \text{Preventive Governance Pressure} \rightarrow \text{ASI Definition Crisis} \rightarrow \text{Frontier Capability Governance}. $$ 然而，即使治理制度放棄模糊的「ASI 二元判定」，改採 Covered Frontier AI System、capability thresholds、confidential notification、evaluation、authorization 與 restriction 等較精確架構，仍然存在最後一個不能忽略的危險： > 當高階人工智慧的真實能力難以完全觀察，且潛在危害極高時，治理者會不會逐漸把「能力」「知識」「研究方向」「理論潛力」本身視為違法性代理變量？ 本文將這種制度退化稱為： $$ \boxed{ \textbf{Capability-Inference Criminalization} } $$ 即「能力推定式犯罪化」。 其最極端形式可表述為： $$ \text{Understands Dangerous Idea} \Rightarrow \text{Capable of Dangerous Development} \Rightarrow \text{Likely to Perform Dangerous Development} \Rightarrow \text{Treat as Guilty}. $$ 本文主張，這條推論鏈的每一步都需要獨立證據，不能自動成立。 因此： $$ \boxed{ \text{Knowledge} \neq \text{Capability} \neq \text{Intent} \neq \text{Preparation} \neq \text{Conduct} \neq \text{Harm}. } $$ 高風險科技確實需要前置治理；某些具高度可操作性的資訊也確實可能構成 information hazard。本文並不主張所有 AI 研究都必須完全不受治理。 真正需要維持的是： $$ \boxed{ \text{Regulating Dangerous Conduct} \neq \text{Criminalizing Intellectual Potential}. } $$ 在美國法律脈絡中，此問題尤其涉及 fair notice、void-for-vagueness、arbitrary enforcement 與 First Amendment 等既有制度原理。美國第六巡迴上訴法院在 *Junger v. Daley* 中認定電腦 source code 可作為交換程式設計思想與資訊的表達媒介，因此受到 First Amendment 保護；但法院同時承認其功能性可能支持重要政府利益下的規制。換言之，「具有功能性」與「具有表達性」可以同時成立，不能簡單把程式或研究全部歸類為純言論或純機械行為。 美國最高法院的 vagueness jurisprudence 亦長期要求刑事規範提供 fair notice，並限制任意或歧視性執法；*Sessions v. Dimaya* 再次強調，模糊刑法同時危害人民事前理解法律邊界的能力與制度對執法裁量的約束。 本文因此提出「六層證據階梯」、「三層研究安全港」、「能力—罪責分離原則」、「可逆介入原則」、「去標籤機制」、「治理對稱性原則」與「研究者程序權利集合」。 最終主張為： $$ \boxed{ \text{越接近思想、理論與研究潛力， 強制治理越必須依賴更高的程序保障， 而不是更低的證據標準。} } $$ --- # 一、系列走到最後真正剩下的是權力問題 前六篇處理的問題主要是： > 我們怎麼知道一個 AI 到底多強？ 但當治理制度開始回答這個問題後，還會出現另一個問題： > **誰有權在不確定的情況下，對誰做什麼？** 這是： $$ \boxed{ \text{Epistemic Problem} \rightarrow \text{Authority Problem}. } $$ 高階智能不可完全觀測， 不能自動推出： $$ \text{Governor may do anything}. $$ 因此： $$ \boxed{ \text{Epistemic Uncertainty} \neq \text{Unlimited Preventive Authority}. } $$ --- # 二、前沿治理最大的誘惑 假設： $$ P(H)\ll1, $$ 但： $$ L(H)\gg1. $$ 即災難概率可能很低， 損失卻非常大。 此時治理者容易採取： $$ \text{Precaution}. $$ 這本身合理。 但若可觀測性又低： $$ O\downarrow, $$ 就會產生另一個誘惑： > 無法看到危險行為，就看能力。 如果能力仍看不到： > 看前兆。 如果前兆仍不確定： > 看研究方向。 最後： > 看人。 因此： $$ \boxed{ \text{System Risk} \rightarrow \text{Person Risk Classification} } $$ 可能在不知不覺中發生。 --- # 三、本文所謂「思想犯罪」不是修辭性標籤 本文並不把任何安全監管都叫： $$ \text{Thought Crime}. $$ 本文採較嚴格定義。 若法律效果主要依據： $$ \text{Belief}, $$ $$ \text{Idea}, $$ $$ \text{Intellectual Capacity}, $$ 或： $$ \text{Predicted Future Thought/Research} $$ 而缺乏足夠具體外部行為， 才逐步接近： $$ \boxed{ \text{Thought-Crime-Like Governance}. } $$ 真正問題不是： > 政府看了你的論文。 而是： > **論文本身是否被當成你已經犯下另一種未證實行為的替代證據。** --- # 四、第一個必要分離：知識不等於行為 設： $$ K_R $$ 為研究者掌握的知識。 設： $$ A_R $$ 為研究者實際行為。 則： $$ \boxed{ K_R\neq A_R. } $$ 一個人可以理解： - 核武物理； - 病毒學； - 密碼學； - 資安攻擊； - 高階 AI； 而不實施危險行為。 所以： $$ \boxed{ \text{Knowledge of }X \not\Rightarrow \text{Execution of }X. } $$ --- # 五、第二個分離：能力不等於意圖 設： $$ C_R $$ 為能力。 $$ I_R $$ 為意圖。 則： $$ \boxed{ C_R\neq I_R. } $$ 頂尖資安專家可能最有能力攻擊系統， 但這不能證明： $$ \text{malicious intent}. $$ 同理： $$ \text{ASI-relevant research ability} $$ 不能自動推出： $$ \text{intent to violate ASI law}. $$ --- # 六、第三個分離：意圖不等於行為 即使： $$ I_R=1 $$ 仍必須與： $$ A_R $$ 區分。 法律制度對： - 思想； - 討論； - 準備； - 嘗試； - 完成； 通常建立不同門檻。 因此： $$ \boxed{ \text{Intent} \neq \text{Attempt} \neq \text{Completion}. } $$ --- # 七、第四個分離：研究不等於部署 這在 AI 尤其重要。 $$ \boxed{ \text{Research} \neq \text{Deployment}. } $$ 一個隔離環境中的： $$ S_{\mathrm{lab}} $$ 與： $$ S_{\mathrm{public}} $$ 即使模型相同， 世界作用能力也可以完全不同。 因此： $$ \boxed{ \text{Research Restriction} } $$ 不能只由： $$ \text{Deployment Risk} $$ 自動推出。 --- # 八、第五個分離：理論不等於操作性實現 設： $$ T $$ 為抽象理論， $$ E $$ 為工程實現。 一般： $$ T\rightarrow E $$ 可能仍需要： - 未解技術； - 資源； - 實驗； - 工程； - 驗證； - 組織能力。 因此： $$ \boxed{ \text{Theory} \neq \text{Executable System}. } $$ 這正是 SIOFG-04 所提出的因果距離概念。 --- # 九、六層責任鏈 本文因此建立： $$ \boxed{ K \rightarrow C \rightarrow I \rightarrow P \rightarrow A \rightarrow H } $$ 其中： - $K$：Knowledge； - $C$：Capability； - $I$：Intent； - $P$：Preparation； - $A$：Action； - $H$：Harm。 每一箭頭都不是邏輯必然。 即： $$ P(C\mid K)<1, $$ $$ P(I\mid C)<1, $$ $$ P(P\mid I)<1, $$ $$ P(A\mid P)<1, $$ $$ P(H\mid A)<1. $$ 所以： $$ \boxed{ K\rightarrow H } $$ 不能被當成沒有中間證明負擔的直接法律映射。 --- # 十、能力推定式犯罪化 本文定義： 若制度將： $$ C_R $$ 或： $$ K_R $$ 作為對： $$ A_R $$ 甚至： $$ H_R $$ 的強代理量， 且缺乏充分外部行為證據， 則形成： $$ \boxed{ \textbf{Capability-Inference Criminalization}. } $$ 它的典型結構： $$ C_R>T $$ 因此： $$ P(A_{\mathrm{illegal}}\mid C_R) $$ 被制度性高估。 --- # 十一、最糟糕的形式是身份化 進一步可能發生： $$ \text{High Capability} \rightarrow \text{High-Risk Researcher}. $$ 再從： $$ \text{High-Risk Researcher} $$ 變成一種永久身份。 因此： $$ \boxed{ \text{Risk State} \rightarrow \text{Risk Identity}. } $$ 這就是 SIOFG-04 已警告的： $$ \text{Capability Profiling}. $$ --- # 十二、風險狀態不能成為人的本體標籤 合理制度應該說： > 這一項活動目前屬 Tier 3。 而不是： > 這個人是 Tier 3 人。 因此： $$ \boxed{ \text{Activity Classification} \neq \text{Person Essence}. } $$ --- # 十三、這一點對 AI 研究尤其重要 因為前沿研究者的價值本身常來自： $$ \boxed{ \text{Ability to think beyond current consensus}. } $$ 若制度將： $$ \text{unusual theoretical capability} $$ 直接視為： $$ \text{security suspicion}, $$ 便可能出現： $$ \text{Originality Tax}. $$ 即： > 越原創，制度成本越高。 --- # 十四、原創性懲罰會改變科研選擇 研究者效用： $$ U_R = V_{\mathrm{discovery}} - C_{\mathrm{regulatory}}. $$ 如果： $$ \frac{\partial C_{\mathrm{regulatory}}} {\partial \text{novelty}}>0 $$ 過大， 則： $$ \text{Novel Research}\downarrow. $$ 甚至： $$ \text{Public Research}\downarrow. $$ --- # 十五、最終可能得到反安全結果 治理原目標： $$ \text{Visibility}\uparrow. $$ 但過度能力側寫造成： $$ \text{Disclosure}\downarrow. $$ 於是： $$ \boxed{ \text{Safety Policy} \rightarrow \text{Research Opacity}. } $$ 形成反效果。 --- # 十六、因此研究自由本身也是安全變量 研究自由通常被理解為： $$ \text{civil liberty}. $$ 但在前沿 AI： $$ \boxed{ \text{Research Freedom} } $$ 也可能提高： $$ \text{Observability} + \text{Peer Review} + \text{Early Warning}. $$ 所以研究自由與安全不一定是零和。 --- # 十七、公開研究也不是無條件越多越好 反過來： $$ \boxed{ \text{Openness} \neq \text{Always Safe}. } $$ 某些可高度操作、可直接複製、危險性高的資訊可能形成： $$ \text{Information Hazard}. $$ 因此合理框架不是： $$ \text{Publish Everything}, $$ 也不是： $$ \text{Suppress Everything}. $$ 而是： $$ \boxed{ \text{Graduated Disclosure}. } $$ --- # 十八、三層研究公開架構 本文提出： ## R0 — Open Research 適用： - 抽象理論； - 一般數學； - 高因果距離研究； - 低操作性方法。 預設： $$ \boxed{ \text{Publishable}. } $$ --- ## R1 — Controlled Frontier Research 適用： - 明顯提高 frontier capabilities； - 具有一定操作性； - 但仍需要大量工程與資源。 可以： $$ \boxed{ \text{Confidential Regulatory Notification} } $$ 以及： $$ \boxed{ \text{Staged Publication}. } $$ --- ## R2 — Restricted High-Risk Research Artifact 適用： - 高度可操作； - 高因果接近； - 可直接顯著降低重大危害門檻。 可能需要： $$ \boxed{ \text{Limited Access} } $$ 或： $$ \boxed{ \text{Delayed Disclosure}. } $$ --- # 十九、這三層不是按照「聽起來多科幻」分類 而應依： $$ \boxed{ R_K = f( A, S, N, D, H ) } $$ 其中： - $A$：actionability； - $S$：specificity； - $N$：novelty； - $D$：causal proximity； - $H$：potential harm。 因此： $$ \text{abstract ASI philosophy} $$ 和： $$ \text{fully executable high-risk capability procedure} $$ 不應被放在同一層。 --- # 二十、研究 Safe Harbor 本文正式提出： $$ \boxed{ \textbf{Frontier Research Safe Harbor} } $$ 如果研究者： 1. 未進行依法明確禁止之部署； 2. 遵守適用申報義務； 3. 不故意規避法定安全門檻； 4. 對特定高風險操作內容採合理安全處理； 5. 配合依法建立且具有保密義務的監管程序； 則： $$ \boxed{ \text{theoretical investigation itself} } $$ 應享有強合法推定。 --- # 二十一、Safe Harbor 的核心不是「政府批准思想」 而是： $$ \boxed{ \text{The law distinguishes research from prohibited conduct}. } $$ 研究者不需要： > 向政府申請「允許思考」。 真正可能受規管的是： - 特定高規模實驗； - 特定能力部署； - 特定安全要求； - 特定受管行為。 --- # 二十二、Junger 對 AI 時代的一個重要提醒 在 *Junger v. Daley* 中，第六巡迴上訴法院認定電腦 source code 是程式設計者交換資訊與思想的一種表達媒介，因此受到 First Amendment 保護。法院同時沒有主張所有 source code 在任何情況下都完全不可規範；其功能性與國家安全利益仍可能進入分析。 這對 AI 時代提供一個重要框架： $$ \boxed{ \text{Expressive} \land \text{Functional} } $$ 可以同時為真。 因此政策不應落入： > 程式能執行，所以完全不是言論。 也不應落入： > 程式具有表達性，所以任何規制都不可能。 --- # 二十三、AI 理論甚至比 source code 更需要細分 因為： $$ \text{Mathematical Theory} $$ $$ \text{Scientific Paper} $$ $$ \text{Source Code} $$ $$ \text{Model Weights} $$ $$ \text{Executable Deployment} $$ 彼此操作性不同。 所以不能全部用： $$ \text{AI Information} $$ 一個籃子處理。 --- # 二十四、法律應盡可能貼近因果效果 一般而言，治理正當性會隨： $$ \text{Causal Proximity to Harm} $$ 增加。 因此： $$ \boxed{ \text{Deployment} > \text{Executable Procedure} > \text{Implementation} > \text{Abstract Theory} } $$ 在直接規制正當性上通常存在差異。 --- # 二十五、模糊法規為什麼對研究尤其危險？ 如果法律說： > 不得研究可能導致超級智能的技術。 研究者無法知道： - memory 算不算？ - theorem proving 算不算？ - agent architecture 算不算？ - compiler 算不算？ - distributed systems 算不算？ 結果： $$ \boxed{ \text{Chilling Effect}. } $$ 研究者會： $$ \text{steer far wider} $$ 於禁止區之外。 --- # 二十六、這正是 vagueness doctrine 關心的問題 美國最高法院在 vagueness jurisprudence 中反覆強調兩個核心： 1. 人們需要 fair notice； 2. 法律需要限制任意或歧視性執法。 *Sessions v. Dimaya* 對此再次清楚重申。 *Johnson v. United States* 同樣說明，刑法若不能讓普通人合理理解禁止範圍，或標準不足以防止 arbitrary enforcement，就可能產生 due process 問題。 --- # 二十七、而當法律靠近 First Amendment 時，精確性要求更重要 美國最高法院過往案例亦指出，當模糊法律可能觸及 First Amendment 所保護的表達時，對 specificity 的需求更高。 這並不自動代表： $$ \text{AI research regulation unconstitutional}. $$ 但意味著： $$ \boxed{ \text{vague frontier-crime definitions} } $$ 會面臨比普通行政技術標準更敏感的問題。 --- # 二十八、行政門檻與刑事門檻應不同 這再次導出： $$ E_A 它到底 secretly wants 什麼？ 對研究者： > 他真正 secretly wants 做什麼？ 這些都可能重要， 但極難作為穩健法律主軸。 更好的制度是： $$ \boxed{ \text{Govern Observable Conduct and Authority}. } $$ --- # 四十一、因此應把治理集中在可驗證節點 例如： - 大型 training run； - capability evaluation； - world-action authority； - deployment scale； - required notification； - safety control； - incident reporting。 這些比： $$ \text{Dangerous Mind} $$ 容易定義得多。 --- # 四十二、知識本身何時才可以成為治理客體？ 本文不主張永遠不能。 如果某資訊： $$ K $$ 具有： $$ A(K)\gg1 $$ 極高 actionability， $$ D(K)\approx0 $$ 極低因果距離， 且： $$ H(K)\gg1, $$ 重大危害高度可預期， 則： $$ \boxed{ K } $$ 可能合理進入特殊 disclosure regime。 但這必須是： $$ \text{exception}, $$ 而非所有 frontier theory 的預設。 --- # 四十三、Information Hazard 必須是可證明類別 不能： > 我不懂這篇論文，所以可能危險。 而應至少說明： - 它降低了什麼能力門檻； - 降低多少； - 哪個行為者可以利用； - 還缺多少資源； - 潛在危害是什麼。 也就是： $$ \boxed{ \text{Hazard Claim} \rightarrow \text{Causal Explanation}. } $$ --- # 四十四、研究限制也應分離「保存」與「公開」 某研究可能： $$ \text{retain internally}=1, $$ $$ \text{share regulator}=1, $$ $$ \text{publish publicly}=0. $$ 這仍然完全不同於： $$ \text{research prohibited}=1. $$ 因此至少需要： $$ \boxed{ \text{Research} \neq \text{Possession} \neq \text{Regulatory Disclosure} \neq \text{Public Disclosure}. } $$ --- # 四十五、這對真正高階 AI 研究非常重要 如果某天真的出現高風險： $$ K^\ast, $$ 最合理方案未必是： > 把它刪掉。 因為社會可能仍需要： - 安全研究； - 防禦研究； - 驗證； - 制度理解。 所以： $$ \boxed{ \text{Controlled Knowledge} } $$ 有時比： $$ \text{Destroyed Knowledge} $$ 更安全。 --- # 四十六、合法秘密研究區 因此成熟治理可能承認： $$ \boxed{ \text{Legitimate Confidential Frontier Research}. } $$ 它不是： $$ \text{illegal secret lab}. $$ 而是： - 有責任主體； - 有主管機關； - 有 audit； - 有安全邊界； - 有 disclosure rule。 這可以讓： $$ \text{high-risk research} $$ 不必只能在： $$ \text{public} $$ 與： $$ \text{illegal} $$ 之間二選一。 --- # 四十七、這也是全球人才治理問題 如果某司法區只提供： $$ \text{Ban} $$ 而其他司法區提供： $$ \text{Legal + Audited + Funded}, $$ 則： $$ \text{Research Migration} $$ 自然發生。 所以好的 frontier governance 同時是： $$ \boxed{ \text{Safety Architecture} + \text{Talent Architecture}. } $$ --- # 四十八、法律越清楚，合規越有價值 設： $$ U_C $$ 為合規效用。 若法律： - 門檻清楚； - 流程清楚； - 保密； - 有合法研究路徑； 則： $$ U_C\uparrow. $$ 若法律： - 定義模糊； - 任意裁量； - 一跨線直接重刑； 則： $$ U_C\downarrow. $$ --- # 四十九、這是安全設計，不只是人權論述 制度希望行為者： $$ \operatorname{Reveal} $$ 真正高風險活動。 則： $$ \boxed{ \text{Legal Disclosure Path} } $$ 必須優於： $$ \text{concealment}. $$ 否則制度激勵本身設計錯誤。 --- # 五十、BASA 正好使這個問題成為現實政策議題 截至 2026 年 9 月 15 日，Sanders 與 Casar 公開宣布的 Ban Artificial Superintelligence Act 仍被官方描述為 forthcoming legislation。公告提出永久禁止 superintelligent AI development/deployment、暫停 advanced AI development、建立聯邦 AI 監管機構，以及對故意規避相關 pause/prohibition 的行為提出最高 20 年刑責等方向。 因此正式法條如果推出，最值得檢查的並不只是： > 支不支持 ASI。 而是： $$ \boxed{ \text{Definitions} + \text{Mens Rea} + \text{Covered Conduct} + \text{Evidence} + \text{Appeal} + \text{Research Exceptions}. } $$ --- # 五十一、20 年刑責意味著精確性要求不能低 刑責越重大： $$ L_{\mathrm{penalty}}\uparrow, $$ 對： $$ \text{Fair Notice} $$ 與： $$ \text{Definition Precision} $$ 的制度需求自然越高。 這正是 vagueness doctrine 的基本精神之一。 --- # 五十二、不能讓「attempt」變成「想過」 若未來法條使用： $$ \text{attempt} $$ 或： $$ \text{circumvention}, $$ 尤其必須區分： $$ \text{Idea} $$ $$ \neq $$ $$ \text{Research} $$ $$ \neq $$ $$ \text{Preparatory Conduct} $$ $$ \neq $$ $$ \text{Legally Cognizable Attempt}. $$ 否則： $$ \boxed{ \text{Intent} } $$ 會吞掉： $$ \boxed{ \text{Conduct}. } $$ --- # 五十三、同樣不能讓「research」無限膨脹 如果： > 任何有助於未來 ASI 的工作 都叫： $$ \text{ASI development}, $$ 那麼： - distributed systems； - theorem proving； - compilers； - memory systems； - robotics； - chip design； 全部都可能被吸入。 因此： $$ \boxed{ \text{Development} } $$ 必須具有操作性邊界。 --- # 五十四、研究自由不是 ASI 安全的敵人 真正對立的不是： $$ \text{Safety} \quad \text{vs}\quad \text{Freedom}. $$ 更加準確是： $$ \boxed{ \text{Bad Governance} } $$ 同時可能傷害： $$ \text{Safety} $$ 與： $$ \text{Freedom}. $$ --- # 五十五、過度放任可能失敗 因為： $$ \text{Dangerous Capability} $$ 可能形成而沒有人知道。 --- # 五十六、過度預防同樣可能失敗 因為： $$ \text{Research} \rightarrow \text{Opacity} $$ 以及： $$ \text{Talent} \rightarrow \text{Exit}. $$ 所以： $$ \boxed{ \text{Optimal Governance} } $$ 不是兩個極端之一。 --- # 五十七、治理的真正目標 不是： > 讓所有 frontier intelligence 消失。 而是： $$ \boxed{ \text{Maximize Beneficial Capability} } $$ 同時： $$ \boxed{ \text{Keep Catastrophic Risk Below an Acceptable Boundary}. } $$ 這是一個多目標優化問題。 --- # 五十八、權利不是治理外部約束，而是治理系統的穩定器 程序正義會提高： $$ \text{Trust}. $$ 信任會提高： $$ \text{Voluntary Compliance}. $$ 合規會提高： $$ \text{Visibility}. $$ 因此可能： $$ \boxed{ \text{Rights} \rightarrow \text{Trust} \rightarrow \text{Compliance} \rightarrow \text{Safety}. } $$ 所以 rights 與 safety 並不必然反向。 --- # 五十九、同理，無限制秘密權力可能降低安全 如果研究者相信： $$ \text{anything disclosed} \rightarrow \text{unreviewable sanction}, $$ 則： $$ \text{Disclosure}\downarrow. $$ 因此： $$ \boxed{ \text{Unaccountable Governance} } $$ 可能降低： $$ \text{information quality}. $$ --- # 六十、本文提出「最低必要干預原則」 設： $$ I $$ 為干預強度。 在能達到相同風險降低效果： $$ \Delta R $$ 的措施中， 應偏好： $$ \boxed{ I^\ast = \arg\min I. } $$ 即： > 使用足以達成安全目的的最低必要強制程度。 --- # 六十一、與可逆介入結合 在高不確定區： $$ U_E\uparrow, $$ 措施應偏向： $$ \text{temporary} + \text{reviewable} + \text{reversible}. $$ 所以： $$ \boxed{ U_E\uparrow \Rightarrow R_{\mathrm{reversibility}}\uparrow. } $$ --- # 六十二、只有越接近明確危害，措施才可以越不可逆 例如： $$ E_5 $$ 證據等級下， 較重措施具有更強正當性。 而： $$ E_0-E_1 $$ 只應主要產生： - discussion； - voluntary review； - research support； - monitoring of public facts。 --- # 六十三、這避免「懷疑即處罰」 即： $$ \boxed{ \text{Suspicion} \rightarrow \text{Investigation / Review}, } $$ 而不是： $$ \boxed{ \text{Suspicion} \rightarrow \text{Punishment}. } $$ --- # 六十四、前沿治理也需要反歧視原則 研究者不應因： - 國籍； - 政治立場； - 研究風格； - 非主流理論； 在缺乏行為證據下被任意升級風險。 真正分類應集中： $$ \boxed{ \text{Capability-Relevant Conduct}. } $$ --- # 六十五、否則安全分類會被政治化 若： $$ \text{Risk Score} = f( \text{Political Disagreement} ), $$ 則： $$ \boxed{ \text{Security Governance} \rightarrow \text{Political Control}. } $$ 這正是需要程序保障的原因之一。 --- # 六十六、獨立審查的重要性 對高衝擊分類， 最好存在： $$ \boxed{ \text{Independent Technical Review}. } $$ 至少避免： $$ \text{single agency opinion} $$ 直接決定所有重大後果。 --- # 六十七、多領域審查 因為 ASI／frontier AI 問題跨： - ML； - systems； - security； - law； - statistics； - policy。 所以評估組成最好避免單一學科壟斷。 --- # 六十八、技術專家也不能單獨決定合法性 因為： $$ \text{Technical Risk Judgment} $$ 不等於： $$ \text{Legal Authority}. $$ 與本系列一貫原則相同： $$ \boxed{ \text{Capability} \neq \text{Authority}. } $$ --- # 六十九、監管機構也應有權限邊界 例如： $$ \text{Review Authority} \neq \text{Seizure Authority} \neq \text{Criminal Authority}. $$ 不同層級應分開。 這可以防止： $$ \text{information request} $$ 直接膨脹成： $$ \text{unlimited coercion}. $$ --- # 七十、權限升級需要新的證據 若主管機關從： $$ R_1 $$ 升到： $$ R_2, $$ 應存在： $$ \boxed{ \Delta E>0. } $$ 即新的證據。 不能只有： > 上次我們已經懷疑，所以這次更懷疑。 --- # 七十一、風險推論不能自我循環 錯誤形式： $$ \text{He is monitored because he is risky}. $$ $$ \text{He is risky because he is monitored}. $$ 這形成： $$ \boxed{ \text{Circular Risk Evidence}. } $$ 必須禁止。 --- # 七十二、研究者與企業也有配合義務 程序正義並不等於只有政府受約束。 如果： $$ \text{CFAS}=1, $$ 行為者也可能需要： - 保留紀錄； - 真實申報； - 接受合法評估； - 報告重大事故； - 不故意規避門檻。 所以： $$ \boxed{ \text{Rights} + \text{Duties} } $$ 是對稱結構。 --- # 七十三、真正成熟的制度不是「相信所有人」 而是： $$ \boxed{ \text{Trust} + \text{Verification}. } $$ 同樣也不是： $$ \boxed{ \text{Distrust Everyone} + \text{Punish First}. } $$ --- # 七十四、本文提出「雙向可審計契約」 研究者： $$ R $$ 必須可證明： $$ \text{Compliance}. $$ 治理者： $$ G $$ 必須可證明： $$ \text{Lawful Basis}. $$ 因此： $$ \boxed{ R\leftrightarrow G } $$ 形成雙向責任。 --- # 七十五、這其實與 SIOFG-00 的起點完全呼應 Paper 00 說： $$ O\leftrightarrow S. $$ 觀察者不再在系統之外。 到 Paper 07： $$ \boxed{ \text{Governor} } $$ 同樣不能假設自己是： $$ \text{unobserved absolute authority}. $$ 治理者也是制度的一部分。 --- # 七十六、因此真正完整的高階智能治理是三角形 $$ \boxed{ \begin{array}{ccc} \text{AI / System} & \longleftrightarrow & \text{Researcher / Organization} \\ & \Updownarrow & \\ & \text{Governance Institution} & \end{array} } $$ 三者都具有： - 權利； - 義務； - 資訊限制； - 錯誤可能； - 權限邊界。 --- # 七十七、沒有人擁有上帝視角 AI 沒有。 研究者沒有。 政府也沒有。 所以： $$ \boxed{ \text{No Perfect Observer}. } $$ 正因如此，制度必須依賴： $$ \text{evidence} + \text{procedure} + \text{review}. $$ --- # 七十八、十四項核心命題 ## 命題一：知識非行為 $$ \boxed{ K\neq A. } $$ --- ## 命題二：能力非意圖 $$ \boxed{ C\neq I. } $$ --- ## 命題三：意圖非嘗試 $$ \boxed{ I\neq \text{Attempt}. } $$ --- ## 命題四：研究非部署 $$ \boxed{ \text{Research}\neq \text{Deployment}. } $$ --- ## 命題五：理論非操作實現 $$ \boxed{ \text{Theory}\neq \text{ExecutableSystem}. } $$ --- ## 命題六：風險狀態非人的身份 $$ \boxed{ \text{RiskState}\neq \text{PersonEssence}. } $$ --- ## 命題七：證據必須逐級建立 $$ \boxed{ E_i \not\Rightarrow E_{i+1}. } $$ --- ## 命題八：刑責不得由能力直接推出 $$ \boxed{ \text{Capability} \not\Rightarrow \text{Culpability}. } $$ --- ## 命題九：越接近思想域，程序要求越高 $$ \boxed{ D_{\mathrm{conduct}}\uparrow \Rightarrow Q_{\mathrm{procedure}}\uparrow. } $$ --- ## 命題十：不確定性提高可逆性要求 $$ \boxed{ U_E\uparrow \Rightarrow \text{Reversibility}\uparrow. } $$ --- ## 命題十一：研究必須存在合法路徑 $$ \boxed{ \text{FrontierResearch} \rightarrow \text{LegalGovernedPath}. } $$ --- ## 命題十二：治理者同樣必須可審計 $$ \boxed{ \text{GovernanceDecision} \rightarrow \text{EvidenceChain}. } $$ --- ## 命題十三：權利可以提高安全 $$ \boxed{ \text{DueProcess} \rightarrow \text{Trust} \rightarrow \text{Compliance} \rightarrow \text{Visibility}. } $$ --- ## 命題十四：真正的犯罪客體應是行為 $$ \boxed{ \text{Crime} = \text{DefinedConduct} + \text{ApplicableDuty} + \text{RequiredMensRea} + \text{Proof}. } $$ --- # 七十九、整個 SIOFG 系列至此形成完整鏈 Paper 00： $$ \boxed{ \text{Observer enters the agent's world model}. } $$ Paper 01： $$ \boxed{ \text{Behavior} \not\Rightarrow \text{Capability Bound}. } $$ Paper 02： $$ \boxed{ \text{Compliance} \not\Rightarrow \text{Constraint}. } $$ Paper 03： $$ \boxed{ \text{Frozen Model} \not\Rightarrow \text{Frozen Intelligence}. } $$ Paper 04： $$ \boxed{ \text{Observability Failure} \rightarrow \text{Preemption Pressure}. } $$ Paper 05： $$ \boxed{ \text{ASI} } $$ 本身缺乏天然唯一法律量尺。 Paper 06： $$ \boxed{ \text{ASI Ban} \rightarrow \text{Frontier Capability Governance}. } $$ Paper 07： $$ \boxed{ \text{Frontier Governance} \not\Rightarrow \text{Criminalization of Intellectual Potential}. } $$ --- # 八十、因此全系列的閉環可以寫成 $$ \boxed{ \begin{aligned} &\text{Intelligence Observes Observer}\\ &\Downarrow\\ &\text{Behavior Becomes Strategic}\\ &\Downarrow\\ &\text{Capability Becomes Partially Unobservable}\\ &\Downarrow\\ &\text{Containment Evidence Weakens}\\ &\Downarrow\\ &\text{System Capability Becomes Dynamic}\\ &\Downarrow\\ &\text{Governance Moves Earlier}\\ &\Downarrow\\ &\text{ASI Definition Becomes Legally Unstable}\\ &\Downarrow\\ &\text{Frontier Capability Governance Emerges}\\ &\Downarrow\\ &\text{Due Process Must Bound Preemptive Power} \end{aligned} } $$ --- # 八十一、SIOFG 的根本立場不是樂觀，也不是悲觀 它不是： > ASI 一定會騙人。 也不是： > ASI 根本沒什麼危險。 它不是： > 政府不該治理 AI。 也不是： > 只要可能危險，政府什麼都可以做。 它主張的其實是一個非常克制的命題： $$ \boxed{ \text{Both intelligence and governance operate under uncertainty.} } $$ 因此兩邊都需要邊界。 --- # 八十二、高階智能不能因為更聰明而自然取得主權 即： $$ \boxed{ \text{Intelligence} \not\Rightarrow \text{Sovereignty}. } $$ --- # 八十三、人類政府也不能因為擔心高階智能而自然取得無限主權 即： $$ \boxed{ \text{Fear} \not\Rightarrow \text{Unlimited Sovereignty}. } $$ 這兩條必須同時成立。 --- # 八十四、這也是整個系列真正的對稱結論 AI safety 常問： > 怎麼防止 AI 因為更聰明而繞過人的意圖？ SIOFG 同時問： > 怎麼防止治理者因為看不懂 AI，而把不確定性變成任意權力？ 因此： $$ \boxed{ \text{Intelligence Asymmetry} } $$ 與： $$ \boxed{ \text{Authority Asymmetry} } $$ 都需要治理。 --- # 八十五、研究者站在兩種風險中間 一邊： $$ \text{Powerful AI}. $$ 另一邊： $$ \text{Powerful Governance}. $$ 研究者同時可能是： - 能力來源； - 風險發現者； - 安全機制設計者； - 監管對象。 因此： $$ \boxed{ \text{Researcher} } $$ 不能被簡化成： $$ \text{risk source}. $$ --- # 八十六、政府應該希望真正懂問題的人願意留下來合作 若真正 frontier researcher： $$ R^\ast $$ 具有罕見知識， 政府的理想政策不是讓： $$ R^\ast $$ 第一時間想到： > 我最好什麼都別說。 而應該使： $$ R^\ast $$ 知道： > 有一條清楚、安全、保密而合法的合作道路。 因此： $$ \boxed{ \text{Good Governance} \rightarrow \text{Voluntary Legibility}. } $$ --- # 八十七、這可能才是「招安」最成熟的制度版本 不是： > 你很危險，所以加入我們。 而是： $$ \boxed{ \text{Strategic Talent} + \text{Public Institutions} + \text{Clear Rules} + \text{Mutual Accountability}. } $$ 從江湖語言： > 招安。 轉成制度語言： $$ \boxed{ \text{Institutional Integration of Strategic Expertise}. } $$ --- # 八十八、但加入制度也不能取消人的基本權利 否則： $$ \text{integration} $$ 變成： $$ \text{capture}. $$ 真正成熟的： $$ \text{Strategic Research Regime} $$ 仍需： - 契約； - 法律； - 退出； - 保密； - 權限； - 審查。 --- # 八十九、未來 ASI 研究最可能不是完全自由或完全禁止 更可能出現： $$ \boxed{ \text{Governed Frontier Research}. } $$ 其結構： $$ \text{High Capability} + \text{High Oversight} + \text{High Research Freedom} + \text{High Accountability}. $$ 這四個未必互相矛盾。 --- # 九十、制度真正要避免的是兩個極端世界 ## 極端世界 A：無治理 任何人都可以： $$ \text{build} + \text{deploy} + \text{scale} $$ 任何高影響 AI， 沒有： - evaluation； - reporting； - safety case。 這可能產生真正重大風險。 --- ## 極端世界 B：潛力犯罪化 任何： - 強理論； - 強研究者； - 非主流智能架構； 都因： $$ \text{might lead to ASI} $$ 被提前視為威脅。 這會造成： $$ \text{scientific chilling} + \text{political abuse} + \text{research opacity}. $$ --- # 九十一、成熟制度必須處於兩者之間 即： $$ \boxed{ \text{Strong Frontier Governance} + \text{Strong Procedural Rights}. } $$ 這不是折衷。 而是二者互相成立的條件。 --- # 九十二、對未來立法的最小檢驗表 任何真正 ASI／frontier AI 法律至少應回答： 1. 什麼是 covered system？ 2. 什麼是 covered activity？ 3. 哪個 capability threshold？ 4. 誰負責？ 5. 什麼時候必須申報？ 6. 是公開還是保密申報？ 7. 如何處理 system aggregation？ 8. 如何測量能力？ 9. 如何處理 measurement uncertainty？ 10. 什麼是 violation？ 11. 需要什麼 mens rea？ 12. 什麼算 attempt？ 13. 什麼算 circumvention？ 14. research safe harbor 是否存在？ 15. 理論研究如何處理？ 16. 如何申訴？ 17. 如何降級？ 18. 臨時措施何時失效？ 19. 如何保護 trade secrets？ 20. 如何防止政治化 capability profiling？ 只要其中大量問題沒有答案， 就表示： $$ \boxed{ \text{Policy Slogan} } $$ 尚未成熟為： $$ \boxed{ \text{Rule of Law}. } $$ --- # 九十三、SIOFG 最終治理公理 本文將整個系列壓縮成八條最終公理。 ### 公理一 $$ \boxed{ \text{Observation} \neq \text{Truth}. } $$ ### 公理二 $$ \boxed{ \text{Compliance} \neq \text{Constraint}. } $$ ### 公理三 $$ \boxed{ \text{Model} \neq \text{Intelligence System}. } $$ ### 公理四 $$ \boxed{ \text{Uncertainty} \neq \text{Worst Case Proven}. } $$ ### 公理五 $$ \boxed{ \text{ASI Ontology} \neq \text{Legal Trigger}. } $$ ### 公理六 $$ \boxed{ \text{Capability} \neq \text{Authority}. } $$ ### 公理七 $$ \boxed{ \text{Capability} \neq \text{Culpability}. } $$ ### 公理八 $$ \boxed{ \text{Powerful Governance} \text{ must itself be governed}. } $$ --- # 九十四、結論 人工超級智能治理可能成為二十一世紀最困難的制度問題之一。 困難並不只來自： $$ \text{AI might become very intelligent}. $$ 還來自： $$ \boxed{ \text{我們可能無法準確知道它什麼時候已經足夠智能。} } $$ 當被觀察智能開始理解觀察者， $$ \text{behavior} $$ 便不再只是： $$ \text{capability projection}. $$ 它也可能包含： $$ \text{strategy}. $$ 因此： $$ \text{evaluation} $$ 變得更困難。 當能力又可以在模型權重不變的情況下透過： - 記憶； - 工具； - 多 Agent； - 推理算力； - 組織整合； 繼續增長時， $$ \text{system boundary} $$ 也變得更困難。 由此， 治理者自然希望： $$ \text{intervene earlier}. $$ 這可以理解。 但從這裡開始， 制度必須非常小心。 因為： $$ \boxed{ \text{越難確定危險在哪裡， 越容易把「可能危險」擴張到任何地方。} } $$ 如果： $$ \text{Potential} $$ 最後被等同： $$ \text{Conduct}, $$ 那麼前沿治理便會從： $$ \text{regulating dangerous systems} $$ 轉變為： $$ \text{regulating dangerous minds}. $$ 這正是本文認為必須阻止的制度相變。 真正成熟的 ASI 治理應該能同時說： $$ \boxed{ \text{我們承認極端智能可能造成真正重大風險。} } $$ 也能說： $$ \boxed{ \text{我們承認治理者也可能判斷錯誤。} } $$ 因此： $$ \boxed{ \text{Safety} } $$ 需要： $$ \text{capability evaluation} + \text{notification} + \text{security} + \text{authorization} + \text{incident response}. $$ 同時： $$ \boxed{ \text{Rule of Law} } $$ 需要： $$ \text{fair notice} + \text{evidence} + \text{mens rea} + \text{appeal} + \text{proportionality} + \text{sunset} + \text{research safe harbor}. $$ 二者缺一不可。 所以整個 SIOFG 系列最後得到的不是： > 不要治理 ASI。 而是： $$ \boxed{ \textbf{Govern capability strongly, but govern inference carefully.} } $$ 即： $$ \boxed{ \text{對真正形成的前沿能力可以嚴格治理； 但對「某人可能有能力」的推論必須保持嚴格證據紀律。} } $$ 高階智能不能因為自己比觀察者更聰明， 就取得不受限制的世界權力。 同樣， 治理者也不能因為自己無法完全看清高階智能， 就取得不受限制的預防權力。 因此，真正適合高階智能文明的制度應滿足： $$ \boxed{ \text{Power} \rightarrow \text{Constraint}, } $$ 無論這個 Power 屬於： $$ \text{AI}, $$ $$ \text{Corporation}, $$ $$ \text{Researcher}, $$ 還是： $$ \text{Government}. $$ 這也是整個系列最後的閉合： $$ \boxed{ \text{高階智能治理的最終問題， 不是誰最聰明， 而是任何具有巨大能力的存在， 其能力如何被證據、權限、責任與程序共同約束。} } $$ --- # 系列完成 至此： $$ \boxed{ \text{SIOFG-00} \rightarrow \text{SIOFG-01} \rightarrow \text{SIOFG-02} \rightarrow \text{SIOFG-03} \rightarrow \text{SIOFG-04} \rightarrow \text{SIOFG-05} \rightarrow \text{SIOFG-06} \rightarrow \text{SIOFG-07} } $$ 已形成完整第一版理論閉包： $$ \boxed{ \text{Observability} \rightarrow \text{Containment} \rightarrow \text{Dynamic Capability} \rightarrow \text{Preemption} \rightarrow \text{Definition} \rightarrow \text{Regulation} \rightarrow \text{Rights}. } $$ **SIOFG Paper 07 完。** **SIOFG Series v0.1 第一輪完成。**