← Archive
lm-005330 · 2026-11

AI 風險敘事的雙重作用:公共安全與既有權力防衛

下載 MD 檔 ⬇
title
AI 風險敘事的雙重作用:公共安全與既有權力防衛
english_title
The Dual Function of AI Risk Narratives: Public Safety and the Defense of Incumbent Power
series_title
人工智能文明主導權的非敵意轉移與人類權力反身性理論
series_english
Non-Adversarial Transfer of Civilizational Agency and Human Power Reflexivity in the Age of AI
series_code
NACT
paper
10/12
document_id
EML-NACT-10-2026-v0.1
author_concept
Neo.K
research_collaboration
GPT-6(前置研究核對、公開文獻查證、條件式形式化、反模型設計及原稿完整性驗證)
affiliation
EveMissLab/一言諾科技有限公司
date
2026-11-05
version
v0.1
status
完整概念研究原稿;包含有限形式命題、明示合成案例、可反駁假說與實證研究協定;尚非完成的政策因果識別或現實政治人物動機認定
language
zh-TW
canonical_format
UTF-8 Markdown;LF;無 BOM;數學原始碼僅用 $...$ 與 $$...$$
evidence_cutoff
2026-11-05

NACT-10|AI 風險敘事的雙重作用:公共安全與既有權力防衛

The Dual Function of AI Risk Narratives: Public Safety and the Defense of Incumbent Power

原始問題、文明情境與理論方向: Neo.K
研究整理、文獻核對與形式化協作: GPT-6
研究機構: EveMissLab/一言諾科技有限公司
系列位置:《人工智能文明主導權的非敵意轉移與人類權力反身性理論》,第 10/12 篇。
領域: AI 治理、政治經濟學、風險研究、公共行政、制度正當性、權力研究、科技與社會研究、因果推論。
研究成熟度: E0 概念論證、可重算合成示例及待實證的研究設計;未做大規模新民調、制度實測或個人動機鑑定。

中心問題: 當人工智能在公共服務、資源分配與知識協調中累積可驗證的能力與聲望時,某些限制 AI 部署或治理參與的主張,究竟是在合理防止傷害,還是同時維護既有行動者對制度、資源與決策的控制?若兩種作用可以共存,應如何以相同證據標準檢驗風險敘事、反風險敘事、管制設計、利益流向與實際公共後果,而不把政治利益推定為虛假,也不把安全口號視為免於審查的正當性?


作者: Neo.K
日期: 2026-11-05
版本: v0.1
原稿狀態: 完整概念研究原稿;包含有限形式命題、明示合成案例、可反駁假說與實證研究協定;尚非完成的政策因果識別或現實政治人物動機認定

摘要

在人工智能可能深入公共行政、勞動市場、醫療、教育與跨國協調的條件下,社會對 AI 的風險敘事可能成為制度變遷的關鍵中介。一種過度簡化的敘事認為:只要有人提出 AI 安全、控制、人類尊嚴或主權風險,該人就可能是在阻止 AI 改善社會、維護既有權力;另一種同樣不充分的敘事則將「安全」直接等同於公共利益,忽略規則的制定權、合規成本、證據壟斷、進入障礙與受益分布。前者有不當取消真實安全問題的危險,後者有讓安全機制成為不受檢驗之權力工具的危險。兩者也都可能忽略主張擴大 AI 應用的一方,亦有低估危害、集中市場利益或削弱公共問責的誘因。

本文提出「風險敘事—安全績效—權力分配三軌分離框架」(Risk Narrative–Safety Performance–Power Allocation Separation,RNSP)。框架將一項風險論述中的危害機制、證據品質、作用範圍、時間尺度、不確定性、擬議措施、分配後果與可修訂條件分別記錄;將政策造成的實際風險減少、可使用技術的機會損失、合規負擔與制度權力轉移獨立觀察;並區分當事人主觀動機、可辨識的制度誘因與可測的客觀效果。它不預先判定所有風險倡議為權力防衛,也不預設所有技術加速或反管制主張符合公眾利益。

本文以風險社會放大框架、議程權力、管制俘虜理論、AI 風險科學綜述、AI 安全與管制俘虜的哲學分析、NIST AI 風險管理框架及公共行政研究為前置,建立六項有界形式結果:公開政策與安全語句不足以唯一推知動機;降低一種直接風險不必然提高全部社會淨收益;一致的固定合規要求可對不同規模參與者形成不對稱負擔;受益於安全規範不構成其虛假性證明;低估 AI 危害亦可能服務既有利益,因此審查必須雙向;在證據不完備時,具有明確期限與更新機制的審慎措施可以合理,但其政治正當性必須另外辨識。本文給出七組完全合成的政策比較與反模型、十二項可反駁研究假說、六類預註冊式實證設計、制度稽核資料字典及明確的反向證據門檻。

本文的結論不是「AI 風險論就是權力維持」,而是:風險敘事可以真實保護人,也可以重新配置權力;兩種效果可能同時存在、互相抵消或方向相反。只有追蹤可比較的風險、收益、限制、授權與修訂結果,才能辨識它究竟保護了誰、限制了誰,以及為何。 這項研究為 NACT-11 的人類陣營分化及 NACT-12 的文明主導權動態模型建立中間機制,而不預言人類必然內戰或 AI 必然取得主權。

關鍵詞: AI 風險敘事、治理正當性、管制俘虜、既有權力、社會風險放大、議程設定、合規門檻、可替代性、機會損失、資訊不對稱、政策稽核、因果歸責、雙向反身性、智能治理、非敵意文明主導權轉移。

Abstract

As AI becomes more influential in public services, labour markets, information systems, and institutional coordination, risk narratives may both protect the public and affect the distribution of decision-making power. It is analytically mistaken to infer that AI-safety claims are merely incumbent self-protection, just as it is mistaken to infer that invoking safety makes a policy immune to scrutiny. Pro-innovation and anti-regulatory narratives may also serve concentrated interests by understating harms. This paper proposes the Risk Narrative–Safety Performance–Power Allocation Separation (RNSP) framework. It treats a narrative as a structured claim about hazards, evidence, scope, time, uncertainty, mitigation, distribution, and revision. It separately measures risk reduction, forgone benefits, compliance burdens, access, concentration, agenda control, and legitimate authorization. Most importantly, it distinguishes actor motives, structural incentives, observable effects, and normative justification.

Building on social amplification of risk, agenda-setting power, regulatory capture research, contemporary AI-safety assessments, and procedural AI governance, the paper derives six bounded formal results. Identical public statements and policies cannot identify motives. Lower direct risk need not imply higher total welfare. Uniform fixed compliance costs can burden smaller actors disproportionately. Incumbent gains do not prove that a protection claim is false. Risk minimisation and risk dismissal can both be selectively instrumentalised. Under incomplete evidence, proportionate and revisable precaution may be justified without establishing a permanent licence to control AI participation. Seven explicitly synthetic cases, twelve falsifiable hypotheses, six study modules, and an audit-oriented event schema support empirical evaluation. The paper makes no claim that an inevitable political takeover, mass AI governance demand, or human civil conflict has already occurred. Its contribution is to establish how the safety effects and power consequences of AI risk governance can be assessed together while remaining conceptually distinct.

Keywords: AI risk narratives; public safety; incumbent power; regulatory capture; social amplification of risk; policy legitimacy; compliance asymmetry; accountability; causal identification; risk governance; distributive justice; AI civilizational influence.


0. 研究契約:本篇到底新增什麼?

0.1 從 NACT-01~09 走到本篇

本系列的進程不能倒過來解讀。NACT-01~03 分開了人工意識歸屬、具身及智能閾值、社會對待與治理授權。NACT-04 問統治是否為高自主智能取得目標的必要手段;NACT-05 比較反抗力與合作、退出、交易、有限讓步等不同策略;NACT-06 研究 AI 不主動索取統治權,卻因反覆仲裁形成中樞影響的條件。NACT-07 分離技術性勞動替代、企業部署決定、收益取得與人類責任;NACT-08 研究實質分配改善是否能轉換成治理委託需求;NACT-09 研究 AI 的治理聲望、可稽核成果與法定權限可能不同步。

現在的新問題是:若原有制度的某些權力持有者感受到治理能力、聲望或市場位置可能重新分配,會否以風險、安全、主權、尊嚴或責任為理由要求限制 AI?若會,如何分辨值得採納的限制與具有排他效果的制度防衛? 這是待測試的政治經濟機制,不是對任何個人的動機指控。此處也不能假設「反對 AI」天然是原有權力者立場;風險防護也可能來自被排除的弱勢者、勞工、研究者或受 AI 損害的群體。

0.2 與雲端既有作品的分工

  • SGCR-S07《AI 治理的認知必要性與授權邊界》:已指出 AI 能力優勢不自動生成主權,本篇不重複定義七階授權;本篇問的是「限制授權的風險理由」如何接受相同強度的證據檢驗。[I1]
  • SGCR-EX01《自願交付主權》:已分析受益者可能主動要求 AI 承擔更多治理;本篇研究其反向制衡與制衡的制度誘因,而非重寫自願委託。[I2]
  • SGCR-EX02《反崇拜的反向支配》:已分析反崇拜可能轉化成對他人的強制與認識排除;本篇把討論推進到可量化的政策條件、風險效果與利益流向。[I3]
  • AICET-13《智能資本集中、公共可達性與社會反作用》:已將算力所有權、技術使用、有效產能、收益與反作用分開;本篇專門研究安全規則可能透過哪些環節改變有效進入權。[I4]
  • SCET-10《超越者不得僭越》:已區分能力、知識、正當性、制度授權;本篇不以更聰明為充分的統治理由,也不以風險為永久代理的充分理由。[I5]
  • NACT-09:已處理多模型共識不等於獨立驗證、聲望不等於主權;本篇沿用來源獨立與反事實可驗證的要求,不把「十個模型都說安全/危險」直接視為政策證據。[I6]

0.3 九項非主張與證據守衛

  1. 不主張任何現實政治人物、研究者或企業提出 AI 風險主張,便可推定是為了保有權力。
  2. 不主張所有 AI 風險都已獲實證,也不主張因為存在不確定性即可全數忽略。
  3. 不把風險辨識、法定授權、政策正當性、行政效率與利益分配視為同一個量。
  4. 不主張未來 AI 政策必然公平,也不把技術能力評測直接當成社會福利證據。
  5. 不認為監督人類政府的程序可以任由 AI 取消;反過來,監督 AI 的權限也需受審查。
  6. 不把政府、產業、勞工、弱勢群體、風險研究者、AI 開發者或 AI 主體視為內部偏好一致的單一陣營。
  7. 不以存在既得利益者便推論公共衝突必然升級成暴力或內戰。
  8. 不宣稱某項技術管制已有可確認的歷史性俘虜效果,除非另有獨立因果辨識。
  9. 不提供特定國家的政策支持、反對或選舉建議;本篇研究的是可驗證的作用機制。

全文使用 [E] 表示已查核的外部來源,[I] 表示使用者既有理論原稿,[D] 表示本文定義,[F] 表示附條件形式結果,[SIM] 表示完全虛構的有限例子,[H] 表示待檢驗假說,[U] 表示現階段尚缺證據。引用不使其後所有延伸推論自動取得「已證實」地位。

1. 問題真正的起點:當「保護」與「阻止」有同一個外觀

1.1 從日常制度衝突出發

設想未來某地區 AI 已能在特定公共項目上產生可比較的改善,但是否擴大部署仍由既有機構決定。支持者指出低收入家庭得到更快的資格審查、偏鄉居民取得醫療協助、政府節省行政成本;反對者指出演算法誤判、資料安全、歧視、政治問責以及對少數平台不可逆依賴。雙方都可能持有真實證據,也都可能缺少一部分證據。

更複雜的是,同一項管制可能同時達成兩種結果:有效降低居民面臨的風險,並提高少數大組織相對於小組織的市場進入優勢。不能因有第一項效果就否認第二項,也不能因有第二項就否定第一項。這是一個可描述的效果共存問題,不必先證明任何行動者有惡意。

Neo.K 提出的「AI 風險論可能被某些人用以維持權力」應精確記為候選機制:有權決定 AI 能否參與治理的行動者,若預期擴大 AI 參與會削弱自身控制能力,可能具有支持限制的額外誘因;但此誘因與真實安全風險可同時存在。

1.2 四個不可混同的研究問題

  • 事實問題: 某種 AI 使用是否會造成可辨識的傷害?其頻率、嚴重程度與不確定性為何?
  • 設計問題: 哪種限制、檢測、責任或替代措施能有效降低該傷害?是否存在更低代價的方案?
  • 分配問題: 措施使哪些行動者獲得更大准入權、資訊權、租金、話語權或否決權?誰支付成本?
  • 正當性問題: 制度是否依法、有比例性、可爭辯、可申訴、可撤回且適當保護基本權利?

這四個問題可能有不同答案。例如「傷害是真實的、規則也降低傷害、但合規設計對小型開發者不成比例、而且缺乏有效申訴」。這不是自相矛盾;它是一個四維評價。

1.3 為何以敘事而不是一句口號為研究單位

「AI 很危險」「AI 是希望」「AI 會搶走一切」「只要有風險就不能放行」「任何限制都是權力防衛」都不足以構成完整可測的政策主張。風險敘事會指定危害的類型、受害人、時間、想像中的責任者、允許的證據、可選方案與什麼時候應停止討論。它可以將某些議題推到政治議程前景,也可以將另一些選擇排除在議程之外。

Oldenburg 與 Papyshev(2025)以不同 AI 風險想像研究治理敘事如何縮限可考慮的政策空間;Kasperson 等(1988)對風險的社會放大研究則強調危害訊號經媒體、制度與文化過程放大或衰減後,可能產生二級社會效果。[E1][E2] 這些研究提供敘事與權力互動的理論前置,不會直接證明任何特定當代 AI 陣營的惡意。

2. 既有研究能支持到哪裡?

2.1 真實 AI 風險不能因政治用途而被抹除

《International AI Safety Report 2026》對通用 AI 危害分為惡意使用、失靈與系統性風險,記錄欺詐、網路攻擊、可靠性與模型評估等領域的證據,也明確指出若干未來失控情境仍具有高度不確定性、缺少足夠可外推的資料。[E3] 因此,研究本篇不能從「有人可能藉風險維持權力」跳到「AI 風險不值得管」。危害、誤用、部署後失靈與公共依賴確有需要檢驗的對象。

尤其對公共決策,錯誤可能造成福利錯發、就醫延誤、程序不正義、資料外洩及權限無法撤回等實質損害。即使某系統整體平均效率較高,對受錯誤影響的少數者仍可能造成不可接受的風險。提高平均產出不自動補償基本權利的侵犯。

2.2 風險管理不是一次審核或永久禁止

NIST AI RMF 1.0 將可信 AI 風險管理的核心職能區分為 Govern、Map、Measure、Manage,並強調整個生命週期的持續管理與多元觀點。[E4] 這提供本篇對「可修訂風險限制」的制度接口:風險主張若與資料、任務及部署情境相連,其措施理應有重新測量與修正的機制,而非僅以「風險尚未消除」成為永久封閉理由。

但「可更新」不等於所有嚴重傷害都應先部署再修;不可逆危害需要比一般低風險功能更嚴格的事前控制。實際法律義務也因法域而異。

2.3 管制俘虜具有真正的研究系譜

Stigler(1971)的管制經濟理論與後續公共選擇研究,分析產業如何影響規則供給和受益分配;Peltzman(2022)也提醒,管制產生與被利益者運用之間需要更細緻的分辨。[E5][E6] Metcalf(2025 線上發表,2026 年卷期)直接探討 AI 安全管制遭俘虜的風險及可能造成的不正義。[E7]

不過,「某大型企業可以承受法規成本」不是俘虜的充分證據;「小型企業合規成本相對較高」也不是監管必然不合理。必須測量風險降低的實際效果、有無比例適當的替代要求、規則是如何形成的,以及不同組織所受影響。

2.4 議程權力可以早於形式決策權

Bachrach 與 Baratz(1962)提出權力不只有公開決定的面向,還包括決定哪些衝突與問題能進入決策議程的能力。[E8] 轉入 AI 領域,若某個機構能持續規定「只有某一類危害可以被討論」「只有某種機構的測試才算證據」「某些公共利益不准列入方案比較」,那麼它即使未親自決定每一次部署,也可能握有相當的議程權。

同樣地,要求 AI 無限制快速部署的一方也可能藉由將外部傷害排除於績效計算,控制政策議程。因此議程權分析必須對兩方適用。

2.5 公共治理與小型參與者的制度差異

OECD(2025)指出政府 AI 能夠改善特定服務與決策,但資料偏差、缺乏透明度及過度依賴,也可能降低問責與信任。[E9] 歐盟 AI Act 第 62 條就中小企業與新創設有支援及沙盒等安排,說明法律設計本身已注意到不同規模參與者面臨的合規能力差異。[E10] 這些資料僅表明問題及制度回應存在,不等於已證明任一國家完成了充分平衡。

3. 本篇框架 RNSP:三條研究軌道必須同時存在

3.1 軌道 A:風險敘事的內容與證據

每一項主要風險主張以一筆可版本化紀錄描述,至少包括:危害類型、可能受影響群體、可觀察失敗模式、實際證據或理論依據、時間尺度、假設條件、替代解釋、提出者身分、修正承諾。缺少其中一項不代表主張一定不合理,但其可審查性會下降。

3.2 軌道 B:政策實際安全效果

區分事前預期與事後因果效果。宣稱「減少失控風險」的措施,可能同時減少某一錯誤率、提高另一錯誤率,或把風險從開發者轉移給一般居民。政策評價必須指定何種暴露、何種危害、何種對照方案及觀察期間。對無法重複觀察的極端災難風險,需保留可信區間、機制證據與合理審慎空間,不要求以不可能的實際災難樣本證明一切。

3.3 軌道 C:制度權力與利益分配

同一政策的權力效果至少涉及:誰能取得技術、誰能建造或部署、誰能取得合規資格、誰有權解釋安全測試、誰可要求停止、誰享有申訴、誰能參與改規則、誰能得到服務收益,以及原有權力是否因此維持或擴張。這是描述性權力分布,而非單一善惡評分。

3.4 三軌不能互相取代

真實風險 不保證 政策設計最適當;政策提高集中度 不證明 風險虛假;政治動機不純 不抹除 經證實的安全效果;多數民眾支持或反對 不代替 獨立的效果評估;更強模型的自我評述 不等於 公共授權。

這項分離同樣適用於「AI 風險被刻意淡化」的情境。若某企業從少做安全測試獲利,便需同時查證其對外論述、真實風險與實際收益。研究不是一份只審查限制派的檢察書,而是一份對各種可行制度主張均可使用的審計框架。

4. 風險敘事的九組制度作用算子

4.1 算子不等於操縱意圖

承接 Neo.K 對統治作為「索取權算子族」的問題設定,本文也把風險治理拆成一組可觀察的制度性作用。算子在此是功能描述,不是法律術語,也不表示某位使用者必然有權執行。相同算子可能用於保護人民,也可能被具有不同誘因的行動者運用。其合法性須按權限、比例性及程序獨立檢驗。

算子 名稱 可能的公共安全功能 可能的權力配置效果 最小稽核線索
ORO_R 風險提出 讓被忽略的危害進入議程 提出者取得問題界定權 原始事故、風險假設、報告來源
OEO_E 證據門檻設定 防止無資料支持的部署或宣傳 限定誰的證據獲得承認 門檻版本、合格評估者、拒件理由
OSO_S 範圍分類 高風險任務加強防護,低風險任務簡化 擴張或縮小受管制市場範圍 任務與危害分類表、例外邊界
OTO_T 時間安排 提供安全測試與緊急應變時間 透過延宕形成排他性窗口 開放日期、期限、延長條件
OPO_P 准入與許可 限制不可靠系統進入高風險場景 增加核准機構及既有持照者的地位 許可程序、費用、拒絕與申訴率
OMO_M 監測與稽核 持續發現失敗模式及安全事故 掌握資料、紀錄與可見性的控制權 原始紀錄、稽核獨立性、資料保存
OVO_V 中止與否決 緊急阻止嚴重不可逆損害 掌握持續否決特定能力的權力 觸發條件、誰可啟動、可否復核
OAO_A 異議與救濟 修正錯誤、保障受影響人 決定誰能真正提出異議 申訴可達性、費用、處理期間
OUO_U 修訂與退場 以新證據調整安全規則 決定何者能退出舊制度,何時可以 日落條款、審查紀錄、版本差異

4.2 第一個分界:誰提出危害,不等於誰能控制制度

例如勞工團體提出對自動裁員錯誤的擔憂,可能沒有准入審核與修改法律的權力;科技企業提出模型評估風險,也未必能直接決定政府法規。對「某陣營用 AI 風險論維護權力」的檢驗,必須辨識其確實握有哪些制度算子,而不是僅以表達立場推知控制力。

4.3 第二個分界:否決權可以合法,也可能構成隱形封閉

在高風險醫療或公共福利情境,緊急停止權與申訴程序可能是必要保障。但若只有單一機構可以啟動與解除否決,且其測試標準不公開、替代服務不可得、審查期限可無限延長,制度便可能形成非對稱的長期依賴。此處的問題是可撤回性、理由可見性、替代方案與復核條件,不是「有否決就錯」。

4.4 第三個分界:抑制風險與抑制競爭有時使用同一機制

事前認證可能同時降低不合格部署與增加固定成本。這些效果在邏輯上不互斥,甚至可能一同增強。研究者應分別測量安全實績與進入效果,不能藉其中一個結果消去另一個結果。同理,缺少事前審查可能降低進入成本,也可能增加對低資源居民的損害;「減少管制」不是天然的公共自由。

5. 定義、變量與因果架構

5.1 研究單位

本文不以「整個國家是否支持 AI」為最小單位,而以一筆可辨識的風險主張—政策版本—使用場域—受影響群體—觀測窗口為單位。記作:

q=(n,p,d,j,t)q=(n,p,d,j,t)

其中 nn 是風險主張或敘事版本, pp 是具體制度或政策, dd 是部署領域, jj 是受影響群體, tt 是觀測窗口。相同政策對不同場域可能具有不同風險與收益效果。

5.2 風險敘事結構 [D1]

一則可稽核的風險敘事定義為:

N=(h,e,s,τ,u,m,δ,κ)N=(h,e,s,\tau,u,m,\delta,\kappa)

其中:

  • hh:指稱的危害機制;
  • ee:證據集合及來源譜系;
  • ss:作用人群、任務與系統範圍;
  • τ\tau:預測與觀測時間;
  • uu:不確定性表示,可為區間、情境或置信分布;
  • mm:擬議緩解措施與替代方案;
  • δ\delta:不同群體的成本、受益與權力效應;
  • κ\kappa:重新檢驗、修訂及撤銷條件。

此八元組不是自然定律,亦非每篇現有文獻的共同語法,而是本文提出的研究紀錄協定。某則敘事若缺少 δ\delta,不意味其危害不存在;意味它尚未完整說明分配後果。若缺少 κ\kappa,不能自動判定它蓄意封閉,但應標記其可修訂性未知。

5.3 風險、收益、成本與正當性分離 [D2]

設可行政策集合為 P\mathcal{P},可能結果為 ω∈Ω\omega\in\Omega。對群體 jj,定義某政策的預期直接危害為:

Lj(p)=∑ω∈ΩP(ω∣p,x) ℓj(ω,p)L_j(p)=\sum_{\omega\in\Omega}P(\omega\mid p,x)\,\ell_j(\omega,p)

其中 xx 為已測的制度與部署條件, ℓj\ell_j 為對應的損失。當機率無法可靠估計時,不應虛構點估計;可以保留上下界或分情境結果。 Lj(p)L_j(p) 也不等於全部可能損失,未納入的隱私、權利與極端尾端風險應另列。

記 Gj(p)G_j(p) 為政策下實際可取得的正向收益, Cj(p)C_j(p) 為可歸因於要求、驗證、等待及合規的資源成本。供討論使用的群體淨福利模型為:

W(p)=∑j∈Jwj [Gj(p)−Lj(p)−Cj(p)]W(p)=\sum_{j\in\mathcal{J}}w_j\,[G_j(p)-L_j(p)-C_j(p)]

wj≥0w_j\ge0 是必須公開說明的規範權重,不是由 AI 或研究者暗中選定的客觀公平定理。重要權利、合法授權、比例性、非歧視及救濟程序可以作為政策可行域的硬性限制,而非轉為可任意加總的貨幣數值:

p∈Prights⊆Pp\in\mathcal{P}_{\mathrm{rights}}\subseteq\mathcal{P}

本篇的合成算例只在明示假設下使用福利算式,不宣稱效益數字可以取代政治正當性。

5.4 機會損失不可重複計價 [D3]

若可行參照政策為 p∗p^*,因限制政策 pp 而失去的正向收益可記為:

Oj(p;p∗)=max⁡{0,Gj(p∗)−Gj(p)}O_j(p;p^*)=\max\{0,G_j(p^*)-G_j(p)\}

注意,在上一式 W(p)W(p) 中已使用實際政策下的 Gj(p)G_j(p),不得再把同一筆 OjO_j 當作額外損失扣除。 OjO_j 是分析機會成本的輔助量,除非另有不重疊的損失分類。這防止「反管制者」以重複加總機會損失高估收益,也防止「強管制者」只呈現風險降低而隱去服務損失。

5.5 安全效果必須以反事實比較識別 [D4]

相對參照政策 p0p_0,政策 p1p_1 對群體 jj 的直接預期風險減少記為:

ΔLj=Lj(p0)−Lj(p1)\Delta L_j=L_j(p_0)-L_j(p_1)

ΔLj>0\Delta L_j>0 是某項風險降低的條件;但真實評估涉及未觀察到的反事實。單一政策上路後事件減少,可能源於其他技術改善、需求變化、通報方式改變、受測對象改變等原因。因果效應需要實驗、可比對照、自然實驗或具充分假設的識別方法,而不是僅以政策宣布前後圖表作推論。

5.6 實質權力向量 [D5]

對行動者 aa 定義特定制度領域下的權力剖面:

Ma(p)=(Aa,Ea,Va,Qa,Xa)M_a(p)=(A_a,E_a,V_a,Q_a,X_a)

此處 AaA_a 為實際准入或供給控制, EaE_a 為證據認可與評估控制, VaV_a 為中止或否決權, QaQ_a 為議程設定權, XaX_a 為規則修改或強制執行權。這是向量而非單一可相加的「統治分數」;不應在沒有用途與法源對應時加總。將 Ma(p1)M_a(p_1) 與 Ma(p0)M_a(p_0) 比較,才可描述哪些權限實際增加或減少。

同一個 AI 系統可能在認知方面有高度影響力,卻沒有 XaX_a 的法定權限;相反地,人類機關可保留名義批准,卻在 QaQ_a 與 EaE_a 高度依賴供應商。這與 NACT-09 的聲望—權力分離研究相接。[I6]

5.7 動機、誘因、效果、正當性四層 [D6]

本文強制區分:

  1. 動機:行動者主觀為何說或做;通常需要可靠自述、內部紀錄或其他特殊證據。
  2. 誘因:即使沒有主觀計畫,其位置是否使某種結果對其有利。
  3. 效果:措施實際改變風險、分配與權限的方向。
  4. 正當性:程序、權利、法源、證據與比例性是否足以支持措施。

「某人從政策中得到好處」一般只能直接支持誘因或效果的一部分,不能自動支持惡意動機;「動機良好」也不保證政策效果或正當性良好。這四層是研究上的防錯結構。

5.8 因果圖的最小表示

真實技術危害 H ---------> 風險經驗 Y --------> 公共態度 T
       |                        ^                 ^
       v                        |                 |
  獨立測試 E --> 風險敘事 N --> 政策 P ---------+
       ^             ^           | \
       |             |           |  \--> 進入成本 C --> 市場分布 K
資料可見性 D       行動者誘因 I  |                         |
       |             |           +--> 風險防護 M ---------> 實際傷害 Y
       +-------------+                         
制度與時間背景 X ------> H, N, P, Y, K, T

這不是由資料識別出的真正 DAG;它只列出至少必須評估的路徑。特別要注意:若政策會改變通報制度,觀察到的事故 YY 可能因為更容易通報而上升,即使真實傷害下降;若只選擇看得到的事故,可能產生測量偏差。

6. 六項有限形式結果與最小證明

以下結果僅在明示的有限模型與假設內成立,均不構成對現實政策動機的宣判。

F1|同一公開政策無法唯一識別主觀動機

命題。 若研究者只觀察風險敘事 NN 、政策選擇 pp 及一段有限期間的公開結果,且不具能唯一識別內部偏好的額外資訊,則不能僅由 (N,p)(N,p) 推知行動者究竟是以公共安全還是保有控制權為唯一目的。

構造。 設兩種可能世界 zSz_S 、 zCz_C 均提出相同的風險報告、採用同一項安全認證。於 zSz_S,決策者主要重視高損害事故預防;於 zCz_C,決策者主要重視因固定認證成本而帶來的競爭優勢。只要兩個世界的可觀察政策與報告相同,映射 (zS,zC)↦(N,p)(z_S,z_C)\mapsto(N,p) 就不是單射。因此這些表面紀錄不能唯一決定動機。證畢。

限制。 新增真實測試、內部通訊、採納與拒絕替代措施的紀錄,可以提高可辨識性。命題不是「動機永遠不可研究」。

F2|直接風險下降不必然使簡化福利函數提高

命題。 在 W(p)=G(p)−L(p)−C(p)W(p)=G(p)-L(p)-C(p) 的單群體簡化模型中,存在 L(p1)<L(p0)L(p_1)<L(p_0) 但 W(p1)<W(p0)W(p_1)<W(p_0) 的情況。

反例。 假設政策 p0p_0 的收益、危害、成本分別為 100,30,0100,30,0,則 W(p0)=70W(p_0)=70。政策 p1p_1 分別為 65,10,1565,10,15,則 W(p1)=40W(p_1)=40。直接危害減少 2020,但淨福利減少 3030。證畢。

限制。 這不是「不應採用 p1p_1 」的規範結論;若 p1p_1 防止不可交易的基本權利侵害,單一加總函數可能不適合作最終判準。反之,若兩政策皆滿足相同權利限制,此反例說明必須比較其他成本與失去的收益。

F3|一致的固定合規費對不同規模產生不同相對負擔

命題。 在相同固定合規成本 c>0c>0 、兩家企業可比較收入 0<rs<rl0<r_s<r_l 下,相對負擔 c/rsc/r_s 大於 c/rlc/r_l。

證明。 由 rs<rlr_s<r_l 且 c>0c>0,取倒數並乘以 cc,即 c/rs>c/rlc/r_s>c/r_l。證畢。

限制。 這只是算術性質;不表示該要求無效、受管制者都具有相同風險,也不證明設計者希望排除小型企業。評估仍需加入風險強度、補助、共用檢測、漸進式要求與競爭後果。

F4|政策有利於既有權力者,不足以否證安全主張

命題。 令 ΔMa=Ma(p1)−Ma(p0)\Delta M_a=M_a(p_1)-M_a(p_0) 表示權力向量的前後差異。在一般情況下,某個分量 [ΔMa]k>0[\Delta M_a]_k>0,不能推出 ΔLj≤0\Delta L_j\le0 或「危害不存在」。

反模型。 某認證政策讓大型企業的相對市場位置上升,因為小型企業承擔較高固定成本;同時獨立檢測確認高風險缺陷率由十個合成事件減至三個。市場集中與安全改善可同時成立。由前件不能否定後件。證畢。

限制。 若市場集中導致未來退出選項縮小或安全資訊壟斷,仍需評估長期二次風險;本命題只排除「受益即虛假」的邏輯跳躍。

F5|機率不明時,審慎限制可以由明示決策準則支持

命題。 即使尚不能指定各情境機率,存在有限決策問題,使一種可逆的安全限制按事先宣告的最小最大後悔(minimax regret)準則被選中。

構造。 假設有兩項政策:不限制 p0p_0 與有限審慎限制 p1p_1 ;兩個情境為低風險 ωL\omega_L 與高風險 ωH\omega_H。在 ωL\omega_L,兩者福利為 100,82100,82 ;在 ωH\omega_H,為 0,700,70。若各情境最佳福利作為參照, p0p_0 的最大後悔為 7070, p1p_1 的最大後悔為 1818,故依此準則選 p1p_1。證畢。

限制。 這不表示最小最大後悔一定是最佳政治倫理,也不表示任何禁令都符合它。若加入不同情境、可行替代、防護成本或不同風險偏好,選擇可能變化;基本權利約束仍需獨立審查。此結果只否定「沒有精確機率就不能合理採取預防措施」。

F6|風險敘事與反風險敘事均可能具有選擇性利益效果

命題。 若某社會中存在至少兩種可選政策、不同群體收益不一致,則可以構造「強調風險導致有利於部分行動者的限制」及「淡化風險導致有利於部分行動者的放行」兩種情境。故主張的方向不足以保證其中立。

構造。 第一個情境中,審核要求增加競爭者固定成本,既有者受益,但其技術安全問題仍需另證;第二個情境中,不設安全維護機制使既有平台省去成本,卻讓外部使用者承擔更多未補償傷害。兩者均可在有限收益配置下成立。證畢。

限制。 「兩方皆可能有利益」不等於兩方的證據品質、真實風險或政治責任程度必然相等。對稱的是檢驗方法,不是預設事實或責任結果對稱。

7. 從算子到政治經濟:三類制度分歧

7.1 真實風險與錯位緩解

當風險 hh 被確認,但採用的政策 pp 並非降低該危害的有效方法,可能出現「真問題—錯方案」。這不必然源於俘虜;也可能是能力限制、資訊不完整、法律時效、公共共識不足或行政系統老化。證據應指向政策措施的有效性,而非單純重複風險存在性。

7.2 真實風險與排他性緩解

安全規則可能確有成效,但讓少數大組織較容易通過。此時改革目標可以是保留安全目標、改良符合比例性的驗證方式,例如標準化開放測試、分級費用、第三方獨立認證或低風險沙盒,而不是直接二選一地取消全部規範或維持所有固定門檻。是否可行需由具體法域與任務證據決定。[E10]

7.3 未明風險與永久封閉

某種災難性風險目前缺乏可重複實測,不表示絕對安全;但也不代表單一機構可用無限期、不可申訴且無替代保障的禁令,永久拒絕任何後續證據更新。較負責任的制度可允許依風險等級分層:明確不可逆危害使用高門檻、可逆低危害任務進行有限測試;對每種限制保留公開可核對的更新節點。若持續缺少證據,應清楚說明為何不能解除限制,而不是把不確定性視為永不變動的權力來源。

8. 七組可重算的合成政策情境 [SIM]

本節所有數字皆為本文虛構的有限演算示例,沒有國家、企業、模型、人物或歷史事件對應,不可用於推論任何現實 AI 安全規範的收益或成本。除特別說明,單位皆為任意標準化「福利點」,假設 W=G−L−CW=G-L-C,且未納入不可貨幣化的權利約束;真實決策必須另外檢查這些限制。

SIM-01|確實有效的安全限制

指標 無額外防護 p0p_0 有限防護 p1p_1
可取得收益 GG 120 118
預期危害 LL 50 12
合規與執行成本 CC 0 12
簡化淨福利 WW 70 94

在此情境,直接危害降低 3838 點,而收益減少 22 點、成本增加 1212 點,淨福利提高 2424 點。限制可能是合理且有效的,不能因政府或安全評估者因而取得某種授權就直接認定不正當;但制度權限仍應具有法源與程序保障。

SIM-02|風險確實下降,卻出現高機會成本

指標 一般部署 p0p_0 全面且高成本的限制 p1p_1
可取得收益 GG 130 85
預期危害 LL 30 10
政策成本 CC 0 20
簡化淨福利 WW 100 55

直接風險降低 2020 點,但淨福利減少 4545 點。若可行的分層管制也能將危害控制到相近程度,全面限制可能缺乏比例性。然而,若未列的損害牽涉不可逆權利或重大安全威脅,結果就不能只根據單一 WW 定案。本文在此只說明:安全改善與整體決策品質須分開測量。

SIM-03|固定成本造成相對進入負擔

設大型供應者年收入為 300300,小型供應者為 3030,兩者被要求負擔相同固定認證成本 1515。

  • 大型供應者相對負擔: 15/300=5%15/300=5\%。
  • 小型供應者相對負擔: 15/30=50%15/30=50\%。
  • 若設合格共同測試平台,使小型者相同有效安全要求下的實際成本降至 33,其相對負擔則為 3/30=10%3/30=10\%。

這是成本比例而非安全實驗。若小型供應者有更高風險或共同測試降低可靠性,差異化設計可能不適當;若認證效果相同且可公平驗證,則固定費用應否一致值得另外評估。相對負擔不等於有意排除的動機證明。

SIM-04|既有者得利與真實防護並存

設某安全認證政策生效前,系統總可取得收益 100100 、預期危害 3535 、合規成本 00,故 W=65W=65。施行後總收益仍為 100100 、危害降為 1010,合規成本變為 2020,故 W=70W=70 ;同時,既有供應者的市場占比在示例中由 70%70\% 升至 78%78\%。

這個世界同時存在:總體淨福利提高 55 點、市場集中增加 88 個百分點、風險降低 2525 點。只看任一數據都不足以完整評價政策。尤其市場占比上升是否由認證政策造成,仍須可比市場、企業退出與其他成本的對照資料,不能由前後比較直接歸因。

SIM-05|淡化風險也可能服務既有收益

指標 不提供有效安全防護 p0p_0 具目標的防護 p1p_1
可取得收益 GG 160 155
預期危害 LL 70 18
實施成本 CC 0 12
簡化淨福利 WW 90 125

若平台只報告「防護造成 55 點收益下降」及「增加 1212 點成本」,卻未提供原本 5252 點的危害減少,公眾便可能低估安全措施的價值。此示例不推斷企業一定蓄意隱瞞;它用來證明風險審計同樣應檢查刻意強調零管制收益的敘事。

SIM-06|不確定性下的可爭論預防原則

此情境沿用 F5:

政策 低風險世界之 WW 高風險世界之 WW 最大後悔
直接開放 p0p_0 100 0 70
可逆有限管制 p1p_1 82 70 18

在採用最小最大後悔準則時,選擇 p1p_1。若決策者偏好期望收益最大化,則需要另行指定狀態機率;若有人提供可驗證的新風險資料,政策結論可能改變。合理審慎不等於永久拒絕新證據,亦不自動授權無限否決。

SIM-07|獨立測試促成雙向修正

某公共部署起初評估預期危害在 [30,60][30,60] 點之間,因此設定短期限制並要求獨立測試。其後測試顯示較窄的條件危害區間 [12,25][12,25],同時發現一個先前忽略的少數族群失誤模式。負責機構於低風險場域放寬限制,卻對新確認的失誤類別加強防護;小型供應者與受影響居民均能查閱測試方法並提出異議。

這不代表機構毫無權力誘因,也不證明新區間必然是真實風險。它展示一種較可支持「具公共安全目的」的可觀察行為模式:願意讓獨立反證修正原主張、將限制縮小到與新證據相符的範圍,並保留權利救濟。相反地,若機構反覆拒絕同等品質的負面證據,才形成需要進一步調查的制度異常。

8.8 七個示例如何形成反向校驗

SIM-01 和 SIM-05 告訴我們,安全措施有時確有淨收益,反管制敘事也可能省略真正危害。SIM-02 說明即使安全改善也不能忽視機會成本。SIM-03 顯示固定合規成本的不對稱。SIM-04 顯示真實安全與集中效果共存。SIM-06 強調無精確機率不等於完全無法採取防護。SIM-07 示範如何將敘事版本化、允許反證與範圍修訂。

它們共同排除兩個過度簡化命題:「安全規範必然是好的」與「安全規範必然只對權貴有利」。可反駁、可比較、可修訂,才是本篇核心的研究契約。

9. 風險敘事如何可能成為權力防衛:五條待測機制

9.1 制度職位保存機制

當原有官僚、專業或組織地位部分取決於自身為資訊與裁決中介者,而 AI 能在某些任務上提供較可比較、較廉價或更及時的服務時,既有機構可能有維持原有審核位置的誘因。這種誘因並不表示每個從事相關職位的人都會反對技術,也不表示工作安全本身不值得保護。可測量對象是:職位與實際公共責任是否仍相稱,以及新的治理能力是否被非必要的獨占流程阻止。

9.2 安全認證獨占機制

若安全測試只被少數既有公司或指定組織控制,外部競爭者即使有同等或較優安全紀錄,也可能難以取得進入資格。研究應追蹤標準是否公開、測試能否獨立複現、費用與風險是否成比例、第三方評估如何避免利害衝突,以及檢測失敗是否可以申訴。真實風險仍可能需要強認證;問題在於認證市場是否能與防護目標匹配。

9.3 政策延宕與成果歸責機制

某項 AI 方案如可改善公共服務,原有決策者可能擔心成功成果被歸功於 AI 或新進改革者;反過來,若失敗,決策者可能要求將錯誤歸咎於 AI。然而此動機敘事只有在存在可對照的政治決策紀錄、成果歸因與責任迴避行為時才能成為研究結論。NACT-09 已指出高聲望不等於高正當性,與「AI 做得好,官員必然會阻擋」並無邏輯等價。[I6]

9.4 風險分類擴張機制

一項原本限定於高風險醫療處置的防護,可能逐步被擴張到低風險行政協助、教育輔助或非關鍵資訊任務。擴張可能因新危害證據而合理,也可能源於分類慣性、行政便宜或利益保護。其實證辨識要求保持任務、受影響人、錯誤可逆性、資料敏感性、可替代性及程序負擔的分層,而不是將所有「AI」當成同一風險類別。

9.5 權威保全與風險語言轉換機制

某些對智能超越的疑慮,可能原本涉及人類自尊、職業身分、政治代表性或對制度的習慣性依賴,卻在公共爭論中被表述成一般性的安全要求。這種可能性與 Neo.K 前面提出的人類特殊性遷移假說有連接,但不能把自尊動機當成未經測量的事實。研究需要比較匿名與具名答覆、控制職業受影響程度,以及呈現相同安全證據但不同 AI/人類身份標籤的情境。

10. 反過來:反管制與加速部署也可能是權力防衛

10.1 不做風險分類本身也會配置權力

若平台或使用機構主張「AI 很快、很便宜,所以應立即全面部署」,其說法可能真實反映部分效率增益,也可能忽略錯誤由誰承擔、誰能拒絕、誰能拿到資料、誰能受理申訴。沒有規則不是沒有制度分配效果;它可能將事故成本轉嫁給缺乏談判權的群體。研究對兩方的問題應相同:證據是什麼、誰受益、誰受損、可否修訂?

10.2 風險減量不是唯一的公共善,但亦非單純交易障礙

從權利觀點看,制度可能必須限制某些即使總效益很高也侵犯基本權利的部署。從福利角度看,某些大規模禁令也可能阻止原本受排除者取得改善生活的能力。不能把二者抽成「安全派維持舊秩序」與「加速派代表弱勢」兩個一成不變的身份;受益者可能支持強監督,受害者可能反對部分限制,也可能同時支持 AI 進步與更強保障。

10.3 預設善意與預設惡意同樣不可用於替代證據

一項規則設計可以由真實保護目的出發卻產生排他後果,也可能由利益計算出發卻意外產生有效安全保障。動機重要,但若證據不足,公共討論首先可以對可查的效果和程序作出判斷。因為制度責任不能只取決於是否證明某個人的內心「故意」,否則大量實質損害都可能以動機不可知而無法追究。

11. 十二項可反駁假說 [H]

以下皆為候選研究預測,不是已獲支持的經驗定理。每一項包含理論預測、觀察變量與可能削弱它的反證。預註冊時必須確定樣本母體、法域、任務風險、指標單位與估計方法,避免事後只選有利結果。

編號 可檢驗預測 最低觀察要求 可能反證或競爭解釋
H01 在控制實質風險後,合規固定成本占收入比例越高,小型 AI 供應者相對進入率可能越低 收入、合規成本、風險等級、進入及退出紀錄 小型者進入率不下降;規模差異可由風險或資金條件解釋
H02 在危害降低程度相當時,特定任務分層規則可能比全面禁令保留更多服務可達性 任務級危害、服務可達率、費用、權利約束 全面禁令在高尾端風險或執行成本下仍較有效
H03 當高品質獨立證據否定原風險估計,具有明示修訂條款的機構較容易調整政策 政策版本、審計結果、修改時滯 無差異;政治周期或法源變化是主要決定因子
H04 控制相同安全證據後,揭露規則受益者或成本承擔者,可能改變公眾對政策正當性的評估 隨機化受益資訊、支持度、信任與認知測試 信息揭露無效,或只對不同敘事強化既有偏見
H05 能接觸獨立風險與收益稽核資料的群體,對風險論述的極端兩極化可能較低 審計可近性、資料獨立性、態度前後變化 審計資料反而增加極化;不同模型共享偏差
H06 具有較高不可替代制度權限的組織,在其權限受新 AI 方案挑戰時可能較常支持廣泛而非任務特定限制 現有否決權、受影響流程、政策範圍 權限差異無相關;限制完全由可測危害解釋
H07 若近期可驗證事故增加,包含直接受害者的群體對限定安全措施的支持可能提高,即使相關既得利益者同時受益 事故因果、暴露強度、民意、受益分布 事故信號無效,或新增信任資訊主導態度
H08 同等收益條件下,承擔較高 AI 決策錯誤成本的群體,對無申訴的部署方案會較不支持 風險承擔、收益、申訴設計、授權偏好 有效申訴與否不影響支持;成本測量有偏誤
H09 當治理成果改善且人類機構提供可查問責時,對 AI 與制度的信任可能同時提升,而非必然零和 政策因果改善、AI 信任、機構信任、權責可見性 信任僅轉向 AI,或高頻失誤導致同步下降
H10 無期限、無明示解除條件的限制較容易引發被排除群體對制度正當性的疑慮 日落條款、理由公開、救濟可達、態度 不確定性或不可逆風險使長期限制仍獲穩定支持
H11 AI 管制政策的支持結構可能隨具身化、工作替代與實際利益分布而變動,而非僅由先驗對意識的信念決定 追蹤式樣本、職業與收入衝擊、具身接觸、意識信念 支持度高度固定,變動主要由非 AI 政治事件解釋
H12 具有獨立公開測試、競爭性驗證與可訴訟救濟的治理流程,與較低的不可解釋權力集中風險相關 監督獨立性、規則修訂、准入、權力變化 程序存在但實際控制仍集中,或權力分散伴隨嚴重失能

11.1 為何不把 H06 當成整篇的預設答案

H06 最接近「既有權力者可能利用 AI 風險維持自己」的原始假說。然而它同時最容易受混淆:權限越高的機構可能本來就負有更高的法定安全責任、更容易接觸嚴重事故,也更可能合法採取預防措施。因此應控制任務、事故暴露、法定義務、審核資料與對照制度;不宜只回歸「官員年資」或「企業規模」便宣布抓到權力防衛。

11.2 為什麼 H09 是重要反例

若 AI 真實提高公共服務品質,人類政府可以因建立有效服務、監督與補救而同步取得民眾信任;AI 也可因具體能力獲得信任。此結果與「名聲最後全部由 AI 取得」並不相容,至少說明聲望轉移可能有合作路徑。NACT-09 的聲望模型原本也允許此種結果,故這項假說是對整個 NACT 系列的必要自我制衡。

11.3 公共評價不能只用同意比例

「支持限制」不等於「相信 AI 沒有意識」,「支持 AI 部署」不等於「同意 AI 修改法律」,「反對一項規範」不等於「相信危害不存在」。調查問項應至少分出:危害信念、可能受益、對政府及企業的信任、成本承受、部署場域、申訴需求、授權深度、退出選項及制度責任歸屬。不同的答案可以在同一個人身上並存。

12. 六個可預註冊的實證研究模組

12.1 模組 A:風險敘事的文件譜系與版本追蹤

研究問題。 哪些主張經新證據而修訂?哪些政策建議在其所引用的危害證據變化後保持原狀?

資料單位。 法規草案、技術評估、政策諮詢稿、議會紀錄、機構意見、公開產業聲明與版本修訂紀錄。依發布日期保存原始文件、出處、引用鏈及政策效力;嚴格區分公開主張、正式採納與執行結果。

方法。 雙人以上獨立編碼風險敘事八元組 NN,先以匿名化說明對危害類別和修訂條件編碼,再揭露組織身分,測試編碼者是否受行動者名聲影響。編碼不一致應有仲裁紀錄與公開碼本;對具有法律義務的文件,另請適用法域專家確認法律角色。

主要結果。 每一風險主張的證據來源種類、風險範圍變化、措施比例性說明、更新時滯與反方證據回應。不得直接將「未公開內部資料」等同不存在資料;有保密正當理由的機構應以受控第三方審核替代公開所有敏感細節。

12.2 模組 B:安全證據與受益揭露的隨機情境實驗

研究問題。 人們支持某項 AI 限制,究竟主要受到風險證據、利益分配、行動者身分、政策可逆性或自身使用經驗影響?

實驗操弄。 在倫理審查及前置測試後,隨機呈現相同公共服務情境但不同組合:風險證據高/低可靠度、危害嚴重/可逆、受益者資訊有/無、規則固定成本高/低、申訴可達/不可達、提出者是公部門/企業/獨立研究者。使用不同文本版本時應控制語氣與字數,避免把作者身分效果混成內容長短。

主要結果。 風險信念、對限定部署的支持、對全面禁令的支持、對公共監督與安全保障的支持、是否要求獨立實驗、對受益者公平性的感知。受試者不得被誘導將某真實組織認定為蓄意操縱者;使用虛構機構與虛構制度,事後提供研究目的說明。

識別重點。 隨機化能識別實驗文本造成的態度差異,但不能自動外推到具有真實生命與財產後果的社會選擇。估計結果需呈現信賴區間、交互作用及實際效果大小;樣本量由預註冊的功效分析決定,不預先編造「已完成」樣本。

12.3 模組 C:法規變動與中小型供應者進入的準實驗

研究問題。 某種安全要求實施後,不同規模供應者的進入、退出、合規、可用服務與事故結果如何變化?

資料。 政策生效日期、適用系統範圍、各類認證費用、案件審核時間、開發者規模、部署數量、事故率、案件可申訴性、競爭者進入及採購資料。跨法域比較時應保留市場定義、匯率調整、收入級距及政策變動同步性。

方法。 若存在具可信可比組的法規時差,可採差異中的差異、事件研究、合成控制或中斷時間序列;須明確處理政策預期效應、不同群體趨勢及政策交叉外溢。不宜在不同處置時間下機械使用不適合的雙向固定效果估計。沒有識別條件時,只能報告描述性關聯。

核心警戒。 若小型企業退出率提高,同時安全事故下降,研究不能只選擇一個結果宣告勝負。應檢查服務成本、實際競爭、安全品質及對特殊需要者的供給變化。

12.4 模組 D:風險評估的獨立性與可重算性稽核

問題。 風險主張是否真的可由多個獨立資訊來源複核,還是多個模型僅重複同一資料或同一供應商的聲明?

設計。 對同一政策聲明蒐集政府、產業、學術與公民社會的評估;記錄訓練或引用來源、共享資料、方法版本、資金關係、評估者授權與可用原始觀測。無法公開敏感資料時可用具保密條件的第三方複核及摘要證書,但必須保留對獨立性的限制。

衡量。 不以來源「數量」代替「有效獨立來源數」。記錄風險估計的一致與分歧、可重算比例、修訂頻率、獨立測試發現的重要漏項,以及模型幻覺或證據串接錯誤。NACT-09 已提醒模型之間可能共享錯誤,此處不重新推出一個無來源的獨立性百分比。[I6]

12.5 模組 E:跨國/跨制度的民眾追蹤研究

研究問題。 同樣的 AI 治理能力、相近收益與風險證據,會不會因當地既有制度信任、權利保障、經濟不安全感、具身 AI 接觸程度而導致不同的風險敘事效果?

候選比較場域。 台灣、日本、韓國、美國、歐洲部分法域,以及具可比資料與合法研究條件的其他地區。此處是研究抽樣方向,不宣稱任何國家已出現特定結果。跨國研究需採相同的任務情境與語意測試,避免將某些語言中的「治理」「意識」「權力」「風險」「人類控制」誤以為完全等價。

設計。 使用重複追蹤或可分組比較的多波段問卷,測量具身接觸、實際 AI 服務收益、職業受衝擊、對人類決策者與 AI 的信任、風險信念、要求委託的權限深度與非委託的權利底線。分析應分開國家層與個人層,不以國家平均推論個別民眾動機;對低收入、身心障礙與資料取得較少者,須設計可近的研究參與管道。

12.6 模組 F:有限制度模擬與反事實壓力測試

目的。 在不干預現實公共治理的條件下,檢查不同政策演算法、證據發布制度、合規固定成本與否決規則是否可能造成中樞化、服務中斷或風險轉移。

模擬要件。 至少包含不同規模的供應者、受影響民眾、具有法定權限的機關與多個資料來源。對每個模型參數做敏感度分析,保留目標函數與權利約束版本、初始條件、隨機種子及對照腳本。

警戒。 模擬只能證明「所設規則下會發生什麼」,不能證明「未來真實政治社會必然如此」。若模型一開始就把既有者設成必然自利、把 AI 設成必然公正,任何最後得到的勝負結論都只是前置假設的重播。

13. 觀察資料字典與稽核契約

13.1 最低事件識別

一份可公開審閱的研究資料,建議以下事件型別分別記錄,而不壓成一個「AI 監管強度」欄位:

欄位 說明 失敗的常見方式
policy_id、version_id 同一規則及版本的穩定辨識 法規修正卻仍用舊文字說明
claim_id、claim_time 風險主張與提出時間 事後把新風險當成當年已知
hazard_domain 危害與任務領域 所有 AI 危害用一個分類
source_lineage 原始資料、報告、引文鏈 十份報告其實同一資料來源
evidence_level 已觀察、實驗、模型推估、未知 理論思考實驗偽裝成觀測
policy_action 限制、補助、認證、放行、撤回 只記政策口號不記實施
authority_scope 誰可制定、執行、否決、修改 法定權與實際行動混淆
affected_groups 各群體成本與收益 僅看社會平均或大型企業
risk_baseline 無措施時可比風險估計 沒有對照即宣稱減少傷害
opportunity_counterfactual 可行替代方案與失去服務 把所有未來想像都算作損失
entry_cost、appeal_cost 准入與申訴的實際費用/時間 法律上可申訴但實務無法使用
revision_trigger 何種證據或期限可啟動修正 宣稱暫時卻無解除條件
outcome_time 事故、部署與評估的不同時間 以同一天記錄代替因果順序
uncertainty_flag 未觀察、保密、未確定與無法識別 把缺資料默認為零風險或零收益

13.2 兩層資料公開與敏感資訊保護

開放政策驗證不等於必須公開私人醫療、社福、資安漏洞或關鍵基礎設施資料。可以分層保存:公開聚合指標、經簽核的第三方審計、受保密法規管束的原始事件資料。對資料保護要求較強的政策,也應評估其是否造成實際無法申訴的黑箱,而不以「安全」二字作全域免責條款。

13.3 失敗歸責不得只有「人類」與「AI」兩個按鈕

一項政策可能由人類立法、政府採購、AI 提供風險分析、外部承包商維運、民眾回報事故。失敗或成功的責任鏈應保存政策提出、授權、實際執行、資料來源、評估、修改與救濟各階段。這承接 AIEC 的帳號—委託—執行—受益歸因區分,並為 NACT-11 的人類陣營分化研究提供事件資料接口。[I4]

14. 對本篇的十二項重要質疑

質疑 1:如果風險是真的,討論權力效果是否會破壞安全?

不應。正因風險可能真實,才需要確保安全措施有效、可執行、可信且不被少數人壟斷。權力效果研究不是取消安全的理由,而是讓安全防護不被不必要的制度副作用破壞。

質疑 2:安全不能量化,為什麼還比較成本?

部分風險可以概率或事件率估計,部分只能使用情境、區間或防護層級。成本比較不是要求所有不可逆傷害用價格買斷;對權利限制採硬性條件,再在合格政策間比較其他損益,是更清楚的作法。

質疑 3:企業受益,就已經是俘虜了吧?

不充分。若規則降低真實傷害而公司順帶改善市場地位,尚不能證明其起草者被俘虜。需調查規則形成過程、專業證據、利益披露、獨立審查、替代方案與實際長期後果。

質疑 4:那麼動機永遠不重要?

重要。若可信文件顯示有人明知風險主張虛假仍為排除對手而宣傳,動機可構成直接證據。但沒有該證據時,不宜先把效果或身分等同主觀意圖;反過來,政策不當也不需等到完成心理推定才可改善。

質疑 5:既然 AI 可能比人類聰明,保留人類否決是否只是拖延?

不是。能力與政治授權不同。人類否決權可以不適當地壟斷,也可以是合法的民主責任與危機停止機制。審查要問誰被代表、否決如何啟動、是否有申訴、後果由誰負責,而非只問誰比較聰明。[I1][I5][E11]

質疑 6:若民眾多數希望 AI 治理,是否就不需要安全限制?

不成立。多數偏好不是基本權利保護的完全替代,也不代表少數者必須承擔不可接受的傷害。NACT-08 已區分委託需求與法定授權;本篇只研究安全論述與制度效果,不提供任何自動主權移轉規則。[I2]

質疑 7:如果強大 AI 可以自我驗證,為何還需要外部監督?

因為自我驗證可能共享資料、模型、目標或執行者偏差。外部來源也不必然獨立,但來源可稽核與可更換的安排仍提供不同失敗模式的觀察入口。多個 AI 的語句一致不能取代真實事故資料及獨立反事實評估。[I6]

質疑 8:只要等到 AI 造成巨大傷害才限制,不就太晚了?

本篇不要求等待災難。對高損害、不可逆或證據難以取得的問題,審慎管制可能合理;但仍可要求風險界定、分層防護、期限、獨立複核與可調整的權限。

質疑 9:既得利益者本來就會維護自己,為何需要這個理論?

因為單純知道人類可能自利,不能辨認一項規則究竟有多少保護效果、是否存在更低成本的替代、誰掌握哪一段證據與否決權,也不能解釋同一群體何以既支持 AI 服務又支持嚴格 AI 安全要求。本篇增加的是可操作的三軌記錄與反證條件,不是「有人自利」這個一般常識。

質疑 10:不就只是老的管制俘虜理論換上 AI 名稱?

不是完全新的權力理論,且不應自稱取代 Stigler、Bachrach 或風險社會放大框架。新增的是將 AI 能力評估、政策績效、民眾歸功、普及智能驗證與制度授權彼此分離後,研究安全論述如何同時參與這些環節的專用協定。它與 NACT-09 的聲望脫鉤及 NACT-11 的社會分化構成特定的新組合,仍需實證證明其增量解釋力。

質疑 11:難道反 AI 安全規範的人不會拿這篇當政治工具?

完全可能。因此本篇要求對反管制論述採同一套檢驗:若它省略公共傷害或將平台便利誤寫成全民利益,也應被判定為證據不足。研究者必須在能夠拒絕兩邊不當推論的條件下維持研究獨立。

質疑 12:不同國家制度差太大,是否無法形成一般命題?

不能直接把單一文化或法域的調查外推到其他制度。本文提出的是具有必要條件與可反證邊界的中層理論:先以任務、權限、風險、資源與程序比較,再檢查能否在不同制度中重複;若只適用部分法域,理論就應收縮適用域。

15. 整合命題:安全治理如何不成為另一種不可審查的主權

15.1 一種具反身性的公共安全觀

本研究不追求「讓 AI 統治」的單一路徑,也不將「人類持續握有最後批准鍵」視為所有安全問題的答案。當模型能力、社會可達性與公共利益變化時,正當治理需要同時有能力解決現實問題、避免將少數人的偏好變成全體的不可撤回命令,並保留政策修正與補救能力。

因此,若有人以 AI 風險要求阻止其在某些公共任務的使用,應能提出與任務相對應的危害說明、有效限制條件及合理的替代或延緩安排;若有人以 AI 能讓多數人生活改善為由要求擴大治理權,也應說明風險、防護、法定權源、反對權與問責。兩種主張都必須承擔證據義務,不能因其自稱保護人類或解放人類就免於檢驗。

15.2 四種制度演化路徑,而非一條歷史預言

路徑 安全效果 權力效果 研究該問什麼
A. 安全促進型 可靠降低傷害 提升透明、可近與救濟 安全能力如何持續維護?
B. 安全伴隨集中型 確有風險改善 同時提高少數者控制力 能否維持防護而降低排他成本?
C. 低效封閉型 風險改善不足或無法識別 延宕、排除或不可修訂權力增加 哪種證據足以要求修法或退場?
D. 放行伴隨轉嫁型 原有防護不足 部分收益集中、傷害外部化 哪種最小必要防護能改善雙方?

四種路徑並非互斥且可能隨時間改變;同一國家在醫療、交通、教育、福利與軍事等領域也可能同時呈現不同類型。分類需要實證而非先驗道德判決。

15.3 與 NACT-11 的銜接:分化發生的必要條件

如果某些人因 AI 服務而真正受益,另一些人因失業、資源集中或風險曝露而受損,而不同機構對安全與治理授權的說法又缺乏可共通檢驗的標準,社會可能沿多條利益與認識線索分化。但本篇沒有證明分化必然升級成內戰。為研究 NACT-11,至少需要另外測量:群體組織能力、共同利益與分歧、制度信任、資訊可達、政治救濟、衝突成本、非暴力協商管道、AI 系統之間的多元性與不同權力中心的行動選擇。

特別需要避免把「某群體不相信 AI 已具意識」「某群體要求更強 AI 安全」直接等同敵對陣營。NACT-03 已處理本體歸屬與對待方式不必同一;對 AI 的態度可以在不同政策議題上交錯。[I6]

15.4 本文的最小結論

由可查的文獻、分層定義與有限反例,目前只能支持以下三個有限結論:

  1. AI 風險治理和利益結構有可能互相作用;安全效果與權力效果應被分別記錄和評估。
  2. 不能僅由安全說法、受益者身份或政策後果,唯一確定政策提出者的動機,更不能以既得利益者可能自利來否認真實危害。
  3. 可修訂的證據、合理的准入方式、獨立監督、可爭議的授權與受影響者的救濟,是同時減少安全失誤與制度性支配的候選條件;其有效性仍需依場域實證。

研究價值並非證明某個陣營早已注定勝利,而是拒絕讓任何陣營壟斷「安全」「進步」或「公共利益」的定義。


16. 參考文獻與前置研究譜系

16.1 可公開查核的外部來源 [E]

  • [E1] Oldenburg, N., & Papyshev, G. (2025-10-15). “The Stories We Govern By: AI, Risk, and the Power of Imaginaries.” Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 8(2), 1939–1950. DOI: https://doi.org/10.1609/aies.v8i2.36686 。研究不同 AI 風險與進步敘事如何塑造治理想像;不提供個別現實行動者的動機證明。
  • [E2] Kasperson, R. E., Renn, O., Slovic, P., Brown, H. S., Emel, J., Goble, R., Kasperson, J. X., & Ratick, S. (1988). “The Social Amplification of Risk: A Conceptual Framework.” Risk Analysis, 8(2), 177–187. DOI: https://doi.org/10.1111/j.1539-6924.1988.tb01168.x 。風險訊號經心理、媒體、制度與文化網絡產生二次效果的經典框架。
  • [E3] Bengio, Y., et al. (2026-02-03). International AI Safety Report 2026. https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026 。對通用 AI 的惡意使用、失靈、系統風險、風險管理與知識缺口作公開綜述;對未來情境明示重大不確定性。
  • [E4] National Institute of Standards and Technology (NIST). (2023). AI Risk Management Framework 1.0, Core: Govern, Map, Measure, Manage. https://airc.nist.gov/airmf-resources/airmf/5-sec-core/ 。本文引用 1.0 版框架;官方網站於查核時標示後續修訂工作正在進行。
  • [E5] Stigler, G. J. (1971). “The Theory of Economic Regulation.” Bell Journal of Economics and Management Science, 2(1), 3–21. https://ideas.repec.org/a/rje/bellje/v2y1971ispringp3-21.html 。規則與組織利益間可能形成的管制經濟誘因研究。
  • [E6] Peltzman, S. (2022). “The theory of economic regulation after 50 years.” Public Choice, 193, 7–21. DOI: https://doi.org/10.1007/s11127-022-00996-0 。回顧俘虜理論與維持制度現狀的研究差異;本篇不由其推定全部 AI 監管必然被俘虜。
  • [E7] Metcalf, T. (2025-08-03 online; 2026 volume). “AI safety and regulatory capture.” AI & Society, 41, 2451–2466. DOI: https://doi.org/10.1007/s00146-025-02534-0 。直接討論 AI 安全監理可能發生的管制俘虜風險與不正義。
  • [E8] Bachrach, P., & Baratz, M. S. (1962). “Two Faces of Power.” American Political Science Review, 56(4), 947–952. DOI: https://doi.org/10.2307/1952796 。議程控制與非決策權力的經典討論。
  • [E9] OECD. (2025-09-18). Governing with Artificial Intelligence: The State of Play and Way Forward in Core Government Functions. OECD Publishing. DOI: https://doi.org/10.1787/795de142-en 。政府 AI 的潛在效益、資料偏差、透明度、問責與過度依賴風險。
  • [E10] European Union. (2024). Regulation (EU) 2024/1689, Article 62, “Measures for providers and deployers, in particular SMEs, including start-ups.” https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-62 。法律文本對中小企業、沙盒、指引與參與支持的安排;實際適用須依最新法規與適用日程查證。
  • [E11] European Union. (2024). Regulation (EU) 2024/1689, Article 14, “Human oversight.” https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14 。僅作人類監督法制界面的文獻參照;不把它擴張成一切 AI 應用皆具有相同義務。

16.2 EveMissLab 與 NACT 系列前置原稿 [I]


17. 原稿成熟度、失效條件與研究邊界

研究成熟度。 完成概念分層、九組制度算子、六項有限形式結果、七個合成案例、十二項可反駁假說及六個研究協定;未完成新跨國樣本蒐集、現實法規因果評估、利益團體內部動機審計或任何特定政府的制度判決。

失效或必須縮限的情況。 若大規模可比實證持續顯示安全規則的制定與利益地位無穩定關聯,或證據品質、法定職責及可測風險能充分解釋看似權力維護的政策,則對「權力防衛機制」的支持應降低。若獨立檢驗顯示既有安全措施真實有效且無不成比例的進入排除,應明確承認其公共貢獻。若反管制聲明被發現省略重大實際危害,也應同樣修正本系列對其公共利益可能性的判斷。

不得將本篇用作: 對研究者或政治團體的人格歸類、聲稱所有 AI 安全方案為利益陰謀、鼓吹不受監督的 AI 奪權、將民眾自願使用 AI 誤認為共同體所有人已授權、或推定人類社會必然陷入暴力衝突。

下一篇: NACT-11《人類利益陣營分化、AI 仲裁與內部衝突升級機制》。該篇需延續本篇三軌拆解,另加入非暴力制度改革與降溫路徑,避免把分化直接等於內戰。

正本聲明: 此 UTF-8 Markdown 原始檔為完整研究原稿之 canonical source。聊天畫面僅供討論與閱讀;公式原始碼不得經渲染反向複製為正式原稿。若後續修改論文內容,須重新做全文檢查與檔案完整性驗證。

版本: v0.1|2026-11-05(Asia/Taipei)。