← Archive
lm-004081 · 2026-09

形式權力與實際決策因果:人機複合決策系統的權力重新分布

下載 MD 檔 ⬇

title: "形式權力與實際決策因果:人機複合決策系統的權力重新分布" english_title: "Formal Authority and Effective Decision Causality: Power Redistribution in Human–AI Composite Decision Systems" series: "AI 原生決策治理與認知資本系列" series_en: "AI-Native Decision Governance and Cognitive Capital Series" paper: "04" author: "Neo.K" institution: "一言諾科技有限公司(EveMissLab)" research_assistance: "AI-assisted theoretical development" version: "v0.1" date: "2026-09-07" language: "zh-TW" status: "Internal Working Paper / Canonical UTF-8 Source" scope_note: "本文分析人機複合決策系統中形式權力、實際決策因果、轉譯權力、推薦權力、執行權與責任配置之分離;不主張高因果影響自動推出法律、政治或道德上的主權。" related_works: - "《從意圖到決策:AI 原生決策編譯器與稀疏意圖治理》" - "《說人話也是治理能力:適應性認知轉譯層與跨領域決策可達性》" - "《能力義肢:AI 如何提高領導能力下限並遮蔽管理者缺陷》" - "《從哲人王到動態決策中心:類終極智慧、現場主權與非僭位治理》" - "《可不可治理:能力不推出權力,權力不推出意圖》" - "《全域觀察者與 AI 原生域計算系列》" keywords: - "Formal Authority" - "Decision Causality" - "Human-AI Composite Decision System" - "De Facto Power" - "Recommendation Power" - "Translation Power" - "Authority Gate" - "Delegation" - "Governance" - "Responsibility"

形式權力與實際決策因果:人機複合決策系統的權力重新分布

摘要

本研究提出「形式權力—實際決策因果分離」(Formal Authority–Effective Decision Causality Separation)框架,用以描述 AI 原生組織中逐漸可能出現的一種治理結構:一名人類管理者在法律、公司章程、職位、簽核與責任制度上仍保有最終決策權,但實際決策過程中的問題定義、資訊選擇、方案生成、風險排序、跨領域轉譯、推薦形成、執行規劃與修正建議,可能大量由 AI 產生。

因此:

Formal AuthorityEffective Decision Causality\boxed{ \text{Formal Authority} \neq \text{Effective Decision Causality} }

一個人可以形式上擁有:

AuthorityH=1Authority_H=1

但其對最終決策內容的實際因果貢獻:

CausalityHCausality_H

可能顯著低於 AI 系統:

CausalityAICausality_{AI}

反之,AI 即使對結果具有高度因果影響,也不應因此自動獲得:

Legal Authority\text{Legal Authority} Political Legitimacy\text{Political Legitimacy} Moral Sovereignty\text{Moral Sovereignty}

本文因此將「權力」拆分為至少六個不同維度:

Formal Authority+Agenda Power+Translation Power+Recommendation Power+Execution Power+Veto / Stop Power\boxed{ \text{Formal Authority} + \text{Agenda Power} + \text{Translation Power} + \text{Recommendation Power} + \text{Execution Power} + \text{Veto / Stop Power} }

並進一步區分:

Power\text{Power}

與:

Responsibility\text{Responsibility}

指出未來人機治理最大的制度風險之一,是出現以下不對稱:

AI Causal InfluenceHuman Formal Responsibility remains fixed\boxed{ \text{AI Causal Influence}\uparrow \quad \land \quad \text{Human Formal Responsibility remains fixed} }

或反過來:

Human formally approvesbut cannot meaningfully reconstruct why the decision was made\boxed{ \text{Human formally approves} \quad \text{but cannot meaningfully reconstruct why the decision was made} }

這會造成「橡皮圖章人類」(Human Rubber-Stamping)、「形式控制幻覺」(Nominal Control Illusion)與「責任漂移」(Responsibility Drift)。

本文提出「決策因果圖」(Decision Causal Graph, DCG)、「權力分解矩陣」(Power Decomposition Matrix, PDM)與「決策因果份額」(Decision Causal Share, DCS)作為未來研究工具,用以記錄一項重大決策中:誰定義問題、誰產生選項、誰刪除選項、誰做風險框架、誰推薦、誰批准、誰執行、誰擁有停止權,以及誰事後承擔責任。

本文的核心立場是:

CapabilityAuthorityCausalityResponsibility\boxed{ \text{Capability} \neq \text{Authority} \neq \text{Causality} \neq \text{Responsibility} }

未來成熟的人機治理,不是簡單回答「AI 有沒有權力」,而是必須精確追蹤:AI 在哪一層具有何種影響,這種影響是否被授權、能否被回溯、能否被 override、是否存在獨立驗證,以及形式責任是否與實際決策因果嚴重脫節。


0. 問題起點:如果人類只是按下「同意」,誰真正做了決策?

假設一個未來企業的重大投資決策流程如下:

  1. AI 蒐集市場資料;
  2. AI 分析財務模型;
  3. AI 模擬三種市場情境;
  4. AI 產生五個候選方案;
  5. AI 刪除兩個高風險方案;
  6. AI 將剩餘三案轉譯為董事會語言;
  7. AI 推薦方案 B;
  8. CEO 閱讀五分鐘;
  9. CEO 按下「批准 B」。

形式上:

DecisionMaker=CEODecisionMaker=CEO

但實際上:

Problem Framing+Option Generation+Pruning+Risk Ranking+Recommendation\text{Problem Framing} + \text{Option Generation} + \text{Pruning} + \text{Risk Ranking} + \text{Recommendation}

大部分來自 AI。

所以真正問題不是:

CEO 有沒有決策權?

而是:

最終方案 B 為什麼成為 B?
哪些節點真正塑造了 B?
如果移除 AI,CEO 還會選 B 嗎?

這就是本文所稱的:

Effective Decision Causality\boxed{ \text{Effective Decision Causality} }

1. 四個不能再混在一起的概念

未來治理理論必須至少拆開四個概念:

1.1 Capability

Qi=節點 i 的認知與任務能力Q_i = \text{節點 }i\text{ 的認知與任務能力}

它回答:

誰比較會分析?


1.2 Authority

Ai=節點 i 被正式授予的決策權A_i = \text{節點 }i\text{ 被正式授予的決策權}

它回答:

誰可以決定?


1.3 Causality

Ci=節點 i 對最終決策內容的實際因果貢獻C_i = \text{節點 }i\text{ 對最終決策內容的實際因果貢獻}

它回答:

誰實際塑造了這個決策?


1.4 Responsibility

Ri=節點 i 在制度上或道德上承擔後果的程度R_i = \text{節點 }i\text{ 在制度上或道德上承擔後果的程度}

它回答:

出事誰負責?

因此:

QiAiCiRi\boxed{ Q_i \neq A_i \neq C_i \neq R_i }

這是整篇的最小公理。


2. 能力高不代表有權力

假設:

QAIQHQ_{AI}\gg Q_H

不能推出:

AAI>AHA_{AI}>A_H

更不能推出:

AAI=ΩA_{AI}=\Omega

即 AI 自動取得全域最高權。

所以:

Capability SuperiorityAuthority Expansion\boxed{ \text{Capability Superiority} \nRightarrow \text{Authority Expansion} }

這是「非僭位治理」的基本延伸。


3. 沒有形式權力,也可以具有高度因果權力

反方向也成立。

即使:

AAI=0A_{AI}=0

仍可能:

CAI0C_{AI}\gg0

例如 AI 沒有批准權,但它:

  • 選擇呈現哪些資料;
  • 決定如何摘要;
  • 生成候選方案;
  • 排除某些方案;
  • 排序風險;
  • 給出推薦。

那麼 AI 實際上已經具有:

Decision-Shaping Power\boxed{ \text{Decision-Shaping Power} }

所以:

No Formal AuthorityNo Power\boxed{ \text{No Formal Authority} \neq \text{No Power} }

4. 權力必須分解

本文將決策權力拆成六種。

4.1 Formal Authority

PFP_F

誰有法定、制度性或組織性的批准權。


4.2 Agenda Power

PAP_A

誰決定:

哪些問題值得被討論?

若 AI 決定哪些風險值得提醒,它就具有 agenda power。


4.3 Translation Power

PTP_T

誰控制:

世界如何被表示給決策者?

這與前篇 ACTL 直接相接。


4.4 Option-Set Power

POP_O

誰產生候選方案,以及誰讓某些方案消失。


4.5 Recommendation Power

PRP_R

誰決定:

哪一個方案被標註為「推薦」?


4.6 Execution / Stop Power

PEP_E

與:

PSP_S

誰能執行?

誰能暫停?

誰能 rollback?

因此:

Pdecision=(PF,PA,PT,PO,PR,PE,PS)\boxed{ P_{\text{decision}} = ( P_F, P_A, P_T, P_O, P_R, P_E, P_S ) }

5. 為什麼「推薦」本身就是權力?

假設三個方案:

{A,B,C}\{A,B,C\}

AI 顯示:

A:可行
B:推薦
C:可行

即使三案內容完全相同,

Label(B)=RecommendedLabel(B)=Recommended

就可能改變:

P(Human chooses B)P(Human\ chooses\ B)

因此:

Recommendation=Behavioral Intervention\boxed{ \text{Recommendation} = \text{Behavioral Intervention} }

這不需要 AI 有批准權。

推薦本身就是一種軟權力。


6. 排序也是權力

假設:

{A,B,C,D,E}\{A,B,C,D,E\}

若系統排列:

B>A>D>C>EB>A>D>C>E

則:

OrderOrder

本身可能改變人類注意力。

所以:

Ordering PowerTranslation Power\boxed{ \text{Ordering Power} \subseteq \text{Translation Power} }

未來治理不能只記錄:

AI 推薦了什麼。

還要記錄:

AI 先讓人看到什麼。


7. 剪枝可能比推薦更有權力

如果 AI 一開始產生:

Ω0={A,B,C,D,E,F}\Omega_0 = \{A,B,C,D,E,F\}

但經過 pruning 後只顯示:

Ω1={A,B,C}\Omega_1 = \{A,B,C\}

那麼人類根本不知道:

D,E,FD,E,F

曾經存在。

因此:

Option Suppression\boxed{ \text{Option Suppression} }

可能比 recommendation 更有力量。

所以所有重要剪枝都應保留:

Pruning Provenance\text{Pruning Provenance}

8. 決策因果圖 DCG

本文提出:

DCG=Decision Causal Graph\boxed{ DCG = \text{Decision Causal Graph} }

節點包括:

  • Human Leader;
  • AI Model;
  • External AI;
  • Consultant;
  • Legal;
  • Finance;
  • Data System;
  • Board;
  • Execution Agent。

邊則表示:

who influenced what\text{who influenced what}

例如:

AI1OptionSetAI_1 \rightarrow OptionSet ConsultantRiskModelConsultant \rightarrow RiskModel AI2RecommendationAI_2 \rightarrow Recommendation CEOFinalApprovalCEO \rightarrow FinalApproval BoardVetoBoard \rightarrow Veto

因此一個決策不再表示成:

CEODecisionCEO\rightarrow Decision

而是:

GD=(VD,ED)\boxed{ \mathcal G_D = (V_D,E_D) }

9. 決策因果份額 DCS

可探索:

DCSi=Decision Causal Share of node i\boxed{ DCS_i = \text{Decision Causal Share of node }i }

其直觀問題是:

如果移除節點 ii,最終決策有多大機率改變?

可以用反事實表示:

DCSiP(DDi)DCS_i \propto P( D^\ast \neq D^\ast_{-i} )

其中:

DD^\ast

為實際最終決策,

而:

DiD^\ast_{-i}

為移除節點 ii 後的反事實決策。


10. 為什麼需要反事實,而不是只看使用次數?

AI 被呼叫 100 次,不代表它有高因果權。

反之,一次推薦:

不要併購。

可能直接改變幾十億資本配置。

所以:

Usage FrequencyDecision Causality\text{Usage Frequency} \neq \text{Decision Causality}

真正重要的是:

Counterfactual Decision Change\boxed{ \text{Counterfactual Decision Change} }

11. Human Rubber-Stamping

若:

P(Human accepts AI recommendation)1P( Human\ accepts\ AI\ recommendation ) \rightarrow1

而且:

Human IndependentAnalysis0Human\ IndependentAnalysis\rightarrow0

則形成:

Human Rubber-Stamping\boxed{ \text{Human Rubber-Stamping} }

形式上:

AH=1A_H=1

但:

CH0C_H\rightarrow0

這是人機治理中最重要的失真之一。


12. 橡皮圖章人類不等於一定治理失敗

如果 AI 長期極度可靠,

人類高度接受 AI 可能只是:

Rational Delegation\text{Rational Delegation}

所以不能把:

AcceptanceRateAcceptanceRate\uparrow

直接等同:

GovernanceQualityGovernanceQuality\downarrow

關鍵是:

  • 人類是否能理解推薦理由?
  • 是否真的具有 override 能力?
  • override 是否有效?
  • AI 是否接受獨立驗證?
  • 是否有 failure trigger?

因此:

Rubber-stamping risk=AcceptanceMeaningful Override Capacity\boxed{ \text{Rubber-stamping risk} = \text{Acceptance} - \text{Meaningful Override Capacity} }

13. 意義上的 override

一個介面有:

Reject AI Recommendation

按鈕,

不代表人類真的具有:

Meaningful Override\text{Meaningful Override}

如果拒絕後:

  • 沒有替代方案;
  • 沒有人懂系統;
  • 所有執行工具都依賴 AI;
  • 時間成本過高;
  • AI 已經控制大部分資訊;

那麼:

Formal OverridePractical Override\boxed{ \text{Formal Override} \neq \text{Practical Override} }

14. Override Elasticity

本文提出:

OE=Override Elasticity\boxed{ OE = \text{Override Elasticity} }

直觀表示:

當人類與 AI 意見衝突時,人類實際改變決策的能力有多高?

若:

OE0OE\rightarrow0

則 AI 雖沒有形式主權,

實際上可能接近:

de facto decision center\text{de facto decision center}

15. 形式控制幻覺

未來組織可能會說:

我們始終保留 human-in-the-loop。

但如果 human-in-the-loop 只是:

Click Approve\text{Click Approve}

而不是:

Understand+Challenge+Override+Escalate\text{Understand} + \text{Challenge} + \text{Override} + \text{Escalate}

則:

Human-in-the-loopHuman-in-control\boxed{ \text{Human-in-the-loop} \neq \text{Human-in-control} }

這可稱為:

Nominal Control Illusion\boxed{ \text{Nominal Control Illusion} }

16. AI 影響力不是一條單線

一個 AI 可能:

PT0P_T\gg0

但:

PE=0P_E=0

另一個 Agent 可能:

PE0P_E\gg0

但:

PR=0P_R=0

所以不能問:

AI 有沒有權力?

而要問:

Which power, at which layer, under which scope?\boxed{ \text{Which power, at which layer, under which scope?} }

17. 人機複合決策系統

本文定義:

HACDS=Human-AI Composite Decision System\boxed{ HACDS = \text{Human-AI Composite Decision System} }

其決策輸出:

DD^\ast

不是任何單一節點的函數,

而是:

D=F(H,AI1,,AIn,Experts,Rules,Data,Authority)D^\ast = F( H, AI_1,\ldots,AI_n, Experts, Rules, Data, Authority )

所以:

Decision Maker\boxed{ \text{Decision Maker} }

未來可能不再是一個人。

而是一個:

Composite Governance System\boxed{ \text{Composite Governance System} }

18. Composite Governance 不等於責任消失

不能因為:

D=F(many nodes)D^\ast = F(\text{many nodes})

就說:

沒有人負責。

相反地,

節點越多:

Responsibility Mapping\text{Responsibility Mapping}

越重要。

所以:

Distributed CausalityResponsibility Void\boxed{ \text{Distributed Causality} \nRightarrow \text{Responsibility Void} }

19. 責任漂移

如果管理者說:

AI 建議的。

工程師說:

CEO 批准的。

AI 供應商說:

我們只是工具。

董事會說:

我們只監督制度。

最後可能形成:

Responsibility Drift\boxed{ \text{Responsibility Drift} }

即:

iRi<Rrequired\sum_i R_i < R_{\text{required}}

實際需要有人承擔的責任,比所有節點願意承擔的總和還大。


20. 責任缺口

定義:

RG=RrequirediRi\boxed{ RG = R_{\text{required}} - \sum_i R_i }

若:

RG>0RG>0

則存在:

Responsibility Gap\text{Responsibility Gap}

成熟治理必須:

RG0RG\rightarrow0

21. 因果—責任錯配

另一種風險是:

CAICHC_{AI}\gg C_H

但:

RHRAIR_H\gg R_{AI}

人類形式上承擔所有責任,

卻對決策內容沒有實質控制。

這可寫成:

Causality–Responsibility Mismatch\boxed{ \text{Causality–Responsibility Mismatch} }

反過來也可能:

CH0C_H\gg0

但企業把責任推給:

AI 系統錯了。

這同樣不合理。


22. 權力分解矩陣 PDM

本文提出:

PDM=Power Decomposition Matrix\boxed{ PDM = \text{Power Decomposition Matrix} }

例如:

Node Agenda Translation Option Recommendation Approval Execution Stop
CEO 極高
Internal AI 極高 極高 極高 0
Board 0 極高
Legal 0
External AI 0 0 0

這比:

誰是決策者?

更接近真實治理。


23. Formal Authority Layer

形式權力至少應明確記錄:

Ai=(Scope,Risk,Reversibility,Duration,DelegationDepth)A_i = ( Scope, Risk, Reversibility, Duration, DelegationDepth )

即權限不是:

0/10/1

而是多維度。

例如:

AI 可以自動退還 50 美元以下退款。

與:

AI 可以決定 50 億美元併購。

是完全不同的權限狀態。


24. Delegation Depth

可定義:

Dd=Delegation Depth\boxed{ D_d = \text{Delegation Depth} }

例如:

HumanAI1AI2ToolHuman \rightarrow AI_1 \rightarrow AI_2 \rightarrow Tool

若權限經多層代理,

則每一層都必須:

AuthoritychildAuthorityparentAuthority_{child} \subseteq Authority_{parent}

避免:

Delegated CapabilityUnauthorized Authority Expansion\text{Delegated Capability} \rightarrow \text{Unauthorized Authority Expansion}

25. AI 可以自己找方案,但不能自己擴權

假設人類說:

幫我把成本降 20%。

AI 可以展開:

Γ\Gamma

找各種方案。

但它不能因為:

最佳方案需要讀取所有員工私人郵件。

就自動取得該權限。

所以:

Intent ExpansionAuthority Expansion\boxed{ \text{Intent Expansion} \nRightarrow \text{Authority Expansion} }

這是 Decision Compiler 與 Authority Gate 必須分離的原因。


26. 執行權比建議權更敏感

當 AI 從:

Recommend\text{Recommend}

進入:

Execute\text{Execute}

治理風險會非線性上升。

因為:

Advice Error\text{Advice Error}

還可以被人類攔截。

但:

Execution Error\text{Execution Error}

可能直接進入世界。

所以:

PEP_E

應比:

PRP_R

受到更嚴格控制。


27. 可逆性決定權力密度

若操作:

ρ1\rho\rightarrow1

高度可逆,

可容許:

PEAIP_E^{AI}\uparrow

若:

ρ0\rho\rightarrow0

高度不可逆,

則:

Verification+HumanApproval+IndependentReview\boxed{ Verification\uparrow + HumanApproval\uparrow + IndependentReview\uparrow }

所以:

Power Allocation=f(Risk,Reversibility,Scope)\boxed{ \text{Power Allocation} = f( Risk, Reversibility, Scope ) }

28. 動態決策中心

即使 AI 在某一類問題:

QAIQHQ_{AI}\gg Q_H

仍不表示它應成為固定中央。

應該是:

P(z)=argmaxiQi(z)P^\ast(z) = \arg\max_i Q_i(z)

其中:

z=(q,x,t,g,r,ρ)z= (q,x,t,g,r,\rho)

所以:

Best NodePermanent Center\boxed{ \text{Best Node} \neq \text{Permanent Center} }

29. 權力路由

未來成熟系統更像:

Dynamic Authority Routing\boxed{ \text{Dynamic Authority Routing} }

例如:

低風險客服:

AIExecuteAI\rightarrow Execute

高額退款:

AIRecommendHuman ApprovalAI\rightarrow Recommend \rightarrow Human\ Approval

重大法律風險:

AI+Legal+ExternalReviewBoardAI + Legal + ExternalReview \rightarrow Board

這比固定「全部由 CEO 決定」更合理。


30. 形式權力與認知權力的分離

傳統領導者同時擁有:

Information Control+Decision Control\text{Information Control} + \text{Decision Control}

AI 時代可能分離成:

Cognitive PowerAI\text{Cognitive Power}_{AI}

與:

Formal PowerHuman\text{Formal Power}_{Human}

所以:

Governance=Coupling of Cognitive Power and Formal Authority\boxed{ \text{Governance} = \text{Coupling of Cognitive Power and Formal Authority} }

這會是未來組織設計的核心問題。


31. 如果 AI 永遠比人類判斷好,形式權力還有意義嗎?

有。

因為權力不只是一個:

optimization problem\text{optimization problem}

它還涉及:

Legitimacy\text{Legitimacy} Rights\text{Rights} Responsibility\text{Responsibility} Value Choice\text{Value Choice} Public Consent\text{Public Consent}

所以:

QAIQHQ_{AI}\gg Q_H

仍不能直接推出:

AAI>AHA_{AI}>A_H

32. 但如果人類永遠只是同意 AI,形式權力可能逐漸空洞化

反過來,

如果:

AcceptanceRate1AcceptanceRate\rightarrow1

且:

OE0OE\rightarrow0

那麼:

AHA_H

雖然存在,

實際上可能只是一個:

legal shell\text{legal shell}

這可稱為:

Authority Hollowing\boxed{ \text{Authority Hollowing} }

33. Authority Hollowing 的判定

可以觀察:

AH=f(AcceptanceRate,IndependentAnalysis,OverrideElasticity,OptionOrigin,RecommendationDependence)AH = f( AcceptanceRate, IndependentAnalysis, OverrideElasticity, OptionOrigin, RecommendationDependence )

若:

AHAH\uparrow

表示:

人類形式權力越來越像簽章,而不是認知決策中心。


34. 這不一定是壞事,但必須被看見

飛機駕駛早已大量依賴自動駕駛。

問題不是:

為什麼人不自己飛?

而是:

自動系統失效時,人是否知道如何接管?

同理:

Authority Hollowing\text{Authority Hollowing}

真正危險的是:

Hollowed Authority+No Takeover Capacity\boxed{ \text{Hollowed Authority} + \text{No Takeover Capacity} }

35. 第三方 AI 會改變權力平衡

如果只有:

AIinternalAI_{internal}

那麼內部 AI 可能成為單一認知中央。

加入:

AIexternalAI_{external}

後,

可以形成:

Cognitive Checks and Balances\boxed{ \text{Cognitive Checks and Balances} }

例如:

AIinternalRecommendation AAI_{internal} \rightarrow Recommendation\ A AIexternalRecommendation CAI_{external} \rightarrow Recommendation\ C

這會迫使人類重新進入:

JudgmentJudgment

36. AI 之間的不一致反而可能保護人類決策能力

如果所有 AI 永遠同意,

人類更容易:

RubberStampRubberStamp

若不同 AI:

DisagreeDisagree

人類必須:

  • 問為什麼;
  • 看證據;
  • 比較假設;
  • 選擇。

所以:

Controlled Epistemic Diversity\boxed{ \text{Controlled Epistemic Diversity} }

可能是一種治理資產。


37. 決策 provenance

每個重大決策至少應保留:

Who framed the problem?
Who generated the options?
Who removed options?
Who generated the risk model?
Who translated the evidence?
Who recommended?
Who approved?
Who executed?
Who could stop?
Who overrode whom?
What evidence existed at the time?
Who bears responsibility?

這就是:

Decision Provenance\boxed{ \text{Decision Provenance} }

38. 沒有 provenance,就無法研究權力

如果事後只知道:

CEO 批准了。

那麼我們看不到:

CAIC_{AI}

也看不到:

PTP_T POP_O PRP_R

所以未來治理透明度的核心,不只是一張簽核表。

而是:

Causal Audit Trail\boxed{ \text{Causal Audit Trail} }

39. 實證指標

未來可追蹤:

39.1 AI Recommendation Acceptance Rate

AR=Naccepted AI recommendationsNAI recommendationsAR = \frac{ N_{\text{accepted AI recommendations}} }{ N_{\text{AI recommendations}} }

39.2 Override Rate

OR=Nhuman overridesNAI recommendationsOR = \frac{ N_{\text{human overrides}} }{ N_{\text{AI recommendations}} }

39.3 Option Origin Share

OOSAI=Nfinal options originated by AINfinal optionsOOS_{AI} = \frac{ N_{\text{final options originated by AI}} }{ N_{\text{final options}} }

39.4 Recommendation Dependency

RD=P(DH=DAI)RD = P( D_H=D_{AI} )

39.5 Counterfactual Decision Change

CDCi=P(DDi)CDC_i = P( D^\ast \neq D^\ast_{-i} )

39.6 Human Takeover Capacity

HTC=Qdecision under AI failureHTC = Q_{\text{decision under AI failure}}

40. 決策因果與責任的二維矩陣

未來可以把節點分成:

類型 因果影響 形式責任
A
B
C
D

最危險的可能是:

B:High Causality, Low Responsibility\boxed{ B: \text{High Causality, Low Responsibility} }

與:

C:Low Causality, High Responsibility\boxed{ C: \text{Low Causality, High Responsibility} }

前者容易形成無責任權力。

後者容易形成替罪羊式責任。


41. 組織不應只要求 human-in-the-loop,而應要求 causal visibility

真正成熟的原則可能是:

Human-in-the-loop+Causal Visibility+Meaningful Override+Responsibility Mapping\boxed{ \text{Human-in-the-loop} + \text{Causal Visibility} + \text{Meaningful Override} + \text{Responsibility Mapping} }

缺一不可。


42. 與前三篇的完整連接

第一篇:

Sparse IntentDecision Compiler\text{Sparse Intent} \rightarrow \text{Decision Compiler}

第二篇:

Decision WorldACTL\text{Decision World} \rightarrow \text{ACTL}

第三篇:

AI AugmentationCompetence Prosthesis\text{AI Augmentation} \rightarrow \text{Competence Prosthesis}

第四篇則問:

When AI shapes the decision, where does power actually reside?\boxed{ \text{When AI shapes the decision, where does power actually reside?} }

所以系列現在形成:

IntentCognitionTranslationAugmentationPower\boxed{ \text{Intent} \rightarrow \text{Cognition} \rightarrow \text{Translation} \rightarrow \text{Augmentation} \rightarrow \text{Power} }

43. 可實證命題

H1:AI 建議接受率越高,不代表 AI 因果份額必然越高

因為:

AcceptanceAcceptance

可能只是同意人類原先想法。

所以:

ARDCSAR \neq DCS

H2:Option-set power 對最終決策的影響可能高於 recommendation power

因為:

unseen option\text{unseen option}

根本不可能被選。


H3:人類 override 能力在高 AI 依賴組織中可能下降

AI DependencyOEAI\ Dependency\uparrow \Rightarrow OE\downarrow

H4:第三方 AI 可提高 epistemic diversity

ExternalAIDissentVisibilityExternalAI\uparrow \Rightarrow DissentVisibility\uparrow

H5:高不可逆決策需要更高權力分散

當:

ρ\rho\downarrow

應:

IndependentReviewIndependentReview\uparrow ApprovalNodesApprovalNodes\uparrow

H6:AI 因果份額增加會提高 provenance 的治理價值

DCSAIValue(Provenance)DCS_{AI}\uparrow \Rightarrow Value(Provenance)\uparrow

44. 研究邊界

本文不主張:

  1. 高 AI 因果影響等於 AI 應擁有法律人格。
  2. 高 AI 因果影響等於 AI 應取得最高權力。
  3. Human-in-the-loop 沒有價值。
  4. 所有人類批准都是橡皮圖章。
  5. 所有 AI 推薦都應被第三方 AI 重算。
  6. Decision Causal Share 可以一次被精確量化。
  7. 高自動化一定造成責任漂移。
  8. 權力分散永遠優於集中。
  9. AI disagreement 本身必然提高決策品質。

45. 結論:未來真正需要治理的,不是「誰按下批准」,而是「誰塑造了決策」

前 AI 時代,組織常以:

Signature\text{Signature}

判定:

Decision Maker\text{Decision Maker}

AI 原生時代,這可能不再足夠。

因為:

ApprovalCausal Construction of Decision\boxed{ \text{Approval} \neq \text{Causal Construction of Decision} }

真正的治理問題將逐步變成:

Who framed?+Who translated?+Who generated options?+Who pruned?+Who recommended?+Who approved?+Who executed?+Who could stop?+Who is responsible?\boxed{ \text{Who framed?} + \text{Who translated?} + \text{Who generated options?} + \text{Who pruned?} + \text{Who recommended?} + \text{Who approved?} + \text{Who executed?} + \text{Who could stop?} + \text{Who is responsible?} }

因此,未來權力不會只存在於一個 CEO、一個董事會或一個 AI。

它可能分布在:

Human-AI Composite Decision System\boxed{ \text{Human-AI Composite Decision System} }

中。

成熟治理的目標不是阻止 AI 具有影響力。

而是確保:

Influence is visible\boxed{ \text{Influence is visible} } Authority is scoped\boxed{ \text{Authority is scoped} } Override is meaningful\boxed{ \text{Override is meaningful} } Responsibility is mapped\boxed{ \text{Responsibility is mapped} } Causality is auditable\boxed{ \text{Causality is auditable} }

只有這樣,人類才不會在形式上保有權力,實際上卻不知道誰在治理;AI 也不會因為能力變強,就在制度上無聲地滑向未被授權的主權。

本文因此再次確認:

CapabilityAuthorityCausalityResponsibility\boxed{ \text{Capability} \neq \text{Authority} \neq \text{Causality} \neq \text{Responsibility} }

這四者的分離與重新耦合,將是 AI 原生治理最核心的制度問題之一。


Appendix A — Decision Causal Graph 最小 Schema

decision:
  id:
  description:
  risk_level:
  reversibility:
  final_outcome:

nodes:
  - id:
    type: human | ai | expert | board | system
    formal_authority:
    responsibility:
    execution_scope:

causal_roles:
  problem_framing:
  evidence_selection:
  translation:
  option_generation:
  option_pruning:
  risk_modeling:
  recommendation:
  approval:
  execution:
  stop_power:
  override:

provenance:
  source_evidence:
  model_versions:
  prompts_or_policy:
  human_inputs:
  external_reviews:
  timestamps:

counterfactuals:
  remove_node:
  alternative_recommendation:
  alternative_outcome:

Appendix B — Power Decomposition Matrix 最小欄位

power_dimensions:
  formal_authority:
  agenda_power:
  translation_power:
  option_set_power:
  recommendation_power:
  execution_power:
  stop_power:

governance_checks:
  meaningful_override:
  independent_review:
  rollback:
  delegation_depth:
  provenance:
  responsibility_mapping:

Appendix C — 系列位置

前篇:

  1. 《從意圖到決策:AI 原生決策編譯器與稀疏意圖治理》
  2. 《說人話也是治理能力:適應性認知轉譯層與跨領域決策可達性》
  3. 《能力義肢:AI 如何提高領導能力下限並遮蔽管理者缺陷》

本篇:

  1. 《形式權力與實際決策因果:人機複合決策系統的權力重新分布》

後續:

  1. 《傲慢作為負認知資本:AI 時代的認識論僵固性與可修正性》
  2. 《外部智能治理:顧問、第三方 AI 與組織認知稽核》
  3. 《AI 與階級流動:能力民主化、資源固化與雙相效應》
  4. 《誰能真正吸收 AI:資源、能力、接受度與組織吸收函數》
  5. 《從假說到實證:全球五百大企業的 AI 決策治理縱向研究設計》