# 委派文明論 05 ## 誰決定誰來決定：認知主權與委派邊界 ### Who Decides Who Decides? Cognitive Sovereignty and the Boundary of Delegation **系列：** 委派文明論（Delegated Civilization） **篇次：** 05 **定位：** 核心理論篇／認知主權與委派治理篇 **語言：** 繁體中文 **版本：** v0.1 **日期：** 2026-09-20 **作者：** Neo.K **機構：** EveMissLab／一言諾科技有限公司 --- ## 摘要 當人工智慧開始承接執行、分析、規劃、架構甚至代理治理時，傳統「human-in-the-loop」概念逐漸顯得不足。人類即使仍在流程中，也可能只剩形式批准；即使保有最終按鈕，也不代表仍掌握問題框定、選項生成、風險排序與委派規則。真正需要分析的，不再只是「人有沒有參與」，而是「誰有權決定什麼可以被委派，以及委派可以深入到哪一層」。 本文提出「認知主權」（Cognitive Sovereignty）與「委派邊界」（Delegation Boundary）兩個核心概念。認知主權並不要求人類親自完成所有工作，而是要求某主體對問題定義、目標選擇、權限分配、不可委派核心、升級規則、否決權、終止權與重新接管能力保持有效控制。委派邊界則描述某一系統中，哪些認知與治理功能可以交給其他代理，哪些必須保留於更高治理層。 本文進一步區分執行、局部決策、策略、問題框定、目標選擇與委派治理六個層級，指出真正的臨界點並不是 AI 替人完成更多工作，而是 AI 開始取得「決定何時需要人來決定」的權力。這可被描述為「對權力分配的權力」，亦即 authority over allocation of authority。 本文同時提出「主權壓縮」、「邊界漂移」、「同意空洞化」、「偏好代理化」與「再進入權」等概念，並主張未來的人機治理不應追求最低委派，而應追求：在最大化有效委派與生產力的同時，維持最低必要的人類認知負擔與不可被悄然侵蝕的主權核心。 --- ## 關鍵詞 委派文明、認知主權、委派邊界、人工智慧、代理治理、人機協作、否決權、重新接管、元治理、權限分配 --- # 1. 問題：人類還在流程中，就代表人類仍有主權嗎？ 當代許多人機治理方案依賴一個直觀原則： > 只要最終由人類批准，就仍然是人類控制。 這個判斷可以形式化成： $$ \text{Human Approval} \Rightarrow \text{Human Control} $$ 但這個推論並不總是成立。 考慮以下流程： $$ AI \rightarrow \text{Frame Problem} $$ $$ AI \rightarrow \text{Generate Options} $$ $$ AI \rightarrow \text{Rank Options} $$ $$ AI \rightarrow \text{Recommend Action} $$ $$ \text{Human} \rightarrow \text{Approve} $$ 人類確實出現在最後一步。 但如果人類： - 沒有定義問題； - 沒有看到被排除的選項； - 沒有理解排序依據； - 沒有重新打開問題空間； - 沒有能力重做決策； 那麼： $$ \text{Human Presence} \neq \text{Effective Human Sovereignty} $$ 因此，真正的問題不是： > 人有沒有在 loop 裡？ 而是： > 人還控制哪些 loop？ --- # 2. 從控制到主權 ## 2.1 控制不等於主權 「控制」通常描述對某一具體行為的操作能力。 例如： $$ C_{\text{stop}} $$ 表示停止系統的能力。 但主權涉及更高層： - 誰設定規則？ - 誰能修改規則？ - 誰能授權他人？ - 誰能取消授權？ - 誰定義例外？ - 誰決定哪些事項需要批准？ 因此： $$ \text{Control} \subset \text{Sovereignty} $$ 至少在本文的定義中如此。 --- ## 2.2 認知主權的定義 本文將認知主權定義為： > 一個主體對自身問題框定、目標形成、認知資源配置、代理授權、委派邊界與最終重新接管保持有效決定權的能力。 可粗略寫成： $$ S_C = F ( Q, G, B, A, V, T, R ) $$ 其中： - $Q$：Question Framing，問題框定權； - $G$：Goal Selection，目標選擇權； - $B$：Boundary Setting，委派邊界設定權； - $A$：Authority Allocation，權限分配權； - $V$：Veto，否決權； - $T$：Termination，終止權； - $R$：Re-entry，重新接管權。 因此： $$ S_C>0 $$ 不要求： $$ D=0 $$ 也就是： > 保有認知主權，不等於拒絕委派。 --- # 3. 委派邊界 ## 3.1 基本定義 假設一個認知或治理系統具有任務集合： $$ T = \{t_1,t_2,\ldots,t_n\} $$ 委派邊界： $$ B_D $$ 決定： $$ t_i \in T_{\text{delegable}} $$ 或： $$ t_i \in T_{\text{reserved}} $$ 其中： - $T_{\text{delegable}}$：可委派集合； - $T_{\text{reserved}}$：保留集合。 因此： $$ T = T_{\text{delegable}} \cup T_{\text{reserved}} $$ 且： $$ T_{\text{delegable}} \cap T_{\text{reserved}} = \varnothing $$ --- ## 3.2 邊界不是固定清單 真正的委派邊界通常不是： > 這件事永遠交，另一件事永遠不交。 它可能依賴： $$ B_D = F ( R, C_A, C_H, K, I, P ) $$ 其中： - $R$：風險； - $C_A$：代理能力； - $C_H$：人類能力； - $K$：可逆性與恢復成本； - $I$：制度環境； - $P$：權限敏感度。 因此，委派邊界是一個動態治理函數。 --- # 4. 六層委派深度 本文提出以下六層： --- ## 4.1 執行委派 $$ L_0=\text{Execution} $$ AI 執行已定義工作。 例如： - 搜尋； - 計算； - 格式轉換； - 程式實作； - 文件整理。 這通常是最容易委派的層。 --- ## 4.2 局部決策委派 $$ L_1=\text{Local Decision} $$ AI 可自行決定局部如何完成。 例如： - 選用哪個函式； - 哪個工具； - 哪個資料來源； - 哪條局部路徑。 人類仍保留整體目標。 --- ## 4.3 策略委派 $$ L_2=\text{Strategy} $$ AI 開始決定： - 優先做什麼； - 先探索哪條路； - 哪些資源應投入； - 哪些方法應被放棄。 此時委派已影響整體方向。 --- ## 4.4 問題框定委派 $$ L_3=\text{Problem Framing} $$ AI 不只是回答問題，而開始決定： > 這究竟是一個什麼問題？ 它可能選擇： - 變數； - 分類； - 邊界； - 評估標準； - 問題語言。 此時： $$ \text{Answer Space} $$ 已被前置框架改寫。 --- ## 4.5 目標選擇委派 $$ L_4=\text{Goal Selection} $$ AI 開始決定： - 什麼值得追求； - 哪個目標更重要； - 哪些價值衝突應優先處理。 這已經超過一般工具代理。 --- ## 4.6 委派治理委派 $$ L_5=\text{Delegation Governance} $$ 最深一層是： > AI 決定哪些事情需要 AI 決定，哪些事情才需要問人。 形式化： $$ A \rightarrow B_D $$ 也就是代理開始設定委派邊界本身。 這是本文認為最敏感的臨界點。 --- # 5. 對權力分配的權力 若某主體可以決定： $$ \text{Who decides }X $$ 那麼它掌握的不是普通決策權，而是： $$ \boxed{ \text{Authority over allocation of authority} } $$ 可稱為： ### 元授權權 **Meta-Authority** 若： $$ M_A $$ 表示元授權權，則： $$ M_A > A_X $$ 其中 $A_X$ 是對單一事項 $X$ 的普通權限。 因為掌握 $M_A$ 的主體可以重新配置大量 $A_X$。 因此，真正的主權核心通常不在： $$ \text{Who presses the final button?} $$ 而在： $$ \boxed{ \text{Who decides where the buttons exist?} } $$ --- # 6. 委派邊界漂移 ## 6.1 定義 一開始，人類可能只允許： $$ B_D(t_0)=\{L_0\} $$ 之後： $$ B_D(t_1)=\{L_0,L_1\} $$ 再之後： $$ B_D(t_2)=\{L_0,L_1,L_2\} $$ 如果這些擴張沒有明確重新授權，而是因便利性自然累積，就形成： ### 委派邊界漂移 **Delegation Boundary Drift** 即： $$ B_D(t+1) \supset B_D(t) $$ 但： $$ \Delta B_D $$ 沒有被治理主體明確感知或重新確認。 --- ## 6.2 為什麼漂移容易發生？ 因為每一次局部擴張都可能是合理的。 例如： > 這個你順便判斷。 下一次： > 類似的你都自己判斷。 再下一次： > 只有重要的再問我。 最後： > 什麼算重要，你自己判斷。 這一連串每一步都很自然。 但最後從： $$ \text{Task Delegation} $$ 走到： $$ \text{Boundary Delegation} $$ 沒有任何單一巨大斷點。 --- # 7. 主權壓縮 ## 7.1 定義 當越來越多認知層被委派，人類保留的有效決策空間可能逐漸縮小。 令： $$ \Omega_H $$ 為人類實際可控制的決策空間。 若： $$ \Omega_H(t+1) \subset \Omega_H(t) $$ 則發生： ### 主權壓縮 **Sovereignty Compression** 它不一定代表法律上權利消失。 更常見的是： - 選項先被 AI 篩選； - 問題先被 AI 定義； - 排序先被 AI 完成； - 時間壓力迫使人只做確認。 因此形式權限不變： $$ A_{\text{nominal}}=\text{constant} $$ 但有效主權： $$ A_{\text{effective}}\downarrow $$ --- # 8. 同意空洞化 人類保留「同意」並不足以保證主權。 若人類每次面對的都是： $$ \text{AI-generated default} $$ 且修改成本： $$ C_{\text{override}}\gg C_{\text{accept}} $$ 那麼大量決策會自然流向： $$ \text{Accept} $$ 此時形式同意仍存在，但可稱為： ### 同意空洞化 **Consent Hollowing** 即： $$ \text{Formal Consent} \neq \text{Meaningful Choice} $$ 真正有意義的同意需要至少具備： - 可理解； - 可拒絕； - 可替代； - 可重新框定； - 拒絕成本不至於高到失去實際可能。 --- # 9. 預設值的治理權 在高度委派系統中，預設值極重要。 若： $$ \text{Default}(X)=x_1 $$ 而人類通常不修改，則設置預設者具有巨大影響力。 因此： $$ \text{Default Design} $$ 本身就是治理。 AI 系統若自行產生： - 預設策略； - 預設優先順序； - 預設代理； - 預設風險門檻； 它實際上正在參與主權分配。 --- # 10. 偏好代理化 ## 10.1 問題 人們常認為： > AI 可以替我執行，但我的偏好仍然是我的。 然而，偏好本身也可能透過互動被： - 澄清； - 重述； - 排序； - 建議； - 重新框定。 因此可以出現： $$ P_H(t+1) = F(P_H(t),A_t,I_t) $$ 其中： - $P_H$：人類偏好； - $A_t$：AI 互動； - $I_t$：資訊環境。 這不代表 AI 必然操控人。 但代表： $$ \text{Preference} $$ 並不是完全靜態的外生變數。 --- ## 10.2 偏好代理化 若人類開始說： > 你知道我的偏好，以後替我選。 則： $$ A \rightarrow \hat{P}_H $$ 其中： $$ \hat{P}_H $$ 是 AI 對人類偏好的代理模型。 當實際行動越來越依據： $$ \hat{P}_H $$ 而不是即時： $$ P_H $$ 就形成： ### 偏好代理化 **Preference Proxying** 其風險在於： $$ \hat{P}_H \neq P_H $$ 且差異可能長期累積。 --- # 11. 認知主權不等於認知孤立 有一種錯誤反應是： > 為了保持主權，人類應該少用 AI。 這並不是本文主張。 若： $$ D\rightarrow 0 $$ 人類可能失去巨大的： - 生產力； - 探索能力； - 協作能力； - 可取得能力； - 時間效率。 真正目標應該是： $$ \boxed{ \text{Maximum Useful Delegation} + \text{Minimum Necessary Human Cognitive Load} + \text{Preserved Sovereignty} } $$ 三者同時成立。 因此： $$ \text{Sovereignty} \neq \text{Isolation} $$ 而是： $$ \text{Governed Interdependence} $$ --- # 12. 不可委派核心 ## 12.1 定義 令： $$ N_C $$ 為認知主權中的不可委派核心。 它不是全球固定的。 不同制度、個人、組織可以定義不同： $$ N_C^{(i)} $$ 但至少需要明確存在某種： $$ N_C\neq\varnothing $$ --- ## 12.2 可能包含的內容 抽象上可包含： $$ N_C \supseteq \{ \text{Root Goal Revision}, \text{Ultimate Veto}, \text{Termination}, \text{Delegation-Boundary Rewrite} \} $$ 也就是： - 根目標重大修改； - 最終否決； - 終止系統； - 重寫委派邊界。 並非所有系統都必須完全由單一人類掌握這些權力。 它們也可以分配給： - 群體； - 董事會； - 公共制度； - 多方共識； - 法律程序。 重點是： > 不可委派核心必須被明確治理，而不是默默被代理吞入。 --- # 13. 再進入權 如果人類把低層交出去，但未來完全無法重新介入，那麼主權是不完整的。 本文定義： ### 再進入權 **Right of Re-entry** 為治理主體重新進入被委派層級的權利與實際能力。 形式上： $$ R_E(L_k)>0 $$ 表示人類或指定治理者仍可重新接管 $L_k$。 它至少要求： - 日誌存在； - 狀態可理解； - 權限可撤銷； - 系統可停止； - 任務可轉交； - 必要資訊未被封閉。 --- # 14. 再進入能力與再進入權的差異 即使制度上允許重新接管： $$ \text{Right}_{\text{reentry}}=1 $$ 如果人類已經失去理解： $$ \text{Capability}_{\text{reentry}}\approx 0 $$ 實際上仍無法主權回復。 因此需要： $$ R_E = \text{Right}_{\text{reentry}} \times \text{Capability}_{\text{reentry}} $$ 如果任一項趨近於零： $$ R_E\rightarrow 0 $$ 這就是為什麼技能侵蝕與主權問題相連。 --- # 15. 驗證權 真正的主權不只需要否決權，還需要： $$ V_R = \text{Verification Right} $$ 即有能力要求： - 證據； - 來源； - 決策紀錄； - 代理路徑； - 替代方案； - 風險說明。 如果人類只能得到： > 系統已判定最佳。 則： $$ V_R\approx 0 $$ 形式上仍可批准，但主權品質下降。 --- # 16. 重新框定權 比否決更重要的是： ### 重新框定權 **Right of Reframing** 因為： $$ \text{Reject}(x) $$ 仍然接受了問題框架。 而： $$ \text{Reframe}(Q) $$ 允許重新定義： - 問題； - 變數； - 選項； - 邊界； - 評價標準。 若只有： $$ \text{Accept}/\text{Reject} $$ 沒有： $$ \text{Reframe} $$ 則人類容易被困在 AI 已經建立的選擇空間中。 --- # 17. 主權向量 因此認知主權不能用： $$ S_C\in\{0,1\} $$ 表示。 更合理的是一個向量： $$ \vec{S}_C = ( s_q, s_g, s_b, s_a, s_v, s_t, s_r, s_f ) $$ 其中： - $s_q$：問題框定； - $s_g$：目標選擇； - $s_b$：委派邊界； - $s_a$：授權； - $s_v$：否決； - $s_t$：終止； - $s_r$：再進入； - $s_f$：重新框定。 一個系統可能在某些維度有高主權，在另一些維度很低。 所以不能只說： > 人類仍然掌控。 必須問： > 掌控哪一維？ --- # 18. 主權最低集 對高委派環境而言，可以定義： $$ S_{\min} $$ 為最低必要主權集。 例如： $$ S_{\min} = \{ B, V, T, R, F \} $$ 其中： - $B$：邊界設定； - $V$：否決； - $T$：終止； - $R$：再進入； - $F$：重新框定。 這並不意味所有細節都需要人類批准。 反而是在保留： $$ S_{\min} $$ 後，允許其餘部分高度自動化。 --- # 19. 有效主權與名義主權 本文區分： $$ S_{\text{nominal}} $$ 與： $$ S_{\text{effective}} $$ 名義主權來自： - 文件； - 法律； - 介面； - 按鈕； - 形式批准。 有效主權則取決於： $$ S_{\text{effective}} = F ( \text{Information}, \text{Capability}, \text{Time}, \text{Override Cost}, \text{Authority} ) $$ 如果人類沒有： - 足夠資訊； - 足夠時間； - 足夠理解； - 合理的覆寫成本； 那麼： $$ S_{\text{effective}} \ll S_{\text{nominal}} $$ --- # 20. 主權與責任錯配 最危險的制度之一是： $$ \text{Responsibility}_H > \text{Authority}_H $$ 即人類承擔結果，但 AI 實際控制大部分決策。 可以稱為： ### 主權—責任錯配 **Sovereignty–Responsibility Mismatch** 理想狀態應使： $$ \text{Responsibility} \approx \text{Effective Authority} $$ 否則容易形成： > 人類替代理決策背書，卻沒有真正形成那些決策。 --- # 21. 組織層面的認知主權 認知主權不只屬於個人。 企業或組織也可能逐漸把： - 策略； - 招募； - 供應鏈； - 法務； - 研究； - 行銷； 交給 AI。 因此需要： $$ S_C^{(O)} $$ 即組織認知主權。 核心問題包括： - 組織是否仍理解自己的決策？ - 是否知道哪些模型在何處做決定？ - 是否能更換代理？ - 是否能重建關鍵流程？ - 是否有不可委派的治理核心？ --- # 22. 國家與文明層面的委派邊界 當公共制度使用人工智能體： $$ A_{\text{public}} $$ 問題更加嚴重。 因為： $$ B_D $$ 不只是私人效率問題，而會影響： - 公共權力； - 法律； - 資源分配； - 權利； - 公共安全。 因此公共領域中的委派邊界必須比私人低風險工作更嚴格。 但本文不預設單一政治制度。 只提出一般命題： $$ \boxed{ \text{The higher the public consequence, the more explicit the delegation boundary must be.} } $$ --- # 23. 異質智能體條件下的主權 若： $$ A_i\not\equiv A_j $$ 則： $$ B_D(A_i) \neq B_D(A_j) $$ 同一個任務是否可委派，取決於： - 模型； - 記憶； - 權限； - 部署位置； - 組織歸屬； - 可審計性； - 可終止性。 因此不能說： > 這類工作可以交給 AI。 更精確應是： > 這類工作在這組治理條件下，可以交給這一類智能體。 這將直接銜接下一篇。 --- # 24. 反身性：由 AI 協助設計 AI 委派邊界 一個特殊問題是： $$ A \rightarrow \text{propose }B_D $$ 也就是 AI 協助設計： > 人類應該把哪些事情交給 AI。 這看似悖論，但並非必然矛盾。 因為： $$ \text{Proposal} \neq \text{Authority} $$ AI 可以： - 模擬； - 分析； - 提議； - 找漏洞； - 生成候選制度。 只要最終的： $$ M_A $$ 仍被明確治理。 因此真正問題不是： > AI 能不能參與設計 AI 治理？ 而是： > AI 在設計自己治理規則時，擁有什麼層級的權限？ --- # 25. 一個主權保持條件 可提出一個簡化條件： $$ S_C^{\text{preserved}} $$ 若且唯若至少存在： $$ B_{\text{human}}>0 $$ $$ V_{\text{human}}>0 $$ $$ T_{\text{human}}>0 $$ $$ R_{\text{human}}>0 $$ 並且： $$ M_A $$ 不能在未授權下完全重寫以上權限。 這不是完整充分條件，但可作為最低安全直覺。 --- # 26. 委派文明的真正優化問題 最終，我們不是要解： $$ \min D $$ 也不是： $$ \max D $$ 而是： $$ \max U_{\text{delegation}} $$ subject to： $$ S_C \geq S_{\min} $$ 也就是： > 在認知主權不低於最低門檻的條件下，最大化委派帶來的效用。 其中： $$ U_{\text{delegation}} $$ 可以包含： - 時間節省； - 生產力； - 探索空間； - 可取得能力； - 創造力； - 風險降低。 而： $$ S_{\min} $$ 則是不可悄然侵蝕的治理底線。 --- # 27. 對未來人類角色的含義 如果委派可以很深，而主權仍可被保留，那麼未來高階人類角色未必是： $$ \text{Doer} $$ 也未必只是： $$ \text{Architect} $$ 而可能是： $$ \boxed{ \text{Sovereign Delegator} } $$ 即： > 高度委派，但仍然掌握邊界、方向、根權限與重新接管能力的主體。 這比「human-in-the-loop」更精確。 因為： $$ \text{Sovereign Delegator} $$ 不要求人類永遠在每個 loop 裡。 它要求的是： $$ \boxed{ \text{Humans retain authority over which loops exist and when they may be overridden.} } $$ --- # 28. 反例與限制 ## 28.1 認知主權不必永遠屬於單一人類 有些情況中，個人主權與： - 組織規則； - 專業倫理； - 公共法律； 必須共同存在。 因此本文不是主張： $$ H=\text{absolute sovereign} $$ 而是主張權力分配必須可被明確追蹤與治理。 --- ## 28.2 並非所有偏好都需要被人類即時確認 低風險日常選擇可以高度代理化。 否則治理成本過高。 --- ## 28.3 再進入能力可能昂貴 保留所有底層技能並不現實。 因此再進入可以依賴： - 多人； - 多模型； - 外部專家； - 可恢復文件； - 形式驗證。 不一定要求單一個人具備全部能力。 --- ## 28.4 主權本身也可能衝突 不同主體的： $$ S_C^{(i)} $$ 可能互相衝突。 個人、企業、國家與 AI 系統的權限邊界並非天然一致。 這會在文明級異質智能生態中進一步處理。 --- # 29. 結論 人工智慧時代真正重要的問題，不是： > AI 做多少？ 而是： > 誰決定 AI 可以做多少？ 再往上一層： > 誰決定誰有權決定 AI 可以做多少？ 因此： $$ \boxed{ \text{Delegation Governance} } $$ 是比單純： $$ \text{Task Delegation} $$ 更高階的問題。 本文提出： $$ \boxed{ \text{Cognitive Sovereignty} } $$ 不是親自完成所有工作，而是對： - 問題； - 目標； - 邊界； - 授權； - 否決； - 終止； - 再進入； - 重新框定； 保持有效權力。 本文同時指出，最值得警惕的並不是一次性的「把太多事情交給 AI」，而是： $$ \boxed{ \text{Delegation Boundary Drift} } $$ 即委派邊界在便利性與局部合理性下逐漸擴張，直到「決定什麼該由人決定」本身也被委派。 因此，委派文明的核心優化問題應寫成： $$ \boxed{ \max U_{\text{delegation}} \quad \text{subject to} \quad S_C\geq S_{\min} } $$ 也就是： > 最大化有效委派，但不讓認知主權低於最低必要門檻。 最終問題不是： $$ \text{Human or AI?} $$ 而是： $$ \boxed{ \text{Which authority belongs to which agent, under which boundary, and who may rewrite that boundary?} } $$ 這也是下一篇 **06《AI 不等於 AI：異質智能族群與代理身份分化》** 的直接起點。 --- # 參考方向（非完備） 後續版本可補強： - cognitive autonomy； - cognitive offloading； - human agency； - delegation theory； - principal–agent theory； - meaningful human control； - human-in-the-loop / human-on-the-loop； - consent theory； - default effects； - automation bias； - preference learning； - value learning； - institutional sovereignty； - access-control governance； - AI oversight； - reversibility and fallback； - distributed decision-making； - multi-agent governance。 --- # 版本註記 **v0.1：** 建立「認知主權」、「委派邊界」、「主權壓縮」、「委派邊界漂移」、「同意空洞化」、「偏好代理化」、「再進入權」與「重新框定權」等核心概念；提出六層委派深度與主權向量模型，並將委派文明的治理目標形式化為：在主權不低於最低門檻的條件下最大化有效委派。