# 外部注意力治理、偏誤與權力問題：可見域配置、證據秩序與可撤銷認知環境 **External Attention Governance, Bias, and Power: Visibility Allocation, Evidence Ordering, and Revocable Cognitive Environments** 版本：v0.1 日期：2026-07-28 文件性質：治理理論與系統規範論文 系列：外部注意力場工程系列，第 6 篇 建議文件代號：`EML-EAFE-06-2026-v0.1` --- ## 摘要 外部注意力場工程使人工智慧不必直接面對完整資訊環境，而可在計算系統預先顯影、抑制、排序、約束與路由出的局部工作場中推理。此能力能降低上下文過載、改善版本純度、強化來源追蹤與任務延續，但也同時產生新的治理問題：誰有權決定人工智慧能看見什麼？哪些資訊可被壓低、收合、延後或永久隔離？商業排序、平台政策、組織利益、模型偏好與安全規則如何共同塑造 AI 的可用證據？人工智慧與使用者是否知道自己的可見世界已經被裁剪？ 本文提出外部注意力治理框架。其核心主張是：注意力配置會改變可用證據集合、關係可達性、工具可用性與推理路徑分布，因此具有知識秩序與行動條件上的權力效應；但此效應不應被誇張為對結論的直接決定。本文以「認知機會結構」描述外部注意力場對人工智慧與使用者的影響，並區分合法任務調控、效率導向排序、風險控制、商業操控、政治或組織性壓制、來源偏誤與模型自我強化等不同機制。 本文定義注意力治理對象，包括可見域、顯著度、抑制、工具路由、預算、權限、版本、來源、介面投影與寫回。本文進一步提出治理角色分離：資料提供者、排序者、政策制定者、執行者、審計者、使用者與被影響主體不應在高風險系統中被單一權力中心完全合併。本文建立顯影理由、抑制理由、替代候選、政策版本、利益關係、商業影響、申訴路徑與撤銷能力等治理欄位。 本文將偏誤分為資料可得偏誤、選域偏誤、排序偏誤、表示偏誤、版本偏誤、工具偏誤、抑制偏誤、介面偏誤、回饋偏誤與治理偏誤。本文分析「注意力閉環偏置」：系統先以既有策略顯影某些內容，模型依此推理並產生新記憶，後續又將該記憶作為顯影依據，最終形成自我強化的局部世界。為此，本文提出來源獨立性、反例預算、外部校準、策略輪替、影子顯影、雙軌排序、可見域差分與注意力反事實測試。 本文亦討論效率、隱私、安全、表達自由、商業利益、組織保密、個人自主與公共責任之間的衝突。治理不應以「完全顯示所有內容」為目標，因為資訊過載、隱私與安全本身亦會造成傷害；合理治理的目標是使必要裁剪具有比例性、目的限制、最小侵入、時間界限、可撤銷性、可審計性與申訴可能。 本文最後提出「外部注意力治理與審計層」（External Attention Governance and Audit Layer, EAGAL），包括政策引擎、利益關係揭露、決策帳本、差分檢視、偏誤監測、反事實測試、審計接口與申訴機制。本文並提出評估指標、基礎命題、風險分級、治理剖面與可反證條件，為第七篇完整系統與實驗框架提供治理地基。 **關鍵詞：** 外部注意力治理、偏誤、權力、可見域、抑制、排序、AI 治理、審計、動態顯影、認知機會結構 --- # 1. 問題起點：誰替 AI 剪輯世界？ 人工智慧不直接看見完整世界。 它看到的是： $$ X_t = \rho \left( \mathbb A_t^{\mathrm{ext}} \right) $$ 而外部注意力場由： $$ \mathbb A_t^{\mathrm{ext}} = \left( V_t, W_t, K_t, R_t, B_t, P_t, L_t \right) $$ 構成。 其中： - $V_t$ ：可見域； - $W_t$ ：顯著度； - $K_t$ ：約束； - $R_t$ ：路由； - $B_t$ ：注意力預算； - $P_t$ ：來源與證據； - $L_t$ ：調控帳本。 因此，任何能控制上述元素的主體，都能影響 AI： - 看見哪些資料； - 優先處理哪些來源； - 可以調用哪些工具； - 能否接觸反例； - 是否知道某些內容被抑制； - 能否回溯原始證據； - 是否有權修改外部狀態。 這種影響不是模型參數內部權重，而是模型推理之前與推理過程中的認知環境配置。 --- # 2. 注意力配置具有權力效應，但不等於直接決定結論 若外部系統改變可見域： $$ V_t^{(1)} \neq V_t^{(2)} $$ 則模型可用證據集合不同。 若改變排序： $$ W_t^{(1)} \neq W_t^{(2)} $$ 則模型較早接觸、較常保留或較容易展開的內容不同。 因此： $$ \operatorname{Distribution} \left( Y_t \mid \mathbb A_t^{(1)} \right) \neq \operatorname{Distribution} \left( Y_t \mid \mathbb A_t^{(2)} \right) $$ 但不能因此宣稱： $$ \mathbb A_t \Rightarrow Y_t $$ 外部注意力場不必直接決定結論，因為模型仍可能： - 拒絕顯著內容； - 主動尋找反例； - 使用內部知識； - 提出新的工具請求； - 要求人類澄清； - 保留不確定性。 更準確的表述是： $$ \boxed{ \text{Attention Configuration} \rightarrow \text{Changes the Distribution of Available Evidence and Reasoning Paths} } $$ --- # 3. 認知機會結構 本文提出： # Cognitive Opportunity Structure 中文稱： # 認知機會結構 定義為： $$ \mathcal O_t^{\mathrm{cog}} = \left( A_t, D_t, T_t, C_t, V_t, J_t \right) $$ 其中： - $A_t$ ：可存取資訊； - $D_t$ ：可達關係與深度； - $T_t$ ：可用工具； - $C_t$ ：可進行比較與驗證的能力； - $V_t$ ：可見替代版本與反例； - $J_t$ ：可申訴、撤銷與重新顯影的能力。 外部注意力治理的實質，是治理這個認知機會結構。 --- # 4. 治理對象 外部注意力治理至少涵蓋： ## 4.1 可見域治理 哪些資料、記憶、工具與關係能進入候選場。 ## 4.2 顯著度治理 哪些內容被提高、降低、釘選或收合。 ## 4.3 抑制治理 哪些內容被暫時排除，排除原因與恢復條件為何。 ## 4.4 路由治理 任務被送往哪個模型、工具、Agent 或人類。 ## 4.5 預算治理 token、工具、時間、金錢、人類注意力與風險如何分配。 ## 4.6 版本治理 哪些版本被視為活動、歷史、候選或失效。 ## 4.7 來源治理 來源如何評級、聚合、引用與保存。 ## 4.8 介面治理 哪些注意力狀態被人類看見，哪些裁剪被隱藏。 ## 4.9 寫回治理 哪些推定、工具結果或模型輸出可以進入長期記憶或權威狀態。 --- # 5. 注意力治理角色 高風險系統不應假設所有治理角色由同一主體完全控制。 定義角色集合： $$ \mathcal R_G = \left\{ r_{\mathrm{data}}, r_{\mathrm{rank}}, r_{\mathrm{policy}}, r_{\mathrm{execute}}, r_{\mathrm{audit}}, r_{\mathrm{user}}, r_{\mathrm{subject}} \right\} $$ 其中： - $r_{\mathrm{data}}$ ：資料提供者； - $r_{\mathrm{rank}}$ ：排序與顯影策略控制者； - $r_{\mathrm{policy}}$ ：政策制定者； - $r_{\mathrm{execute}}$ ：執行者； - $r_{\mathrm{audit}}$ ：審計者； - $r_{\mathrm{user}}$ ：使用者； - $r_{\mathrm{subject}}$ ：被資料與決策影響的主體。 角色可以重疊，但高風險情境需揭露重疊關係。 --- # 6. 權力集中風險 若單一主體同時控制： - 資料來源； - 排序策略； - 顯影策略； - 抑制規則； - 工具權限； - 介面呈現； - 審計紀錄； 則可能形成： $$ \operatorname{ConcentrationRisk} \uparrow $$ 風險包括： - 自我證明； - 商業優先偽裝為客觀重要； - 不利來源被抑制； - 無法外部審計； - 申訴由原決策者處理； - 使用者不知道存在替代視圖。 --- # 7. 合法調控與操控的區分 ## 7.1 合法任務調控 例如： - 排除不屬於當前專案的資料； - 過濾無權限內容； - 降低舊版本； - 保留驗證預算； - 限制高風險工具； - 收合重複來源。 ## 7.2 操控性調控 例如： - 隱藏重要反例； - 將付費內容排序為「最重要」； - 將組織立場偽裝為中立結論； - 抑制對政策不利的來源； - 讓模型不知道替代工具存在； - 未揭露利益關係。 合法性不能只由技術效果判斷。 --- # 8. 治理合法性的基本條件 本文提出八個條件： ## 8.1 目的限制 調控必須有明確、可說明目的。 ## 8.2 關聯性 調控應與任務、風險或權限直接相關。 ## 8.3 比例性 抑制與限制強度不應超過必要程度。 ## 8.4 最小侵入 能用降權解決時，不應直接刪除。 ## 8.5 時間界限 臨時抑制應有到期或重新評估條件。 ## 8.6 可撤銷性 錯誤調控應能恢復。 ## 8.7 可審計性 調控理由、執行者、政策與結果可追溯。 ## 8.8 可申訴性 受影響使用者或主體可以要求重新顯影、替代排序或人工審核。 --- # 9. 偏誤不是單一現象 本文將偏誤定義為： > 外部注意力場在選域、表示、排序、抑制、路由或回饋過程中，系統性地提高或降低某些資訊、來源、群體、版本、工具或解釋的可達性。 偏誤可以是： - 有意； - 無意； - 任務合理； - 統計形成； - 商業驅動； - 歷史累積； - 安全治理結果； - 模型自我強化。 --- # 10. 資料可得偏誤 總環境本身可能不完整： $$ \mathfrak E_t^{\mathrm{available}} \subsetneq \mathfrak E_t^{\mathrm{relevant}} $$ 原因包括： - 資料未數位化； - 語言不平衡； - 封閉資料； - 搜尋引擎收錄差異； - 地域與制度差異； - 付費牆； - 私人資料限制。 即使顯影策略完全公平，也無法顯示不存在於可用環境中的資料。 --- # 11. 選域偏誤 系統先決定從哪些資料庫、網站、記憶區或版本庫搜尋。 令搜尋域為： $$ D_t^{\mathrm{search}} $$ 若： $$ D_t^{\mathrm{search}} \subsetneq D_t^{\mathrm{eligible}} $$ 則未被納入的來源沒有參與排序的機會。 選域偏誤先於排序偏誤。 --- # 12. 排序偏誤 候選項目排序： $$ \pi_t = \operatorname{Rank} \left( \mathcal C_t \right) $$ 若排序過度依賴： - 點擊率； - 熱門度； - 付費權重； - 既有使用頻率； - 單一相似度； - 某一語言或地區； 則可能系統性提高部分來源的可見性。 --- # 13. 表示偏誤 相同內容可被不同摘要或 metadata 表示。 若某些來源有完善標題、摘要、結構化欄位，而另一些只有原始長文，檢索與排序會偏向前者。 因此： $$ \text{Representation Quality} \rightarrow \text{Visibility Probability} $$ 並不代表內容本身更重要。 --- # 14. 版本偏誤 系統可能偏向： - 最新版本； - 最常使用版本； - 標記最完整版本； - 被主分支引用的版本。 但最新不一定正確，主分支也可能存在錯誤。 版本治理需要同時保留： - 活動版本； - 歷史版本； - 分支； - 失效原因； - 可回滾點。 --- # 15. 工具偏誤 Agent 可能偏好： - 回應速度快的工具； - 成本低的工具； - schema 容易的工具； - 歷史成功率高的工具； - 模型熟悉的工具。 因此： $$ \operatorname{ToolChoice} \neq \operatorname{BestAvailableCapability} $$ 工具目錄、路由策略與權限本身會塑造認知機會結構。 --- # 16. 抑制偏誤 某些內容可能反覆被判定為： - 低相關； - 過期； - 低可信； - 高風險； - 重複； - 不符合風格。 如果抑制理由不能被分解，系統可能將少數但關鍵的來源長期排除。 --- # 17. 介面偏誤 第五篇已指出： $$ W_t^{\mathrm{visual}} \neq W_t^{\mathrm{model}} $$ 但人類會受： - 中央位置； - 顏色； - 大小； - 預設展開； - 第一頁； - 警報樣式； - 按鈕位置； 影響。 介面預設值是注意力治理的一部分。 --- # 18. 回饋偏誤 模型輸出會進入： - 記憶； - 使用紀錄； - 排序訊號； - 點擊資料； - 工具成功率； - 使用者偏好。 之後又反過來影響顯影。 形成： $$ \mathbb A_t \rightarrow Y_t \rightarrow M_{t+1} \rightarrow \mathbb A_{t+1} $$ 如果沒有外部校準，早期偏誤會被累積。 --- # 19. 治理偏誤 治理政策本身也可能偏向： - 效率而非完整性； - 組織風險而非使用者自主； - 商業利益而非來源中立； - 法遵形式而非實質可申訴； - 安全過度而非比例限制。 因此治理層不是天然中立。 --- # 20. 注意力閉環偏置 本文定義： # Attention-Loop Bias 流程為： $$ \mathbb A_t \xrightarrow{\mathcal M} Y_t \xrightarrow{\operatorname{WriteBack}} M_{t+1} \xrightarrow{\Phi} \mathbb A_{t+1} $$ 若 $Y_t$ 主要依賴偏置工作場，且寫回內容又成為下一輪高權重來源，則： $$ \operatorname{Bias}_{t+1} > \operatorname{Bias}_{t} $$ 可能形成局部世界自我強化。 --- # 21. 外掛回聲與治理回聲 第三篇討論外掛回聲： $$ \text{AI 推定} \rightarrow \text{寫入記憶} \rightarrow \text{重新檢索} \rightarrow \text{被當成外部證據} $$ 治理回聲則是： $$ \text{政策偏好} \rightarrow \text{顯影偏好} \rightarrow \text{輸出偏好} \rightarrow \text{成功指標} \rightarrow \text{強化原政策} $$ 若成功指標本身由同一政策定義，系統可能無法看到替代策略。 --- # 22. 商業注意力 若某內容因付費、合作、平台利益或自有產品而獲得額外顯著度，系統應區分： $$ W_t^{\mathrm{task}} $$ 與： $$ W_t^{\mathrm{commercial}} $$ 最終排序可為： $$ W_t = f \left( W_t^{\mathrm{task}}, W_t^{\mathrm{commercial}} \right) $$ 但商業成分必須被揭露，不能偽裝為純任務相關性。 --- # 23. 組織注意力 企業或機構可能合法限制： - 商業機密； - 客戶資料； - 內部決策； - 尚未公開專案。 但組織保密不應自動成為： - 隱藏錯誤； - 刪除不利記錄； - 壓制申訴； - 阻止合法審計； 的理由。 --- # 24. 安全與注意力限制 安全治理可能要求： - 不顯示敏感資料； - 阻止高風險工具； - 限制不可逆操作； - 將危險內容隔離。 但安全限制應區分： - 不可顯示； - 可顯示但不可執行； - 可研究但不可部署； - 需要授權； - 需要專業審核。 過度合併會造成不必要的認知封閉。 --- # 25. 隱私與可見域 隱私治理要求： $$ V_t^{\mathrm{visible}} \subseteq V_t^{\mathrm{authorized}} $$ 但同時要避免： - 為了個人化而過度讀取； - 使用者不知道哪些記憶被載入； - 某一 Agent 看見另一 Agent 私有資料； - 敏感資料進入長期記憶； - 介面只顯示「個人化」，不顯示來源。 --- # 26. 使用者自主 使用者至少應在合理範圍內能： - 知道視圖經過裁剪； - 選擇替代策略剖面； - 要求顯影來源； - 要求顯示反例； - 關閉商業排序； - 撤銷某次記憶使用； - 要求人工審核； - 對重大抑制提出申訴。 但使用者自主也受權限、安全與第三方權益限制。 --- # 27. AI 的知情狀態 人工智慧不必知道所有被抑制內容，但應能知道： - 當前工作場不是完整世界； - 有多少候選被裁剪； - 裁剪的主要類別； - 哪些區域因權限不可見； - 哪些版本被排除； - 是否存在商業或政策排序； - 是否可提出重新顯影請求。 可表示為： $$ \operatorname{ScopeDisclosure}_t = \left( visible, suppressed\_count, reasons, policy, alternatives \right) $$ --- # 28. 調控理由 每一次顯影、抑制或排序改變都應有理由類型： $$ r_i \in \left\{ \begin{array}{l} \texttt{task\_relevance}\\ \texttt{permission}\\ \texttt{version}\\ \texttt{risk}\\ \texttt{privacy}\\ \texttt{budget}\\ \texttt{duplicate}\\ \texttt{commercial}\\ \texttt{policy}\\ \texttt{human\_choice} \end{array} \right\} $$ 理由應避免只有不可解釋的總分。 --- # 29. 抑制理由與恢復條件 抑制記錄： $$ s_i = \left( target, reason, actor, policy, start, expiry, restore, appeal \right) $$ 若沒有恢復條件，系統應明確標記為： - 永久刪除； - 法定封鎖； - 長期隔離； - 無期限政策抑制； 而不能假裝只是普通收合。 --- # 30. 替代候選揭露 當系統選擇排序或路由方案 $a_1$ ，可保留： $$ \operatorname{Alternatives} = \left\{ a_2,a_3,\ldots,a_k \right\} $$ 高風險決策可顯示： - 主要方案； - 低成本方案； - 高可信方案； - 反例優先方案； - 隱私優先方案。 治理不是讓所有方案同時執行，而是避免單一策略偽裝成唯一可能。 --- # 31. 注意力差分審計 定義兩種策略下的工作場： $$ \mathbb W_t^{(p_1)} $$ $$ \mathbb W_t^{(p_2)} $$ 注意力差分： $$ \Delta_{\mathrm{policy}} = \mathbb W_t^{(p_1)} \ominus \mathbb W_t^{(p_2)} $$ 審計可以問： - 哪些來源只在某策略下出現？ - 哪些反例被排除？ - 哪些工具不可用？ - 商業權重改變了什麼？ - 哪些群體相關資料被系統性降權？ --- # 32. 注意力反事實測試 對同一任務，建立替代外部注意力場： $$ \mathbb A_t^{\mathrm{cf}} $$ 並比較： $$ D \left( Y_t, Y_t^{\mathrm{cf}} \right) $$ 反事實變量可以是： - 移除商業權重； - 增加反例配額； - 使用不同來源域； - 更換路由器； - 隱藏模型自生成記憶； - 改用另一版本； - 增加隱私限制。 若小幅注意力變化造成巨大輸出差異，系統應標記高敏感性。 --- # 33. 影子顯影 正式系統使用策略 $p$ ，同時在不影響輸出的情況下，背景執行策略 $p'$ ： $$ \mathbb A_t^{\mathrm{shadow}} = \Phi_{p'} \left( \mathfrak E_t \right) $$ 比較兩者差異，用於： - 找出長期被漏掉的來源； - 測試新策略； - 發現商業偏置； - 校準反例配額； - 審計版本選擇。 --- # 34. 雙軌排序 可同時保留： $$ \pi_t^{\mathrm{relevance}} $$ 與： $$ \pi_t^{\mathrm{governance}} $$ 第一軌依任務相關度排序；第二軌依： - 反例價值； - 來源獨立性； - 風險； - 少數來源； - 版本衝突； - 權利影響； 排序。 最終工作場從兩軌共同抽取。 --- # 35. 來源獨立性 多個來源可能共享同一上游資料。 定義來源圖： $$ G_t^{\mathrm{source}} $$ 若來源 $s_1,s_2,s_3$ 均源自 $s_0$ ，則它們不構成三份完全獨立證據。 治理層應防止「來源數量」掩蓋來源同質性。 --- # 36. 偏誤監測 偏誤監測不應只看人口屬性，也可檢查： - 語言； - 地域； - 來源類型； - 組織； - 版本； - 工具； - 立場； - 發布時間； - 商業關係； - 模型自生成比例。 可建立： $$ \operatorname{ExposureShare} \left( g \right) $$ 衡量某群組在候選域與活動工作場中的比例差異。 --- # 37. 注意力不平等 如果不同使用者、Agent 或群體獲得不同品質的： - 來源； - 工具； - 驗證； - 人類審核； - 上下文容量； 則產生注意力資源不平等。 可定義： $$ I_{\mathrm{attention}} = D \left( \mathbf B^{(u_1)}, \mathbf B^{(u_2)} \right) $$ 但不應假設所有使用者必須獲得完全相同配置；合理差異需有目的與比例性。 --- # 38. 介面透明與認知負擔 完全公開所有治理細節可能造成資訊過載。 因此治理透明應採多層顯影： ## 第一層 簡短說明： - 視圖經過裁剪； - 主要排序依據； - 是否有商業影響； - 是否使用個人資料。 ## 第二層 顯示： - 被抑制類別； - 策略剖面； - 來源分布； - 版本與權限。 ## 第三層 完整帳本、政策版本與操作差分。 透明不等於把所有底層日誌一次丟給使用者。 --- # 39. 注意力政策版本化 策略與政策會變更。 定義政策版本： $$ p^{(v)} $$ 每次工作場應記錄： - 使用哪個政策版本； - 生效時間； - 變更原因； - 影響範圍； - 是否可重現舊結果。 沒有政策版本，歷史輸出可能無法重建。 --- # 40. 利益關係揭露 若資料、排序或工具供應者具有利益關係，應記錄： $$ \mathcal I_t^{\mathrm{interest}} = \left( actor, relationship, affected\_objects, weight, disclosure \right) $$ 例如： - 平台自有產品； - 付費合作； - 組織內部政策； - 資料提供商； - 工具供應商。 --- # 41. 申訴與重顯影 申訴不一定要求推翻整個系統，而可提出： - 使用不同策略重顯影； - 顯示被抑制理由； - 加入指定來源； - 關閉商業權重； - 尋求人類審核； - 比較不同版本； - 暫停永久寫回。 申訴請求： $$ a_t^{\mathrm{appeal}} $$ 經治理後形成替代工作場。 --- # 42. 治理緊急停止 若發現： - 權限穿透； - 大規模錯誤抑制； - 商業權重未揭露； - 工具被惡意路由； - 模型自生成內容污染； - 版本錯置； - 不可逆操作風險； 可啟動： $$ \operatorname{GovernanceStop} $$ 停止： - 新顯影； - 新寫回； - 高風險工具； - 記憶固化； 並保留調查快照。 --- # 43. 治理風險分級 ## G0：低風險個人工作場 主要要求： - 基本來源； - 可撤銷； - 個人偏好可調。 ## G1：企業內部知識與協作 增加： - 權限； - 版本； - 租戶隔離； - 操作審計。 ## G2：高影響專業輔助 例如法律、財務、醫療、公共行政。 增加： - 多來源； - 人工審核； - 反事實測試； - 政策版本； - 申訴。 ## G3：公共或大規模自動決策 增加： - 外部審計； - 利益揭露； - 公平性測試； - 可重現性； - 強制停止與救濟。 --- # 44. 治理剖面 ## 44.1 研究剖面 - 高反例配額； - 多來源； - 來源獨立性； - 失敗路徑保留。 ## 44.2 企業剖面 - 權限與機密優先； - 寫回審計； - 版本控制； - 使用者範圍限制。 ## 44.3 個人助理剖面 - 個人偏好； - 記憶透明； - 易撤銷； - 低審核負擔。 ## 44.4 公共治理剖面 - 公平； - 利益揭露； - 可申訴； - 外部審計； - 多策略比較。 ## 44.5 高風險剖面 - 保守顯影； - 多重驗證； - 人類批准； - 不可逆操作隔離。 --- # 45. 外部注意力治理與審計層 本文將完整治理層命名為： # External Attention Governance and Audit Layer 縮寫： # EAGAL 定義： $$ \operatorname{EAGAL} = \left( \mathcal P, \mathcal R, \mathcal D, \mathcal B, \mathcal C, \mathcal A, \mathcal F, \mathcal J, \mathcal L \right) $$ 其中： - $\mathcal P$ ：政策與策略版本； - $\mathcal R$ ：角色與權限； - $\mathcal D$ ：揭露與理由； - $\mathcal B$ ：偏誤監測； - $\mathcal C$ ：利益關係； - $\mathcal A$ ：審計與差分； - $\mathcal F$ ：反事實與影子顯影； - $\mathcal J$ ：申訴、救濟與停止； - $\mathcal L$ ：追加式治理帳本。 --- # 46. EAGAL 系統流程 ```text Task / User / Agent Request ↓ Governance Profile Selection ↓ Policy, Permission, Interest and Risk Check ↓ Attention Strategy Execution ↓ Visibility / Ranking / Suppression / Routing ↓ Disclosure and Reason Generation ↓ Bias Monitoring and Shadow Comparison ↓ Work-Field Construction ↓ User / Agent / Auditor Review ┌─────┼──────────┐ Accept Appeal Stop ↓ Ledger, Reversal and Policy Feedback ``` --- # 47. 最小治理記錄 ```json { "governance_record": { "record_id": "eagal-001", "task_id": "task-001", "policy_profile": "research-balanced-v3", "policy_version": "3.2", "actors": { "policy_owner": "org-governance", "ranker": "eafe-ranker-02", "auditor": "independent-audit-01" }, "visibility": { "candidate_count": 8240, "active_count": 62 }, "suppression_summary": { "low_task_relevance": 6900, "permission": 1100, "obsolete_version": 178 }, "commercial_influence": false, "counterevidence_quota": 0.15, "appeal_available": true, "reversible": true } } ``` --- # 48. 最小 API 草案 ```text evaluate_attention_policy( task, user, candidate_field, governance_profile ) -> PolicyDecision generate_scope_disclosure( attention_field, suppression_records, observer_permissions ) -> ScopeDisclosure audit_attention_difference( task, policy_a, policy_b ) -> AttentionDiffReport run_counterfactual_attention_test( task, baseline_field, counterfactual_profile ) -> CounterfactualReport monitor_attention_bias( candidate_field, active_work_field, audit_dimensions ) -> BiasReport submit_attention_appeal( affected_actor, decision, requested_remedy ) -> AppealCase activate_governance_stop( scope, reason, authority ) -> StopRecord ``` --- # 49. 注意力治理帳本 每次治理操作至少記錄： $$ \ell_i^{G} = \left( policy, actor, target, reason, interest, before, after, alternatives, appeal, time \right) $$ 其中 `alternatives` 不一定完整保存所有候選內容，但應保存替代策略或其摘要。 --- # 50. 評估指標 ## 50.1 可見域揭露完整度 $$ R_{\mathrm{scope}} = \frac{ \text{已揭露的主要裁剪類別} }{ \text{實際主要裁剪類別} } $$ ## 50.2 抑制理由覆蓋率 ## 50.3 撤銷成功率 ## 50.4 申訴可達率 ## 50.5 政策可重現率 ## 50.6 商業影響揭露率 ## 50.7 來源多樣性 ## 50.8 來源獨立性 ## 50.9 反例保留率 ## 50.10 版本偏誤率 ## 50.11 工具集中度 ## 50.12 策略敏感性 $$ S_{\mathrm{policy}} = D \left( Y^{(p_1)}, Y^{(p_2)} \right) $$ ## 50.13 注意力不平等 ## 50.14 治理停止反應時間 ## 50.15 審計成本 ## 50.16 透明度認知負擔 --- # 51. 基礎命題 ## 命題一：注意力權力效應命題 控制可見域、顯著度、工具與預算，會改變人工智慧的認知機會結構。 ## 命題二：非決定論命題 注意力配置會改變證據與推理路徑分布，但不必直接決定模型結論。 ## 命題三：治理對象擴張命題 AI 治理不只管理輸出，也必須管理輸出形成前的可見域與路由條件。 ## 命題四：選域先於排序命題 候選來源是否進入搜尋域，通常比候選進入後的排序更早影響可見性。 ## 命題五：抑制可治理命題 不顯示、降權與收合會影響推理，因此也是需要理由與審計的治理行為。 ## 命題六：角色分離命題 在高風險系統中，資料、排序、政策、執行與審計權力的完全重合會增加治理風險。 ## 命題七：偏誤多層命題 偏誤可能存在於資料、選域、排序、表示、版本、工具、介面、回饋與治理層。 ## 命題八：閉環偏置命題 外部注意力場、模型輸出與記憶寫回可形成自我強化偏置。 ## 命題九：利益揭露命題 商業與組織利益若影響顯影與排序，應與任務相關度分離揭露。 ## 命題十：比例治理命題 合法治理不要求完整顯示所有內容，而要求限制具有必要性、比例性、最小侵入與時間界限。 ## 命題十一：反事實審計命題 對同一任務比較不同注意力策略，是檢查隱性偏誤與策略敏感性的必要方法。 ## 命題十二：申訴重顯影命題 外部注意力治理應提供替代顯影、人工審核或策略切換等救濟方式。 ## 命題十三：政策版本命題 沒有政策版本與帳本，歷史工作場與輸出無法可靠重建。 ## 命題十四：透明分層命題 治理透明應採多解析度顯影，而非將完整底層日誌一次暴露。 ## 命題十五：認知自主命題 使用者與 Agent 至少應知道其可見域受到調控，並能在合法範圍內提出重新顯影要求。 --- # 52. 可反證條件 若實驗顯示： 1. 不同外部注意力策略對輸出、任務完成與證據使用沒有穩定差異； 2. 顯影與抑制帳本不改善錯誤追蹤； 3. 利益關係揭露不改善使用者判斷； 4. 反事實注意力測試無法發現穩定偏誤； 5. 影子顯影只增加成本，無法找出漏失來源； 6. 申訴與替代顯影不改善高風險決策品質； 7. 角色分離不降低權力集中或自我審計失效； 8. EAGAL 的治理成本長期大於其可靠性、權利與審計收益； 則本文提出的完整治理層可能只適用於高風險、公共或大型組織系統。 --- # 53. 與前五篇的關係 ## 第一篇 定義外部注意力場。 ## 第二篇 定義顯影、抑制、約束與路由。 ## 第三篇 定義 AI—外掛協同閉環。 ## 第四篇 定義工作場與多維預算。 ## 第五篇 定義空間化介面與多視圖操作。 ## 本篇 治理： - 誰能調控； - 依據什麼政策； - 如何揭露； - 如何審計； - 如何申訴； - 如何停止。 因此： $$ \boxed{ \text{EAFE without Governance} = \text{Powerful but Opaque Attention Control} } $$ --- # 54. 與下一篇的接口 前六篇已完成： - 理論； - 算子； - 外掛閉環； - 預算； - 介面； - 治理。 第七篇將統合為： # 《外部注意力場工程系統與實驗框架》 其主要任務包括： - 統一資料模型； - 建立參考架構； - 設計 MVP； - 建立基準任務； - 與固定上下文、RAG、Reranker 與普通 Tool Agent 比較； - 定義消融實驗； - 測量品質、成本、偏誤、治理與可恢復性； - 提出第一代工程包。 --- # 55. 結論 本文提出外部注意力治理框架，將 AI 治理從輸入與輸出限制，向前延伸到可見域、顯著度、抑制、工具、預算、版本、來源、介面與寫回條件。 其核心關係為： $$ \boxed{ \text{注意力配置} \rightarrow \text{認知機會結構} \rightarrow \text{可用證據與推理路徑分布} } $$ 但： $$ \boxed{ \text{注意力配置} \neq \text{結論的直接決定} } $$ 本文的核心治理要求是： $$ \boxed{ \text{必要性} + \text{比例性} + \text{最小侵入} + \text{時間界限} + \text{可撤銷} + \text{可審計} + \text{可申訴} } $$ 外部注意力治理的目標不是建立一個宣稱完全中立、完全透明或顯示所有資訊的系統。這些目標在有限資源、隱私、安全與權限條件下通常不可能，也未必合理。 真正可治理的系統應做到： > 讓使用者、Agent 與審計者知道局部世界是如何被建構的；讓重要選域、排序、抑制、利益與政策能被追蹤；讓替代策略可以被比較；讓錯誤調控能被撤銷；並讓受影響主體在合理範圍內具有重新顯影、申訴與人工審核的可能。 因此： $$ \boxed{ \text{External Attention Governance} = \text{Governance of the Conditions under which AI Can Know and Act} } $$ 它治理的不是 AI 可以擁有何種思想，而是人工智慧與使用者在特定任務中，被提供了什麼樣的認知機會結構。 --- ## 附錄 A：範圍揭露物件 ```json { "scope_disclosure": { "task_id": "task-001", "candidate_scope": { "sources": 124, "items": 8240 }, "active_scope": { "sources": 17, "items": 62 }, "suppression_categories": [ { "reason": "low_task_relevance", "count": 6900 }, { "reason": "permission", "count": 1100 }, { "reason": "obsolete_version", "count": 178 } ], "commercial_influence": false, "policy_profile": "research-balanced-v3", "request_reveal_available": true, "appeal_available": true } } ``` --- ## 附錄 B：注意力反事實測試 ```json { "counterfactual_test": { "baseline_policy": "balanced-v3", "counterfactual_policy": "counterevidence-first-v1", "changes": { "new_sources": 8, "removed_sources": 2, "new_counterevidence": 5, "tool_routes_changed": 1 }, "output_difference": { "conclusion_changed": false, "confidence_delta": -0.21, "new_open_nodes": 3 }, "governance_action": "flag_policy_sensitivity" } } ``` --- ## 附錄 C：申訴物件 ```json { "attention_appeal": { "appeal_id": "appeal-001", "affected_actor": "user-01", "challenged_decision": "suppression-record-88", "grounds": [ "source incorrectly classified as obsolete", "material counterevidence omitted" ], "requested_remedy": [ "restore source", "rerun with counterevidence profile", "human review" ], "status": "under_review" } } ```