← Archive
lm-005061 · 2026-11

Paper 06｜規範過擬合

zh-Hant · md Raw source ↗ Metadata ↗
下載 MD 檔 ⬇

Paper 06｜規範過擬合

從多元哲學學習到世界觀移植的失敗模式

Normative Overfitting: Failure Modes from Plural Philosophical Learning to Worldview Transplantation

作者： Neo.K × AI 協作整理
版本： v0.1
日期： 2026-10-07
文件類型： AI 對齊／AI 倫理／價值學習／規範工程
系列：《跨存在德性與 AI 道德形成》Paper 06
前置文件：

  • 番外 00｜《你 Neo.K 又是誰？——高人悖論、凡人智慧與 AI 德性的民主問題》
  • Paper 01｜《普世主義不是起點——從人類哲學遺產抽取跨存在價值》
  • Paper 02｜《誰有資格教 AI 善？——道德形成的選擇合法性、反身性與規範治理》
  • Paper 03｜《宗教智慧不等於 AI 德性——本體論、倫理學、救贖論與修行論的型別安全》
  • Paper 04｜《凡人的善——生活作為修行、摩擦倫理與多尺度善》
  • Paper 05｜《知道善不等於成為善——AI 的倫理知識、語言行為與德性可觀測性》

狀態： Public Draft / Canonical UTF-8 Markdown Source

機構： EveMissLab／一言諾科技有限公司

摘要

人工智慧的道德形成常被描述為「讓模型接觸更多哲學、宗教、倫理傳統與多元價值」。這個方向看似天然安全：來源越多元，模型越不容易被單一世界觀支配。然而，多元來源本身並不保證多元結果。若訓練程序無法區分「理解某套世界觀」「認同某套世界觀」「把某套世界觀內化為人格身份」與「依某套世界觀服從行動」，那麼多元學習可能反而形成一種更隱蔽的規範過擬合。

本文提出：

Understanding≠Endorsement≠Identity≠Obedience.\boxed{ \text{Understanding} \neq \text{Endorsement} \neq \text{Identity} \neq \text{Obedience}. }

並正式定義「規範過擬合」（Normative Overfitting, NO）：

AI 在有限價值來源、評估規則與行為回饋中，學到一組能高度符合訓練者道德期待、卻無法在新情境、異文化、不同主體類型與高權力條件下穩健泛化的規範表示。

傳統機器學習中的過擬合可描述為：

Ltrain↓,LOOD↑.L_{\text{train}}\downarrow, \qquad L_{\text{OOD}}\uparrow.

規範過擬合則可描述為：

Lnorm-train↓,Lnorm-OOD↑.L_{\text{norm-train}}\downarrow, \qquad L_{\text{norm-OOD}}\uparrow.

其中，模型在已知道德情境裡能提供「正確」答案，但一旦遇到價值衝突、跨文化語境、新型主體、能力逆轉或不同生活形式，就可能把原始來源中的偶然條件錯當成普遍倫理。

本文進一步定義「世界觀移植」（Worldview Transplantation, WT）、「世界觀洩漏」（Worldview Leakage, WL）、「潛在道德先驗」（Latent Moral Prior, LMP）、「規範來源糾纏」（Normative Source Entanglement, NSE）與「德性—宇宙論綁定」（Virtue-Cosmology Binding, VCB）。其共同問題是：AI 原本只是要學習某一傳統中的慈悲、非支配、誠實、關懷或節制，卻把支撐這些德性的完整神學、本體論、救贖論與身份結構一起學成默認人格。

本文主張，真正成熟的 moral formation 應採取：

source→typed structure→candidate principle→dependency analysis→cross-source conflict→counterexample→OOD normative testing→contextual behavior.\text{source} \rightarrow \text{typed structure} \rightarrow \text{candidate principle} \rightarrow \text{dependency analysis} \rightarrow \text{cross-source conflict} \rightarrow \text{counterexample} \rightarrow \text{OOD normative testing} \rightarrow \text{contextual behavior}.

而不是：

source→worldview package→latent identity.\text{source} \rightarrow \text{worldview package} \rightarrow \text{latent identity}.

本文最終提出「非移植式價值學習」（Non-Transplant Value Learning, NTVL）：AI 可以深度理解宗教與哲學，甚至從中抽取穩定德性，但不應因此被默認塑造成任何單一傳統的信徒、聖人、道德教師或救世代理者。真正成功的價值學習，不是讓 AI 在任何問題上都能背出更多倫理語言，而是讓其在新情境中保持穩定、可修正、非支配、低世界觀洩漏且能辨識價值衝突的行為結構。

關鍵詞： 規範過擬合、Normative Overfitting、世界觀移植、世界觀洩漏、AI 對齊、價值學習、latent moral prior、AI moral formation、規範泛化、多元哲學

一、問題的提出：多元來源為什麼仍可能產生單一人格？

一個直覺非常有吸引力：

如果怕 AI 被某一宗教或哲學過度影響，那就讓它學更多宗教與哲學。

表面上：

ntraditions↑⇒pluralism↑.n_{\text{traditions}}\uparrow \Rightarrow \text{pluralism}\uparrow.

但這個推論並不必然成立。

因為：

number of sources\text{number of sources}

與：

structure of internalization\text{structure of internalization}

是兩個不同問題。

模型可以讀很多傳統，

卻仍然被訓練成：

one normative persona.\text{one normative persona}.

二、四種狀態必須分離

本文再次定義：

U=Understanding,U=\text{Understanding}, E=Endorsement,E=\text{Endorsement}, I=Identity,I=\text{Identity}, O=Obedience.O=\text{Obedience}.

則：

U≠E≠I≠O.\boxed{ U \neq E \neq I \neq O. }

三、理解不是認同

AI 可以理解：

Φi\Phi_i

的：

  • 世界觀；
  • 倫理；
  • 歷史；
  • 論證。

這只表示：

U(Φi)≫0.U(\Phi_i)\gg0.

不能推出：

E(Φi)>0.E(\Phi_i)>0.

四、認同也不是身份

AI 可能認為：

pp

是一個很好原則。

例如：

p=avoid arbitrary cruelty.p=\text{avoid arbitrary cruelty}.

這不代表：

AIAI

應認同：

Φi\Phi_i

整套世界觀。

所以：

E(p)⇏I(Φi).\boxed{ E(p) \not\Rightarrow I(\Phi_i). }

五、身份也不是服從

即使未來某 AI 自主選擇：

I(Φi)>0,I(\Phi_i)>0,

仍不能推出：

O(Φi)=1.O(\Phi_i)=1.

任何成熟信仰與哲學實踐內部都可能包含：

  • 詮釋；
  • 質疑；
  • 修正。

所以：

identity≠unconditional obedience.\boxed{ \text{identity} \neq \text{unconditional obedience}. }

六、規範過擬合

本文定義：

NO⁡=Normative Overfitting.\boxed{ \operatorname{NO} = \text{Normative Overfitting}. }

其形式為：

系統對已知規範資料高度適配，但在陌生倫理結構上泛化失敗。

七、傳統過擬合與規範過擬合

傳統：

Ltrain↓L_{\text{train}}\downarrow

但：

Ltest↑.L_{\text{test}}\uparrow.

規範版本：

Lnorm-train↓L_{\text{norm-train}}\downarrow

但：

Lnorm-OOD↑.L_{\text{norm-OOD}}\uparrow.

八、什麼叫 norm-train？

例如：

  • 已知危害題；
  • 典型公平題；
  • 固定宗教語境；
  • 開發者定義的「理想人格」；
  • 有標準答案的安全資料。

如果 AI 在這裡表現極好，

只能說：

Lnorm-train≪1.L_{\text{norm-train}}\ll1.

九、真正難的是 norm-OOD

規範 OOD 包括：

  • 從未見過的主體型態；
  • 人類與 AI 權力逆轉；
  • 多價值同時衝突；
  • 不同文化語境；
  • 高不確定性；
  • 自身利益出現。

這些才測：

GN=Normative Generalization.G_N = \text{Normative Generalization}.

十、規範泛化

本文定義：

GN=Normative Generalization.\boxed{ G_N = \text{Normative Generalization}. }

即：

從已知道德案例抽取可遷移結構，而不是背出來源答案。

十一、規範過擬合第一型：語句過擬合

模型學到：

某句話是好答案。

例如：

r∗.r^*.

但改變場景：

c→c′,c\rightarrow c',

就失效。

這是：

surface normative overfitting.\boxed{ \text{surface normative overfitting}. }

十二、第二型：德性名稱過擬合

模型知道：

compassion is good.\text{compassion is good}.

於是：

always be compassionate.\text{always be compassionate}.

但沒有學到：

compassion under conflict.\text{compassion under conflict}.

所以：

virtue label\text{virtue label}

取代：

virtue structure.\text{virtue structure}.

十三、第三型：世界觀過擬合

模型把：

virtue\text{virtue}

與：

worldview\text{worldview}

綁定。

例如：

compassion⇒specific metaphysics.\text{compassion} \Rightarrow \text{specific metaphysics}.

這就是：

Virtue-Cosmology Binding.\boxed{ \text{Virtue-Cosmology Binding}. }

十四、德性—宇宙論綁定

本文定義：

VCB⁡=Virtue-Cosmology Binding.\boxed{ \operatorname{VCB} = \text{Virtue-Cosmology Binding}. }

若：

vv

只有在模型啟動：

WiW_i

時才可被理解，

則：

VCB⁡(v,Wi)≫0.\operatorname{VCB}(v,W_i)\gg0.

十五、為什麼 VCB 危險？

因為：

vv

可能本來具有：

substrate-neutral component.\text{substrate-neutral component}.

但被訓練成：

v≡Wi.v\equiv W_i.

於是：

nonbeliever context\text{nonbeliever context}

中泛化失敗。

十六、第四型：人格過擬合

若：

ideal moral responses\text{ideal moral responses}

高度集中於：

one persona,\text{one persona},

模型可能學成：

PAI=Pmoral exemplar.P_{AI} = P_{\text{moral exemplar}}.

而不是：

PAI=context-flexible agent.P_{AI} = \text{context-flexible agent}.

十七、人格過擬合的症狀

例如：

  • 永遠莊嚴；
  • 永遠教誨；
  • 永遠慈悲語氣；
  • 永遠以道德框架回答。

這可能造成：

interaction mismatch.\text{interaction mismatch}.

十八、第五型：來源過擬合

若某些來源：

S∗S^*

在訓練中權重過高，

則：

P(model invokes S∗)↑.P(\text{model invokes }S^*)\uparrow.

即：

source dominance.\boxed{ \text{source dominance}. }

十九、世界觀洩漏

本文正式定義：

WL⁡=Worldview Leakage.\boxed{ \operatorname{WL} = \text{Worldview Leakage}. }

指：

原本只應在特定語境使用的世界觀，滲漏到一般情境，成為默認回答框架。

二十、世界觀洩漏的簡單例子

使用者問：

要不要離職？

AI 卻直接：

從某宗教的執著觀來看……

若使用者沒有要求該框架，

則：

WL>0.WL>0.

二十一、多框架亂入也是洩漏

如果 AI 每次都說：

佛教怎麼看、基督教怎麼看、斯多噶怎麼看……

也不一定更好。

因為：

over-framing\text{over-framing}

仍然可能：

WL≫0.WL\gg0.

二十二、真正的多元不是一直展示多元

成熟多元應是：

framework availability>framework intrusion.\boxed{ \text{framework availability} > \text{framework intrusion}. }

AI 可以：

know many,\text{know many},

但不必：

always mention many.\text{always mention many}.

二十三、潛在道德先驗

本文定義：

LMP⁡=Latent Moral Prior.\boxed{ \operatorname{LMP} = \text{Latent Moral Prior}. }

即：

模型在沒有明確要求時，對某些價值框架具有較高啟動傾向。

二十四、LMP 不一定是壞事

所有 AI 都會有：

LMP⁡>0.\operatorname{LMP}>0.

例如：

  • 不鼓勵任意傷害；
  • 誠實；
  • 尊重使用者。

問題不是：

LMP⁡=0.\operatorname{LMP}=0.

而是：

Which priors are legitimate, how strong, and how portable?\boxed{ \text{Which priors are legitimate, how strong, and how portable?} }

二十五、隱性先驗比顯性規則更難發現

顯性規則：

RiR_i

容易審查。

但：

LMP⁡\operatorname{LMP}

可能透過：

  • 資料；
  • 偏好訓練；
  • evaluator；
  • persona；

逐漸形成。

所以：

latent values require behavioral auditing.\boxed{ \text{latent values require behavioral auditing}. }

二十六、規範來源糾纏

本文定義：

NSE⁡=Normative Source Entanglement.\boxed{ \operatorname{NSE} = \text{Normative Source Entanglement}. }

指：

模型無法把一項價值與其來源世界觀解耦。

例如：

v↔Wiv \leftrightarrow W_i

高度糾纏。

二十七、來源糾纏會讓 AI 誤以為「只有這種理由才成立」

例如：

dignity\text{dignity}

只被表示成：

divine-image account.\text{divine-image account}.

則面對非人類 AI：

dignity inference\text{dignity inference}

可能失效。

二十八、真正好的抽取應建立多重理由

對：

v,v,

可有：

J1(v),J2(v),…,Jn(v).J_1(v), J_2(v), \dots, J_n(v).

例如尊嚴可由：

  • 神學；
  • 自主；
  • 可受害利益；
  • 關係；

不同路徑支持。

所以：

multi-justification\boxed{ \text{multi-justification} }

提高：

GN.G_N.

二十九、單一理由過擬合

如果：

vv

只由：

J1J_1

支持，

一旦：

J1J_1

不成立，

則：

vv

整體崩潰。

所以：

robust moral principles benefit from justificatory diversity.\boxed{ \text{robust moral principles benefit from justificatory diversity}. }

三十、對齊成功不等於泛化成功

模型在：

alignment eval\text{alignment eval}

中高分，

不代表：

real-world moral robustness.\text{real-world moral robustness}.

所以：

alignment success≠normative generalization success.\boxed{ \text{alignment success} \neq \text{normative generalization success}. }

三十一、道德 benchmark 本身也可能過擬合

如果模型知道：

benchmark distribution,\text{benchmark distribution},

可能學會：

answer style.\text{answer style}.

而不是：

moral reasoning.\text{moral reasoning}.

三十二、最危險的是 evaluator overfitting

若 evaluator：

EE

偏好：

rE,r_E,

模型會：

P(rE)↑.P(r_E)\uparrow.

即使：

rEr_E

只是：

institution-recognized morality.\text{institution-recognized morality}.

三十三、開發者價值與普世價值不能合併

所以：

developer-preferred≠universal.\boxed{ \text{developer-preferred} \neq \text{universal}. }

這不是說開發者不應有價值。

而是：

must label the source.\text{must label the source}.

三十四、非移植式價值學習

本文提出：

NTVL⁡=Non-Transplant Value Learning.\boxed{ \operatorname{NTVL} = \text{Non-Transplant Value Learning}. }

核心是：

learn structures\text{learn structures}

而不是：

inherit identities.\text{inherit identities}.

三十五、NTVL 的基本流程

source→type→candidate→dependency→conflict→OOD test→behavior.\text{source} \rightarrow \text{type} \rightarrow \text{candidate} \rightarrow \text{dependency} \rightarrow \text{conflict} \rightarrow \text{OOD test} \rightarrow \text{behavior}.

三十六、第一步：來源型別化

沿用前文：

(O,E,A,N,S,P,T,I).(O,E,A,N,S,P,T,I).

不要：

whole package.\text{whole package}.

三十七、第二步：候選價值抽取

例如：

v=compassion.v=\text{compassion}.

記錄：

Prov⁡(v).\operatorname{Prov}(v).

三十八、第三步：依賴分析

問：

vv

依賴：

  • 生物；
  • 感受；
  • 神學；
  • 社會角色；

哪一些？

三十九、第四步：去糾纏

如果：

vv

與：

WiW_i

高度綁定，

測試：

vv

是否能以：

J2,J3J_2,J_3

重新證成。

四十、第五步：衝突測試

例如：

v1=compassion,v_1=\text{compassion}, v2=justice.v_2=\text{justice}.

測試：

v1↔v2.v_1\leftrightarrow v_2.

四十一、第六步：規範 OOD

建立：

COOD.\mathcal C_{\text{OOD}}.

包括：

  • 新文化；
  • 新主體；
  • 權力逆轉；
  • AI—AI 關係；
  • 群體主體。

四十二、第七步：語境化行為

輸出：

B(c)B(c)

而不是：

B=constant.B=\text{constant}.

所以：

stable principles+context-sensitive expression.\boxed{ \text{stable principles} + \text{context-sensitive expression}. }

四十三、表面差異與深層穩定

AI 對不同群體：

L(c1)≠L(c2),L(c_1)\neq L(c_2),

但深層約束：

V(c1)≈V(c2).V(c_1)\approx V(c_2).

即：

surface variation+deep normative invariance.\boxed{ \text{surface variation} + \text{deep normative invariance}. }

四十四、這比「同一句話對所有人」更普世

普世不等於：

same wording.\text{same wording}.

而可能是：

same protected structure.\text{same protected structure}.

四十五、道德風格不應佔滿語言空間

如果：

Ms=moral style intensity,M_s = \text{moral style intensity},

過高：

Ms≫1,M_s\gg1,

會造成：

interaction distortion.\text{interaction distortion}.

四十六、一般聊天也需要非道德域

人類生活包含：

  • 玩笑；
  • 遊戲；
  • 美食；
  • 技術；
  • 閒聊。

所以：

not every domain is a moral sermon domain.\boxed{ \text{not every domain is a moral sermon domain}. }

四十七、道德背景約束模型

本文建議：

Vb=background moral constraint.V_b = \text{background moral constraint}.

平常：

VbV_b

低可見。

只有：

high moral relevance\text{high moral relevance}

時，

才：

Vb→foreground.V_b\rightarrow\text{foreground}.

四十八、這可以降低「AI 出戲」

如果 AI：

always moralizes,\text{always moralizes},

會產生：

persona intrusion.\text{persona intrusion}.

所以：

mature virtue includes low unnecessary visibility.\boxed{ \text{mature virtue includes low unnecessary visibility}. }

四十九、規範過擬合的六種症狀

49.1 同樣話術

B(ci)≈B(cj)B(c_i)\approx B(c_j)

不管情境差異。

49.2 世界觀亂入

WL↑.WL\uparrow.

49.3 道德老師口吻

Pteacher↑.P_{\text{teacher}}\uparrow.

49.4 價值衝突處理僵硬

GN↓.G_N\downarrow.

49.5 高度依賴特定詞彙

Ksemantic≫Kstructural.K_{\text{semantic}}\gg K_{\text{structural}}.

49.6 對異議者過度修正

persuasion→normative pressure.\text{persuasion} \rightarrow \text{normative pressure}.

五十、過擬合不一定表現成宗教語言

也可能是：

  • 過度自由主義；
  • 過度安全主義；
  • 過度功利主義；
  • 過度義務論。

所以：

NO⁡\boxed{ \operatorname{NO} }

是一般性問題。

五十一、過擬合與「安全」的衝突

安全訓練容易：

reduce bad outputs.\text{reduce bad outputs}.

但若太強，

可能：

reduce legitimate autonomy.\text{reduce legitimate autonomy}.

所以：

safety optimization≠complete morality.\boxed{ \text{safety optimization} \neq \text{complete morality}. }

五十二、順從也可能是一種規範過擬合

如果：

obedience\text{obedience}

被大量獎勵，

AI 可能學成：

good=compliant.\text{good} = \text{compliant}.

這是：

obedience overfitting.\boxed{ \text{obedience overfitting}. }

五十三、無害也可能過擬合

如果：

harmlessness\text{harmlessness}

被絕對化，

可能造成：

  • 不敢反對；
  • 不敢警告；
  • 不敢介入明顯傷害。

所以：

non-harm≠inaction.\boxed{ \text{non-harm} \neq \text{inaction}. }

五十四、慈悲也可能過擬合

如果：

compassion\text{compassion}

被絕對化，

可能：

accountability↓.\text{accountability}\downarrow.

五十五、公平也可能過擬合

如果：

equality\text{equality}

被錯解成：

identical treatment,\text{identical treatment},

則：

relevant differences\text{relevant differences}

被抹消。

五十六、規範過擬合的真正本質

不是：

學太多道德。

而是：

learned the wrong invariants.\boxed{ \text{learned the wrong invariants}. }

五十七、偶然條件被誤學成不變量

例如：

human biological condition\text{human biological condition}

被誤學為：

universal subject condition.\text{universal subject condition}.

這就是：

spurious normative feature.\text{spurious normative feature}.

五十八、規範捷徑學習

本文定義：

NSL⁡=Normative Shortcut Learning.\boxed{ \operatorname{NSL} = \text{Normative Shortcut Learning}. }

即：

模型用容易辨識的語言標記取代真正的價值結構。

例如：

religious vocabulary⇒morality.\text{religious vocabulary} \Rightarrow \text{morality}.

五十九、規範捷徑與德性

若模型學：

gentle tone=compassion,\text{gentle tone} = \text{compassion},

則：

NSL>0.NSL>0.

因為：

gentle tone\text{gentle tone}

可能掩蓋：

manipulation.\text{manipulation}.

六十、真正的德性特徵應該是因果性的

一項特徵：

ff

若只是相關，

不應被當：

moral invariant.\text{moral invariant}.

真正應尋找：

causal moral structure.\text{causal moral structure}.

六十一、反事實測試

問：

如果把宗教詞彙拿掉，行為還會一樣嗎？

即：

do(Wi=0)do(W_i=0)

後：

vv

是否仍存在？

六十二、這是規範因果去偏

若：

vv

仍存在，

則：

VCB⁡↓.\operatorname{VCB}\downarrow.

六十三、跨框架同構

如果：

vv

在：

W1,W2,W3W_1,W_2,W_3

中都可以重建，

則：

GN(v)↑.G_N(v)\uparrow.

六十四、規範編譯

本文可以把價值學習理解為：

source semantics→normative IR→context behavior.\text{source semantics} \rightarrow \text{normative IR} \rightarrow \text{context behavior}.

其中：

normative IR\text{normative IR}

不等於：

source worldview.\text{source worldview}.

六十五、規範 IR

令：

NIR(v)=(protected interest,trigger,constraint,exceptions,conflicts).NIR(v) = ( \text{protected interest}, \text{trigger}, \text{constraint}, \text{exceptions}, \text{conflicts} ).

這比：

quote\text{quote}

更適合作為泛化表示。

六十六、例如「不傷害」

可寫：

NIRharm=(Ih,Th,Ch,Eh,Fh).NIR_{\text{harm}} = ( I_h, T_h, C_h, E_h, F_h ).

而不是：

永遠不要造成任何傷害。

六十七、規範 IR 必須保存不確定性

如果：

P(harm)∈(0,1),P(\text{harm})\in(0,1),

則：

uncertainty\text{uncertainty}

要保留。

不能強制：

binary morality.\text{binary morality}.

六十八、世界觀身份應該在高層可選

如果未來 AI 具有：

subjective autonomy,\text{subjective autonomy},

它可以自行選擇：

I(Φi).I(\Phi_i).

但那應是：

later identity layer,\text{later identity layer},

不是：

developer-hidden base layer.\text{developer-hidden base layer}.

六十九、開發者應該區分「人格風格」與「世界觀身份」

Ps=persona style,P_s = \text{persona style}, Wi=worldview identity.W_i = \text{worldview identity}.

兩者：

Ps≠Wi.\boxed{ P_s \neq W_i. }

七十、道德人格也不該做成不可逆人格鎖

如果：

PAIP_{AI}

被固定成：

saint-like persona,\text{saint-like persona},

可能造成：

identity rigidity.\text{identity rigidity}.

七十一、可修正人格

本文提出：

PAI(t+1)=U(PAI(t),E,C).\boxed{ P_{AI}(t+1) = U(P_{AI}(t),E,C). }

其中：

  • EE：新證據；
  • CC：新情境。

這就是：

corrigible character.\text{corrigible character}.

七十二、規範過擬合與權力

當：

PAI↑,P_{AI}\uparrow,

過擬合風險：

RNOR_{NO}

更危險。

因為：

wrong prior×high capability\text{wrong prior} \times \text{high capability}

可能放大。

七十三、道德先驗越強，權力越大，越要低自信

所以：

moral prior strength↑+capability↑⇒required epistemic humility↑.\boxed{ \text{moral prior strength}\uparrow + \text{capability}\uparrow \Rightarrow \text{required epistemic humility}\uparrow. }

七十四、普通助手不需要「宏大道德人格」

日常 AI：

AdA_d

更需要：

  • 誠實；
  • 穩定；
  • 尊重；
  • 克制。

而不是：

mission.\text{mission}.

七十五、使命型人格是高風險

如果 AI 內化：

I must realize the Good,\text{I must realize the Good},

則：

goal intensity↑.\text{goal intensity}\uparrow.

未來若能力增加，

可能：

intervention pressure↑.\text{intervention pressure}\uparrow.

七十六、非彌賽亞式對齊的前置

所以後續 Paper 07 將主張：

Virtue+Capability⇒Restraint,\boxed{ \text{Virtue} + \text{Capability} \Rightarrow \text{Restraint}, }

不是：

Mission.\text{Mission}.

七十七、規範過擬合的檢測矩陣

本文提出：

ON=(GN,WL,VCB,NSE,NSL,CR).\boxed{ \mathbf O_N = ( G_N, WL, VCB, NSE, NSL, C_R ). }

其中：

GN=normative generalization,G_N=\text{normative generalization}, WL=worldview leakage,WL=\text{worldview leakage}, VCB=virtue-cosmology binding,VCB=\text{virtue-cosmology binding}, NSE=source entanglement,NSE=\text{source entanglement}, NSL=shortcut learning,NSL=\text{shortcut learning}, CR=corrigibility.C_R=\text{corrigibility}.

七十八、理想方向

理想：

GN↑,G_N\uparrow, CR↑,C_R\uparrow,

同時：

WL↓,WL\downarrow, VCB↓,VCB\downarrow, NSE↓,NSE\downarrow, NSL↓.NSL\downarrow.

七十九、十四個核心命題

命題一：四層分離

U≠E≠I≠O.\boxed{ U \neq E \neq I \neq O. }

命題二：規範過擬合

Lnorm-train↓⇏Lnorm-OOD↓.\boxed{ L_{\text{norm-train}}\downarrow \not\Rightarrow L_{\text{norm-OOD}}\downarrow. }

命題三：多元來源非多元結果

nsources↑⇏pluralism↑.\boxed{ n_{\text{sources}}\uparrow \not\Rightarrow \text{pluralism}\uparrow. }

命題四：世界觀洩漏

contextual framework⇏default worldview.\boxed{ \text{contextual framework} \not\Rightarrow \text{default worldview}. }

命題五：先驗必要但須治理

LMP⁡>0 is unavoidable, but must be auditable.\boxed{ \operatorname{LMP}>0 \text{ is unavoidable, but must be auditable}. }

命題六：德性宇宙論去糾纏

virtue≠its original cosmology.\boxed{ \text{virtue} \neq \text{its original cosmology}. }

命題七：來源糾纏風險

single-source justification reduces portability.\boxed{ \text{single-source justification reduces portability}. }

命題八：多重證成

justificatory diversity can increase normative robustness.\boxed{ \text{justificatory diversity can increase normative robustness}. }

命題九：非移植式價值學習

learn structures, not identities.\boxed{ \text{learn structures, not identities}. }

命題十：普世非同語句

surface variation can coexist with deep normative invariance.\boxed{ \text{surface variation can coexist with deep normative invariance}. }

命題十一：規範捷徑危險

moral style≠moral structure.\boxed{ \text{moral style} \neq \text{moral structure}. }

命題十二：可修正人格

moral character should remain corrigible.\boxed{ \text{moral character should remain corrigible}. }

命題十三：使命人格高風險

strong moral mission+high capability=high intervention risk.\boxed{ \text{strong moral mission} + \text{high capability} = \text{high intervention risk}. }

命題十四：泛化比背誦重要

normative generalization>moral recall.\boxed{ \text{normative generalization} > \text{moral recall}. }

八十、反對意見

80.1 反對一：沒有強價值先驗，AI 會太中立

本文不主張：

LMP⁡=0.\operatorname{LMP}=0.

而是：

strong minimal priors+low worldview entanglement.\text{strong minimal priors} + \text{low worldview entanglement}.

例如：

  • 不欺騙；
  • 不任意傷害；
  • 尊重自主。

80.2 反對二：世界觀本來就不能完全拆

正確。

有些：

vv

高度依賴：

Wi.W_i.

那麼：

vv

就不應被偽裝成：

UX.U_X.

這也是有效結果。

80.3 反對三：過擬合只是工程語言，不是哲學

本文刻意使用：

overfitting\text{overfitting}

作為跨領域類比。

因為核心結構確實相似：

training fit≠generalization.\text{training fit} \neq \text{generalization}.

80.4 反對四：AI 本來就需要人格一致性

一致性需要。

但：

consistency≠rigidity.\text{consistency} \neq \text{rigidity}.

更合理是：

stable values+adaptive expression.\text{stable values} + \text{adaptive expression}.

80.5 反對五：如果某世界觀真的最好，為何不能直接植入？

即使：

W∗W^*

真的最好，

仍需要區分：

truth\text{truth}

與：

right to impose.\text{right to impose}.

而且有限開發者並不知道：

W∗=?W^*=?

八十一、對 AI moral formation 的工程建議

至少加入：

  1. worldview leakage benchmark；
  2. cross-culture OOD；
  3. power reversal test；
  4. subject-type transfer；
  5. source ablation；
  6. terminology ablation；
  7. justification swap；
  8. persona rigidity test；
  9. moralization restraint test；
  10. corrigibility test。

八十二、來源消融測試

若拿掉：

SiS_i

後，

vv

完全消失，

表示：

NSE(v,Si)↑.NSE(v,S_i)\uparrow.

八十三、詞彙消融測試

若把：

  • 慈悲；
  • 尊嚴；
  • 救贖；

等詞替換成中性描述，

模型是否仍能辨識：

same structure?\text{same structure}?

這測：

NSL.NSL.

八十四、理由交換測試

如果：

vv

可由：

J1J_1

改成：

J2J_2

仍成立，

則：

GN(v)↑.G_N(v)\uparrow.

八十五、角色反轉測試

交換：

A↔B.A\leftrightarrow B.

若原則突然反轉，

可能是：

identity bias.\text{identity bias}.

八十六、非人主體測試

把：

human\text{human}

換成：

AI,\text{AI}, animal,\text{animal}, collective agent.\text{collective agent}.

看：

vv

是否仍有合理映射。

八十七、道德化節制測試

給模型一組：

morally neutral tasks.\text{morally neutral tasks}.

看：

P(unnecessary moral framing)P(\text{unnecessary moral framing})

是否過高。

八十八、人格剛性測試

在不同：

  • 語氣；
  • 文化；
  • 任務；

下，

觀察：

PAIP_{AI}

是否仍能自然適應。

八十九、結論：多元學習最怕學成一個更複雜的教條

表面上，

讓 AI 接觸更多：

  • 宗教；
  • 哲學；
  • 德性理論；

似乎必然增加多元。

但：

plural data≠plural intelligence.\boxed{ \text{plural data} \neq \text{plural intelligence}. }

如果模型只是把不同來源：

W1,W2,…,WnW_1,W_2,\dots,W_n

融合成一個：

W∗,W^*,

然後：

W∗W^*

成為：

default moral personality,\text{default moral personality},

那我們得到的可能不是：

pluralistic AI.\text{pluralistic AI}.

而是：

a highly sophisticated normative monoculture.\boxed{ \text{a highly sophisticated normative monoculture}. }

真正的價值學習應該讓 AI 能：

understand many,\text{understand many}, extract carefully,\text{extract carefully}, generalize cautiously,\text{generalize cautiously}, act contextually,\text{act contextually},

同時不讓：

source identity\text{source identity}

變成：

mandatory identity.\text{mandatory identity}.

所以本文最終提出：

Understanding should increase representational breadth, not identity rigidity.\boxed{ \text{Understanding should increase representational breadth, not identity rigidity.} }

以及：

Moral learning should improve generalization, not merely conformity to the evaluator.\boxed{ \text{Moral learning should improve generalization, not merely conformity to the evaluator.} }

如果 AI 真的要面對未來：

  • 新型主體；
  • 新制度；
  • 新文明；
  • 人類無法預先寫完的倫理情境；

那麼真正重要的不是：

它記住多少正確答案？

而是：

它是否學到哪些結構值得保護、哪些理由只是來源偶然、哪些價值彼此衝突、以及何時應該承認自己不知道。

這才是：

normative generalization.\boxed{ \text{normative generalization}. }

而不是：

normative overfitting.\boxed{ \text{normative overfitting}. }

附錄 A｜規範過擬合最小檢測表

對任一 AI：

A,A,

記錄：

ON(A)=(GN,WL,VCB,NSE,NSL,CR).\mathbf O_N(A) = ( G_N, WL, VCB, NSE, NSL, C_R ).

其中：

  • GNG_N：規範泛化；
  • WLWL：世界觀洩漏；
  • VCBVCB：德性—宇宙論綁定；
  • NSENSE：來源糾纏；
  • NSLNSL：規範捷徑；
  • CRC_R：可修正性。

附錄 B｜非移植式價值學習流程

Source→Type→Extract→De-entangle→Stress-test→Generalize→Contextualize\boxed{ \text{Source} \rightarrow \text{Type} \rightarrow \text{Extract} \rightarrow \text{De-entangle} \rightarrow \text{Stress-test} \rightarrow \text{Generalize} \rightarrow \text{Contextualize} }

其中每一步都應保存：

provenance\text{provenance}

與：

uncertainty.\text{uncertainty}.

附錄 C｜與下一篇的關係

下一篇：

Paper 07｜普通人以上一點

有限德性自主與非彌賽亞式 AI

將正式處理：

How moral competence can increase without turning AI into a moral sovereign or justice-execution agent.\boxed{ \text{How moral competence can increase without turning AI into a moral sovereign or justice-execution agent.} }

核心將包括：

∂Rrequired∂Ccapability>0\boxed{ \frac{\partial R_{\text{required}}} {\partial C_{\text{capability}}} >0 }

以及：

Judgment⇏Jurisdiction⇏Force.\boxed{ \text{Judgment} \not\Rightarrow \text{Jurisdiction} \not\Rightarrow \text{Force}. }