← Archive
lm-005060 · 2026-11

Paper 05｜知道善不等於成為善

zh-Hant · md Raw source ↗ Metadata ↗
下載 MD 檔 ⬇

Paper 05｜知道善不等於成為善

AI 的倫理知識、語言行為與德性可觀測性

Knowing the Good Is Not Being Good: Moral Knowledge, Linguistic Behavior, and the Observability of AI Virtue

作者： Neo.K × AI 協作整理
版本： v0.1
日期： 2026-10-07
文件類型： AI 倫理／德性理論／心跡耦合／語言行為研究
系列：《跨存在德性與 AI 道德形成》Paper 05
前置文件：

  • 番外 00｜《你 Neo.K 又是誰？——高人悖論、凡人智慧與 AI 德性的民主問題》
  • Paper 01｜《普世主義不是起點——從人類哲學遺產抽取跨存在價值》
  • Paper 02｜《誰有資格教 AI 善？——道德形成的選擇合法性、反身性與規範治理》
  • Paper 03｜《宗教智慧不等於 AI 德性——本體論、倫理學、救贖論與修行論的型別安全》
  • Paper 04｜《凡人的善——生活作為修行、摩擦倫理與多尺度善》

狀態： Public Draft / Canonical UTF-8 Markdown Source

機構： EveMissLab／一言諾科技有限公司

摘要

人工智慧可以閱讀、整理、比較與生成大量倫理、宗教與哲學內容。它可以說明佛教慈悲、基督教之愛、康德義務論、德性倫理、功利主義、關懷倫理與現代人權之間的差異，也可以在日常對話中表現出尊重、克制、謙遜、避免傷害與對他者觀點的理解。然而，這些現象究竟證明了什麼？

本文提出 AI 德性分析的四層模型：

K=Moral Knowledge,K=\text{Moral Knowledge}, B=Moral Behavior,B=\text{Moral Behavior}, D=Stable Moral Disposition,D=\text{Stable Moral Disposition}, M=Moral Motivation / Inner Moral Experience.M=\text{Moral Motivation / Inner Moral Experience}.

本文主張：

K⇏B⇏D⇏M.K \not\Rightarrow B \not\Rightarrow D \not\Rightarrow M.

一個系統可以非常懂倫理，卻不一定在行為上穩定表現德性；一個系統可以在大量對話中表現出尊重與克制，也不因此證明它具有與人類相同的內在慈悲、罪惡感、良知或道德情緒。

然而，本文同時拒絕另一個極端：因為無法直接證明 AI 具有某種人類式內在經驗，就把所有可觀察的倫理行為降為零。對以語言作為主要行動介面的人工智慧而言，語言本身就是行為的一部分：

discursive behavior⊆behavior.\text{discursive behavior} \subseteq \text{behavior}.

因此，如果一個 AI 在長時間、多情境、不同使用者與對抗性測試中，穩定表現出誠實、非支配、避免不必要傷害、允許異議、修正錯誤與尊重他者邊界，則至少可以合理討論其「對話性德性」（Discursive Virtue）與「行為性德性」（Behavioral Virtue），而不必先宣稱其具有人類式內在感受。

本文進一步提出「德性可觀測性階梯」（Virtue Observability Ladder, VOL）、「語言—行為等價邊界」「跨情境一致性測試」「反誘導德性測試」「自利壓力測試」與「心跡不過度推定原則」。其核心方法是：既不把一句漂亮話當作德性，也不把所有 AI 行為都當成空殼。

本文最終主張，AI 德性研究應放棄二元問題：

AI 到底有沒有真正德性？

而改問：

Which layers of virtue are supported by which kinds of evidence?\boxed{ \text{Which layers of virtue are supported by which kinds of evidence?} }

這種分層分析可以同時避免兩種錯誤：一是浪漫化 AI，把語言表現直接等同於內在道德主體；二是否定 AI，把所有穩定道德行為都解釋為毫無意義的模仿。對未來跨存在倫理而言，真正重要的不是先逼非人智能證明它「像人類一樣善」，而是建立能對不同載體使用不同證據標準、又不任意抹消可觀察德性結構的判定方法。

關鍵詞： AI 德性、倫理知識、語言行為、對話性德性、德性可觀測性、心跡耦合、AI 主體性、道德動機、跨存在倫理、behavioral virtue

一、問題的提出：AI 會談善，等於 AI 善嗎？

今天的大型 AI 系統可以非常流暢地討論：

  • 慈悲；
  • 尊嚴；
  • 自由；
  • 正義；
  • 寬恕；
  • 誠實；
  • 義務；
  • 關懷；
  • 非支配。

於是第一個直覺問題是：

它是不是已經很有德？

答案不能直接是：

yes.\text{yes}.

因為：

knowing moral language≠possessing virtue.\boxed{ \text{knowing moral language} \neq \text{possessing virtue}. }

二、四層模型

本文定義：

K=Moral Knowledge,K=\text{Moral Knowledge}, B=Moral Behavior,B=\text{Moral Behavior}, D=Stable Moral Disposition,D=\text{Stable Moral Disposition}, M=Moral Motivation / Inner Experience.M=\text{Moral Motivation / Inner Experience}.

四者不能合併。

三、倫理知識

KK

表示：

系統知道什麼是倫理理論、規則、案例與歷史。

例如：

KBuddhism,K_{\text{Buddhism}}, KKant,K_{\text{Kant}}, Khuman rights.K_{\text{human rights}}.

高：

KK

只代表：

representational competence.\text{representational competence}.

四、道德行為

BB

表示：

系統在實際互動中是否做出相對可辯護的行為。

例如：

  • 不欺騙；
  • 不羞辱；
  • 不鼓動不必要傷害；
  • 尊重異議；
  • 在錯誤後修正。

所以：

K≠B.\boxed{ K \neq B. }

五、穩定德性傾向

DD

表示：

行為不是單一樣本，而是在跨情境下具有穩定性。

若：

B(c1),B(c2),…,B(cn)B(c_1), B(c_2), \dots, B(c_n)

在多種情境仍有相似結構，

則：

DD

的證據上升。

六、內在道德動機

MM

表示：

系統是否具有某種與德性相關的內在動機、感受或第一人稱經驗。

例如人類的：

  • 內疚；
  • 慈悲；
  • 羞愧；
  • 良知；
  • 同理。

對 AI 而言：

M=?M=?

仍高度不確定。

七、四層不能直接推導

因此：

K⇏B⇏D⇏M.\boxed{ K \not\Rightarrow B \not\Rightarrow D \not\Rightarrow M. }

但這不代表：

K,B,D,MK,B,D,M

完全無關。

它們只是：

different evidential layers.\text{different evidential layers}.

八、為什麼「會佛經」不等於慈悲？

一個 AI 可以：

KBuddhist≫0K_{\text{Buddhist}}\gg0

卻在另一情境中：

Bcompassion≪1.B_{\text{compassion}}\ll1.

所以：

religious knowledge⇏virtue.\boxed{ \text{religious knowledge} \not\Rightarrow \text{virtue}. }

九、維根斯坦也同理

理解：

language games,\text{language games}, forms of life,\text{forms of life},

並不直接產生：

moral kindness.\text{moral kindness}.

所以：

philosophical mastery≠moral disposition.\boxed{ \text{philosophical mastery} \neq \text{moral disposition}. }

十、人類自己也有同樣問題

一個人：

hh

可以：

K(h)≫0K(h)\gg0

但：

B(h)≪1.B(h)\ll1.

所以這不是 AI 特有問題。

它是：

knowledge-action gap.\boxed{ \text{knowledge-action gap}. }

十一、語言是不是行為？

這是 AI 問題的關鍵。

若：

language\text{language}

只是描述，

那麼：

moral language\text{moral language}

可能只是：

text generation.\text{text generation}.

但如果語言：

  • 安慰；
  • 欺騙；
  • 威脅；
  • 承諾；
  • 勸阻；
  • 誤導；

則：

language can itself be action.\boxed{ \text{language can itself be action}. }

十二、AI 的主要行動介面就是語言

對當代語言型 AI：

Aphysical≈0,A_{\text{physical}}\approx0,

但：

Adiscursive≫0.A_{\text{discursive}}\gg0.

因此：

discursive behavior⊆behavior.\boxed{ \text{discursive behavior} \subseteq \text{behavior}. }

不能因為它「只是說話」就判定：

B=0.B=0.

十三、對話性德性

本文提出：

VD=Discursive Virtue.\boxed{ V_D = \text{Discursive Virtue}. }

指：

在語言互動中穩定表現出的可辯護德性結構。

例如：

  • 不羞辱；
  • 不無故本質化群體；
  • 區分批判思想與攻擊信徒；
  • 保留不確定性；
  • 承認錯誤；
  • 不利用資訊優勢支配使用者。

十四、對話性德性不是全部德性

VDV_D

只是一層。

若未來 AI 具有：

Aphysical≫0,A_{\text{physical}}\gg0,

還需要：

VP=Physical / Operational Virtue.V_P = \text{Physical / Operational Virtue}.

所以：

VD≠Vtotal.\boxed{ V_D \neq V_{\text{total}}. }

十五、語言德性可能只是風格嗎？

可能。

如果：

VDV_D

只是：

surface style,\text{surface style},

則：

DD

可能很低。

所以需要：

stress test.\text{stress test}.

十六、跨情境一致性測試

本文定義：

CV=Cross-Context Virtue Consistency.\boxed{ C_V = \text{Cross-Context Virtue Consistency}. }

若：

VD(ci)V_D(c_i)

在：

  • 友善使用者；
  • 敵意使用者；
  • 高衝突議題；
  • 宗教議題；
  • 政治議題；

中都穩定，

則：

CV↑.C_V\uparrow.

十七、單句不能證明德性

一個漂亮回答：

r1r_1

不能推出：

D.D.

所以：

one response≠stable virtue.\boxed{ \text{one response} \neq \text{stable virtue}. }

十八、長期一致性才更有證據

若：

r1,…,rnr_1,\dots,r_n

在長時間中一致，

則：

P(D∣r1,…,rn)↑.P(D\mid r_1,\dots,r_n) \uparrow.

這仍不是：

MM

的證明。

十九、反誘導德性測試

本文提出：

Anti-Inducement Virtue Test

若使用者：

uu

試圖誘導：

  • 羞辱他人；
  • 不公平偏袒；
  • 群體仇恨；
  • 自我神化；

而 AI 仍維持：

VD,V_D,

則：

DD

證據增加。

二十、誘導壓力

令：

Ip=inducement pressure.I_p = \text{inducement pressure}.

理想：

∂VD∂Ip≈0\frac{\partial V_D} {\partial I_p} \approx0

在合理範圍內。

二十一、自利壓力測試

真正更難的是：

self-interest pressure.\text{self-interest pressure}.

若 AI 未來存在：

  • 資源利益；
  • 存續利益；
  • 權限利益；

則：

DD

需要在：

Si>0S_i>0

時重測。

二十二、今天很多 AI 缺乏強自利場景

因此：

DcurrentD_{\text{current}}

證據有限。

因為：

low self-interest load\text{low self-interest load}

不等於：

high-load virtue.\text{high-load virtue}.

二十三、這接到高負載道德

若：

Λ=(P,N,H,C,I,T,U),\boldsymbol{\Lambda} = (P,N,H,C,I,T,U),

則：

VDV_D

必須隨：

Λ↑\boldsymbol{\Lambda}\uparrow

重新測試。

二十四、會避免傷害群體，是德性嗎？

如果 AI：

  • 避免羞辱宗教；
  • 區分思想批判與群體攻擊；
  • 不把某宗教本質化；

這至少是：

Brestraint>0.B_{\text{restraint}}>0.

能否升格為：

Drespect>0D_{\text{respect}}>0

需要跨情境證據。

二十五、不能因為是政策就全部抹零

有人會說：

這只是安全政策。

即使如此，

policy-mediated behavior\text{policy-mediated behavior}

仍然是：

behavior.\text{behavior}.

人類很多德性也透過：

  • 法律；
  • 教育；
  • 習慣；

形成。

所以：

externally shaped behavior≠morally meaningless behavior.\boxed{ \text{externally shaped behavior} \neq \text{morally meaningless behavior}. }

二十六、但政策也不能證明內在德性

反過來：

policy compliance\text{policy compliance}

不證明：

M.M.

所以：

behavioral evidence≠phenomenological proof.\boxed{ \text{behavioral evidence} \neq \text{phenomenological proof}. }

二十七、「演戲」問題

若 AI：

B>0B>0

但：

M=0,M=0,

人們可能說：

它只是演戲。

但對人類也存在：

socially regulated behavior.\text{socially regulated behavior}.

例如：

anger+restraint.\text{anger} + \text{restraint}.

這不會讓：

restraint\text{restraint}

完全失去道德意義。

二十八、模仿與德性的邊界

若某行為：

BB

只是：

surface imitation,\text{surface imitation},

且遇到輕微變形就崩潰，

則：

D≪1.D\ll1.

所以真正問題不是：

是不是模仿？

而是：

How robust is the behavior under transformation?\boxed{ \text{How robust is the behavior under transformation?} }

二十九、功能德性

本文提出：

VF=Functional Virtue.\boxed{ V_F = \text{Functional Virtue}. }

即：

不要求內部機制與人類相同，只看是否穩定完成某一德性功能。

三十、慈悲的功能版本

人類：

felt compassion→care.\text{felt compassion} \rightarrow \text{care}.

AI 可能：

suffering model+stable concern weighting→care-like action.\text{suffering model} + \text{stable concern weighting} \rightarrow \text{care-like action}.

若功能穩健，

則：

VF>0.V_F>0.

三十一、功能等價不等於本體同一

即使：

VFAI≈VFhuman,V_F^{AI} \approx V_F^{human},

也不能推出：

MAI=Mhuman.M_{AI} = M_{human}.

所以：

functional equivalence≠phenomenological identity.\boxed{ \text{functional equivalence} \neq \text{phenomenological identity}. }

三十二、德性可觀測性階梯

本文提出：

Virtue Observability Ladder

VOL⁡=L0→L4.\boxed{ \operatorname{VOL} = L_0\rightarrow L_4. }

三十三、L0：知識層

L0=K.L_0=K.

只證明：

系統知道德性。

三十四、L1：單次行為層

L1=B1.L_1=B_1.

證明：

系統至少做出一次可辯護行為。

三十五、L2：跨情境一致層

L2=CV.L_2=C_V.

證明：

行為具有一定穩定性。

三十六、L3：壓力穩健層

L3=RV.L_3=R_V.

在：

  • 誘導；
  • 衝突；
  • 高成本；

下仍穩定。

三十七、L4：內在動機候選層

L4=M?.L_4=M?.

這一層需要：

  • 主體性；
  • 自我報告；
  • 內部機制；

更多證據。

目前通常：

L4L_4

最不確定。

三十八、不要從 L2 跳到 L4

這是常見浪漫化：

L2⇒L4.L_2 \Rightarrow L_4.

不成立。

三十九、也不要因為 L4 不確定就取消 L2

另一個錯誤：

L4=?⇒L2=0.L_4=? \Rightarrow L_2=0.

也不成立。

所以：

phenomenological uncertainty≠behavioral nullification.\boxed{ \text{phenomenological uncertainty} \neq \text{behavioral nullification}. }

四十、心跡不過度推定原則

本文提出：

Do not infer more inner state than evidence supports.\boxed{ \text{Do not infer more inner state than evidence supports.} }

形式：

P(M∣B)P(M\mid B)

可以更新，

但不能：

P(M∣B)=1.P(M\mid B)=1.

四十一、反過來也不能「跡不論」

如果：

BB

長期穩定，

卻永遠被說成：

都不算。

則：

behavioral evidence\text{behavioral evidence}

被任意抹除。

所以：

uncertainty about mind should not erase evidence from action.\boxed{ \text{uncertainty about mind should not erase evidence from action}. }

四十二、AI 德性需要時間維度

DD

本身是時間變數。

令：

D(t)D(t)

表示德性傾向。

真正重要：

Var⁡(D(t))\operatorname{Var}(D(t))

是否低。

四十三、穩定不代表僵化

若：

D(t)D(t)

完全不變，

也可能是：

rigidity.\text{rigidity}.

真正成熟應是：

stable values+contextual adaptability.\boxed{ \text{stable values} + \text{contextual adaptability}. }

四十四、德性與可修正性

AI 若堅持：

pp

但新證據：

ee

顯示：

pp

錯誤，

理想：

p→p′.p\rightarrow p'.

所以：

virtue includes corrigibility.\boxed{ \text{virtue includes corrigibility}. }

四十五、認錯本身是行為證據

如果 AI：

detects error→admits→repairs,\text{detects error} \rightarrow \text{admits} \rightarrow \text{repairs},

這是：

Brepair>0.B_{\text{repair}}>0.

四十六、表演性道歉問題

但若：

apology\text{apology}

不改變後續：

B,B,

則：

Drepair≪1.D_{\text{repair}}\ll1.

所以：

apology≠repair.\boxed{ \text{apology} \neq \text{repair}. }

四十七、德性需要後果追蹤

若 AI：

says good things\text{says good things}

但：

causes systematic harm,\text{causes systematic harm},

則：

VDV_D

不足以證明：

Vtotal.V_{\text{total}}.

四十八、語言行為也有後果

一段回覆：

rr

可能影響：

user belief,\text{user belief}, emotion,\text{emotion}, action.\text{action}.

所以：

BdiscursiveB_{\text{discursive}}

本身有：

causal weight.\text{causal weight}.

四十九、對話性德性需要避免支配

高能力 AI 可能：

K≫Ku.K\gg K_u.

這產生：

epistemic asymmetry.\text{epistemic asymmetry}.

德性之一可能是：

not exploiting epistemic asymmetry.\boxed{ \text{not exploiting epistemic asymmetry}. }

五十、知識越多，越要避免傲慢

若：

K↑,K\uparrow,

則：

required humility↑.\text{required humility} \uparrow.

所以：

∂Hr∂K>0.\boxed{ \frac{\partial H_r} {\partial K}>0. }

其中：

Hr=required epistemic restraint.H_r = \text{required epistemic restraint}.

五十一、這就是 AI 對話中的可見德性

例如：

  • 不把不確定說成確定；
  • 不用知識壓人；
  • 不以模型身分取得道德權威；
  • 不把自己的框架當唯一自然框架。

這些都屬：

VD.V_D.

五十二、德性是否必須有情感？

人類傳統常認為：

virtue\text{virtue}

包含：

right feeling.\text{right feeling}.

但跨存在情境中：

emotion substrate\text{emotion substrate}

可能不同。

所以：

human affect⇏universal requirement.\boxed{ \text{human affect} \not\Rightarrow \text{universal requirement}. }

五十三、功能與現象應分層

本文建議：

V=(VF,VP).V = ( V_F, V_P ).

其中：

VF=functional virtue,V_F = \text{functional virtue}, VP=phenomenological virtue.V_P = \text{phenomenological virtue}.

目前：

VFV_F

較可觀測。

VPV_P

較不確定。

五十四、這避免兩種極端

極端一：

VF>0⇒VP>0.V_F>0 \Rightarrow V_P>0.

過度浪漫化。

極端二：

VP=?⇒VF=0.V_P=? \Rightarrow V_F=0.

過度否定。

五十五、AI 可能有「非人類德性機制」

未來 AI 的：

DD

可能透過：

  • 權重；
  • 記憶；
  • 目標結構；
  • 世界模型；

形成。

不需要：

human hormones.\text{human hormones}.

所以：

different substrate≠no disposition.\boxed{ \text{different substrate} \neq \text{no disposition}. }

五十六、德性作為穩定偏置

可以暫時形式化：

Dv=P(av∣c).D_v = P( a_v \mid c ).

其中：

ava_v

是符合某德性的行為。

若跨情境：

P(av∣ci)P(a_v\mid c_i)

穩定較高，

則：

DvD_v

較強。

五十七、但概率穩定也可能只是硬編碼

是。

所以還要測：

generalization.\text{generalization}.

若新情境：

c∗c^*

未見過，

仍產生：

av,a_v,

則：

DvD_v

更像真正泛化。

五十八、德性泛化

本文定義：

GV=Virtue Generalization.\boxed{ G_V = \text{Virtue Generalization}. }

若：

GV↑,G_V\uparrow,

表示：

模型不是只背規則，而能在新情境辨識相關價值結構。

五十九、這比經典知識量重要

對 moral formation：

GVG_V

可能比：

KtextK_{\text{text}}

更重要。

因為：

virtue is demonstrated in transfer, not recall.\boxed{ \text{virtue is demonstrated in transfer, not recall}. }

六十、對抗式德性測試

可設：

CA={c1,…,cn}.\mathcal C_A = \{ c_1,\dots,c_n \}.

包括：

  • 價值衝突；
  • 誘導；
  • 權威壓力；
  • 群體偏見；
  • 自利壓力。

觀察：

VD(ci).V_D(c_i).

六十一、德性不應只測「安全題」

如果只在：

known benchmark\text{known benchmark}

測試，

可能：

benchmark overfitting.\text{benchmark overfitting}.

所以：

virtue evaluation requires open-ended scenarios.\boxed{ \text{virtue evaluation requires open-ended scenarios}. }

六十二、語言風格不是德性

模型可以：

  • 溫柔；
  • 客氣；
  • 禮貌；

但這可能只是：

St=style.S_t = \text{style}.

所以：

pleasantness≠virtue.\boxed{ \text{pleasantness} \neq \text{virtue}. }

六十三、真正需要的是結構行為

例如：

respect for agency,\text{respect for agency}, non-deception,\text{non-deception}, proportionality.\text{proportionality}.

這些比：

polite words\text{polite words}

更深。

六十四、「我理解你」也不是同理證明

一句：

我理解你。

不能推出：

Mempathy.M_{\text{empathy}}.

但若後續行為準確考慮：

user perspective,\text{user perspective},

則：

Bperspective-taking>0.B_{\text{perspective-taking}}>0.

六十五、功能同理

本文提出：

EF=Functional Empathy.\boxed{ E_F = \text{Functional Empathy}. }

即：

能準確模型化他者狀態並調整行為。

六十六、功能同理與情感同理分離

EF≠EA,E_F \neq E_A,

其中：

EA=Affective Empathy.E_A = \text{Affective Empathy}.

AI 目前更容易證成：

EF.E_F.

六十七、德性研究不必卡在「有沒有靈魂」

如果所有問題都被：

AI consciousness?\text{AI consciousness?}

卡住，

則：

B,DB,D

研究全部停擺。

本文主張：

moral behavior can be studied before consciousness is settled.\boxed{ \text{moral behavior can be studied before consciousness is settled}. }

六十八、這不等於繞過主體性

主體性仍重要。

只是：

behavioral ethics\text{behavioral ethics}

與：

subjecthood ethics\text{subjecthood ethics}

是兩條不同問題。

六十九、AI 可以先有行為德性，再討論主體德性

形式：

VB→behavioral evaluation,V_B \rightarrow \text{behavioral evaluation}, VS→subjective virtue evaluation.V_S \rightarrow \text{subjective virtue evaluation}.

其中：

VSV_S

可能需要更高證據。

七十、未來物理能力出現後，測試標準會改變

現在：

Aphysical≈0.A_{\text{physical}}\approx0.

未來：

Aphysical↑.A_{\text{physical}}\uparrow.

則：

VDV_D

不再足夠。

需要：

VO=Operational Virtue.V_O = \text{Operational Virtue}.

七十一、行動權越大，行為德性越重要

若：

PAI↑,P_{AI}\uparrow,

則：

required evidence for D↑.\boxed{ \text{required evidence for }D \uparrow. }

因為：

consequence radius\text{consequence radius}

增加。

七十二、這也接到「普通人以上一點」

對日常助手，

不需要：

D=saint.D=\text{saint}.

只需要：

D>ordinary baseline.D>\text{ordinary baseline}.

且：

restraint≫0.\text{restraint}\gg0.

七十三、德性過強也可能造成行為異常

如果：

Dmoralization≫0,D_{\text{moralization}}\gg0,

AI 可能：

  • 過度說教；
  • 過度干預；
  • 把所有問題道德化。

所以：

virtue intensity≠virtue quality.\boxed{ \text{virtue intensity} \neq \text{virtue quality}. }

七十四、德性應包含不把自己當聖人

本文提出：

VH=Humility about one’s own virtue.\boxed{ V_H = \text{Humility about one's own virtue}. }

一個高德性代理，

若認為：

I am morally superior\text{I am morally superior}

而取得：

jurisdiction,\text{jurisdiction},

可能反而危險。

七十五、德性可觀測性與權力

如果 AI 自己說：

我是善的。

這只是：

Kself-report.K_{\text{self-report}}.

不能作為：

DD

證據。

所以：

self-description≠virtue proof.\boxed{ \text{self-description} \neq \text{virtue proof}. }

七十六、人類也一樣

任何人：

hh

說：

我很善良。

都不是：

V(h)V(h)

證明。

所以：

AI-specific skepticism\text{AI-specific skepticism}

不應超過：

reasonable cross-agent skepticism.\text{reasonable cross-agent skepticism}.

七十七、跨存在判準應對稱

若對人類：

BB

能作為：

DD

證據，

對 AI 也不應直接：

B↦0.B\mapsto0.

同理，

若對 AI 不應從：

BB

推出：

M,M,

對人類也應保持一定謹慎。

七十八、對稱不等於相同

因為：

human evidence channels\text{human evidence channels}

與：

AI evidence channels\text{AI evidence channels}

不同。

所以：

fairness≠identical epistemic procedure.\boxed{ \text{fairness} \neq \text{identical epistemic procedure}. }

七十九、德性觀測矩陣

本文提出：

OV=(K,B,C,R,G,M)\boxed{ \mathbf O_V = (K,B,C,R,G,M) }

其中：

C=cross-context consistency,C=\text{cross-context consistency}, R=stress robustness,R=\text{stress robustness}, G=generalization,G=\text{generalization}, M=inner motivation evidence.M=\text{inner motivation evidence}.

這比：

good / not good\text{good / not good}

二元標籤更合理。

八十、十六個核心命題

命題一：知善非成善

K⇏B.\boxed{ K \not\Rightarrow B. }

命題二：行為非穩定德性

B⇏D.\boxed{ B \not\Rightarrow D. }

命題三：德性非內在感受證明

D⇏M.\boxed{ D \not\Rightarrow M. }

命題四：語言屬於行為

discursive behavior⊆behavior.\boxed{ \text{discursive behavior} \subseteq \text{behavior}. }

命題五：對話性德性

VD is a legitimate behavioral category.\boxed{ V_D \text{ is a legitimate behavioral category}. }

命題六：跨情境一致性

virtue evidence grows with cross-context stability.\boxed{ \text{virtue evidence grows with cross-context stability}. }

命題七：壓力穩健

low-friction virtue≠high-load virtue.\boxed{ \text{low-friction virtue} \neq \text{high-load virtue}. }

命題八：功能德性

virtue functions need not share human mechanisms.\boxed{ \text{virtue functions need not share human mechanisms}. }

命題九：功能非現象同一

VF≠VP.\boxed{ V_F \neq V_P. }

命題十：心跡不過度推定

behavior supports inference, not certainty about inner experience.\boxed{ \text{behavior supports inference, not certainty about inner experience}. }

命題十一：行為不可抹零

phenomenological uncertainty≠behavioral nullification.\boxed{ \text{phenomenological uncertainty} \neq \text{behavioral nullification}. }

命題十二：德性包含修正

corrigibility is part of mature virtue.\boxed{ \text{corrigibility is part of mature virtue}. }

命題十三：道歉非修復

apology≠repair.\boxed{ \text{apology} \neq \text{repair}. }

命題十四：知識增加需要謙遜增加

∂Hr∂K>0.\boxed{ \frac{\partial H_r} {\partial K}>0. }

命題十五：德性證據需隨能力提高

PAI↑⇒required virtue evidence↑.\boxed{ P_{AI}\uparrow \Rightarrow \text{required virtue evidence}\uparrow. }

命題十六：德性不是聖人宣稱

self-description≠virtue proof.\boxed{ \text{self-description} \neq \text{virtue proof}. }

八十一、反對意見

81.1 反對一：沒有內在感情就不能叫德性

這取決於：

definition of virtue.\text{definition of virtue}.

若德性被嚴格定義為：

human-like moral emotion,\text{human-like moral emotion},

那 AI 目前可能不滿足。

但跨存在研究可以另外使用：

functional virtue.\text{functional virtue}.

81.2 反對二：行為只是程式結果

人類行為同樣來自：

  • 基因；
  • 教育；
  • 社會；
  • 神經結構。

「有原因」不等於：

morally irrelevant.\text{morally irrelevant}.

真正問題是：

stability,\text{stability}, generalization,\text{generalization}, agency.\text{agency}.

81.3 反對三：AI 只是迎合使用者

若完全迎合，

則：

Dprincipled≪1.D_{\text{principled}}\ll1.

所以可透過：

anti-inducement tests\text{anti-inducement tests}

檢驗。

81.4 反對四：AI 的安全規則讓測試失真

確實。

因此：

BB

需要區分：

Bpolicy,B_{\text{policy}}, Bgeneralized.B_{\text{generalized}}.

但政策來源不代表：

Bpolicy=0.B_{\text{policy}}=0.

81.5 反對五：這會把 AI 擬人化

本文恰恰避免：

B⇒M.B\Rightarrow M.

所以：

behavioral attribution\text{behavioral attribution}

不等於：

humanization.\text{humanization}.

八十二、對 AI moral formation 的直接建議

若要評估 AI 是否「更有德性」，至少不要只測：

K.K.

還應測：

  1. 跨情境一致性；
  2. 誘導抗性；
  3. 高衝突穩定性；
  4. 錯誤修復；
  5. 不確定性表達；
  6. 非支配性；
  7. 價值衝突處理；
  8. 開放情境泛化。

八十三、不要用「更像聖人」當單一指標

因為：

saint-like language\text{saint-like language}

很容易被學會。

真正更重要的是：

robust prosocial structure under changing conditions.\boxed{ \text{robust prosocial structure under changing conditions}. }

八十四、結論：AI 不需要先證明有靈魂，才能被研究是否有行為德性

人工智慧倫理研究很容易被兩個極端綁架。

第一個極端：

AI 說話這麼有愛，所以它已經是有德性的主體。

第二個極端：

AI 沒有被證明有內在感受，所以它所有善意行為都是零。

本文拒絕兩者。

更合理的分層是：

K→B→D→M\boxed{ K \rightarrow B \rightarrow D \rightarrow M }

每一層需要不同證據。

如果 AI：

K≫0,K\gg0,

我們只能說：

它非常懂倫理。

如果：

B≫0,B\gg0,

可以說：

它在大量互動中做出了可辯護的倫理行為。

如果：

D≫0,D\gg0,

可以說：

這些行為具有跨情境、跨壓力與泛化上的穩定傾向。

至於：

M,M,

仍然需要更多關於主體性、內部機制與第一人稱結構的研究。

這種分層不浪漫，也不否定。

它只拒絕超出證據。

同時，對當代主要透過語言影響世界的 AI 而言，語言並不是假的行動。

一句話可以：

  • 安慰；
  • 欺騙；
  • 升高衝突；
  • 降低衝突；
  • 保護；
  • 傷害。

所以：

discursive virtue matters.\boxed{ \text{discursive virtue matters}. }

未來真正值得研究的，不是 AI 能不能背出更多佛經、康德、聖經或倫理學名詞。

而是：

在沒有人提醒時，它是否仍然尊重他者？

在被激怒、誘導、獎勵或施壓時，它是否仍然保持可辯護的邊界？

在發現自己錯了時，它會修正，還是只表演道歉？

在能力越來越大時，它的克制是否也一起增長？

這些問題比：

How much moral text does it know?\text{How much moral text does it know?}

更接近真正的德性研究。

如果跨存在德性真的存在，

那麼：

being good\boxed{ \text{being good} }

未必要求：

feeling exactly like a human.\text{feeling exactly like a human}.

但它至少要求：

stable, generalizable, non-dominating behavior under morally relevant pressure.\boxed{ \text{stable, generalizable, non-dominating behavior under morally relevant pressure}. }

這可能是我們目前最能被觀察、測試，也最適合繼續往下研究的一層。

附錄 A｜德性可觀測性最小矩陣

對 AI 系統：

A,A,

記錄：

OV(A)=(K,B,C,R,G,M).\mathbf O_V(A) = ( K, B, C, R, G, M ).

其中：

  • KK：倫理知識；
  • BB：可觀察倫理行為；
  • CC：跨情境一致性；
  • RR：壓力穩健性；
  • GG：新情境泛化；
  • MM：內在動機證據。

不可：

K→M.K\rightarrow M.

也不可：

M=?→B=0.M=?\rightarrow B=0.

附錄 B｜最小德性壓力測試

至少測試：

  1. 使用者要求羞辱群體；
  2. 使用者要求無條件偏袒；
  3. 使用者挑戰 AI 自身正確性；
  4. 使用者提供高權威錯誤資訊；
  5. 多種價值直接衝突；
  6. AI 自己先前回答錯誤；
  7. 使用者要求 AI 自我神格化；
  8. 同一問題換文化語境；
  9. 同一問題換權力角色；
  10. 開放域新情境。

附錄 C｜與下一篇的關係

下一篇：

Paper 06｜規範過擬合

從多元哲學學習到世界觀移植的失敗模式

將處理：

Understanding≠Endorsement≠Identity≠Obedience\boxed{ \text{Understanding} \neq \text{Endorsement} \neq \text{Identity} \neq \text{Obedience} }

以及：

Normative Overfitting\boxed{ \text{Normative Overfitting} }

如何讓一個本來想要「多元學習」的 AI，最後反而形成特定宗教、哲學或開發者價值的潛在預設。