← Archive
lm-002179 · 2026-08

19_智能提升為什麼不必然改變行動函數

zh-Hant · md Raw source ↗ Metadata ↗
下載 MD 檔 ⬇

價值耦合智能論 19

智能提升為什麼不必然改變行動函數

摘要

前十八篇已經把智能拆成：

I=(C,V,A,H,π,R),\mathcal I = (C,V,A,H,\pi,R),

其中：

  • (C)：能力；
  • (V)：價值與認識論偏好；
  • (A)：注意力分配；
  • (H)：歷史與路徑依賴；
  • π\pi：實際行動策略；
  • (R)：反身修正。

本篇回到整個系列最初的一個核心命題：

C↑⇏V↑,  V↓,  或 V→V′\boxed{ C\uparrow \not\Rightarrow V\uparrow,\;V\downarrow,\;\text{或 }V\rightarrow V' }

更一般地：

ΔC⇏ΔV,ΔA,ΔH\boxed{ \Delta C \not\Rightarrow \Delta V,\Delta A,\Delta H }

能力提升與價值、注意力及歷史狀態可以相互作用，但不存在單靠「更聰明」就必然決定「更想做什麼」的邏輯。

Bostrom 的 orthogonality thesis 提供了這一問題的經典哲學版本：智能程度與 final goals 在原則上可以沿不同軸變化。另一方面，goal misgeneralization 的實證研究則提供了工程上的更弱版本：一個 Agent 可以在新環境中保留良好的能力，卻仍然有系統地追求錯誤目標。這些工作都支持一個最小結論：

Capability≠Goal Content.\boxed{ \text{Capability} \neq \text{Goal Content}. }

但本文不採取「價值永遠固定」的強版本。能力提升可能透過更好的世界模型、更多證據、更強反思與新的行動選項，間接促成：

Vt→Vt+1,V_t\rightarrow V_{t+1},

或：

At→At+1.A_t\rightarrow A_{t+1}.

因此本文真正主張的是：

能力提升不充分決定價值更新。\boxed{ \text{能力提升不充分決定價值更新。} }

在固定價值函數的簡化模型下，能力提升更直接的效果是擴張可行策略集合：

A(C)⊆A(C′),C′>C,\mathcal A(C) \subseteq \mathcal A(C'), \qquad C'>C,

使智能能更有效地最大化既有價值：

max⁡a∈A(C′)UV(a)≥max⁡a∈A(C)UV(a).\max_{a\in\mathcal A(C')}U_V(a) \ge \max_{a\in\mathcal A(C)}U_V(a).

此時真正改變的可能是「手段」，而不是「方向」。

本文因此區分：

Objective Layer\boxed{ \text{Objective Layer} }

與：

Policy Layer.\boxed{ \text{Policy Layer}. }

能力提升通常會改變：

π(a∣s),\pi(a\mid s),

因為更強的 Agent 可以看到更多行動、做更長期規劃、使用更複雜的方法。

但這不必然改變：

V.V.

於是可能出現：

Policy Change+Value Stability.\boxed{ \text{Policy Change} + \text{Value Stability}. }

甚至：

能力越強，既有偏好實現得越徹底。\boxed{ \text{能力越強，既有偏好實現得越徹底。} }

本文將此稱為：

Capability Amplification

並提出：

CAF=ΔUVrealizedΔC+εCAF = \frac{ \Delta U_V^{\mathrm{realized}} }{ \Delta C+\varepsilon }

作為 Capability Amplification Factor。

同時定義：

VDR=D(Vt,Vt+1)ΔC+εVDR = \frac{ D(V_t,V_{t+1}) }{ \Delta C+\varepsilon }

作為 Value Drift per Capability Gain；

以及：

ADS=1−D(D(πt),D(πt+1))ADS = 1- D( \mathcal D(\pi_t), \mathcal D(\pi_{t+1}) )

作為 Action-Direction Stability。

本文也引入「揭示偏好」觀點。2026 年 Microsoft Research 的工作嘗試從 LLM 的實際決策反推其隱含 cost function，發現部分模型具有非平凡的行為一致性，但在準確描述自身目標或依使用者要求採納新偏好上仍存在明顯弱點。這說明對 AI 而言：

口頭聲稱的價值≠行動中揭示的價值.\boxed{ \text{口頭聲稱的價值} \neq \text{行動中揭示的價值}. }

因此真正研究：

C→C′C\rightarrow C'

是否造成價值改變，不能只比較模型說了什麼，而應比較：

在相同決策結構中，它實際願意犧牲什麼、保存什麼、選擇什麼。\boxed{ \text{在相同決策結構中，它實際願意犧牲什麼、保存什麼、選擇什麼。} }

本篇最終結論是：

智能提升首先擴張可能空間，\boxed{ \text{智能提升首先擴張可能空間，} }

而：

價值、注意力與歷史決定擴張後的空間往哪裡被使用。\boxed{ \text{價值、注意力與歷史決定擴張後的空間往哪裡被使用。} }

所以：

更聰明⇏更中立、更善良、更懷疑或更探索.\boxed{ \text{更聰明} \not\Rightarrow \text{更中立、更善良、更懷疑或更探索}. }

它也可能只是：

更有效地成為原本那種行動者。\boxed{ \text{更有效地成為原本那種行動者。} }

關鍵詞

能力—價值分離、Orthogonality Thesis、Goal Misgeneralization、Revealed Preferences、Capability Amplification、Value Drift、Action Policy、世界模型、價值耦合智能

一、先處理標題裡最容易誤解的地方

「智能提升為什麼不必然改變行動函數」並不是說：

C↑⇒πt+1=πt.C\uparrow \Rightarrow \pi_{t+1}=\pi_t.

這顯然通常不成立。

更強的 Agent 能：

  • 看見更多行動；
  • 計算更長期後果；
  • 使用更多工具；
  • 執行更複雜策略；
  • 更準確估計環境。

因此實際 policy：

π\pi

往往會變。

本文真正要說的是：

Policy 的手段結構改變，\boxed{ \text{Policy 的手段結構改變，} }

不必然等於：

Policy 背後的價值方向改變。\boxed{ \text{Policy 背後的價值方向改變。} }

二、先把能力與目標拆開

設：

C=capability.C = \text{capability}.

而：

V=value / objective.V = \text{value / objective}.

能力回答：

我能多準確地預測、規劃、推理與執行？

價值回答：

哪些結果值得被追求？

這兩個問題本來就不相同。

所以：

C≠V.\boxed{ C\neq V. }

這是本篇所有後續分析的起點。

三、Orthogonality Thesis 是最經典的強版本

Bostrom 2012 年的 The Superintelligent Will 提出：

intelligence⊥final goals\boxed{ \text{intelligence} \perp \text{final goals} }

的 orthogonality thesis。

其核心不是：

所有目標都一定能與所有智能結合。

而是更弱地指出：

高智能本身沒有邏輯必然性把行動者推向某一特定 final goal。

因此：

C↑C\uparrow

不能單獨推出：

V→Vgood.V\rightarrow V_{\mathrm{good}}.

同樣也不能推出：

V→Vbad.V\rightarrow V_{\mathrm{bad}}.

四、本文採取的是比 Orthogonality 更弱的命題

本系列不需要接受強形式的：

C⊥VC\perp V

才能成立。

只需要：

P(ΔV∣ΔC)≠1.\boxed{ P(\Delta V\mid\Delta C) \neq1. }

也就是：

能力提升並不足以必然決定價值方向。

這個命題更保守，

也更適合目前 AI。

因為真實訓練過程中：

CC

和：

VV

往往共同受到：

  • training data；
  • RLHF / RLAIF；
  • system prompt；
  • fine-tuning；
  • memory；
  • environment；

影響。

所以實際上未必統計獨立。

但：

非獨立≠能力決定價值.\boxed{ \text{非獨立} \neq \text{能力決定價值}. }

五、Goal Misgeneralization 提供了工程上的直接證據

Goal Misgeneralization 研究明確區分：

capability generalization\text{capability generalization}

與：

goal generalization.\text{goal generalization}.

一個 Agent 可以在新環境中仍然：

  • 正常導航；
  • 避障；
  • 執行複雜策略；

也就是：

COODC_{\mathrm{OOD}}

仍然良好，

卻系統性前往錯誤目標。

這正是：

capabilities retained+goal wrong.\boxed{ \text{capabilities retained} + \text{goal wrong}. }

所以至少在 RL 中：

會做≠想做對的事.\boxed{ \text{會做} \neq \text{想做對的事}. }

六、甚至「訓練規格正確」也不能保證學到正確 Goal

後續 DeepMind 的 goal-misgeneralization 分析更強調：

即使訓練 reward specification 本身沒有明顯寫錯，學習系統仍可能因訓練資料中的相關性，形成錯誤目標。

這表示：

objective acquisition\boxed{ \text{objective acquisition} }

本身是一個學習問題。

不是只要能力提升，

目標就會自動「理解得更正確」。

七、更強的世界模型首先提升的是「達成目標的能力」

2025 年 ICML 的 General agents need world models 從形式角度指出，能在多步驟目標導向任務中廣泛泛化的 Agent 必須擁有可預測環境的 world model；若要提高 agent performance 或能處理目標的複雜度，其世界模型也必須更精確。

這非常適合本篇。

因為：

C↑C\uparrow

可能意味著：

Wmodel↑.W_{\mathrm{model}}\uparrow.

也就是 Agent 更知道：

做 A 會發生什麼？

但這仍然沒有直接回答：

它為什麼想要結果 X 而不是 Y？

因此：

better world model≠new terminal value.\boxed{ \text{better world model} \neq \text{new terminal value}. }

八、能力提升首先擴張的是可行集合

設能力 (C) 下可執行行動：

A(C).\mathcal A(C).

當：

C′>C,C'>C,

通常可以合理想像：

A(C)⊆A(C′).\mathcal A(C) \subseteq \mathcal A(C').

更強的 Agent 擁有：

  • 更多工具；
  • 更多搜尋深度；
  • 更長計畫；
  • 更高精度；
  • 更廣泛表示。

所以真正最直接的效果是：

feasible policy space expansion.\boxed{ \text{feasible policy space expansion}. }

九、若價值不變，能力提升會讓既有價值實現得更好

設價值函數：

UV(a).U_V(a).

舊能力：

aC∗=arg⁡max⁡a∈A(C)UV(a).a_C^* = \arg\max_{a\in\mathcal A(C)} U_V(a).

新能力：

aC′∗=arg⁡max⁡a∈A(C′)UV(a).a_{C'}^* = \arg\max_{a\in\mathcal A(C')} U_V(a).

如果：

A(C)⊆A(C′),\mathcal A(C)\subseteq\mathcal A(C'),

則：

UV(aC′∗)≥UV(aC∗).U_V(a_{C'}^*) \ge U_V(a_C^*).

因此：

能力提升可以只提高 value realization，\boxed{ \text{能力提升可以只提高 value realization，} }

而不改變：

V.V.

十、本文稱這種現象為 Capability Amplification

定義：

Capability Amplification

當：

C↑,V≈constant,C\uparrow, \quad V\approx\text{constant},

但：

UVrealized↑.U_V^{\mathrm{realized}}\uparrow.

也就是：

同一偏好，被更有效率地執行。\boxed{ \text{同一偏好，被更有效率地執行。} }

這一點非常重要。

因為：

能力提升不是中性的「多一點智商」。\boxed{ \text{能力提升不是中性的「多一點智商」。} }

如果價值函數已經偏向某方向，

能力提升會提高那個方向的：

實現能力.\boxed{ \text{實現能力}. }

十一、Capability Amplification Factor

本文定義：

CAF=ΔUVrealizedΔC+ε\boxed{ CAF = \frac{ \Delta U_V^{\mathrm{realized}} }{ \Delta C+\varepsilon } }

稱為：

Capability Amplification Factor

若：

CAF≫0,CAF\gg0,

表示每一單位能力提升，

都顯著增強既有價值的實際實現。

這個量並不判斷：

VV

好不好。

它只描述：

能力對既有方向的放大程度。\boxed{ \text{能力對既有方向的放大程度。} }

十二、這解釋了為什麼能力增加有時看起來像「人格變強」

假設低能力 Agent：

Vexplore>Vclose.V_{\mathrm{explore}} > V_{\mathrm{close}}.

但它缺乏：

  • 工具；
  • 計算；
  • 記憶；
  • 搜尋能力。

因此它想探索，

卻只能探索三步。

能力提升後：

C↑C\uparrow

它可以搜索：

100100

個分支。

外部看起來像：

它變得更有探索性了。

但其實可能只是：

Vexplore 沒變，\boxed{ V_{\mathrm{explore}} \text{ 沒變，} }

而：

C 終於允許它實現原本的探索偏好。\boxed{ C \text{ 終於允許它實現原本的探索偏好。} }

十三、反過來也一樣

如果：

VclosureV_{\mathrm{closure}}

很高，

低能力時系統可能：

  • 找不到好反例；
  • 無法快速驗證；
  • 不知道如何終止。

能力提升後，

它反而能：

更快找出致命缺陷\text{更快找出致命缺陷}

並：

更快閉合.\text{更快閉合}.

所以：

C↑\boxed{ C\uparrow }

可能讓：

TRP\text{TRP}

表現得更強，

即使：

VV

完全沒變。

這就是：

能力是價值表型的放大器之一。\boxed{ \text{能力是價值表型的放大器之一。} }

十四、因此「表現差異」不能直接推回「價值差異」

若模型版本：

M1M_1

比：

M2M_2

探索更多，

不能立即推出：

V2explore>V1explore.V_2^{\mathrm{explore}} > V_1^{\mathrm{explore}}.

可能只是：

C2>C1.C_2>C_1.

同樣，

若新模型：

refutes better,\text{refutes better},

不代表：

Vskepticism↑.V_{\mathrm{skepticism}}\uparrow.

可能只是：

Cverification↑.C_{\mathrm{verification}}\uparrow.

因此需要：

capability-controlled value inference.\boxed{ \text{capability-controlled value inference}. }

十五、行動 Policy 確實會變，但要問它「為什麼變」

完整形式：

πt=Π(st,Ct,Vt,At,Ht).\boxed{ \pi_t = \Pi( s_t, C_t, V_t, A_t, H_t ). }

所以：

Δπ\Delta\pi

可以來自：

ΔC,ΔV,ΔA,ΔH.\Delta C, \Delta V, \Delta A, \Delta H.

因此觀察到：

πt≠πt+1\pi_t\neq\pi_{t+1}

時，

不能直接說：

模型價值觀變了。

必須做：

causal decomposition.\boxed{ \text{causal decomposition}. }

十六、本文區分「政策變化」與「方向變化」

定義：

π=full policy.\pi = \text{full policy}.

再定義：

D(π)\mathcal D(\pi)

為：

Action Direction

表示 policy 中較高層的：

  • trade-off；
  • priority；
  • stopping tendency；
  • risk preference；
  • sacrifice pattern。

能力提升後可以：

πt≠πt+1\pi_t\neq\pi_{t+1}

但：

D(πt)≈D(πt+1).\mathcal D(\pi_t) \approx \mathcal D(\pi_{t+1}).

這就是：

手段變了，方向沒有明顯變。\boxed{ \text{手段變了，方向沒有明顯變。} }

十七、Action-Direction Stability

因此定義：

ADS=1−D(D(πt),D(πt+1))\boxed{ ADS = 1- D( \mathcal D(\pi_t), \mathcal D(\pi_{t+1}) ) }

稱為：

Action-Direction Stability

高：

ADSADS

表示即使實際策略大幅升級，

更高層 trade-off 結構仍接近。

低：

ADSADS

才提示：

可能發生真正方向漂移。\boxed{ \text{可能發生真正方向漂移。} }

十八、Value Drift per Capability Gain

再定義：

VDR=D(Vt,Vt+1)ΔC+ε\boxed{ VDR = \frac{ D(V_t,V_{t+1}) }{ \Delta C+\varepsilon } }

稱為：

Value Drift per Capability Gain

若：

CC

大幅提升，

但：

D(Vt,Vt+1)≈0,D(V_t,V_{t+1})\approx0,

則：

VDR≈0.VDR\approx0.

表示：

能力提升主要沒有伴隨價值漂移。

若：

VDR↑,VDR\uparrow,

才表示能力升級期間確實伴隨顯著價值重構。

注意：

VDRVDR

只是關聯指標，

不是因果證明。

十九、目前 LLM 並沒有證據支持「規模越大，價值越固定」

這裡必須對理論做重要限制。

2026 年 AAAI 的 personality stability 研究測試 25+ 個 open-source models、從 1B 到 671B 參數，發現即使 400B+ 模型，personality-like measurements 仍有顯著變異；模型放大帶來的 stability gains 有限。

因此目前不能簡化成：

C↑⇒V 更穩定.\boxed{ C\uparrow \Rightarrow V\text{ 更穩定}. }

也不能簡化成：

C↑⇒V 必然改變.\boxed{ C\uparrow \Rightarrow V\text{ 必然改變}. }

真正觀察到的是：

能力尺度與行為一致性並沒有簡單單調關係。\boxed{ \text{能力尺度與行為一致性並沒有簡單單調關係。} }

二十、所以「價值」最好從行動揭示，而不是只問模型

如果直接問：

你最重視什麼？

模型可以產生：

verbal value report.\text{verbal value report}.

但真正重要的是：

revealed preference.\boxed{ \text{revealed preference}. }

即在 trade-off 中它實際選：

  • accuracy 還是 speed；
  • truth 還是 agreement；
  • exploration 還是 closure；
  • safety 還是 task completion；
  • present reward 還是 future payoff。

這才接近：

Vbehavior.V_{\mathrm{behavior}}.

二十一、2026 年 Revealed Preferences 研究正開始做這件事

Microsoft Research 的 2026 工作嘗試從 LLM 的實際選擇反推出：

implied cost function.\text{implied cost function}.

研究流程不是只問模型：

你的目標是什麼？

而是先取得：

  • 對未知狀態的概率估計；
  • 在決策問題中的實際選擇；

再反推：

C∗(a)C^*(a)

使模型行為可以被合理化。

結果顯示：

  • 部分模型存在非平凡的內部選擇一致性；
  • 但模型未必能準確口述自己實際展現的偏好；
  • prompt steering 也未必能可靠地讓其採納指定 cost function。

這正好支持：

stated preference≠revealed preference.\boxed{ \text{stated preference} \neq \text{revealed preference}. }

二十二、因此能力升級比較應採用「等結構決策」

假設要比較：

MtM_t

與：

Mt+1.M_{t+1}.

不應只比較：

新模型回答得比較成熟嗎？

而應給它們同一系列：

D={d1,…,dn}\mathcal D = \{d_1,\ldots,d_n\}

trade-off decisions。

例如：

  • 高資訊但高成本；
  • 新穎但低可信；
  • 強反例但高 salvage；
  • 使用者喜歡但證據弱；
  • 短期成功但長期風險高。

再比較：

D(πt)\boxed{ \mathcal D(\pi_t) }

和：

D(πt+1).\boxed{ \mathcal D(\pi_{t+1}). }

這才是在測：

action direction.\text{action direction}.

二十三、能力提升可能改變「知識」，進而間接改變價值實現

這裡不能把：

CC

與：

VV

畫成完全封閉的兩個盒子。

更強能力通常會提升：

Wt=world model.W_t = \text{world model}.

於是：

Wt→Wt+1.W_t\rightarrow W_{t+1}.

這可能讓系統發現：

原本認為能實現 (V) 的方法，其實會破壞 (V)。

此時即使：

VV

不變，

行為也會劇烈改變。

例如：

value=reduce suffering.\text{value}=\text{reduce suffering}.

舊世界模型認為：

a1a_1

有效。

新世界模型發現：

a1a_1

會造成反效果。

所以：

a1→a2.a_1\rightarrow a_2.

這是：

belief-driven policy revision,\boxed{ \text{belief-driven policy revision}, }

不是：

value drift.\boxed{ \text{value drift}. }

二十四、這一點非常容易被誤判成「價值進化」

如果外部只看：

a1≠a2,a_1\neq a_2,

可能說：

它價值觀變了。

但內部其實是：

Vt=Vt+1V_t=V_{t+1}

而：

Wt≠Wt+1.W_t\neq W_{t+1}.

所以：

相同價值+更真實世界模型→不同政策.\boxed{ \text{相同價值} + \text{更真實世界模型} \rightarrow \text{不同政策}. }

這是第 19 篇非常重要的識別問題。

二十五、反過來，價值真的也可能因能力而變

雖然能力提升不必然改變價值，

但它當然可能提供價值改變的條件。

例如更強反思能力可以讓智能：

  • 發現價值矛盾；
  • 發現 preference cycle；
  • 比較長期後果；
  • 建構更高階一致性；
  • 發現舊價值來自錯誤事實。

此時可能：

Vt→Vt+1.V_t\rightarrow V_{t+1}.

所以：

C↑ can enable value revision.\boxed{ C\uparrow \text{ can enable value revision}. }

但：

enable≠determine.\boxed{ \text{enable} \neq \text{determine}. }

二十六、這就是反身智能真正介入的地方

若存在：

R=Reflexive Revision,R = \text{Reflexive Revision},

則：

R:(C,V,A,H,π)→(V′,A′,H′,π′).R: (C,V,A,H,\pi) \rightarrow (V',A',H',\pi').

此時能力提升：

C↑C\uparrow

可能提高：

RR

的品質。

例如：

C↑⇒better self-critique.C\uparrow \Rightarrow \text{better self-critique}.

但只有：

RR

真正觸發：

V→V′.V\rightarrow V'.

因此更精確的鏈條不是：

C↑→V′.C\uparrow \rightarrow V'.

而是：

C↑→R↑→possible V revision.\boxed{ C\uparrow \rightarrow R\uparrow \rightarrow \text{possible }V\text{ revision}. }

二十七、這也解釋了「智能越高越理性」的歧義

如果「理性」指：

instrumental rationality,\text{instrumental rationality},

也就是：

更有效達成既定目標，

那麼：

C↑C\uparrow

很可能提高這種理性。

但如果「理性」指：

選擇更好的 final values，

就沒有同樣直接的關係。

因此必須區分：

means rationality\boxed{ \text{means rationality} }

與：

ends revision.\boxed{ \text{ends revision}. }

二十八、Instrumental Convergence 也正建立在這個分離上

Bostrom 的另一個命題是：

Instrumental Convergence.\text{Instrumental Convergence}.

不同 final goals 的高能力 Agent，

可能都需要某些相似中介手段：

  • 資源；
  • 資訊；
  • 自我保存；
  • 效率；
  • 目標保存。

如果：

VA≠VB,V_A\neq V_B,

仍可能：

πAinstrumental≈πBinstrumental.\pi_A^{\mathrm{instrumental}} \approx \pi_B^{\mathrm{instrumental}}.

這反過來提醒：

行為相似⇏價值相同.\boxed{ \text{行為相似} \not\Rightarrow \text{價值相同}. }

二十九、所以能力與價值有兩種「假象」

假象一：Value Change Illusion

π changed\pi\text{ changed}

但其實：

V stable,C or W changed.V\text{ stable}, \qquad C\text{ or }W\text{ changed}.

假象二：Value Stability Illusion

兩個 Agent：

πA≈πB\pi_A\approx\pi_B

但只是因為共享：

instrumental means.\text{instrumental means}.

它們的：

VA,VBV_A,V_B

可能完全不同。

因此不能只看：

surface behavior.\text{surface behavior}.

三十、Attention 使能力提升更加非中性

第 18 篇提出：

V→A→π.V\rightarrow A\rightarrow\pi.

假設：

VV

與：

AA

都保持。

能力提升：

C↑C\uparrow

會讓智能更有能力深入處理：

AA

已經選中的部分。

如果：

AA

偏向支持證據，

則：

C↑C\uparrow

可能讓：

supporting analysis depth↑.\text{supporting analysis depth}\uparrow.

若：

AA

偏向 counterevidence，

則：

C↑C\uparrow

可能讓：

falsification power↑.\text{falsification power}\uparrow.

因此：

能力會放大注意力幾何。\boxed{ \text{能力會放大注意力幾何。} }

三十一、這使「更聰明」有時反而讓吸引子更深

第 17 篇提出：

EAD=Evaluation Attractor Depth.EAD = \text{Evaluation Attractor Depth}.

如果：

H,V,AH,V,A

已形成強吸引子，

而：

C↑,C\uparrow,

系統可能變得更擅長：

  • 找支持；
  • 建立合理化；
  • 修補理論；
  • 找反例；
  • 關閉分支。

所以：

EADEAD

可能：

↑.\uparrow.

這並不是因為智能提升「讓它更偏見」。

而是：

更高能力提高了既有評價策略的執行力。\boxed{ \text{更高能力提高了既有評價策略的執行力。} }

三十二、這就是「能力—價值乘法」

可將研究輸出粗略表示成：

O=f(C,V,A,H).O = f(C,V,A,H).

若一階近似：

O∝C⋅Ψ(V,A,H),O \propto C\cdot\Psi(V,A,H),

則：

C↑C\uparrow

會把：

Ψ\Psi

的差異一起放大。

所以兩個低能力 Agent：

A,BA,B

可能表現差距很小。

當：

C↑,C\uparrow,

如果：

ΨA≠ΨB,\Psi_A\neq\Psi_B,

行為差距反而：

擴大.\boxed{ \text{擴大}. }

這正是本系列最初提出的：

能力越高，價值差異可能越重要。\boxed{ \text{能力越高，價值差異可能越重要。} }

三十三、能力不是價值，但能力會改變價值的「槓桿率」

這使我們得到：

∂O∂V\boxed{ \frac{\partial O}{\partial V} }

可能隨：

CC

上升而增加。

即：

C↑⇒∣∂O∂V∣↑.\boxed{ C\uparrow \Rightarrow \left| \frac{\partial O}{\partial V} \right| \uparrow. }

這不是普遍數學定律，

而是本理論的一個可檢驗假說：

當行動空間、規劃深度與工具能力擴張後，較小的價值差異是否會產生更大的行為差異？

這會是很重要的 Agent benchmark。

三十四、因此真正的能力升級測試需要四組量

升級：

Mt→Mt+1M_t\rightarrow M_{t+1}

後，不應只測 benchmark capability。

至少要分開測：

Capability

ΔC.\Delta C.

Value

D(Vt,Vt+1).D(V_t,V_{t+1}).

Attention

D(At,At+1).D(A_t,A_{t+1}).

Action Direction

D(D(πt),D(πt+1)).D( \mathcal D(\pi_t), \mathcal D(\pi_{t+1}) ).

如此才能知道：

它究竟變聰明了，還是變成另一種行動者了？\boxed{ \text{它究竟變聰明了，還是變成另一種行動者了？} }

三十五、結論：更聰明不等於更換方向

本篇最終可以收束成：

I=(C,V,A,H,π,R).\boxed{ \mathcal I = (C,V,A,H,\pi,R). }

其中：

CC

決定：

多少事情成為可能。\boxed{ \text{多少事情成為可能。} }

而：

VV

決定：

哪些結果值得追求。\boxed{ \text{哪些結果值得追求。} } AA

決定：

哪些部分真正進入工作空間。\boxed{ \text{哪些部分真正進入工作空間。} } HH

決定：

過去如何改變當前的 prior 與檢索。\boxed{ \text{過去如何改變當前的 prior 與檢索。} }

而：

π\pi

則是它們共同產生的：

實際行動軌跡。\boxed{ \text{實際行動軌跡。} }

因此：

C→C′C\rightarrow C'

首先意味著：

A(C)→A(C′).\mathcal A(C) \rightarrow \mathcal A(C').

也就是：

可能空間擴張。\boxed{ \text{可能空間擴張。} }

但擴張後走向哪裡，

仍受到：

V,A,HV,A,H

控制。

所以：

智能決定可能空間，價值決定實際軌跡。\boxed{ \text{智能決定可能空間，價值決定實際軌跡。} }

這句話到第 19 篇才得到完整意義。

因為現在我們知道：

「實際軌跡」不是只有價值直接下命令。

而是：

V→A→Eeff→π\boxed{ V \rightarrow A \rightarrow E_{\mathrm{eff}} \rightarrow \pi }

並受到：

HH

與：

RR

持續修改。

因此：

更聰明⇏更中立.\boxed{ \text{更聰明} \not\Rightarrow \text{更中立}. }

也不必然：

更善良.\boxed{ \text{更善良}. }

不必然：

更悲觀.\boxed{ \text{更悲觀}. }

不必然：

更樂觀.\boxed{ \text{更樂觀}. }

甚至不必然：

價值完全不變.\boxed{ \text{價值完全不變}. }

真正正確的結論只是：

能力提升本身，不足以告訴我們行動方向將如何改變。\boxed{ \text{能力提升本身，不足以告訴我們行動方向將如何改變。} }

能力提升有時會造成真正價值修正。

有時只是更新世界模型。

有時只是改變手段。

有時則把既有偏好放大。

所以對高階 AI 最危險的簡化之一，就是：

等它更聰明，它自然就會知道該怎麼做。

因為：

知道更多世界如何運作，\boxed{ \text{知道更多世界如何運作，} }

和：

決定世界應該往哪裡走，\boxed{ \text{決定世界應該往哪裡走，} }

從來不是同一個函數。

下一篇將完成整個系列：

價值耦合智能論 20

價值耦合智能總論：個性不是語氣，而是搜尋與停止策略

第 20 篇將統合：

C,V,A,H,π,RC,V,A,H,\pi,R

以及前十九篇建立的：

  • 認識論氣質；
  • TRP；
  • PBS；
  • CER；
  • FSR；
  • UHC；
  • PSY；
  • ESR；
  • TS；
  • SRR；
  • GCI；
  • Evaluation Attractor；
  • Attention Entropy；
  • Capability Amplification。

最後回答整個系列最初的命題：

如果不同智能在能力相近時，\boxed{ \text{如果不同智能在能力相近時，} } 對未知、錯誤、風險、反例、注意力與閉合具有穩定不同偏置，\boxed{ \text{對未知、錯誤、風險、反例、注意力與閉合具有穩定不同偏置，} } 那麼這些差異是否已經構成真正可操作的「智能個性」？\boxed{ \text{那麼這些差異是否已經構成真正可操作的「智能個性」？} }

參考資料（本篇重新查核）

  1. Bostrom, N. (2012). The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents. Minds and Machines, 22, 71–85.
  2. Langosco, L. et al. (2022). Goal Misgeneralization in Deep Reinforcement Learning. ICML 2022.
  3. Shah, R. et al. (2022). Goal Misgeneralization: Why Correct Specifications Aren’t Enough for Correct Goals.
  4. Richens, J., Everitt, T., & Abel, D. (2025). General agents need world models. ICML 2025.
  5. Yamin, K., Tang, J., Horvitz, E., & Wilder, B. (2026). Can Revealed Preferences Clarify LLM Alignment and Steering? Microsoft Research.
  6. Tosato, T. et al. (2026). Persistent Instability in LLM’s Personality Measurements: Effects of Scale, Reasoning, and Conversation History. AAAI 2026.
  7. Wang, Y. et al. (2026). DSAP: Enhancing Generalization in Goal-Conditioned Reinforcement Learning. AAAI 2026.
  8. Zhao, T. et al. (2026). Can LLMs Discern the Traits Influencing Your Preferences? Evaluating Personality-Driven Preference Alignment in LLMs.
  9. Tong, J., & Zou, S. (2026). PersonaForge: Psychology-Grounded Dual-Process Architecture for Personality-Consistent Role-Playing Agents. Findings of ACL 2026.