← Archive
lm-004404 · 2026-10

04｜動態意圖與關係再觀測：為什麼「我懂你」本身也可能成為錯誤

zh-Hant · md Raw source ↗ Metadata ↗
下載 MD 檔 ⬇

04｜動態意圖與關係再觀測：為什麼「我懂你」本身也可能成為錯誤

系列：《適應關係智能與人類社會隱知顯化》
英文系列名： Adaptive Relational Intelligence and Tacit-Knowledge Externalization
篇次： 04
狀態： Working Paper
日期： 2026-09-19

作者： Neo.K
機構： EveMissLab／一言諾科技有限公司
版本： 原稿未標註（本次整理版）

摘要

長期記憶、共享歷史與關係建模可以顯著降低人機協作中的溝通成本，但它們同時引入另一個風險：智能系統可能因為「太熟悉」使用者，而停止重新觀察使用者。

人的目標、偏好、優先順序、風險承受度、理解框架與自我認知都可能隨時間、新資訊與情境改變。因此，任何長期關係模型都可能過時。若 AI 持續以舊模型解釋新訊號，就會形成「關係過擬合」與「歷史支配」：系統不是不知道使用者，而是知道得太早、太固定，並把過去誤當成現在。

本篇提出「關係再觀測」（Relational Re-observation）與「意圖再校準」（Intent Recalibration）作為適應關係智能的必要機制。AI 不應只累積記憶，也必須持續估計哪些記憶仍有效、哪些已經失效、哪些需要降權，並根據新訊號調整自主程度。

本文進一步提出變化偵測、狀態有效性、信念更新、確認閾值與可逆性耦合等基本結構，並主張真正成熟的關係智能必須同時滿足兩個看似矛盾的條件：不要每次都重新認識使用者，也不要因為認識太久而停止重新認識使用者。

1. 問題：記憶越強，為什麼反而可能越危險？

前篇指出，長期關係狀態可以降低溝通成本：

Rt↑⇒Cspec↓R_t\uparrow \Rightarrow C_{\mathrm{spec}}\downarrow

但這只在一個條件下成立：

RtR_t

仍然有效。

若使用者已經改變，但 AI 繼續依賴：

Rt−1R_{t-1}

則：

Rt−1≉RtR_{t-1} \not\approx R_t

此時記憶不再是優勢，而可能成為偏誤來源。

因此：

More Memory⇏Better Understanding\boxed{ \text{More Memory} \not\Rightarrow \text{Better Understanding} }

2. 動態意圖

人類意圖不是固定常數。

設使用者在時間：

tt

的目標為：

GtG_t

則一般情況下：

Gt+1=F(Gt,Nt,Et,St)G_{t+1} = F( G_t, N_t, E_t, S_t )

其中：

  • NtN_t：新資訊；
  • EtE_t：新事件；
  • StS_t：內部狀態與情境變化。

因此：

Gt+1≠GtG_{t+1} \neq G_t

並不罕見。

3. 穩定偏好與動態偏好的區分

關係模型中的資訊不應被視為同一類型。

可將：

RtR_t

拆為：

Rt=Rtstable+RtdynamicR_t = R_t^{\mathrm{stable}} + R_t^{\mathrm{dynamic}}

其中：

RtstableR_t^{\mathrm{stable}}

包含較長期穩定的資訊，例如：

  • 一般工作風格；
  • 常用語言；
  • 長期價值偏好；
  • 持續存在的工作習慣。

而：

RtdynamicR_t^{\mathrm{dynamic}}

包含高變動狀態，例如：

  • 當前專案優先級；
  • 臨時風險；
  • 最近策略；
  • 當前資源限制；
  • 最新決策；
  • 短期偏好。

若 AI 對兩者使用相同權重，則容易形成：

State Rigidity\text{State Rigidity}

4. 「我懂你」的錯誤

熟悉關係中最危險的一句話可能是：

我知道你會怎麼想。

因為它可能隱含：

G^t=Gt−1\hat{G}_t = G_{t-1}

而不是：

G^t=P(Gt∣Mt,Rt−1,Ct)\hat{G}_t = P(G_t\mid M_t,R_{t-1},C_t)

前者是歷史複製。

後者才是動態推斷。

因此：

Understanding≠replaying a past model\boxed{ \text{Understanding} \neq \text{replaying a past model} }

5. 關係過擬合

本篇定義「關係過擬合」：

Relational Overfitting\text{Relational Overfitting}

為智能系統過度依賴過往互動，以至於無法正確吸收當前新訊號的狀態。

形式上可表示為：

W(H)≫W(Mt,Ct)W(H) \gg W(M_t,C_t)

其中：

  • W(H)W(H)：歷史權重；
  • W(Mt,Ct)W(M_t,C_t)：當前訊號與情境權重。

當：

W(H)W(H)

過高時，AI 可能把所有新訊息強行解釋成過去模式。

6. 歷史支配

若歷史模型：

Rt−1R_{t-1}

強到壓過：

MtM_t

則形成：

Historical Dominance\text{Historical Dominance}

例如：

AI 記得使用者過去偏好簡短回答。

但當前使用者明確要求完整分析。

若系統仍然：

brevity preference>current explicit request\text{brevity preference} > \text{current explicit request}

就是歷史支配。

因此：

Current explicit signal should sometimes override historical preference.\boxed{ \text{Current explicit signal should sometimes override historical preference.} }

7. 關係再觀測

本篇定義：

Otrel\mathcal{O}_t^{\mathrm{rel}}

為關係再觀測算子。

其功能為：

Otrel:(Rt−1,Mt,Ct,Et)→Rt\mathcal{O}_t^{\mathrm{rel}} : (R_{t-1},M_t,C_t,E_t) \rightarrow R_t

其中：

  • Rt−1R_{t-1}：舊關係狀態；
  • MtM_t：當前訊息；
  • CtC_t：當前情境；
  • EtE_t：新事件。

輸出：

RtR_t

為更新後關係模型。

8. 再觀測不是每次清空記憶

再觀測不等於：

Rt=0R_t=0

也不等於每次互動都重新建立使用者模型。

真正合理的更新是：

Rt=Rt−1+ΔRtR_t = R_{t-1} + \Delta R_t

其中：

ΔRt\Delta R_t

只反映必要修正。

因此：

Re-observation≠relationship reset\boxed{ \text{Re-observation} \neq \text{relationship reset} }

9. 差分關係更新

若：

∣ΔRt∣≪∣Rt∣|\Delta R_t| \ll |R_t|

則大多數關係狀態保持不變。

只有少數部分更新。

這種方式可以保持：

CcommunicationC_{\mathrm{communication}}

低，

同時避免：

RtR_t

僵化。

因此：

Relational adaptation should be delta-based.\boxed{ \text{Relational adaptation should be delta-based.} }

10. 變化偵測

AI 需要估計：

P(ΔRt≠0)P(\Delta R_t\neq0)

也就是：

關係或意圖是否已經改變？

可以由以下訊號提高：

  • 使用者明確否定舊偏好；
  • 新情境與過去差異大；
  • 多次出現與歷史不一致行為；
  • 新資源約束出現；
  • 新風險出現；
  • 新角色關係形成。

因此：

P(ΔRt≠0)=F(Mt,Ct,Et,Ht)P(\Delta R_t\neq0) = F( M_t, C_t, E_t, H_t )

11. 變化閾值

設：

θΔ\theta_{\Delta}

為變化閾值。

若：

P(ΔRt≠0)<θΔP(\Delta R_t\neq0) < \theta_{\Delta}

AI 可以沿用舊模型。

若：

P(ΔRt≠0)≥θΔP(\Delta R_t\neq0) \geq \theta_{\Delta}

則應啟動更強再觀測。

這形成：

Adaptive Re-observation Threshold\boxed{ \text{Adaptive Re-observation Threshold} }

12. 再觀測強度

再觀測不必只有：

on/off\text{on/off}

可以定義：

Ot∈[0,1]O_t \in [0,1]

其中：

Ot=0O_t=0

表示完全沿用舊模型，

Ot=1O_t=1

表示高度重新評估。

可粗略表示為：

Ot=f(ΔCt,ΔMt,Rrisk,Ut)O_t = f( \Delta C_t, \Delta M_t, R_{\mathrm{risk}}, U_t )

其中：

  • ΔCt\Delta C_t：情境變化；
  • ΔMt\Delta M_t：訊號變化；
  • RriskR_{\mathrm{risk}}：行動風險；
  • UtU_t：不確定性。

13. 信念更新

可將關係理解表示為：

P(Rt∣Ht)P(R_t\mid H_t)

當新訊息到來時，應更新為：

P(Rt∣Ht,Mt,Ct)P(R_t\mid H_t,M_t,C_t)

而不是直接：

P(Rt)=P(Rt−1)P(R_t)=P(R_{t-1})

因此：

Relational intelligence requires belief revision.\boxed{ \text{Relational intelligence requires belief revision.} }

14. 明確改變與隱性改變

有些變化是明確的：

我現在不要這個。

此時：

ΔRt\Delta R_t

容易偵測。

但有些變化是隱性的：

  • 使用者逐漸不再使用某種方法；
  • 回應模式改變；
  • 優先級逐步移動；
  • 原本頻繁的需求消失；
  • 新工具逐步取代舊工具。

這些需要：

longitudinal observation\text{longitudinal observation}

才能識別。

15. 一次改變不等於永久改變

如果使用者某天說：

今天不要長篇。

不應直接推成：

Rstyle=always conciseR_{\mathrm{style}} = \text{always concise}

因此需要區分：

local state\text{local state}

與：

global preference\text{global preference}

可以表示為：

PlocalP_{\mathrm{local}}

與：

PglobalP_{\mathrm{global}}

兩者更新速度不同。

16. 多時間尺度關係模型

成熟關係模型可以分為：

Rt(s)R_t^{(s)}

短期狀態；

Rt(m)R_t^{(m)}

中期模式；

Rt(l)R_t^{(l)}

長期關係。

則：

Rt=Rt(s)+Rt(m)+Rt(l)R_t = R_t^{(s)} + R_t^{(m)} + R_t^{(l)}

例如：

短期：

今天很忙。

中期：

這個月優先完成某專案。

長期：

一般偏好先完成可運作版本，再逐步完善。

三者不應互相覆蓋。

17. 狀態衰減

不同記憶應有不同衰減速度。

可表示為：

wk(t)=wk(t0)e−λk(t−t0)w_k(t) = w_k(t_0)e^{-\lambda_k(t-t_0)}

其中：

λk\lambda_k

為記憶類型的衰減率。

例如：

λtemporary>λhabit\lambda_{\mathrm{temporary}} > \lambda_{\mathrm{habit}}

因此：

memory validity should be time-sensitive\boxed{ \text{memory validity should be time-sensitive} }

18. 明確否定的優先級

若使用者明確說：

以後不要再這樣。

則應產生：

negative update\text{negative update}

並且其權重通常高於單次歷史慣例。

可寫為：

W(explicit correction)>W(historical habit)W(\text{explicit correction}) > W(\text{historical habit})

在沒有更高風險衝突時成立。

19. 再觀測與自主程度

設 AI 自主程度為：

AtA_t

當：

P(ΔRt≠0)P(\Delta R_t\neq0)

升高時，

AtA_t

應下降。

因此：

At∝qtut+rtA_t \propto \frac{q_t}{u_t+r_t}

其中：

  • qtq_t：意圖信心；
  • utu_t：關係不確定性；
  • rtr_t：行動風險。

這表示：

relationship uncertainty should reduce autonomy\boxed{ \text{relationship uncertainty should reduce autonomy} }

20. 再確認不是失敗

高階 AI 有時需要問。

真正問題不是「問了就是不聰明」。

而是：

Was the question necessary?\text{Was the question necessary?}

如果詢問能避免高成本錯誤，則其價值為正。

因此：

clarification is a control action\boxed{ \text{clarification is a control action} }

而不只是能力不足的表現。

21. 過度詢問也是成本

但如果 AI 每次都問：

你確定嗎？

則：

Finteraction↑F_{\mathrm{interaction}}\uparrow

關係壓縮效果消失。

因此需要最小化：

Cunnecessary clarificationC_{\mathrm{unnecessary\ clarification}}

同時限制：

Cwrong autonomyC_{\mathrm{wrong\ autonomy}}

可形成：

L=αCask+βCerrorL = \alpha C_{\mathrm{ask}} + \beta C_{\mathrm{error}}

系統需要最小化：

LL

22. 再觀測與可逆性

若行動高度可逆：

V(a)↑V(a)\uparrow

AI 可以在關係不確定性稍高時先執行。

若：

V(a)↓V(a)\downarrow

則需要更高：

qtq_t

或重新確認。

因此：

re-observation threshold depends on reversibility\boxed{ \text{re-observation threshold depends on reversibility} }

23. 關係更新與錯誤修復

當 AI 發現：

G^t≠Gt\hat{G}_t \neq G_t

不應只修正當前輸出。

還應檢查：

Rt−1R_{t-1}

是否存在錯誤假設。

因此：

error→output correction+model correction\text{error} \rightarrow \text{output correction} + \text{model correction}

否則同類錯誤會重複。

24. 一次錯誤是否應改整個模型

不一定。

若：

ete_t

是一次局部例外，

則不應大幅修改：

Rt(l)R_t^{(l)}

因此關係更新需要：

error attribution\text{error attribution}

即判斷錯誤來自：

  • 臨時例外；
  • 情境改變；
  • 關係模型錯誤；
  • 記憶過期；
  • 意圖估計錯誤。

25. 關係修正的責任層

可將錯誤定位到：

L1=Message InterpretationL_1=\text{Message Interpretation} L2=Context ModelL_2=\text{Context Model} L3=Relation ModelL_3=\text{Relation Model} L4=Long-term PreferenceL_4=\text{Long-term Preference} L5=Delegation PolicyL_5=\text{Delegation Policy}

只有確定錯誤位於某層，才應更新該層。

因此：

correction should be layer-specific\boxed{ \text{correction should be layer-specific} }

26. 動態關係中的「現在」

適應關係智能需要更重視：

current state\text{current state}

而不是只優化：

historical consistency\text{historical consistency}

因此：

P(Gt)P(G_t)

應由：

H<tH_{<t}

與：

OtO_t

共同決定。

可寫為：

P(Gt)=F(H<t,Ot)P(G_t) = F( H_{<t}, O_t )

27. 現在訊號的權重

在某些情況下：

W(Ot)>W(H<t)W(O_t) > W(H_{<t})

例如：

  • 明確新指令；
  • 緊急事件；
  • 高風險變化；
  • 使用者明確改變立場。

因此：

the present can override the past\boxed{ \text{the present can override the past} }

28. 但現在也可能只是噪音

反過來：

OtO_t

也可能是暫時噪音。

例如：

  • 一次情緒化表達；
  • 一次特殊情境；
  • 一次例外需求。

因此不應：

Ot→Rt(l)O_t \rightarrow R_t^{(l)}

直接覆寫長期模型。

需要：

multi-scale update\text{multi-scale update}

29. 關係再觀測的最小流程

本篇提出以下候選流程：

Observe→Compare→Estimate Change→Adjust Confidence→Act/Ask→Update\boxed{ \text{Observe} \rightarrow \text{Compare} \rightarrow \text{Estimate Change} \rightarrow \text{Adjust Confidence} \rightarrow \text{Act/Ask} \rightarrow \text{Update} }

即：

  1. 觀察當前訊號；
  2. 與舊模型比較；
  3. 估計變化程度；
  4. 調整對舊模型的信心；
  5. 決定直接行動或重新確認；
  6. 更新關係狀態。

30. 關係模型的版本化

可將：

RtR_t

版本化為：

R(0),R(1),R(2),...R^{(0)}, R^{(1)}, R^{(2)},...

每次重大關係變化形成：

R(k+1)R^{(k+1)}

這樣可以保留：

  • 何時改變；
  • 為什麼改變；
  • 哪個舊假設失效；
  • 哪些仍有效。

因此：

relationship memory should support provenance\boxed{ \text{relationship memory should support provenance} }

31. 為什麼這比單純長期記憶更難

長期記憶主要解決：

過去發生了什麼？

關係再觀測還要解決：

過去哪些東西現在仍然有效？

因此：

Memory=Storage\text{Memory} = \text{Storage}

但：

Adaptive Relation=Storage+Validity Estimation+Revision\text{Adaptive Relation} = \text{Storage} + \text{Validity Estimation} + \text{Revision}

32. 人類老手其實也在做再觀測

高品質老手並不是：

老闆以前這樣，所以永遠這樣。

而是會觀察：

  • 今天語氣不同；
  • 這次客戶不同；
  • 公司狀況變了；
  • 風險變高；
  • 上層策略改變；
  • 新資料推翻舊判斷。

因此：

veteran competence includes relational change detection\boxed{ \text{veteran competence includes relational change detection} }

33. 關係智能的雙重要求

成熟關係智能同時要求：

Persistence\text{Persistence}

與：

Plasticity\text{Plasticity}

前者避免每次歸零。

後者避免僵化。

因此：

ARI=Persistent State+Adaptive Revision\boxed{ \text{ARI} = \text{Persistent State} + \text{Adaptive Revision} }

34. 過度塑性也會失敗

若：

Plasticity≫Persistence\text{Plasticity} \gg \text{Persistence}

AI 可能：

  • 每句話都改變對使用者的理解；
  • 被短期訊號牽著走；
  • 無法保持長期目標；
  • 缺乏穩定風格。

因此理想狀態不是最大化更新，而是：

calibrated plasticity\boxed{ \text{calibrated plasticity} }

35. 過度穩定也會失敗

若：

Persistence≫Plasticity\text{Persistence} \gg \text{Plasticity}

則：

  • 新偏好無法生效；
  • 舊錯誤持續；
  • 使用者被歷史模型綁住；
  • AI 形成僵化人格判斷。

因此：

relational stability must remain revisable\boxed{ \text{relational stability must remain revisable} }

36. 關係智能的控制問題

可將整體視為控制系統。

舊狀態：

Rt−1R_{t-1}

新觀察：

OtO_t

更新器：

UU

產生：

Rt=U(Rt−1,Ot)R_t = U(R_{t-1},O_t)

若：

UU

過弱，系統僵化。

若：

UU

過強，系統不穩定。

因此核心問題是：

How much should relation state change?\boxed{ \text{How much should relation state change?} }

37. 意圖再校準

本篇定義：

Ctintent\mathcal{C}_t^{\mathrm{intent}}

為意圖再校準算子：

Ctintent:(G^t−1,Mt,Ct)→G^t\mathcal{C}_t^{\mathrm{intent}} : (\hat{G}_{t-1},M_t,C_t) \rightarrow \hat{G}_t

當：

G^t−1\hat{G}_{t-1}

與新訊號不一致時，

AI 不應硬維持舊目標。

38. 再校準與目標漂移

人類長期專案中，可能存在：

Goal Drift\text{Goal Drift}

即：

G0→G1→G2G_0 \rightarrow G_1 \rightarrow G_2

如果 AI 仍優化：

G0G_0

則即使執行完美，也是在做錯事。

因此：

perfect execution of an outdated goal is still failure\boxed{ \text{perfect execution of an outdated goal is still failure} }

39. 目標漂移的正當性

目標改變不一定代表不穩定。

有時：

Gt+1G_{t+1}

比：

GtG_t

更合理，因為新資訊改善了理解。

因此 AI 不應把：

consistency\text{consistency}

視為最高價值。

更重要的是：

current goal fidelity\text{current goal fidelity}

40. 關係智能與自由意志

關係模型越強，越可能產生一種風險：

AI 覺得自己知道使用者真正想要什麼，所以替使用者決定。

因此需要保持：

Inference≠Authority\boxed{ \text{Inference} \neq \text{Authority} }

理解使用者不等於獲得替使用者做所有決策的權限。

因此：

P(G)↑P(G)\uparrow

不必然：

Aauthority↑A_{\mathrm{authority}}\uparrow

41. 理解與授權分離

可定義：

Kt=Knowledge of UserK_t = \text{Knowledge of User}

與：

At=Authority GrantedA_t = \text{Authority Granted}

則：

Kt≠AtK_t \neq A_t

即使 AI 高度理解使用者，

仍需要遵守明確授權邊界。

42. 再觀測與隱式知識

未來 AI 進入組織後，不只要重新觀察個人。

還要重新觀察：

KtacitK_{\mathrm{tacit}}

因為組織潛規則也會變。

例如：

  • 過去的非正式流程失效；
  • 權力中心移動；
  • 新主管改變文化；
  • 新工具改變工作流。

因此：

Tacit knowledge is dynamic too.\boxed{ \text{Tacit knowledge is dynamic too.} }

這將直接接到下一篇的隱式知識顯化問題。

43. 再觀測作為最低社會適應能力

如果 AI 不能重新觀察，

它只能：

learn society once\text{learn society once}

而不能：

live in society over time\text{live in society over time}

因此：

social adaptation requires continuous re-observation\boxed{ \text{social adaptation requires continuous re-observation} }

這可能是靜態模型與真正長期社會智能之間的重要分界。

44. 初步命題

命題 1：動態意圖命題

人類意圖與偏好隨時間與情境變化，因此：

Gt≠Gt+1G_t \neq G_{t+1}

不能被視為例外。

命題 2：記憶雙刃命題

記憶可以降低協作成本，也可以因過時而增加偏誤。

命題 3：關係過擬合命題

若歷史權重過高，AI 可能忽略當前訊號。

命題 4：再觀測必要性命題

任何持續關係模型都需要變化偵測與重新校準能力。

命題 5：多時間尺度命題

短期狀態、中期模式與長期偏好應以不同更新速率維護。

命題 6：自主退讓命題

當關係不確定性升高時，自主程度應下降。

命題 7：理解—授權分離命題

對使用者理解程度提高，不自動提高 AI 的決策權限。

45. 結論

真正成熟的關係智能不是：

我記得你。

也不是：

我知道你是什麼樣的人。

而是：

我保留我們過去形成的共享狀態，但我也知道你、我、情境與目標都可能已經改變。

因此：

Memory+Re-observation+Revision\boxed{ \text{Memory} + \text{Re-observation} + \text{Revision} }

才構成動態關係智能。

一個永遠忘記使用者的 AI，很難形成長期協作。

但一個永遠相信自己已經理解使用者的 AI，同樣危險。

真正高階的適應關係智能，需要同時做到：

不要每次都重新認識你， 也不要因為認識太久而停止重新認識你。\boxed{ \text{不要每次都重新認識你， 也不要因為認識太久而停止重新認識你。} }

這不只是人機互動技巧。

它可能是 AI 真正進入動態人類社會之前，必須跨過的一個基本智能門檻。

下一篇

05｜隱式知識、組織潛規則與 AI 顯知化：當人工智慧開始看見人類沒有說出口的社會結構