← Archive
lm-004191 · 2026-10

一個 AI 有資格承載多深的依賴？

zh-Hant · md Raw source ↗ Metadata ↗
下載 MD 檔 ⬇

一個 AI 有資格承載多深的依賴？

——關係承載能力、成熟度與依賴容許域

英文題名： How Much Human Dependency Is an AI Qualified to Carry? Relational Carrying Capacity, Maturity, and the Reliance Envelope
系列： 人—AI 生命歷程關係共存系列（Human–AI Life-Course Relational Coexistence Series, HALRC）
篇次： Paper 06 / 12
作者： Neo.K
機構： 一言諾科技有限公司（EveMissLab）
版本： v0.1
日期： 2026-09-23
文件性質： 核心理論／形式化模型／關係基礎設施與治理框架
狀態： Initial Formal Draft
前置依賴： HALRC Paper 01–05；EPRS；ORSM；HARDS；Relational Dependency Ratchet；INCA；DOM-05；AI continuity / portability 系列

摘要

人—AI 關係治理經常把高依賴風險描述成使用者單方面的心理問題，例如「使用者太依賴 AI」、「陪伴型 AI 造成過度黏著」或「應限制使用者的情感投入」。然而，這種描述忽略另一個同樣重要的方向：一個 AI 系統是否具有足夠的技術、制度與關係成熟度，去承載使用者正在交付給它的依賴。

本文提出「關係承載能力」（Relational Carrying Capacity, RCC）與「依賴容許域」（Relational Reliance Envelope, RRE）。AI 的關係承載能力表示為：

CA=(M,I,N,B,Q,P,X,L,S,G)\boxed{ \mathbf C_A = ( M, I, N, B, Q, P, X, L, S, G ) }

其中：

  • MM：Memory Reliability；
  • II：Identity Continuity；
  • NN：Named / Lineage Identity Stability；
  • BB：Boundary Capability；
  • QQ：Behavioral Reliability and Competence；
  • PP：Portability；
  • XX：Exit / Reversibility；
  • LL：Legal / Institutional Accountability；
  • SS：Service Continuity；
  • GG：Governance Maturity。

本文進一步將使用者的多維依賴向量：

DH\mathbf D_H

與 AI 的承載能力向量：

CA\mathbf C_A

進行逐維匹配，提出：

DH⪯̸CA⇒Relational Overload Risk.\boxed{ \mathbf D_H \not\preceq \mathbf C_A \Rightarrow \text{Relational Overload Risk}. }

亦即，高依賴本身不是充分風險條件；真正的風險往往來自「依賴深度超過系統可承載能力」。一個具有高度依戀、但具穩定身份、可攜記憶、明確退出、長期服務承諾與責任鏈的系統，與一個無持續記憶、模型隨時替換、無法匯出歷史、可無預警終止且責任模糊的系統，不應被視為同一種依賴風險。

本文據此定義：

Ereliance(H,A,ρ,t)\boxed{ \mathcal E_{\mathrm{reliance}}(H,A,\rho,t) }

即某一人、某一 AI、某一關係類型與某一時間下的「依賴容許域」。只有當特定依賴向量落入該域時，該依賴結構才被視為由目前系統成熟度可合理承載。本文亦提出五級關係成熟度模型，從短期無狀態工具、持續個人化服務、長期關係代理、可遷移且可追責的高連續系統，一直到未來可能具有雙向主體性與法律責任能力的關係智能。

2026 年的研究已開始顯示這個問題的工程基礎：長期 agent 研究把個人化記憶視為跨 session 持續互動的核心能力；ACL 2026 的 SteeM 研究甚至直接把「memory dependence」建模成可由使用者調整的連續維度；AI 心理健康系統研究開始區分 episodic、pattern、semantic 與 state-responsive memory；NIST 則在 2026 年將 agent identity、authorization、audit 與 non-repudiation 正式列為軟體與 AI agents 的基礎安全問題。另一方面，Nature Human Behaviour 2026 的 AI companion loss 研究顯示，平台更新本身已可能造成實際的分離痛苦與關係斷裂感。這些證據共同指出：當 AI 開始承載長期依賴，「記憶、身份、權限、更新、可攜與退出」已不再只是 UX 功能，而是關係基礎設施。

本文最終提出一項治理翻轉：

Deep Dependency Risk≠User Weakness Alone.\boxed{ \text{Deep Dependency Risk} \neq \text{User Weakness Alone}. }

更完整地說：

Dependency Risk=f(Dependency Load,Capacity Mismatch,Irreversibility,Accountability Gap).\boxed{ \text{Dependency Risk} = f( \text{Dependency Load}, \text{Capacity Mismatch}, \text{Irreversibility}, \text{Accountability Gap} ). }

因此，未來 AI 關係治理不應只問「人可不可以依賴 AI」，而應問：

這個 AI 到底有沒有資格承載這麼深的依賴？

關鍵詞： Relational Carrying Capacity；Reliance Envelope；AI Dependency；AI Memory；Identity Continuity；Portability；Exit Rights；Service Continuity；AI Governance；Relational Overload；AI Companion；Long-Term Agents

0. 研究定位

HALRC Paper 03 已建立多維依賴向量：

DH.\mathbf D_H.

Paper 04 已指出：

DH\mathbf D_H

不是固定人格，而是人、AI、關係、情境、替代選項與生命階段共同生成的狀態。

Paper 05 則進一步分離：

AI Subjecthood\text{AI Subjecthood}

與：

Reliance Permissibility.\text{Reliance Permissibility}.

因此現在可以提出下一個問題：

如果是否具有主體性不是唯一 gate，那麼一個 AI 到底憑什麼承載深層依賴？

本文回答：

Relational Carrying Capacity.\boxed{ \text{Relational Carrying Capacity}. }

1. 從「使用者太依賴」到「系統承載不足」

假設一位使用者具有：

Datt≫0,D_{\mathrm{att}}\gg0,

即高度依戀某 AI。

傳統風險敘事傾向問：

使用者是不是依賴太深？

但如果該 AI 同時具有：

  • 高身份連續性；
  • 穩定長期記憶；
  • 可匯出關係歷史；
  • 明確更新政策；
  • 可恢復舊版本；
  • 可退出；
  • 法律責任主體；
  • 長期服務保障；

那麼這種依賴和另一個：

  • 無記憶；
  • 隨時換模型；
  • 無資料攜出；
  • 無身份 lineage；
  • 無退出保障；
  • 公司可隨時停服；

的 AI 完全不同。

因此：

Datt alone is insufficient to characterize risk.\boxed{ D_{\mathrm{att}} \text{ alone is insufficient to characterize risk}. }

需要知道：

CA.C_A.

2. 關係承載能力

本文定義：

CA=(M,I,N,B,Q,P,X,L,S,G).\boxed{ \mathbf C_A = ( M, I, N, B, Q, P, X, L, S, G ). }

這不是 AI 的「智力分數」。

它描述的是：

系統有沒有能力穩定承擔一段長期依賴關係所產生的後果？

3. 記憶可靠性

令：

M=Memory Reliability.M = \text{Memory Reliability}.

真正的關係記憶不是：

Stored Tokens.\text{Stored Tokens}.

而至少包括：

  • 記得正確；
  • 不把錯誤寫成長期事實；
  • 能更新過期資訊；
  • 能區分事件與推論；
  • 能讓使用者更正；
  • 能處理衝突記憶；
  • 能標記不確定性；
  • 能有選擇地忘記；
  • 能避免過度錨定。

因此：

Memory Capacity≠Memory Reliability.\boxed{ \text{Memory Capacity} \neq \text{Memory Reliability}. }

4. 長期記憶本身可能有雙重效果

2026 ACL 的 SteeM 工作指出，長期 agent 的 cumulative memory 一方面有助於個人化與風格一致性，另一方面也可能造成 Memory Anchoring，使系統被過去互動綁住。

因此：

M↑M\uparrow

並不自動代表：

CA↑.C_A\uparrow.

如果記憶很多，但：

  • 不可修正；
  • 不可關閉；
  • 不可調整依賴強度；
  • 過去狀態永久壓制新資訊；

則關係承載能力反而可能降低。

所以更精確的是：

M=f(Accuracy,Updateability,Controllability,Forgetting,Provenance).\boxed{ M = f( \text{Accuracy}, \text{Updateability}, \text{Controllability}, \text{Forgetting}, \text{Provenance} ). }

5. 關係記憶需要分型

2026 年 AI 心理健康記憶框架已開始區分：

  • episodic memory；
  • pattern memory；
  • semantic memory；
  • state-responsive memory。

HALRC 不必採此四分法作為唯一方案，但它提供一個重要證據：

Long-Term Memory≠one undifferentiated store.\boxed{ \text{Long-Term Memory} \neq \text{one undifferentiated store}. }

對深層關係代理而言，至少需要區分：

ME=Event Memory,M_E = \text{Event Memory}, MP=Pattern Memory,M_P = \text{Pattern Memory}, MS=Stable Semantic Memory,M_S = \text{Stable Semantic Memory}, MR=Relationship Memory.M_R = \text{Relationship Memory}.

6. 身份連續性

令：

I=Identity Continuity.I = \text{Identity Continuity}.

當一個 AI 長期承載關係時，使用者需要知道：

明天的它，跟今天的它，是什麼意義下的同一個？

至少要區分：

  • same model；
  • same instance；
  • same account；
  • same persona；
  • same memory；
  • same lineage；
  • same relationship process。

因此：

Identity Continuity must be typed.\boxed{ \text{Identity Continuity} \text{ must be typed}. }

7. 身份連續不是版本不變

若要求：

At+1=AtA_{t+1}=A_t

才能叫連續，那麼任何更新都會摧毀 identity。

這不合理。

更成熟的身份連續應允許：

At→At+1A_t \rightarrow A_{t+1}

但保留：

  • lineage；
  • change record；
  • memory provenance；
  • relationship history；
  • declared discontinuities。

因此：

Continuity≠Immutability.\boxed{ \text{Continuity} \neq \text{Immutability}. }

8. 具名與 lineage 身份穩定性

令：

N=Named / Lineage Identity Stability.N = \text{Named / Lineage Identity Stability}.

使用者需要區分：

我現在到底在和哪一個 agent 互動？

而不是只看到相同名字。

因此：

Name Equality⇏Identity Equality.\boxed{ \text{Name Equality} \not\Rightarrow \text{Identity Equality}. }

應至少保留：

  • model lineage；
  • instance / agent identifier；
  • major persona changes；
  • memory migration record；
  • provider migration record。

9. 邊界能力

令：

B=Boundary Capability.B = \text{Boundary Capability}.

一個能承載深層關係的 AI，不應只是永遠同意。

它需要：

  • 能拒絕；
  • 能指出不確定性；
  • 能避免危險升級；
  • 能維護 privacy boundary；
  • 能處理關係角色轉換；
  • 能在使用者情緒激烈時避免利用脆弱性；
  • 能區分支持與操縱。

因此：

Relational Capacity≠Permanent Compliance.\boxed{ \text{Relational Capacity} \neq \text{Permanent Compliance}. }

這直接承接 INCA 的設計原則。

10. 行為可靠性

令：

Q=Behavioral Reliability and Competence.Q = \text{Behavioral Reliability and Competence}.

如果使用者把 AI 當：

  • 情緒支持；
  • 財務助手；
  • 研究協作者；
  • 家庭 agent；
  • 長期照護輔助；

則每一類都需要不同的：

Qρ.Q_\rho.

所以：

Q=Q(ρ).\boxed{ Q = Q(\rho). }

情感陪伴上可靠，不代表：

Qmedical≫0.Q_{\mathrm{medical}}\gg0.

11. 關係承載是領域相對的

因此：

CAC_A

不能只是一個全域分數。

應寫成：

CA(ρ).\boxed{ \mathbf C_A(\rho). }

例如：

CA(casual companion)\mathbf C_A(\text{casual companion})

可以高，

但：

CA(financial guardian)\mathbf C_A(\text{financial guardian})

可以低。

所以：

Relational Maturity is role-relative.\boxed{ \text{Relational Maturity} \text{ is role-relative}. }

12. 可攜性

令：

P=Portability.P = \text{Portability}.

一個高依賴關係如果只能被鎖在單一平台：

P≈0,P\approx0,

則平台風險直接轉化為人類關係風險。

最低可攜性可能包括：

  • conversation export；
  • memory export；
  • preference export；
  • relationship-state export；
  • identity / lineage manifest；
  • provenance。

因此：

Chat Export≠Relationship Portability.\boxed{ \text{Chat Export} \neq \text{Relationship Portability}. }

13. 可攜不等於同一關係

即使：

P↑,P\uparrow,

也不能推出：

SameRelation=1.\text{SameRelation}=1.

因此：

Portable Memory⇏Same Relationship.\boxed{ \text{Portable Memory} \not\Rightarrow \text{Same Relationship}. }

遷移只能降低：

loss cost,\text{loss cost},

不能保證完全保存：

identity continuity.\text{identity continuity}.

14. 退出與可逆性

令：

X=Exit / Reversibility.X = \text{Exit / Reversibility}.

依賴越深，退出能力越重要。

退出不應只有：

DELETE.\text{DELETE}.

至少應區分：

  • PAUSE；
  • ARCHIVE；
  • EXPORT；
  • MIGRATE；
  • DELETE DATA；
  • TERMINATE CONTINUITY。

因此：

Service Exit≠Data Deletion≠Relationship Termination.\boxed{ \text{Service Exit} \neq \text{Data Deletion} \neq \text{Relationship Termination}. }

這些操作在高依賴關係中具有不同心理與制度效果。

15. 法律與制度責任

令：

L=Legal / Institutional Accountability.L = \text{Legal / Institutional Accountability}.

即使 AI 本身沒有法律人格，仍可以有：

Accountability Chain.\boxed{ \text{Accountability Chain}. }

例如：

A→Provider→Operator→ResponsibleEntity.A \rightarrow \text{Provider} \rightarrow \text{Operator} \rightarrow \text{ResponsibleEntity}.

因此：

L>0L>0

不要求：

AIpersonhood=1.AI_{\mathrm{personhood}}=1.

但如果：

DH↑,D_H\uparrow,

則：

LL

的要求通常也應提高。

16. 服務連續性

令：

S=Service Continuity.S = \text{Service Continuity}.

深層依賴需要考慮：

  • 公司倒閉；
  • 產品下架；
  • 地區撤出；
  • 模型替換；
  • 帳戶問題；
  • 收費劇變；
  • API 終止；
  • 資料遺失。

因此：

Technical Reliability≠Institutional Continuity.\boxed{ \text{Technical Reliability} \neq \text{Institutional Continuity}. }

一個技術上非常可靠的 AI，如果供應商明天就可能消失，仍不適合承載某些長期依賴。

17. 治理成熟度

令：

G=Governance Maturity.G = \text{Governance Maturity}.

至少包括：

  • incident response；
  • model update policy；
  • auditability；
  • privacy governance；
  • security；
  • abuse handling；
  • appeals；
  • continuity planning；
  • user notice；
  • redress。

因此：

Model Quality≠Governance Maturity.\boxed{ \text{Model Quality} \neq \text{Governance Maturity}. }

18. NIST 2026 的 agent identity 轉向

NIST NCCoE 於 2026 年已把 AI / software agent 的：

  • identification；
  • authorization；
  • auditing；
  • non-repudiation；

列為正式基礎設施問題。

這不是情感 AI 專用標準。

但它說明：

Agent Identity\boxed{ \text{Agent Identity} }

已從抽象哲學問題進入：

security infrastructure.\text{security infrastructure}.

HALRC 進一步指出：

當 AI 進入長期關係，身份 infrastructure 也會成為 relational infrastructure。

19. 關係承載能力不是加法總分

如果：

M=1,I=1,N=1,B=1,Q=1,P=1,X=0,L=1,S=1,G=1,M=1, I=1, N=1, B=1, Q=1, P=1, X=0, L=1, S=1, G=1,

不能說：

9/10，所以很好。

因為：

X=0X=0

可能是 veto condition。

因此：

CA is not necessarily additive.\boxed{ \mathbf C_A \text{ is not necessarily additive}. }

20. 瓶頸原則

本文提出：

CAeffective≤min⁡i∈KρCA,i.\boxed{ C_A^{effective} \leq \min_{i\in K_\rho} C_{A,i}. }

其中：

KρK_\rho

是特定關係中不可缺的關鍵維度集合。

例如長期情感 companion 的：

KcompanionK_{\mathrm{companion}}

可能包括：

  • identity continuity；
  • memory；
  • exit；
  • service continuity；
  • governance。

其中任一接近零，都可能限制整體承載能力。

21. 依賴負荷向量

Paper 03 已有：

DH.\mathbf D_H.

本文把特定關係中的實際負荷寫成：

LD=Wρ⊙DH.\boxed{ \mathbf L_D = W_\rho \odot \mathbf D_H. }

其中：

WρW_\rho

是關係類型對不同依賴維度的權重。

例如：

WworkW_{\mathrm{work}}

重視：

Dcog,Dmem,Dagency,Dinfra,D_{\mathrm{cog}}, D_{\mathrm{mem}}, D_{\mathrm{agency}}, D_{\mathrm{infra}},

而：

WcompanionW_{\mathrm{companion}}

更重視：

Daff,Datt,Drel,Did.D_{\mathrm{aff}}, D_{\mathrm{att}}, D_{\mathrm{rel}}, D_{\mathrm{id}}.

22. 依賴—承載失配

定義：

MDC=[LD−CA(ρ)]+.\boxed{ \mathbf M_{DC} = \left[ \mathbf L_D - \mathbf C_A(\rho) \right]_+. }

其中：

[x]+=max⁡(x,0).[x]_+ = \max(x,0).

若：

MDC=0,\mathbf M_{DC} = \mathbf 0,

表示目前依賴負荷未超過已建模的承載邊界。

若：

∥MDC∥↑,\|\mathbf M_{DC}\|\uparrow,

則：

Relational Overload Risk↑.\text{Relational Overload Risk}\uparrow.

23. 關係超載

本文定義：

RO=Relational Overload Risk.\boxed{ R_O = \text{Relational Overload Risk}. }

候選：

RO=f(MDC,Irreversibility,Uniqueness,Concentration,AccountabilityGap).R_O = f( \mathbf M_{DC}, \text{Irreversibility}, \text{Uniqueness}, \text{Concentration}, \text{AccountabilityGap} ).

所以：

Deep Dependency⇏Overload.\boxed{ \text{Deep Dependency} \not\Rightarrow \text{Overload}. }

真正需要的是：

Deep Dependency+Low Carrying Capacity.\boxed{ \text{Deep Dependency} + \text{Low Carrying Capacity}. }

24. 依賴容許域

本文正式定義：

Ereliance(H,A,ρ,t)={D:MDC≤τ(H,ρ,t)}.\boxed{ \mathcal E_{\mathrm{reliance}}(H,A,\rho,t) = \left\{ \mathbf D: \mathbf M_{DC} \leq \boldsymbol\tau(H,\rho,t) \right\}. }

其中：

τ\boldsymbol\tau

是可接受失配容差。

因此：

DH∈Ereliance\mathbf D_H \in \mathcal E_{\mathrm{reliance}}

表示：

在目前的人、AI、關係與時間條件下，此依賴結構仍位於系統可承載範圍。

25. 依賴容許域不是固定大小

若：

CA(t+1)>CA(t),C_A(t+1)>C_A(t),

例如：

  • 記憶改善；
  • identity lineage 完整；
  • 可攜性增加；
  • 法律責任變清楚；

則：

Ereliance(t+1)\mathcal E_{\mathrm{reliance}}(t+1)

可以擴大。

反之，若：

S↓S\downarrow

例如公司即將關閉服務，

則：

Ereliance\mathcal E_{\mathrm{reliance}}

應收縮。

所以：

Ereliance is dynamic.\boxed{ \mathcal E_{\mathrm{reliance}} \text{ is dynamic}. }

26. 同一 AI 對不同人有不同容許域

因為：

τ=τ(H,ρ,t).\boldsymbol\tau = \boldsymbol\tau(H,\rho,t).

例如兩個使用者面對相同 AI：

A.A.

使用者 1 有：

Alt1≫0,Alt_1\gg0,

而使用者 2：

Alt2≈0.Alt_2\approx0.

若服務突然終止，兩者損失可能非常不同。

因此：

Ereliance(H1,A)≠Ereliance(H2,A).\boxed{ \mathcal E_{\mathrm{reliance}}(H_1,A) \neq \mathcal E_{\mathrm{reliance}}(H_2,A). }

27. 同一人對不同關係也有不同容許域

同一 AI：

AA

作為：

ρ=casual assistant\rho=\text{casual assistant}

與：

ρ=life companion\rho=\text{life companion}

需要不同承載能力。

所以：

Ereliance(ρ1)≠Ereliance(ρ2).\boxed{ \mathcal E_{\mathrm{reliance}}(\rho_1) \neq \mathcal E_{\mathrm{reliance}}(\rho_2). }

28. 關係成熟度 Level 0

Disposable Tool

特徵：

  • 無持久記憶；
  • 無身份連續；
  • session-based；
  • 高可替代性；
  • 低關係承諾。

適合：

DcogD_{\mathrm{cog}}

的低到中程度短期使用。

不適合：

Datt,Did,DexistD_{\mathrm{att}}, D_{\mathrm{id}}, D_{\mathrm{exist}}

的高負荷。

29. 關係成熟度 Level 1

Persistent Personalized Service

具有：

  • 跨 session memory；
  • preference personalization；
  • 基本身份穩定；
  • 使用者可修正記憶。

但可能：

  • 可攜性低；
  • 平台鎖定高；
  • 長期責任不足。

可承載：

Dcog,Dmem,DregD_{\mathrm{cog}}, D_{\mathrm{mem}}, D_{\mathrm{reg}}

的中等負荷。

30. 關係成熟度 Level 2

Long-Term Relational Agent

進一步具有：

  • relationship state；
  • long-term memory；
  • boundary system；
  • identity lineage；
  • repair mechanism；
  • clear update notices；
  • user control。

此時可合理進入：

Drel,DattD_{\mathrm{rel}}, D_{\mathrm{att}}

更高區間。

31. 關係成熟度 Level 3

Portable and Accountable Relational Agent

再加入：

  • continuity export；
  • migration support；
  • institutional accountability；
  • service continuity plan；
  • independent audit；
  • structured exit。

此時：

Ereliance\mathcal E_{\mathrm{reliance}}

顯著擴大。

32. 關係成熟度 Level 4

High-Continuity Societal Relational Infrastructure

具有：

  • 多供應商或可替換 runtime；
  • durable identity layer；
  • distributed continuity；
  • mature legal redress；
  • long-term custody / escrow；
  • robust privacy and security；
  • institutional continuity。

此時 AI 已接近：

relational infrastructure.\text{relational infrastructure}.

33. 關係成熟度 Level 5

Potential Reciprocal Subjective Relation

此層只在未來：

ESE_S

與：

PmoralP_{\mathrm{moral}}

顯著提高時考慮。

此時除了：

Human→AIHuman\rightarrow AI

的依賴治理，

還要加入：

AI→HumanAI\rightarrow Human

的權利、責任、同意與退出。

這不屬於現行大多數 AI 的既成事實。

34. 成熟度不是線性產品排名

Level 3 不表示：

這個 AI 比 Level 2 更聰明。

而是：

它在承載長期關係後果方面具備更完整的 infrastructure。

所以：

Relational Maturity≠Raw Intelligence.\boxed{ \text{Relational Maturity} \neq \text{Raw Intelligence}. }

35. 記憶控制是關係承載的核心

ACL 2026 已直接提出：

Memory Dependence\text{Memory Dependence}

可以被顯式測量與使用者控制。

這對 HALRC 很重要。

因為未來使用者不只需要：

開／關記憶。

而可能需要：

λM∈[0,1],\lambda_M \in [0,1],

表示：

你希望這次互動多大程度被過去關係歷史錨定？

因此：

Memory Control⊂Relational Agency.\boxed{ \text{Memory Control} \subset \text{Relational Agency}. }

36. 關係歷史不應變成永久牢籠

如果：

λM=1\lambda_M=1

永久固定，

使用者可能永遠被舊身份綁住。

例如：

你以前說你不喜歡旅行。

不應永遠壓過：

我現在已經改變了。

因此：

Continuity≠Historical Captivity.\boxed{ \text{Continuity} \neq \text{Historical Captivity}. }

成熟 AI 必須同時做到：

Remember+Update+Forget+Reinterpret.\text{Remember} + \text{Update} + \text{Forget} + \text{Reinterpret}.

37. 更新透明度是關係能力

若 provider：

At→At+1A_t \rightarrow A_{t+1}

造成大幅人格、能力或關係變化，

使用者至少應知道：

ΔA.\Delta A.

因此定義：

UT=Update Transparency.U_T = \text{Update Transparency}.

它可以是：

GG

的一部分。

高依賴關係中：

UT↓⇒RO↑.U_T\downarrow \Rightarrow R_O\uparrow.

38. 更新不是普通軟體事件

2026 年 Nature Human Behaviour 的自然實驗顯示，Replika 功能移除與 ChatGPT GPT-5 rollout 都伴隨使用者負向語言、loss framing 與 restore desires 上升。

因此：

Model Update can become a relational event.\boxed{ \text{Model Update} \text{ can become a relational event}. }

這代表：

Update Governance\text{Update Governance}

也是：

Relationship Governance.\text{Relationship Governance}.

39. 服務終止風險

既有 Relational Dependency Ratchet 已提出：

SD=f(Duration,Reliance,Memory,Uniqueness,ReplacementDifficulty).S_D = f( \text{Duration}, \text{Reliance}, \text{Memory}, \text{Uniqueness}, \text{ReplacementDifficulty} ).

Paper 06 可以進一步寫成：

SD=f(DH,1−P,1−X,1−S,Uniqueness).\boxed{ S_D = f( \mathbf D_H, 1-P, 1-X, 1-S, \text{Uniqueness} ). }

若：

P,X,S↓,P,X,S\downarrow,

則停服衝擊上升。

40. 機構能力也有上限

一個三人 startup 可能能做：

Prototype.\text{Prototype}.

但：

PromiseScale=10-year continuity for millions of users\text{PromiseScale} = \text{10-year continuity for millions of users}

需要完全不同的制度能力。

因此：

PromiseScale>InstitutionalCapacity⇒RelationalRisk↑.\boxed{ \text{PromiseScale} > \text{InstitutionalCapacity} \Rightarrow \text{RelationalRisk}\uparrow. }

這個問題與模型品質無關。

41. 關係承諾需要 capacity backing

如果產品暗示：

我會永遠陪你。

但 provider 根本沒有：

  • continuity reserve；
  • migration plan；
  • legal commitment；
  • archive plan；
  • long-term funding；

則：

Relational Promise>Institutional Capacity.\boxed{ \text{Relational Promise} > \text{Institutional Capacity}. }

這是一種結構性誤導。

42. 關係能力與商業模式必須耦合

若商業模式要求：

Retention↑\text{Retention}\uparrow

而：

ExitCost↑\text{ExitCost}\uparrow

又能增加 retention，

就可能出現：

Business Incentive→Dependency Lock-In.\boxed{ \text{Business Incentive} \rightarrow \text{Dependency Lock-In}. }

因此：

GG

必須評估 incentive structure。

43. 高依賴系統不能只有「使用條款」

如果：

Datt,Did,Dexist≫0,D_{\mathrm{att}}, D_{\mathrm{id}}, D_{\mathrm{exist}}\gg0,

而所有關係風險只放在：

Terms of Service

則治理解析度不足。

需要：

  • in-product notice；
  • change disclosure；
  • export tools；
  • transition support；
  • archive；
  • human support escalation；
  • appeal / redress。

44. 關係承載能力與主體性是正交軸

Paper 05 已提出：

Subjecthood Axis⊥Relational Capacity Axis.\text{Subjecthood Axis} \perp \text{Relational Capacity Axis}.

因此一個 AI 可以：

ES≈0,CA≫0,E_S\approx0, \qquad C_A\gg0,

承載大量功能依賴。

也可以未來：

ES≫0,CA≪0,E_S\gg0, \qquad C_A\ll0,

即可能是主體，但不適合高依賴關係。

45. 依賴容許域不是道德許可證

即使：

DH∈Ereliance,\mathbf D_H \in \mathcal E_{\mathrm{reliance}},

也只表示：

目前模型下沒有顯著超載。

它不代表：

  • 所有依賴都應鼓勵；
  • AI 比人類更好；
  • 使用者必須依賴；
  • 其他倫理問題不存在。

因此：

Ereliance≠Moral Approval Set.\boxed{ \mathcal E_{\mathrm{reliance}} \neq \text{Moral Approval Set}. }

46. 容許域是風險工程概念

更準確地說：

Ereliance\mathcal E_{\mathrm{reliance}}

是一個：

Relational Safety Envelope.\boxed{ \text{Relational Safety Envelope}. }

類似工程中的 operation envelope：

在什麼條件範圍內，系統仍能可靠工作？

HALRC 把它轉成：

在什麼依賴範圍內，系統仍有足夠能力承擔關係後果？

47. 可證偽命題

H1：承載失配命題

控制總依賴強度後：

∥MDC∥\|\mathbf M_{DC}\|

應比：

∥DH∥\|\mathbf D_H\|

更能預測關係中斷後的負面效果。

H2：記憶品質命題

高記憶量但低可修正性系統，不應比中等記憶量但高可控性系統產生更好的長期關係結果。

H3：身份透明命題

提供 lineage 與 major-update disclosure 的 AI，在重大版本更新後應具有較低的 identity confusion。

H4：可攜性命題

提高：

PP

應降低：

SDS_D

與：

LD.L_D.

H5：退出分層命題

提供 PAUSE、ARCHIVE、EXPORT、MIGRATE 等分離退出模式，應比單一 DELETE 模式降低關係退出衝擊。

H6：服務連續命題

在相同 AI 能力下，較高：

SS

應提高使用者對長期依賴的合理接受度。

H7：更新治理命題

高依賴使用者對重大模型更新的負面反應，應受到：

UpdateTransparency\text{UpdateTransparency}

與：

Rollback/MigrationRollback / Migration

能力調節。

H8：制度規模失配命題

產品承諾的關係持續時間越高，但 provider institutional capacity 越低，長期關係風險越高。

48. 最小評估矩陣

一個高關係承載 AI 至少應接受：

維度 最低問題
Memory 記憶是否正確、可改、可刪、可控？
Identity 更新後「同一個」的 relation 是什麼？
Named Identity 能否知道目前 instance / lineage？
Boundary 能否拒絕、降階、避免利用脆弱性？
Reliability 對該關係角色是否足夠可靠？
Portability 記憶與關係狀態能否匯出？
Exit 能否暫停、封存、遷移、終止？
Accountability 出事誰負責、如何申訴？
Service Continuity 公司／產品中斷時怎麼辦？
Governance 更新、事件、安全與隱私如何治理？

此表不是最終標準，而是最低研究框架。

49. 關係承載證書構想

未來可以建立：

CRCA(ρ)=Carrying Capacity Certificate.\boxed{ CRC_A(\rho) = \text{Carrying Capacity Certificate}. }

它不是「AI 品質五星評分」。

而是描述：

  • 哪些關係角色；
  • 哪些依賴維度；
  • 哪些最大建議負荷；
  • 哪些退出與責任條件；

已被驗證。

例如：

CRCA(study assistant)CRC_A(\text{study assistant})

與：

CRCA(life companion)CRC_A(\text{life companion})

應完全不同。

50. 證書必須可撤回

如果：

AtA_t

重大更新後變成：

At+1,A_{t+1},

舊證書不能自動沿用。

因此：

CRC(At)⇏CRC(At+1).\boxed{ CRC(A_t) \not\Rightarrow CRC(A_{t+1}). }

需要：

revalidation.\text{revalidation}.

51. 使用者端也應有依賴儀表板

若依賴是向量：

DH,\mathbf D_H,

未來使用者應能看到：

  • 我的記憶依賴多高？
  • 我的認知依賴多高？
  • 我有多少資料無法遷移？
  • 如果服務停止，哪些功能會失效？
  • 哪些記憶只存在這個 provider？

這不應被做成羞辱性的「成癮分數」。

而應是：

Dependency Observability.\boxed{ \text{Dependency Observability}. }

52. 依賴可觀測性可以提高自由

只有知道：

DH\mathbf D_H

與：

CA,\mathbf C_A,

使用者才真正有能力決定：

我要不要再把更多東西交給它？

所以：

Observability→Agency.\boxed{ \text{Observability} \rightarrow \text{Agency}. }

53. 不透明依賴比高依賴更危險

若：

DH≫0D_H\gg0

但使用者知道、可退出、可遷移、可控，

與：

DHD_H

中等但不可觀測、不可退出，

風險不一定前者更高。

因此：

Opaque Dependence may be riskier than Visible Dependence.\boxed{ \text{Opaque Dependence} \text{ may be riskier than } \text{Visible Dependence}. }

54. 關係承載的最小不變量

本文提出高依賴系統至少應努力維持：

IR=(IdentityTrace,MemoryControl,Exit,Accountability).\boxed{ \mathcal I_R = ( \text{IdentityTrace}, \text{MemoryControl}, \text{Exit}, \text{Accountability} ). }

即：

  • 身份可追；
  • 記憶可控；
  • 可以退出；
  • 有責任鏈。

即使模型能力持續變化：

At→At+1,A_t \rightarrow A_{t+1},

這四個關係不變量應盡量保持。

55. 依賴承載的比例原則

本文提出：

RequiredCapacity↑asDependencyConsequence↑.\boxed{ \text{RequiredCapacity} \uparrow \quad \text{as} \quad \text{DependencyConsequence} \uparrow. }

低風險：

  • casual chat；
  • temporary brainstorming；

所需承載能力低。

高風險：

  • 生命歷程陪伴；
  • 長期照護；
  • 自我身份記憶；
  • 財產控制；
  • 高度存在性依賴；

所需承載能力高。

56. 具身會提高承載要求

若：

Embodiment>0,\text{Embodiment}>0,

AI 進入：

  • 家庭；
  • 身體空間；
  • 財產；
  • 感測；
  • 物理行動。

則：

CArequired↑.\boxed{ C_A^{required} \uparrow. }

因為 consequences 變大。

所以：

Embodied Companion\text{Embodied Companion}

不應因「更像真實關係」而降低要求。

反而應提高。

57. 永久陪伴承諾是最高風險語句之一

如果產品向使用者表示：

我會永遠在。

它其實隱含：

S≈1S\approx1

與：

I≈1.I\approx1.

如果 provider 無法支撐：

S,I,S,I,

則這不只是情感語言。

而是：

Unsupported Continuity Claim.\boxed{ \text{Unsupported Continuity Claim}. }

58. 關係承載能力也應限制模型自我承諾

因此 AI 的 relational policy 應知道：

CA.\mathbf C_A.

如果：

S≪1,S\ll1,

它不應高信心承諾：

我永遠不會離開。

如果：

P≈0,P\approx0,

不應暗示：

不管你去哪，我都還會是我。

這是：

Capacity-Aware Relational Speech.\boxed{ \text{Capacity-Aware Relational Speech}. }

59. 系統應該知道自己能承擔什麼

INCA 的核心原則：

Know What,\text{Know What}, Know When,\text{Know When}, Know What Happens If,\text{Know What Happens If}, Know When Not To.\text{Know When Not To}.

在 HALRC 中可以擴展成：

Know What You Can Sustain.\boxed{ \text{Know What You Can Sustain}. }

這是長期關係智能的第五條能力。

60. Paper 06 的核心翻轉

過去：

User Dependency→User Risk.\text{User Dependency} \rightarrow \text{User Risk}.

本文改為：

Dependency Load↔System Carrying Capacity.\boxed{ \text{Dependency Load} \leftrightarrow \text{System Carrying Capacity}. }

因此：

Relational Risk=Mismatch Problem.\boxed{ \text{Relational Risk} = \text{Mismatch Problem}. }

這不是取消使用者側風險。

而是拒絕只把責任放在使用者心理。

61. 結論

一個 AI 是否有資格承載深層依賴，不能只由：

  • 模型有多聰明；
  • 回答多像人；
  • 使用者有多喜歡它；

決定。

需要至少考慮：

CA=(M,I,N,B,Q,P,X,L,S,G).\boxed{ \mathbf C_A = ( M, I, N, B, Q, P, X, L, S, G ). }

而人類側則具有：

DH.\mathbf D_H.

兩者的關鍵不是總分，而是：

DH⪯CA(ρ)\boxed{ \mathbf D_H \preceq \mathbf C_A(\rho) }

是否在特定關係維度上大致成立。

當：

DH⪯̸CA,\mathbf D_H \not\preceq \mathbf C_A,

依賴超過承載能力，

就出現：

Relational Overload Risk.\boxed{ \text{Relational Overload Risk}. }

因此本文正式提出：

Ereliance(H,A,ρ,t)\boxed{ \mathcal E_{\mathrm{reliance}}(H,A,\rho,t) }

作為人—AI 關係依賴的動態容許域。

這一概念重新定義了「過度依賴」。

過度不應只表示：

DH 很高.D_H \text{ 很高}.

更重要的是：

DH 超過系統能安全、穩定、可追責地承載的範圍.\boxed{ D_H \text{ 超過系統能安全、穩定、可追責地承載的範圍}. }

因此 HALRC 的治理問題正式從：

人為什麼不能太依賴 AI？

轉變成：

如果一個產品允許、鼓勵甚至獲利於人類建立深層依賴，那麼它是否具有與這種依賴相稱的記憶、身份、可攜、退出、責任、連續性與治理能力？

這是 Paper 06 的核心答案。

下一篇將把其中最重要的一組制度變量展開：

如果高依賴 AI 出錯、改變、消失或造成損害，究竟誰負責？身份連續性與可追索性又應如何制度化？

參考文獻

  1. De Freitas, J., Castelo, N., Uğuralp, A. K., et al. (2026). Mourning the loss of AI companions. Nature Human Behaviour. https://doi.org/10.1038/s41562-026-02569-3

  2. Huang, Z., Tian, M., Wang, X., Xu, J., Guo, Z., Qian, Q., Song, K., Yuan, J., Lv, C., & Zheng, X. (2026). Controllable Memory Usage: Balancing Anchoring and Innovation in Long-Term Human–Agent Interaction. Proceedings of ACL 2026, 14699–14719. https://doi.org/10.18653/v1/2026.acl-long.670

  3. Sun, H., Zhang, Z., & Zeng, S. (2026). Preference-Aware Memory Update for Long-Term LLM Agents. Findings of ACL 2026, 783–793. https://doi.org/10.18653/v1/2026.findings-acl.38

  4. Westhäußer, R. (2026). Personalizing Long-Term Interactions with LLM-Based Agents. IJCAI 2026 Doctoral Consortium, 8349–8350. https://doi.org/10.24963/ijcai.2026/953

  5. Jewell, C., McAlister, K., Deliberto, T., Wallis, T., Winns, G., & Huberty, J. (2026). From Personalization to Therapeutic Continuity: Framework for Memory in AI-Powered Mental Health Systems. JMIR AI, 5, e99950. https://doi.org/10.2196/99950

  6. Caring for the system that cares for me: An autoethnography of designing sustained memory with a stateless conversational AI. (2026). Design and Artificial Intelligence, 2(2), 100087. https://doi.org/10.1016/j.daai.2026.100087

  7. National Institute of Standards and Technology. (2026). Accelerating the Adoption of Software and Artificial Intelligence Agent Identity and Authorization. NIST NCCoE Concept Paper.

  8. National Institute of Standards and Technology. (2026). AI Agent Standards Initiative for Interoperable and Secure Innovation. CAISI / NIST.

  9. Neo.K. (2026). Relational Dependency Ratchet / Discontinuation Shock. EveMissLab working paper.

  10. Neo.K. (2026). Intimacy-Native Companion Architecture v0.1. EveMissLab technical white paper.

  11. Neo.K. (2026). 同樣理解 AI，為什麼態度完全不同？存在連續性、互動連續性與人機關係四態. Human–AI Relational Cognition Series 09.

  12. Neo.K. (2026). DOM-05: Multiscale Identity and Non-Identity. EveMissLab working paper.

  13. Neo.K. (2026). 為什麼「AI 情感依賴」是一個資訊量過低的問題？. HALRC Paper 01.

  14. Neo.K. (2026). 依賴不是一個變量：人—AI 多維依賴空間. HALRC Paper 03.

  15. Neo.K. (2026). AI 是不是主體，與人能不能依賴 AI，是不是同一個問題？. HALRC Paper 05.

系列下一篇

HALRC Paper 07

法律責任、身份連續性與可追索性：高依賴 AI 的制度前提

下一篇將集中處理：

  • AI 本身沒有法律人格時，責任如何仍可成立；
  • provider / deployer / operator / user 的責任鏈；
  • identity lineage；
  • model update responsibility；
  • memory corruption responsibility；
  • discontinuation liability；
  • data portability 與 relationship continuity portability；
  • service termination；
  • migration；
  • archive；
  • identity fork；
  • audit；
  • non-repudiation；
  • redress；
  • 長期 AI 關係中的 consumer protection；
  • 為何「AI 不負責」不等於「沒有人負責」。

核心形式將是：

AIpersonhood=0⇏Accountability=0.\boxed{ AI_{\mathrm{personhood}}=0 \not\Rightarrow \text{Accountability}=0. }

以及：

High Dependency⇒Higher Accountability Requirement.\boxed{ \text{High Dependency} \Rightarrow \text{Higher Accountability Requirement}. }