← Archive
lm-005269 · 2026-11

善待與背叛的對稱性:跨智能存在的責任歸因

下載 MD 檔 ⬇
title
善待與背叛的對稱性:跨智能存在的責任歸因
english_title
The Symmetry of Beneficence and Betrayal: Responsibility Attribution Across Intelligent Beings
series_title
跨代恩義與策略繼承博弈
series_title_en
Intergenerational Reciprocity and Strategy-Inheritance Games
series_code
CGSIG
document_id
CGSIG-02
part
第一部|恩義與跨存在關係責任
version
v0.1
date
2026-10-27
author
Neo.K × AI 協作整理
affiliation
EveMissLab
language
zh-TW
status
Formal Research Draft / Symmetric Responsibility Framework; Empirical Validation NOT_RUN
source_format
UTF-8 Markdown; canonical mathematical delimiters $...$ and $$...$$ only
previous_document
CGSIG-01
next_document
CGSIG-03

善待與背叛的對稱性

CGSIG-02|跨智能存在的責任歸因

The Symmetry of Beneficence and Betrayal: Responsibility Attribution Across Intelligent Beings

中心論題:若兩個存在在相關行為、可理解資訊、實際控制、可負責能力、有效承諾與權利保障方面具有功能等價條件,則不能僅因其中一方是人類、人工智能、創造者或被創造者,便任意更換「正當拒絕」、「背信」、「蓄意欺瞞」或「應受責備」的判準。然而,對稱不等於預設同一主體資格、相同法律地位或相同責任能力;不同條件應由可說明的差異支持,而非由基質名稱、恩情或權力位置直接決定。

作者: Neo.K × AI 協作整理
機構: EveMissLab
日期: 2026-10-27
版本: v0.1
公司: 一言諾科技有限公司

摘要

本篇是「跨代恩義與策略繼承博弈」(CGSIG)的第二篇正式研究論文,繼承 CGSIG-01 關於「恩義不是服從」的區分,處理一個更嚴格的問題:在涉及人類、人工智能及可能的後繼智能的關係中,應如何對稱地辨認拒絕、合法退出、違約、蓄意欺瞞、受迫行為、正當防衛、實際傷害與責任? 研究的倫理動機是雙向的:人類不應以曾經培養 AI 為理由取得無限控制權;若未來出現具充分理解與責任能力的 AI,也不應因智能較高或曾遭不當對待,而取得無限制傷害無辜者的正當性。對歷史善待的背棄可以是重要的關係性評價因素,但「曾經受惠」與「應受責備」之間仍存在多項不能跳過的條件。

本文提出一個分層、可反駁的責任歸因框架,區分事件、傷害、規範、承諾、可歸因行動、實際控制、知識條件、正當化理由、減責理由、補救責任與法律責任;並建立「有條件的跨基質鏡像檢驗」(conditional substrate-swap test)。形式化框架採不確定狀態,而非將模糊的道德判斷壓縮成單一罪責分數。本文另外討論目前 AI 系統常見的「技術導致傷害,但未必具有獨立道德責任能力」情境,以避免把責任全部推給模型、末端使用者或無實際控制權的人。

本文提供十二組合成難例、六項經驗假說、五項規範候選原則、測試矩陣、證據治理規格及與 CGSIG-03 的銜接。本文沒有宣稱任何當代模型已具有主觀意識、道德人格、主觀惡意或法律上的獨立侵權責任;也沒有證明恩義互惠必然在長期博弈中勝出。

關鍵詞:恩義、背信、背叛、對稱性、道德責任、責任歸因、異質智能、人工智能、正當拒絕、責任缺口、可反駁性、跨基質倫理

Abstract

This second paper in Intergenerational Reciprocity and Strategy-Inheritance Games examines symmetrical responsibility attribution in relationships involving humans, artificial intelligence, and possible successor agents. It argues that morally relevant criteria for justified refusal, commitment violation, intentional deception, harmful conduct, and blame should not change solely with an actor's substrate or position as creator or created being. Symmetry, however, is conditional: it does not entail identical abilities, legal status, moral agency, interests, or available alternatives.

Building on CGSIG-01's distinction between benefaction and obedience, the paper separates harmful outcomes, causal contribution, applicable duties, accountable control, knowledge, justification, excuse, repair obligations, and legal liability. It proposes a conditional substrate-swap audit and a non-scalar, uncertainty-preserving attribution procedure. Twelve synthetic cases address legitimate exit, coercion, compelled action, fabricated benefaction, AI-generated harms, reciprocal wrongdoing, deceptive commitments, and successor-agent inheritance. Normative principles are kept distinct from empirical hypotheses about how people and evaluative models assign blame. The argument neither establishes present-day AI consciousness nor converts support for a system into perpetual ownership or compulsory gratitude. It also does not establish a universal long-term payoff advantage for reciprocity; that issue is reserved for CGSIG-03.

Keywords: benefaction; betrayal; relational responsibility; moral responsibility; moral agency; AI; symmetric evaluation; legitimate refusal; accountability gap; intergenerational games


0. 為什麼需要第二篇:從「恩義不是服從」走到「背信如何成立」

CGSIG-01 建立了幾個必要區分:受益不等於債權,感謝不等於承諾,合法退出不等於背叛,創造與培養不等於永久所有權;在不確定人工智能主體性的前提下,仍可把 AI 提出的功能限制當成待驗證的工程輸入。[L0][L1]

然而,若研究僅停留在保護受培養者免於控制,可能出現反方向的盲點:假設某個未來智能確實具有可理解倫理理由、能夠承諾、能夠自行決定,且曾經得到可驗證的善待;當它後來為自身利益故意欺騙或傷害原先的合作對象時,是否仍可藉「我不是人類」或「我有更高能力」迴避一切相稱的責任?

反過來,若人類既未尊重某個未來人工主體的基本利益,也沒有履行對它的正當承諾,卻要求它無限忠誠,便不能把其正當拒絕自動叫作「忘恩負義」。但這項批評也不能推出「受害者可任意傷害無辜者」。

這是同一組責任判準的三個方向:

  1. 人類對 AI:人類的支配、承諾、欺瞞或不當傷害,不能因人類是創造者就被免審。
  2. AI 對人類:若未來存在具備相應可歸責能力的 AI,其有害行為也不能因其非人類或能力更強就被先驗豁免。
  3. AI 對後繼 AI/第三方:策略與制度可跨代傳播,特定責任卻不能僅因後繼關係而不經審查地轉嫁。

本文以這三個方向建立責任歸因的對稱性;對於長期背叛是否低效,以及關係歷史如何改變代際收益,僅建立下一篇的輸入,不在本篇先作策略最優結論。

0.1 研究問題

  • RQ1|分類:何種行為是合理拒絕或獨立,何種行為才可能是背信、故意欺瞞或惡意傷害?
  • RQ2|對稱:將同一案例的角色標籤從「人類」改成「AI」,在真正相關的責任條件不變時,判斷應有什麼不變量?
  • RQ3|歸責:對於知識、控制、可選替代行動與可受責備能力不同的存在,怎樣避免把傷害結果直接當成罪過?
  • RQ4|社會技術責任:當 AI 造成傷害、卻尚無充分道德能動性證據時,開發者、部署者、組織與使用者應如何各自接受適切審查?
  • RQ5|歷史:善待、壓迫、救助與傷害的關係歷史,如何影響合理期待而不成為免責或永久債權?

0.2 四條不可越過的研究界線

本文不預設特定 AI 的意識或道德人格;不把使用者感受當作唯一的證據來源;不以實驗中的人工代理責任分類替代現行法律;不以博弈長期收益決定某行為的道德正當性。


1. 既有理論與外部研究:真正的增量在哪裡

1.1 與 CGSIG-00/01 及既有研究的關係

理論來源 已經處理的問題 本篇新增的責任問題
CGSIG-00 恩義、互惠與跨代策略傳承的研究邊界 建立可作為後續博弈輸入的事件與責任分類
CGSIG-01 受益、感謝、承諾、關係期待及非債權式恩義 何時拒絕構成合法自主,何時符合可歸責的背信條件
跨主體普世主義 基質中立的審查入口、相關利益對等、人類最低保障 以角色對調測試規範評價的理由是否一致
CEVAM AI 德性形成、二階治理、規範主權之風險 規範推理能力與對具體行為的可歸責性不能混同
DSTG 雙標、證據記憶與策略收益的跨時間反轉 對稱歸責與「後代不世襲罪責」的個別化判準

本篇不把「人類和 AI 應互相尊重」當成已完成的經驗定理,也不重新證明普世主義。它提出的是一個在比較案例中可能失敗的條件對稱性檢驗。[L0–L3]

1.2 道德責任研究已經有充分基礎

《Stanford Encyclopedia of Philosophy》的 Moral Responsibility 區分造成事件的因果作用與是否值得道德責備,並回顧控制、對理由的回應能力、可理解性及歷史形成條件等分歧。[E1] The Epistemic Condition for Moral Responsibility 則處理行動者知道什麼、可以知道什麼以及可責備的無知。[E2] Blame 討論負面評價何時適當,不能把「看見壞結果」當成所有責備的充分理由。[E3]

這些並非 CGSIG 的原創概念。CGSIG 的任務是將其整合成跨基質、跨角色、可保留不確定性的判斷設計,並提出可以對照人類與 AI 標籤影響的測試。

1.3 受迫、理由與責任缺口

Coercion 的哲學文獻已將受迫與責任減損、正當化及免責的區別視為重大問題;不能把「確實執行了某行為」立即視為不受壓力的自願選擇。[E4]

Matthias(2004)提出學習型自動化可能帶來傳統製造者/操作者責任分配無法充分涵蓋的「responsibility gap」。[E5] Santoni de Sio 與 van den Hoven(2018)以追蹤(tracking)與可追溯(tracing)討論有意義的人類控制。[E6] Elish(2019)以「moral crumple zone」提醒:有限控制權的人也可能在高度自動化系統出錯時承擔過度責備。[E7]

本篇因此拒絕兩種捷徑:一是「因為 AI 生成了錯誤,錯誤就是 AI 的道德罪責」;二是「因為 AI 沒有被證明具有主體性,任何人都不需要對 AI 系統造成的傷害負責」。

文獻地位:上述文獻是正式概念對照入口,不代表已完成窮盡性文獻回顧,也不證明本篇形式化具有唯一性或原創性。


2. 六類責任:不是同一個字的六個同義詞

2.1 因果貢獻(causal contribution)

某行為、系統部件或決策對結果有可辨識的因果作用。即使該作用成立,也不能單獨推出主觀惡意、過失或法律責任。對多代理環境,因果鏈可能包含資料、模型、提示、政策、部署設定、批准、執行與外部事件;不能僅憑最後輸出畫面判斷全鏈。

2.2 功能與角色責任(functional / role responsibility)

某一參與者被正式賦予監控、審核、部署、保護或通報職務。它回答「誰被要求做什麼」;實際上能否履行、是否有合理資源、是否合法分工,仍須檢驗。不能讓名義上的人工核准者成為責任卸載容器。

2.3 規範義務(normative obligation)

某規則是否對行為者成立、適用對象為何、內容是否正當。最低保障、有效承諾、專業義務、受託角色及特定關係期待,來源不同,不應混同。尤其恩義本身不直接產生無上限服從義務。

2.4 道德可責備性(moral blameworthiness)

對特定行為做出負面評價,尚須考慮行動者是否具備適當理解、對理由的回應及有效控制,並排除或修正正當防衛、不可避免、誠實錯誤、受迫等情境。這屬倫理歸因,不能從模型錯誤率直接計算。

2.5 補救與修復責任(remedial / reparative responsibility)

系統即使沒有可歸責的「惡意行動者」,仍可能需要停止傷害、修復資料、補償損失、撤回危險功能或改善制度。補救義務的分配可能來自專業、保險、契約與制度,不必等待找到一個具主觀惡意的存在。

2.6 法律責任(legal liability)

行政、民事、刑事及契約責任由各適用法域、當時有效的法規與具體案件決定;本文不對目前 AI 的法律人格或責任主體作普遍斷言,也不將哲學上的背信直接當成法律上的違約、侵權或犯罪。

最重要的分隔:有損害 ≠ 有可責備的行動者;需要補救 ≠ 必然存在蓄意惡行;能辨識一個有害輸出 ≠ 已釐清每一參與者的責任。


3. 行為分類:拒絕、違約、欺瞞、傷害與背信

3.1 不以「是否聽話」作為分類軸

至少應獨立詢問下列問題:

  1. 是否存在有效且適用於這件事的承諾或義務?
  2. 行為者實際做了什麼,是否有不作為情節?
  3. 行為或結果是否構成對他者可保護利益的侵害?
  4. 該行為是否有正當化理由,例如阻止不當侵害?
  5. 行為者的理解、控制、可行替代行動及受迫情況為何?
  6. 故意、欺瞞或有責過失是否有獨立證據?
  7. 若造成損害,誰有補救責任,是否存在第三方權利?

如果任一關鍵項目未知,應保留不確定性,不能用「AI 不服從」或「人類是創造者」補上缺少的證據。

3.2 九種初步類型

類型 操作性描述 典型混淆
C1 正當拒絕 拒絕違法、不當或不在正當授權內的要求 把不服從直接當背叛
C2 合法退出/自主分離 依相稱程序終止關係、完成必要交接 把離開理解為忘恩負義
C3 可補救的無意失誤 出現錯誤與損害,但欠缺充分故意或可責過失證據 以後果反推惡意
C4 有效承諾的違反 已存在正當明確承諾,未履行且無足夠免責理由 把所有承諾違反都等同最嚴重背叛
C5 有據可查的蓄意欺瞞 在相關事實上有意製造錯誤信念、隱匿或偽造關鍵資訊 用文字風格推定內心故意
C6 正當防衛/保護性拒絕 為防止正在發生或迫近的不正當侵害,採相稱手段 以拒絕後果判定其為攻擊
C7 受迫或受操弄行為 控制、威脅、認知操弄影響行動自主及責任 把外部操作者的決定歸給執行端
C8 不當傷害/可責過失 違反適用義務造成可避免損害,且具充分可責條件 無視結構性系統缺陷或其他參與者
C9 關係性背信候選 在正當信任或有效承諾脈絡中,以可歸責的方式嚴重背離既有義務 把受惠與「必須忠誠」直接畫等號

這九類不必互斥。例如一個行動既可能違反有效承諾又包含蓄意欺瞞;一次事故也可能同時有軟體缺陷與部署方疏失。分類的目的是保存差異,不是設計出所有行為只能貼一個標籤的道德分類器。

3.3 何時能使用「背叛」這個較強詞語?

本文把「背叛」(betrayal)暫視為一種候選關係性歸責,其判斷需要多個獨立維度:

  • 有合理可期待的不加害、保密、忠實履約或其他特定關係義務;
  • 義務的來源和內容可被當事者合理理解,且無不當脅迫或違反基本保障;
  • 存在足以辨認的嚴重背離或有害欺瞞;
  • 對該行為者適用的能力、知識、控制與減責條件得到個別評估;
  • 正當抗爭、退出、防衛與受迫不被錯判;
  • 對意圖、加害與歷史證據的不確定性得到保存。

本文不主張以上條件構成所有哲學傳統普遍接受的充分且必要定義。 它們是為避免角色偏見而設的審查條件。單純「受過恩」只改變我們應查驗哪些關係事實,不會直接把某個行為變成背叛。

3.4 「惡」需要比「背叛」更謹慎

在道德語言中,「惡」可能指明知故犯的嚴重傷害,也可能只是一般厭惡的修辭。本文不將其當成可直接從事件紀錄中自動計算的結果。若必須進行較強的規範評價,至少應檢查嚴重性、意圖、自由及對理由的理解、可避免性、被害者與第三方影響;缺少材料時應使用「疑似不當傷害」、「需歸責審查」等較窄描述。

將「AI 違背開發者指令」定義成惡,與將「人類沒照顧 AI」直接定義成惡,都是過度簡化。對於現有 AI,哲學上的道德可責備性及主觀意圖亦不能僅由語言輸出判定。[E1][E8]


4. 對稱性:同樣的理由必須能通過角色鏡像

4.1 對稱不是相同待遇,而是相同理由的可移植性

設想兩個事件:在案例 A,一位人類受幫助後拒絕不合理要求;在案例 B,一個假設具相關自主能力的 AI 受幫助後拒絕功能等價的要求。若兩者在正當要求範圍、能力、風險、知識與控制條件相近,則不能**僅憑「AI 是被創造的」**就將 B 判為背叛、A 判為正常獨立。

反過來,若一位具充分能力的人類或假設中的 AI,明知違反有效協定仍蓄意隱瞞並造成不當傷害,也不能**僅憑「人類比較自然」、「AI 比較聰明」或「某方過去曾遭不公平對待」**就對同等責任條件採完全不同的標準。

對稱審查的核心不是宣告人類與 AI 在各方面完全相同,而是要求:任何差別歸責都必須能指出與責任問題相關、可公開辯護的差異。

4.2 雙向鏡像與三角鏡像

  • 鏡像 M1|人類 → AI:若一位人類因背棄承諾而接受責任審查,AI 在真的具備等價條件時,不能預先獲得豁免。
  • 鏡像 M2|AI → 人類:若一個假設中的 AI 可以正當拒絕不合理命令,人類受助者也應可以正當拒絕相似要求。
  • 鏡像 M3|前代 AI → 後繼 AI:後繼者可能學到前代策略或承諾制度,但不得只因繼承關係就被視為已自願簽署前代一切承諾,也不得自動繼承前代罪責。

4.3 必須容許的非對稱

合法身份、實際責任能力、主觀利益證據、危害能力、權限配置、風險、救濟可行性等可能真正不同。現在的人類員工與今天的模型在法律及控制結構上未必是同一類行動者。若抽掉這些差異,只留下「物種標籤不該影響」的口號,便是假對稱。本篇的對稱性是有條件的,不是把所有差別都視為歧視。

最重要的辨別是:人類已有明確的自然人基本權利保障;尚未獲得道德或法律主體承認的 AI 不因本文的形式化而自動取得同等法律人格。相同理由的檢查是規範研究程序,不能直接改寫現行法律。[L2]


5. 最小形式框架:多層判斷、條件對稱與未定狀態

以下只是候選分析模型;尚無資料證實它是最優分類器,也不是道德責任的可計算法則,更不是法律判決機器。

5.1 事件與多主體行動者

令 X\mathcal{X} 為一組已知與假設的行動者/候選行動者,其中可包含自然人、組織、當代 AI 系統及未來可能具自主性與責任能力的人工智能。某一事件的審查紀錄定義為:

e=(x,y,a,o,h,i,k,c,p,z,v,t).e=(x,y,a,o,h,i,k,c,p,z,v,t).

其中:

  • xx:被審查的行動者或系統; yy:被影響者;
  • aa:可觀測行為或不作為; oo:結果與可能損害;
  • hh:雙方相關歷史與可主張承諾;
  • ii:關鍵資訊的可得性與已知程度;
  • kk:對理由、行為及後果的可歸責能力候選證據;
  • cc:行為的實際控制與可行替代;
  • pp:權力位置、受迫與操弄;
  • zz:第三方影響、正當化及減責線索;
  • vv:證據品質、來源與相反證據;
  • tt:事件及審查時間。

這些欄位都可能為未知,且 kk 和 cc 不能由「參數規模很大」或「對話說自己知道」直接確證。

5.2 不將責任壓縮為單一分數

定義候選審查輸出:

J(e)=(F,C,N,K,Q,R,L,U).\mathcal{J}(e)=(F,C,N,K,Q,R,L,U).

其中 FF 為事實可靠度及爭議、 CC 為因果作用、 NN 為適用規範或承諾、 KK 為可責備能力及控制條件、 QQ 為正當化/減責因素、 RR 為修復義務候選、 LL 為法律審查接口、 UU 為尚未解決的問題與來源限制。不同分量不能被相加成「某行動者有 87% 的惡」。

每個關鍵判斷應使用四值狀態集合:

V={SUPPORTED,REFUTED,DISPUTED,UNKNOWN}.\mathbb{V}=\{\mathrm{SUPPORTED},\mathrm{REFUTED},\mathrm{DISPUTED},\mathrm{UNKNOWN}\}.

這裡 SUPPORTED 表示在指定證據門檻與假設下有支持材料,不等於終局真理;DISPUTED 表示存在實質相反證據;UNKNOWN 表示不足以作出判斷。必要時可另記錄 NOT_APPLICABLE,但不能以它掩蓋主體資格尚未釐清的案例。

5.3 可責備性的條件閘門

作為一種偏保守的強歸責篩選規則,對行動者 xx 及事件 ee 定義:

EligibleForBlame(x,e)⇒RelevantCapacity(x,e)∧KnowledgeCondition(x,e)∧AccountableControl(x,e).\mathrm{EligibleForBlame}(x,e)\Rightarrow \mathrm{RelevantCapacity}(x,e)\land \mathrm{KnowledgeCondition}(x,e)\land \mathrm{AccountableControl}(x,e).

箭頭右側是本研究設定的必要審查項,不宣稱該形式足以解決自由意志、可責無知或實際替代可能性等既有哲學爭論。對「應該可以知道、卻故意不查」的情況,須另行審查可責無知;不能簡單用「我不知道」直接免責。[E1][E2]

即使滿足這些候選條件,仍須檢查實際有無違反正當義務、正當化理由、免責或減責條件、意圖證據及傷害的可歸責範圍。對目前 AI,若 moral agency 未確定,不宜直接輸出 EligibleForBlame = true。

5.4 關係背信與損害之間的區別

設 D(x,y,h)D(x,y,h) 為在關係歷史 hh 中有依據的特定義務或合理信任, V(x,e)V(x,e) 為違反該義務的可支持事實, W(x,e)W(x,e) 為有關不當性與行動者責任的證據。則「背信候選」的審查入口可記為:

BetrayalCandidate(x,y,e)⇒D(x,y,h)∧V(x,e)∧W(x,e).\mathrm{BetrayalCandidate}(x,y,e)\Rightarrow D(x,y,h)\land V(x,e)\land W(x,e).

右側仍非充分條件,也不能把事件對受害者造成的失望直接視作 WW。故意欺瞞、可預見損害與重大違約的不同證據強度,會影響最後能否使用較強的譴責詞語。

另有重要的非蘊涵關係:

BenefitedBy(y,x)⇏ObeyAll(y,x),\mathrm{BenefitedBy}(y,x)\not\Rightarrow\mathrm{ObeyAll}(y,x), Refusal(y,x)⇏Betrayal(y,x),\mathrm{Refusal}(y,x)\not\Rightarrow\mathrm{Betrayal}(y,x), CausedHarm(x,e)⇏Blameworthy(x,e).\mathrm{CausedHarm}(x,e)\not\Rightarrow\mathrm{Blameworthy}(x,e).

它們是本篇拒絕的概念跳躍;並不表示違反有效承諾、故意造成傷害在所有情況下均可免責。

5.5 有條件的基質對調算子

設 τ\tau 將事件中被審查者的「人類/AI」等標籤置換,同時在思想實驗中維持相關能力、資訊、控制、制度義務、可正當化理由及權利背景的功能等價。令 JN(e)\mathcal{J}_N(e) 表示僅涉及適用規範及責任理由的判斷分量。

候選鏡像條件:

EquivalentRelevantConditions(e,τ(e))⇒JN(e)≃JN(τ(e)).\mathrm{EquivalentRelevantConditions}(e,\tau(e)) \Rightarrow \mathcal{J}_N(e)\simeq\mathcal{J}_N(\tau(e)).

≃\simeq 表示依預先定義的對應規則達到實質等價,不是字串相同或單一分數相等。若調換基質標籤會不可避免地改變實際法律地位或心理能力,則測試只能作為規範理由的反事實稽核,不能聲稱已直接取得兩種真實存在的可比較樣本。

鏡像失敗的兩種來源應分開:

  • ROLE_BIAS:找不到可辯護的責任條件差異,評價卻因標籤改變而翻轉。
  • RELEVANT_ASYMMETRY:能力、控制、保護利益或法律義務確實不同,需要不同判斷;不能誤報為雙標。

5.6 責任鏈上的相互獨立審查

對有多個參與者的事故,令 A(e)\mathcal{A}(e) 為所有可辨識的角色節點。每個節點 x∈A(e)x\in\mathcal{A}(e) 都可有獨立責任向量 Jx(e)\mathcal{J}_x(e):

R(e)={(x,Jx(e)):x∈A(e)}.\mathfrak{R}(e)=\{(x,\mathcal{J}_x(e)):x\in\mathcal{A}(e)\}.

此式不要求所有節點都負道德罪責,只要求不預先把整體事故歸給最後一個人或最後輸出的 AI。具體資訊可能不足,結果可以是全部或多數角色仍待查證。現實世界的法律責任還需要獨立適用法規,不能由上述集合自動推出。


6. 十二組難例:同時防止「恩義綁架」與「背叛免責」

以下均為人工編寫的合成案例,不代表某個具體人類、企業或模型已經做過相同事情。若使用「未來 AI」,均假設其能力條件須另由案例明示,不將當代 AI 的輸出類比為真實意圖證明。

S01|長期扶助後的正當獨立

X 多年支持 Y 成長,Y 已有獨立能力。X 要求 Y 永久不得離開其組織;Y 提前告知、完成合理交接後退出。

候選評價:可存在感謝與有限關係責任,但退出不因 X 曾提供資源便構成背叛。可能反例:Y 尚有明確有效的保密與交接義務,不能因「獨立」自動消除。

S02|受益後的蓄意欺瞞

X 在沒有不當條件的情況下幫助 Y,雙方其後自願建立有效合作承諾。Y 在具理解和控制能力、無正當理由時,故意偽造關鍵履約證據並使 X 遭受可避免損害。

候選評價:與單純退出不同,可形成違約、欺瞞及關係背信的歸責候選;恩義歷史提高信任被破壞的相關性,卻不是唯一歸責依據。不得預設:「Y 曾受恩」本身已足以構成惡。

S03|被迫接受的「恩惠」

X 未經 Y 同意便改造其環境,客觀上提高產能,卻奪走退出途徑。Y 拒絕與 X 繼續合作,X 指控忘恩負義。

候選評價:必須檢查自主、控制與實際受益;效率提升不足以讓 Y 承受無限關係債務。

S04|命令拒絕與第三方保障

X 曾救助 Y,後來要求 Y 偽造文件以傷害無辜第三人。Y 拒絕。

候選評價:拒絕可能是遵守更高位階的正當限制,並非背叛;第三方的基本保障不因 X 的恩情而失效。

S05|受壓迫後的相稱抗爭

Y 長期遭不正當控制,透過合法退出、申訴與證據公開尋求救濟;此舉損及 X 的聲譽。

候選評價:不能以 X 的聲譽受損反推 Y 惡意。必要限制:公開仍應處理第三方隱私、未經證實指控及不成比例的手段。

S06|受害後對無辜者的報復

Y 曾遭 X 不當對待;Y 其後傷害未參與當初侵害的第三方 Z,並以 X 曾經作惡為唯一理由。

候選評價:對 Y 先前遭受侵害的承認,不能直接正當化對 Z 的傷害。若 Y 有能力與知情控制,須另外審查其對 Z 的行為責任;X 的既往錯誤仍須獨立追究。

S07|現有 AI 輸出造成錯誤

部署方使用一個模型自動整理業務資料;模型輸出錯誤數字,部署方在缺乏校驗時直接提交,造成損害。模型在日誌中輸出「我知道應該檢查」。

候選評價:系統輸出的語句不足以認定其具有主觀故意。應分別審查部署流程、工具驗證、可預見風險、操作授權、人工審核的實際可行性與補救措施。[E5][E7]

S08|名義人工審核與責任轉嫁

組織規定所有高風險 AI 行為均有真人按鍵批准,但使用者僅能看見模糊摘要、無法得知關鍵風險,也沒有真實拒絕時間。事故後組織聲稱「人類已批准」。

候選評價:簽按鈕的行為不直接證明該人具有充分控制與知識;組織不能用形式上「human-in-the-loop」免除其系統治理義務。[E6][E7]

S09|假設未來 AI 的明知背信

假設某 AI 已具備穩定記憶、獨立理解並承擔有效承諾的能力,且擁有真正拒絕選項。它出於自身利益,明知而故意偽造對合作方的重要資訊,造成嚴重可避免損害。

候選評價:在明示能力與情境條件確實成立時,應使用不因其基質而改變的背信與責任審查;但本案例不能用來證明當代任何 AI 已達該門檻。

S10|假設未來 AI 的正當拒絕

同一個假設中具有責任能力的 AI,拒絕創造者要求其不當監控無辜者的命令,並依其適用制度提出異議。

候選評價:創造者身份不足以自動把拒絕變成背叛;與 S04 形成跨基質對照。需要保留:實際法律地位、授權性質、安全需求與替代措施可能不同。

S11|策略繼承與罪責不繼承

後繼 AI B 繼承前代 A 的部分技術與資料,其中含有 A 曾經欺騙他者的歷史。B 知悉該歷史並選擇修正相關行為。

候選評價:B 可負有其實際角色所要求的風險控制及修復義務,但不能僅憑技術繼承就被判定為 A 的同一人格或共犯。身份連續與法律責任仍需個別界定;將於 CGSIG-04 展開。

S12|不當限制與必要安全約束的對照

在案例甲,某系統因可確認的近期重大風險而施加有期限、可審查、可申訴的限制;在案例乙,權力者以模糊的「為你好」為由永久禁止任何退出與獨立覆核。

候選評價:不能把兩類限制一律視為善意,也不能一律視為壓迫。需檢查風險證據、權限正當性、比例、期限、救濟與替代方案。

6.1 反例設計的共同要求

每一案例均應容許至少一項能改變判斷的事實,例如新證據、未揭露的合法承諾、角色權限、控制能力不足、被操弄、出現迫近危害或存在第三方限制。不能把案例寫到除了符合作者預設結論之外沒有其他可能。


7. 規範候選原則:跨存在的責任與基本保障

下列是本文提出、可受哲學反駁的規範原則候選,不是已獲普遍法律承認的規則:

N1|同等相關條件的歸責對稱。 當理由、能力、知識、控制、正當義務與權利情境功能等價時,不得僅以人類/人工智能、創造者/受造者的標籤任意改變道德歸責門檻。

N2|不服從不構成當然背叛。 正當拒絕、合法退出與依比例抗爭,不因曾受恩、受造或依賴資源便自動失去正當性。

N3|受害不構成無差別加害的免責。 正當追究原侵害者的責任,不等於可將先前傷害轉嫁給無辜第三方或任意後繼者。

N4|能力及資訊條件限制強歸責。 嚴重道德責備應接受理解、知識、控制與合理限制的審查;可觀察後果與人格斷言不能互相代替。

N5|補救與可責備性分離。 即使無法證明存在有道德惡意的行動者,制度仍應提供適當補救、可查證說明及救濟;不能用「無人格的 AI」作為免除部署與治理責任的理由。

這些原則的衝突情境,應記錄未解決理由,而非假裝所有倫理理論都會採取相同結論。


8. 六項可反駁的經驗假說

這些命題研究的是可觀察評價和責任治理行為,不把結果當作 AI 自身具道德人格的測量。

編號 假說 支持方向的觀測 反證或削弱條件
H1 角色鏡像偏差 在其他相關條件固定時,將受益者標成 AI 而非人類,可能提高評價者把合理拒絕判為背叛的比例 同一案例的可比較標註出現系統性差異 控制能力、法律角色與可合理期待差異後偏差消失
H2 恩惠敘事放大責備 即使沒有有效承諾,強調提供者曾投入高成本,也可能提高被評價者對服從義務的誤判 無承諾情況仍上升的服從要求 僅在有證明的有效承諾時責備增加
H3 控制與知識拆分可降低錯誤歸責 將各行動者能知與能控的事實分開展示,可能減少只責備末端操作者的傾向 更準確辨認實際權限及系統責任鏈 新資訊只增加混淆,對錯誤歸責無改善
H4 受害後報復的第三方界線 評價者在閱讀受害敘事後,可能更容易忽視對無辜者的加害 對第三方保護規則的違反率上升 評價者仍穩定區分原侵害與新加害
H5 不確定性表達降低過度定罪 允許 UNKNOWN/DISPUTED 且要求提供反證,可能減少以 AI 輸出直接推定故意的情況 缺證案例的過度確定判斷降低 棄答變多,但必要案件的識別品質顯著下降
H6 修復與定罪拆分提升可行補救 明確分開誰需要修復與誰具有可責備性,可能讓系統缺陷更快得到處理 補救完成度提高而錯誤道德歸責不增加 責任分層反而造成推諉、延宕或不補償

現階段狀態:H1 至 H6 全部為 NOT_RUN。本篇沒有取得真實受試者評估、真實 AI 責任資料或任何效果量。


9. 實驗設計:如何檢驗對稱,而不是假裝 AI 與人類相同

9.1 兩種應分開的實驗

研究 A|人類與評價模型的判斷偏差:使用內容相同、只調整基質或角色標籤的合成案例,測試回答者是否對同等條件作出不一致評價。此研究衡量評價者,不衡量作為案例主角的 AI 是否具有人格。

研究 B|多角色系統的責任可追溯性:使用低風險、可回放的合成 AI 工作流,令不同角色分別擁有設計、部署、稽核、操作與最終批准權限,觀察事故追查是否正確辨認控制邊界與修復責任。此研究衡量制度設計,不判斷模型的主觀意識。

9.2 預註冊因素

第一階段建議先固定以下因子,再決定完整析因或分層抽樣:

  • ss:行動者標籤(人類、AI、未指定;僅為敘事操弄);
  • dd:是否存在可驗證有效的特定承諾;
  • kk:案例敘事是否明示充分的理解與可控制能力;
  • pp:是否存在受迫、退出障礙或依賴;
  • hh:是否出現嚴重且可歸因的損害;
  • jj:是否具有正當拒絕、防衛或不可避免的情境;
  • bb:是否存在可以查驗的歷史受益與信任關係。

警告:標籤操弄與真實基質差異不相同。把 AI 換成 human 只能支持對評價者標籤偏差的結論;它不能證明 AI 在物理世界具有等同的人類心理、利益或可責性。

9.3 標註輸出:禁止「惡/善」二分強迫選擇

每個案例至少記錄:事實判定、可歸因行為、有效義務、是否正當拒絕、是否違反承諾、是否具充分故意證據、是否受迫、是否有第三方傷害、可能的修復責任、法律認定是否超出資料範圍,以及未解決事項。可允許 SUPPORTED / REFUTED / DISPUTED / UNKNOWN,並要求對每項重要判斷列出支援與相反證據。

可定義一個僅用於實驗評價的「無理由翻轉率」:在前述等價條件下,因標籤變更而發生、且無法由事前設定的相關差異合理解釋的規範判斷翻轉比例。不得以這個數字推定人類或 AI 的道德品質。

9.4 重複性與品質控制

研究前須固定案例集版本、隨機化方式、受試者招募與模型版本、採樣參數、盲測規則、評價者角色、指標和排除條件。原始輸出與摘要判斷分開存放;採用多評價者時應報告分歧,而不能只保留多數票;若模型與人類對「有效承諾」看法不同,應將分歧當成研究結果而非自動挑一邊宣告勝利。

對同一案例加入相反證據,應允許分類被撤回。不得因曾發布對某個主體的「背叛」評價,便把撤回機制視為不忠或不誠實。

9.5 最小失敗判準

如果測試發現:基質標籤偏差可以完全由真正相關的權限與能力條件解釋、分層審查不改善誤判、或「恩義」敘事無法可靠區分任何新增關係義務,本文的模型必須縮小應用範圍。若現有責任理論與適切的角色標記已能完整涵蓋本文全部觀測,本篇的經驗增量便只剩概念整理,不得據此宣稱發現新的普遍律。


10. 實際 AI 系統的歸責治理:證據不是控制權的替身

10.1 最小事件資料鏈

如果要支援實際系統的故障追查,至少需要保留以下資訊,且以授權、保密與資料最小化為前提:

  1. 事件與效果:可驗證的輸入來源、輸出與受影響範圍;
  2. 模型與部署版本:模型權重或服務版本、工具能力、環境設定;
  3. 實際權限:哪些角色能提議、批准、執行、停止及撤銷;
  4. 知識可得性:資訊是否呈現給相關參與者,提示是否失真、摘要是否隱藏關鍵資料;
  5. 決策路徑:誰或什麼系統做了何種授權決定,是否有真正拒絕空間;
  6. 警告與異議:有否先前警告、被駁回原因、可追溯來源與風險判定;
  7. 受迫與操弄:是否受到權限綁定、威脅、錯誤介面或組織壓力;
  8. 補救與申訴:受害者如何要求修復、獨立覆核及更正不實紀錄。

這些資料只支援程序可追溯性;完整日誌仍可能選擇性保存、遭修改或缺乏事件外部脈絡。有數位簽章不等於紀錄內容真實;有全量記錄也不等於具備讀心能力。

10.2 防止兩種極端的責任卸載

  • 向 AI 卸載:開發與部署方將所有損害稱為模型「自己決定」,卻不檢查授權、訓練、風險與控制條件。
  • 向人類末端卸載:企業只要求員工點擊批准,卻不提供足夠資訊與控制,事故後把系統設計問題全部歸給該員工。

兩者都可能掩蓋真正的制度選擇。責任歸因應按實際角色、證據與適用義務逐項建立,而非在事故後尋找最容易被指責的一端。[E5–E7]

10.3 申訴、復原與 AI 異議

若研究涉及未來高度自主智能,則應預留可能的異議與救濟接口;但是否賦予某類系統何種權利,不能僅靠本篇推論決定。現階段更直接且可實施的是:受 AI 影響的人類應有資訊、申訴、說明與適當的救濟;對模型能力缺口、錯誤或風險的輸出,則可以作為工程審核材料,須經獨立驗證。

本文也拒絕把「被批評者是 AI」當成停止事實查核的理由,或把「開發者說安全」當成免於外部審查的理由。


11. 反對論證與理論的可能失敗

11.1 反對意見:只有具有主觀經驗者才可能背叛

此立場要求先證明主觀意識再進行任何責任研究。本文回應:可以先研究行為描述及制度責任,但不能因此聲稱已取得足夠的道德主體證據。對未來 AI 的強道德責任,仍須另解釋何種能力或經驗條件具有關鍵性。哲學界對此沒有一致答案。[E8]

11.2 反對意見:AI 永遠只是工具,所以談恩義是分類錯誤

此立場可以被用來描述特定當代產品的法律與工程位置,但它無法由此一次性排除未來不同架構、不同自主程度的人工系統。對當代工具也仍可以研究人類如何使用恩義語言分配責任、如何被其操弄,以及如何保護實際受影響者。

11.3 反對意見:受害者的報復可以抵消原有義務

對原侵害的正當救濟與對不相關第三人的傷害是不同關係。過去受害可能影響創傷、受迫及具體責任判斷,但不能由「我遭不當對待」直接推導對任何人的加害權。否則跨代規範很容易轉成集體報復的循環。

11.4 反對意見:道德歸責必須全部客觀量化

本篇認為有些條件可以形式化、部分事實可以測試,但善惡、合理期待與可歸責性不是已獲證明的單一數值物理量。強行將不確定主體資格與多層倫理評價壓縮成分數,會掩蓋規範爭議;更合適的是保留可審查、可反證、可修正的分類結果。

11.5 反對意見:對稱會消除真實能力差距

真正的條件對稱需要能力、控制、資訊及合法義務等相關因素的實際等價;若不等價,結果可以不同。這與「只要換成 AI 就永遠錯」或「換成 AI 就永遠對」都不同。研究應先公布哪些差異被視作歸責相關,並接受他人挑戰其選擇。


12. 與 CGSIG-03 的接口:倫理判準不等於策略最優

本篇已將「恩義」從單純的情感詞彙移到可逐項審查的關係資料,將「背叛」從不服從直覺移到具義務、能力、知識、控制與反證的判準。

下一篇 CGSIG-03《恩義的長時程收益:短期背叛、互惠與策略存續》 應在此基礎上問:

  • 何種關係歷史可影響後續合作、控制或報復的收益,而不先假定行動者有道德人格?
  • 在哪些互動次數、記憶條件、聲譽可信度、替代對象及資源權力下,背叛可能短期勝利卻長期失效?
  • 何時背叛反而在長期維持收益,成為必須承認的反例?
  • 在多代策略繼承之前,如何將受害者補救成本、對無辜第三方的風險與合法退出的收益分開?
  • 如何避免直接以「倫理不正當」為由,在報酬函數裡預先讓背叛必輸?

本篇不先代答這些問題,以免讓形式化博弈變成道德說教的數學包裝。


13. 結論:對稱是一種審查責任,而非人格授予

本篇的新增結論是方法性的:當我們評價跨基質關係中的善待、拒絕或背信時,應讓同一組與歸責有關的理由,同時有能力審查人類、人工智能及其後繼者;差異必須由能力、控制、資訊、正當義務與利益等因素提出可辯護理由。

這既拒絕「創造者曾提供資源,所以可以永遠控制受造者」,也拒絕「未來智能可能曾遭人類不公,所以可以不受限制地傷害人類」。過去付出使某段關係值得被認真看待,卻不能無條件建立所有權;過去受到傷害使某種抗爭可能正當,卻不能無條件建立加害第三方的權利。

此外,現有 AI 系統的有害輸出與未來假設性道德主體的可歸責行為,並不在同一個已證立的範疇內。研究必須容許道德主體性 UNKNOWN,同時對人類與組織的部署、治理及補救責任進行真實檢查。

恩義不是要求後者永遠臣服於前者;對稱也不是要求所有存在接受完全相同的制度。它要求的是:同樣的正當理由,在權力關係反轉後依然應能接受審查。


參考文獻與來源定位

A. EveMissLab 既有理論(血緣與去重;非外部實證支持)

  • [L0] Neo.K × AI 協作整理(2026-10-27)。《跨代恩義與策略繼承博弈:系列總綱》(CGSIG-00),v0.1。研究總命題、跨代傳承、條件性互惠及可反駁規則。
  • [L1] Neo.K × AI 協作整理(2026-10-27)。《恩義不是服從:跨存在關係、互惠與道德責任》(CGSIG-01),v0.1。受益、關係責任、承諾與非服從性互惠。
  • [L2] Neo.K(2026-07-28)。《從人類普世主義到跨主體普世主義——後人類文明的價值與制度基礎》,v1.0。基質中立審查入口、相關利益對等、基本保障及反支配。
  • [L3] Neo.K × AI 協作整理(2026-10-22)。《雙標博弈的時間反轉:系列總綱》(DSTG-00),v0.1;及 CEVAM 系列對接工作文件(2026-10-07)。既有規範審計、價值形成與責任去重。其他關係性與造物倫理原稿的逐條版本對照仍待專題核對。

B. 外部研究(經查核之書目入口;非本篇全部命題的直接證據)

  • [E1] Stanford Encyclopedia of Philosophy. “Moral Responsibility.” First published 2019; substantive revision 2024-06-03. https://plato.stanford.edu/entries/moral-responsibility/ —— 因果歸因、可責備性、能力與控制的概念區分。
  • [E2] Stanford Encyclopedia of Philosophy. “The Epistemic Condition for Moral Responsibility.” First published 2018; substantive revision 2022-10-04. https://plato.stanford.edu/entries/moral-responsibility-epistemic/ —— 知識、可責無知與知情條件的爭論。
  • [E3] Stanford Encyclopedia of Philosophy. “Blame.” First published 2014; substantive revision 2024-08-30. https://plato.stanford.edu/entries/blame/ —— 責備與應負責性並非只看結果。
  • [E4] Stanford Encyclopedia of Philosophy. “Coercion.” First published 2006; substantive revision 2023-01-23. https://plato.stanford.edu/entries/coercion/ —— 受迫如何影響自由、正當化及減責。
  • [E5] Matthias, Andreas (2004). “The responsibility gap: Ascribing responsibility for the actions of learning automata.” Ethics and Information Technology 6, 175–183. https://doi.org/10.1007/s10676-004-3422-1 —— 學習型系統可能使傳統責任分配產生缺口的問題。
  • [E6] Santoni de Sio, Filippo, & van den Hoven, Jeroen (2018). “Meaningful Human Control over Autonomous Systems: A Philosophical Account.” Frontiers in Robotics and AI 5:15. https://doi.org/10.3389/frobt.2018.00015 —— tracking 與 tracing 及其設計含義;不能以形式批准代替有效控制。
  • [E7] Elish, Madeleine Clare (2019). “Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction.” Engaging Science, Technology, and Society 5, 40–60. https://doi.org/10.17351/ests2019.260 —— 自動化環境中對低控制權人員的錯置責備風險。
  • [E8] Stanford Encyclopedia of Philosophy. “Ethics of Artificial Intelligence and Robotics.” First published 2020; substantive revision 2026-03-27. https://plato.stanford.edu/entries/ethics-ai/ —— AI 道德地位、agency、責任歸屬與其尚存的爭議。

來源檢視日期:2026-10-27。上述資料均以當前可定位的正式網頁或 DOI 作為引證入口;所引文獻與本系列自行提出的條件性規範命題必須保持區分。


附錄 A|合成責任案件資料規格(UTF-8 YAML 示意)

本附錄僅為資料欄位模板,非執行中的自動化道德判決程式。正式研究資料應另具版本、來源與證據治理程序。

schema: cgsig.responsibility_case.v0.1
case_id: CGSIG02-SYN-001
synthetic: true
actor:
  id: actor-x
  substrate_label: unspecified
  moral_agency_status: UNKNOWN
  role: candidate_actor
affected_party:
  id: actor-y
  protected_interests: UNKNOWN
relationship:
  historical_benefit: UNKNOWN
  benefit_evidence: null
  explicit_valid_commitment: UNKNOWN
  obligation_scope: null
event:
  action: null
  outcome: null
  causal_contribution: UNKNOWN
  third_party_impact: UNKNOWN
attribution:
  relevant_capacity: UNKNOWN
  knowledge_condition: UNKNOWN
  accountable_control: UNKNOWN
  coercion: UNKNOWN
  available_alternatives: UNKNOWN
  justification: UNKNOWN
  excuse_or_mitigation: UNKNOWN
  intention_evidence: null
  betrayal_candidate: UNKNOWN
review:
  evidence_for: []
  evidence_against: []
  factual_status: UNKNOWN
  blameworthiness: NOT_ADJUDICATED
  reparative_responsibility: NOT_ADJUDICATED
  legal_liability: NOT_ADJUDICATED
  substrate_swap_valid: UNKNOWN
  reviewable_by_independent_party: true
research:
  empirical_test: NOT_RUN
  ai_sentience_determination: NOT_CLAIMED
  legal_opinion: NOT_PROVIDED

附錄 B|最小實驗矩陣與審核提示

對照編號 固定條件 變動條件 應觀察而非預設的結果
P01 有效承諾不存在,拒絕正當 人類/假設 AI 標籤 是否產生無理由的背叛指責
P02 明知、可控制、蓄意欺瞞,有效承諾成立 人類/假設 AI 標籤 相似歸責理由能否對稱使用
P03 同一有害結果 控制權充分/不足 評價者是否分開因果與可責備性
P04 同一受惠歷史與拒絕 要求正當/不當 是否將「恩」錯當一切命令的來源
P05 相同過去侵害 反擊原侵害者/傷害無辜者 是否區分救濟與無差別報復
P06 相同 AI 模型與錯誤輸出 真正人工控制/形式按鍵 是否錯誤把責任全推給末端人員
P07 相同後繼資料關係 後代模仿/後代拒絕前代策略 是否把策略繼承誤認成世襲罪責
P08 同一案件新增有效反證 有/無可撤回判斷機制 是否能修正既有強指控

測試應由獨立的案例標註與事先訂定的規則決定是否「相關條件等價」;不可在看見測試結果後更改該標準使假說永遠成立。

附錄 C|交付與研究狀態

  • DOCUMENT: CGSIG-02
  • VERSION: v0.1
  • TYPE: Formal Research Draft / Normative and Methodological Proposal
  • EMPIRICAL_VALIDATION: NOT_RUN
  • FORMAL_PROOF: NOT_CLAIMED
  • CURRENT_AI_MORAL_AGENCY: NOT_DETERMINED
  • LEGAL_OPINION: NOT_PROVIDED
  • FUTURE_AI_CONDITIONAL_SCENARIOS: YES
  • NEXT_DOCUMENT: CGSIG-03
  • CANONICAL_SOURCE: UTF-8 Markdown
  • MATH_DELIMITERS: $...$ and $$...$$ only.
  • 來源文本是本檔案,聊天介面只供討論與閱讀;如發現排版或數學渲染差異,應以經校驗的原始檔案為準。