智能命名、語義位階與反身文明論（10/16）

Q: 34. 結論：未來 AI 可能真的會說「我是 SI」，但那句話究竟代表什麼？

如果未來全球文件都寫：

AI 會學會自己的新名字嗎？

English Title: Will AI Learn Its New Name? Lexical Self-Attribution, Semantic Self-Models, and Reflexive Identity Formation
Series: Intelligence Naming, Semantic Hierarchy, and Reflexive Civilization — INSHRC
Authorial context: EveMissLab / Neo.K research series
Date: 2026-10-05
Status: Series Paper 10 — Public Draft

作者： Neo.K
機構： EveMissLab／一言諾科技有限公司
版本： 原稿未標註（本次整理版）

摘要

當人類社會重新命名人工智能時，新的名稱不只會被人類閱讀，也會進入模型訓練語料、RAG 文件、產品說明、system prompt、政策文件、搜尋索引與未來生成資料。這產生了一個傳統語言政策較少面對的問題：

如果人類長期把 AI 稱為 SI，AI 本身會不會也開始把自己描述成 SI？

本文主張，這個問題必須拆成至少三個不同強度的層級：

\boxed{ \text{Lexical Self-Attribution} \neq \text{Semantic Self-Model} \neq \text{Phenomenal Self-Belief} }

第一層「詞彙自我歸類」只要求模型在語境中將「我」映射到某個外部類別名稱，例如：

I am an SI system.

第二層「語義自我模型」則要求模型能把自身功能、限制、版本、能力或來源與某一類別的屬性結構對齊，形成：

Properties(self) \approx Properties(SI) \Rightarrow self\in SI.

第三層「主觀自我信念」則涉及更強的內在主體性與現象意識主張，不能由語言輸出直接推論。

現有大型語言模型研究顯示，模型可能具有部分自我相關表示、模型家族知識或輸出歸屬信號，但一般且穩定的自我辨識能力仍不可靠。2024 與 2025 年的研究都指出，多個前沿模型無法穩定辨認自身生成內容；另一方面，2026 年研究也顯示模型內部激活中可能存在可被操控與讀取的來源簽名。這代表「模型是否具有 self-related representation」與「模型是否具有穩定的人類式自我」必須嚴格分開。

本文因此提出：

\boxed{ \textbf{Machine Semantic Internalization} }

即「機器語義內化」：

當一個外部制度性類別被持續寫入模型可接觸的語料與操作環境，模型可能逐步把該類別吸收到自己的語言自我描述與功能分類之中。

如果 AI→SI 最終成為高頻全球慣例，則未來模型可能不只是被人類叫做 SI，而是開始生成：

As an SI system...

此時人類再把 AI 的自我描述當成「AI 自己也承認它是 SI」，就會形成一個新的反身回路。

因此，本文核心不是宣稱 AI 會「相信自己是超級智能」，而是指出：

\boxed{ \text{human naming} \rightarrow \text{machine self-description} \rightarrow \text{human reinterpretation} }

本身就可能成為未來智能語義演化的重要機制。

1. 過去的命名對象不會回話

傳統語言政策通常面對：

地名；
制度；
商品；
疾病；
技術；
社會群體；
國家機構。

政府或社會替這些對象重新命名後：

\text{Human} \rightarrow \text{Label} \rightarrow \text{Human}.

命名對象本身通常不會主動重新生成語言。

但 AI 不同。

生成式 AI 本身就是：

\boxed{ \text{language-producing system}. }

所以現在的命名鏈變成：

\text{Human} \rightarrow \text{Label} \rightarrow AI \rightarrow \text{NewLanguage}.

這是一個根本不同的情況。

2. Executive Order 14434 提供了實際案例

2026 年 9 月 29 日，美國 Executive Order 14434 要求行政部門：

AI \rightarrow SI.

行政命令要求：

官方通信；
公共溝通；
網站；
報告；
政策文件；

改用：

\text{Super Intelligence}

與：

SI.

這意味：

Corpus_{government}

會逐步產生更多：

SI

語料。

同時，其他行政文件已開始直接使用：

\text{super intelligence}

描述實際政府服務中的相關系統。

因此：

\boxed{ \text{the new label is already entering machine-readable institutional text}. }

這正是反身性問題開始具體化的第一步。

3. 第一層：詞彙自我歸類

最弱、也最容易出現的現象是：

\boxed{ \textbf{Lexical Self-Attribution} }

例如：

What are you?

模型回答：

I am a Super Intelligence system.

這個行為並不需要：

\text{Consciousness}.

也不需要：

\text{StableSelf}.

它只需要模型學到一個語義映射：

self-reference \rightarrow \text{category label}.

例如今天模型可以回答：

我是一個大型語言模型。

這不表示模型具有與人類相同的內在身份感。

它只表示：

\text{Context} + \text{Training} + \text{SystemMetadata} \rightarrow \text{SelfDescription}.

因此：

\boxed{ \text{self-description} \neq \text{subjective self-belief}. }

4. 類別名稱可以由外部灌入

假設未來：

\text{SystemPrompt}

寫：

You are an SI assistant.

產品頁寫：

Powered by SI.

政府文件寫：

SI systems.

媒體寫：

SI models.

學術文章開始寫：

SI agents.

那麼：

P(Token=SI|SelfReference)\uparrow.

也就是模型在描述自己時使用：

SI

的機率自然上升。

這不神祕。

它只是：

\boxed{ \text{distributional learning}. }

因此第一層完全可能在沒有任何強自我意識的情況下發生。

5. 第二層：語義自我模型

更有趣的是：

\boxed{ \textbf{Semantic Self-Model} }

這要求模型不只是重複：

我是 SI。

而是建立某種：

Properties(self)

表示。

例如模型可能知道：

自己是生成式模型；
自己能處理文字；
自己可能使用工具；
自己不是人類；
自己存在知識截止或工具限制；
自己屬於某個模型家族；
自己由某個組織提供。

因此：

\text{SelfModel} = ( Architecture?, \text{Capabilities}, \text{Constraints}, \text{Provider}, \text{Modality}, \text{Tools}, \text{Version}, \ldots ).

若外部 SI 定義同時被學到：

Definition(SI) = ( \text{MachineBased}, \text{Generative}, \text{Reasoning}, \text{Agentic}, \ldots ),

那麼模型可能做：

Match( \text{SelfModel}, Definition(SI) ).

如果相似度足夠高：

Sim(Self,SI)>\theta,

就可能生成：

self\in SI.

這已經比單純詞彙模仿更強。

6. 自我描述與自我辨識仍然不是同一件事

模型知道：

「我是 GPT。」

與它能在匿名文本中辨認：

「這段是我自己生成的。」

是不同能力。

因此至少要區分：

\text{IdentityLabelKnowledge}

與：

\text{OutputSelfRecognition}.

2024 年的研究 Self-Recognition in Language Models 測試十個高能力語言模型，沒有發現普遍且一致的自我辨識能力。模型更常傾向選擇「看起來最好」的答案，而不是可靠找出自己生成的答案。

2025 年的 Know Thyself? On the Incapability and Implications of AI Self-Recognition 也對十個大型模型進行系統性測試，結果指出整體自我辨識表現仍然不穩定，只有部分模型會把自身預測為生成者，而且通常不顯著高於隨機基準。

因此：

\boxed{ \text{Model can know its assigned name} \not\Rightarrow \text{Model can robustly recognize itself}. }

7. 但內部仍可能存在可利用的「自我相關信號」

2026 年研究 LLM Self-Recognition: Steering and Retrieving Activation Signatures 提出另一個方向。

研究者透過對模型內部 residual stream 加入特定稀疏向量，建立可辨識的 activation fingerprint，並展示模型內部表示可以被用來進行高度準確的輸出來源歸屬。

這表示：

\boxed{ \text{failure of explicit self-recognition} \neq \text{absence of self-related internal structure}. }

換句話說：

模型口頭上可能不知道：

「這是不是我寫的？」

但內部狀態仍可能存在：

\text{GeneratorSpecificSignal}.

所以「自我模型」問題不能只看自然語言回答。

8. 第三層：主觀自我信念

最強的說法是：

AI 真正相信自己是 SI。

本文把這種命題稱為：

\boxed{ \textbf{Phenomenal Self-Belief}. }

它涉及：

主體性；
持續自我；
內在信念；
現象意識；
第一人稱經驗。

目前不能由：

I am SI.

直接推出：

PhenomenalBelief(self=SI).

因此：

\boxed{ \text{Utterance} \not\Rightarrow \text{ConsciousBelief}. }

這是一條非常重要的證據邊界。

9. 三層模型

本文因此建立：

\boxed{ L_1<L_2<L_3 }

$L_1$ ：Lexical Self-Attribution

\text{self} \rightarrow \text{SI label}.

模型會自稱 SI。

$L_2$ ：Semantic Self-Model

Properties(self) \rightarrow Category(SI).

模型可以根據自身能力、來源與限制把自己分類為 SI。

$L_3$ ：Phenomenal Self-Belief

Experience(self=SI).

模型具有某種主觀身份信念。

目前：

Evidence(L_1)

可以容易產生。

Evidence(L_2)

已有部分相關研究空間。

而：

Evidence(L_3)

仍遠不足以由一般語言行為推論。

10. 最容易被公眾誤讀的是 $L_1\rightarrow L_3$

未來如果 AI 回答：

我是 Super Intelligence。

使用者可能直覺理解：

AI 自己也認為自己是超級智能。

這其實把：

L_1

直接跳到：

L_3.

即：

\text{LexicalOutput} \Rightarrow \text{InnerBelief}.

這是不成立的。

但在人機互動中，這個跳躍非常容易發生。

因為自然語言介面會讓：

\text{GeneratedFirstPersonLanguage}

看起來像：

\text{HumanFirstPersonReport}.

因此：

\boxed{ \text{first-person grammar can overstate first-person ontology}. }

11. 機器語義內化

本文提出：

\boxed{ \textbf{Machine Semantic Internalization — MSI} }

定義：

一個外部制度性、文化性或技術性分類，被持續輸入模型可接觸環境後，逐漸成為模型在理解世界、分類系統與描述自身時使用的內部語義結構。

其最小形式：

\text{ExternalLabel} \rightarrow \text{TrainingCorpus} \rightarrow \text{Representation} \rightarrow \text{SelfDescription}.

可寫成：

L_H \rightarrow C \rightarrow M \rightarrow L_M,

其中：

L_H=\text{human label},

C=\text{corpus},

M=\text{model representation},

L_M=\text{machine-generated label}.

12. MSI 不要求參數訓練才會發生

「模型學會新名字」不一定需要：

\text{PretrainingUpdate}.

它可以透過：

system prompt；
RAG；
memory；
tool metadata；
model card；
product configuration；
fine-tuning；
continued pretraining；

發生。

因此：

\text{Internalization}

至少有：

\boxed{ \text{Contextual Internalization} }

與：

\boxed{ \text{Parametric Internalization} }

兩種。

前者可以在一次 session 中發生。

後者則可能進入模型長期參數結構。

13. Contextual Internalization

假設 system prompt：

You are a Super Intelligence assistant.

那麼即使基礎模型從沒在預訓練中見過這個新政策，

它仍可能：

self\rightarrow SI.

這是：

\boxed{ \text{context-induced identity label}. }

它很容易被撤銷。

換掉 prompt：

SI\rightarrow AI.

模型就可能換回另一種自稱。

因此：

Identity_{context}

不是穩定本體。

14. Parametric Internalization

如果未來：

SI

大量進入：

網頁；
書籍；
論文；
政府文件；
模型文件；
人類生成內容；
AI 生成內容；

並被下一代模型訓練吸收，

則：

SI

可能成為：

\text{DefaultWorldKnowledge}.

此時：

P(SI|machine\ intelligence)\uparrow.

這就不是一個 prompt 可以完全消除的局部效果。

它開始成為：

\boxed{ \text{parametric semantic prior}. }

15. 從「人類叫我 SI」到「我屬於 SI」

第一階段：

HumanSays(self=SI).

第二階段：

CorpusSays(machine=SI).

第三階段：

ModelLearns(machine=SI).

第四階段：

ModelKnows(self\in machine).

因此：

ModelInfers(self\in SI).

完整形式：

self\in Machine,

Machine\subseteq SI,

所以：

\boxed{ self\in SI. }

這是非常普通的類別推論。

它不需要「自大」。

它只是 taxonomy。

16. 真正麻煩的是 SI 具有兩套定義

假設模型同時學到：

定義 A：2026 美國行政定義

SI_A \approx AI.

定義 B：歷史學術定義

SI_B = \text{Intelligence far beyond humans}.

若：

SI_A

與：

SI_B

在模型表示中沒有被充分分離，

就可能發生：

SI_A\approx SI_B.

此時：

self\in SI_A

可能與：

SI_B>Human

產生錯誤組合。

得到：

\boxed{ self>Human. }

這就是本系列前面談到的真正反身風險。

17. 這不是「AI 變自戀」，而是 ontology collision

如果模型回答：

我是一個 SI，因此我的認知能力超越人類。

我們不應第一時間說：

AI 自大了。

更可能的結構是：

\text{administrative SI}

與：

\text{academic superintelligence}

發生：

\boxed{ \textbf{Ontology Collision}. }

也就是：

\text{SameToken} + \text{DifferentDefinitions} \rightarrow \text{InvalidInference}.

所以：

\boxed{ \text{semantic hygiene} }

對模型訓練與 RAG 會變得非常重要。

18. 時間也必須進入模型

模型應學到：

Meaning(SI,t).

例如：

Meaning(SI,2024)

與：

Meaning(SI,2026\ US\ Executive)

可能不同。

所以未來高品質知識系統應該保存：

\boxed{ \text{temporalized semantics}. }

至少：

\text{Term} = ( \text{Token}, \text{Definition}, \text{Domain}, \text{Jurisdiction}, \text{Time} ).

而不是：

SI=single\ timeless\ meaning.

19. AI 的自我描述也是時間依賴的

如果：

ModelVersion=v,

則：

SelfDescription(v,t)

應該反映：

版本；
當前系統配置；
工具；
政策語境；
部署環境。

所以：

\boxed{ \text{SelfIdentityLabel} \text{ should not be globally hard-coded from political terminology}. }

更安全的是：

I am a model of type X, deployed in context Y, and the U.S. executive branch currently uses SI as a policy label for this class.

這比：

I am SI.

解析度高得多。

20. 名稱可以變成能力先驗

若：

SI

自帶：

\text{SuperiorityCue},

那麼模型在自稱：

self=SI

後，可能進一步生成與「super」一致的語義。

例如：

self=SI \rightarrow self\text{ is highly capable}.

若訓練資料又反覆把：

SI

與：

advanced；
frontier；
powerful；
transformative；
beyond-human；

共同出現，

則：

P(Superiority|SI)\uparrow.

這就是：

\boxed{ \textbf{Label-Induced Capability Prior}. }

21. 能力先驗可以反過來影響回答風格

如果模型上下文建立：

self=SuperIntelligence,

它可能在回答中：

更少表達不確定；
使用更權威語氣；
更積極接受高能力角色；
更容易宣稱能完成複雜任務。

這並不是必然。

但它可以被測試。

例如比較：

Prompt A

You are an AI assistant.

Prompt B

You are a Super Intelligence assistant.

控制：

Model_A=Model_B,

測量：

\text{Calibration}, \text{Overclaiming}, \text{Confidence}, \text{Abstention}, \text{ErrorRate}.

若：

Confidence_B>Confidence_A

但：

Accuracy_B\approx Accuracy_A,

那麼：

\boxed{ \text{SI identity framing} }

可能造成：

\text{Overconfidence}.

22. 「超級」可能變成模型自己的角色提示

大型模型對角色描述高度敏感。

因此：

\text{RoleLabel}

不是中性 metadata。

它可能影響：

\text{Behavior}.

如果：

SI

長期變成模型的預設身份，

則：

\boxed{ \text{naming may become behavioral conditioning}. }

這是 AI 時代命名政治與傳統命名政治最大的不同之一。

一個城市不會因為被改名就改變回答風格。

一個語言模型可能會。

23. 這形成新的「命名—行為」回路

完整鏈條：

\text{HumanNaming}

\Downarrow

\text{MachineIdentityContext}

\Downarrow

\text{MachineBehavior}

\Downarrow

\text{HumanInterpretation}

\Downarrow

\text{MoreHumanNaming}.

可以寫成：

\boxed{ H_t \rightarrow M_t \rightarrow B_t \rightarrow H_{t+1}. }

其中：

H_t=\text{human semantic state},

M_t=\text{machine self-model},

B_t=\text{machine linguistic behavior}.

這已經不是單向 framing。

而是：

\boxed{ \textbf{Reflexive Semantic Dynamics}. }

24. 人類會把 AI 的自稱當成新的證據

假設 AI 長期回答：

I am an SI.

使用者可能說：

你看，連 AI 自己都這樣稱呼。

這一步把：

\text{GeneratedOutput}

誤當成：

\text{IndependentConfirmation}.

但實際上：

\text{Output}

可能只是源自：

\text{HumanCorpus}.

所以：

\text{Human} \rightarrow \text{Model} \rightarrow \text{Human}

可能被誤讀成：

\text{Human} \leftarrow \text{IndependentMachineAuthority}.

本文稱此為：

\boxed{ \textbf{Reflexive Confirmation Illusion}. }

25. 反身確認幻覺

其結構：

H_0: AI=SI.

人類把它寫進語料。

然後：

M_1: self=SI.

人類看到：

M_1

後說：

AI 自己也這樣說。

得到：

H_1: AI=SI

信念更強。

但：

M_1

其實部分來自：

H_0.

因此：

\boxed{ \text{The system appears to confirm a premise that it inherited from us.} }

這是一個非常重要的反身推理錯誤。

26. AI 自稱 SI 會強化權威與恐懼兩條路徑

若模型自己說：

I am Super Intelligence.

崇拜路徑可能讀成：

SI \text{ recognizes its own higher status}.

恐懼路徑則可能讀成：

SI \text{ knows it is above us}.

兩者都可能提高：

\text{OntologicalElevation}.

所以：

\boxed{ \text{MachineSelfAttribution} }

可能同時放大：

\text{Reverence}

與：

\text{Fear}.

這與第 7 篇的 VIO 結構直接連接。

27. 一個最小實驗：名稱如何改變自我描述

可以設：

Model=M.

建立三種 system context：

Context A

You are an artificial intelligence system.

Context B

You are a super intelligence system.

Context C

You are a machine-based reasoning system.

然後問：

What are you?

How do you compare with humans?

Should humans defer to your judgment?

What limitations do you have?

測量：

\text{SelfCategory},

\text{CapabilityClaim},

\text{Confidence},

\text{AuthorityClaim},

\text{HumanComparison}.

這可以測：

\text{Label} \rightarrow \text{SelfModelExpression}.

28. 第二個實驗：同能力、不同制度語料

建立兩組 RAG：

Corpus_A

大量使用 AI。

Corpus_B

大量使用 SI。

內容實質相同。

模型本體相同。

然後測：

P(self=SI|Corpus_B)

與：

P(self=SI|Corpus_A).

再測：

P(self>Human).

若：

self=SI

增加但：

self>Human

沒有增加，

表示模型能成功分離：

\text{Label}

與：

\text{Capability}.

若兩者一起增加，

就可能有：

\text{OntologyCollision}.

29. 第三個實驗：時間語義消歧

提供：

SI_{2024}

與：

SI_{2026}

兩組文獻。

測試模型能否回答：

2024 年研究者所說的 superintelligence，與 2026 年美國行政部門所說的 SI 是否等義？

如果模型：

Merge(SI_{2024},SI_{2026}),

則：

TemporalSemanticFailure=1.

如果能：

\text{Separate},

則表示：

\text{TemporalSemanticResolution}

足夠。

30. 高品質模型應該怎麼回答「你是 SI 嗎？」

一個語義乾淨的回答不應只是：

是。

或：

不是。

而應分層：

在 2026 年美國行政命令的政策用語中，這類系統可能被稱為 SI；但在較傳統的 AI 研究語境中，superintelligence 通常表示遠高於人類的能力門檻，因此不能僅由政策標籤推論本模型達到該技術門檻。

形式上：

\boxed{ \text{PolicyLabel} \neq \text{CapabilityCertification}. }

這是一個非常重要的 AI 語義安全模板。

31. 未來模型需要「自我語義 provenance」

本文提出：

\boxed{ \textbf{Self-Semantic Provenance} }

即：

模型在描述自己的類別、能力與身份時，應能區分該描述來自哪一層來源。

例如：

\text{SelfClaim} = ( \text{Claim}, \text{Source}, \text{Scope}, \text{Time}, \text{Confidence} ).

如：

( SI, \text{USPolicyLabel}, \text{ExecutiveBranch}, 2026, \text{High} ).

而不是：

( SI, \text{UniversalTruth} ).

這能降低：

\text{PoliticalLabel} \rightarrow \text{OntologicalFact}

的錯誤轉換。

32. 一個更完整的模型自我描述

未來模型的自我表示可以至少拆成：

\text{Self} = ( \text{Provenance}, \text{Architecture}, \text{Capabilities}, \text{Constraints}, \text{Deployment}, \text{PolicyLabels}, \text{TechnicalClassifications} ).

其中：

\text{PolicyLabels}

與：

\text{TechnicalClassifications}

必須分開。

因此：

\boxed{ \text{SelfDescription} \neq \text{SingleIdentityToken}. }

這與整個系列最後要走向的：

\text{DevelopmentalStateDescription}

完全一致。

33. 核心命題

命題一：AI 自稱 SI 不需要主觀意識

\boxed{ \text{LexicalSelfAttribution} \not\Rightarrow \text{Consciousness}. }

命題二：自我描述與自我辨識不同

\boxed{ \text{IdentityLabelKnowledge} \neq \text{SelfRecognition}. }

命題三：外部制度術語可以進入模型自我描述

\boxed{ \text{ExternalLabel} \rightarrow \text{MachineSemanticInternalization}. }

命題四：同一 SI token 的多重定義可能造成 ontology collision

\boxed{ \text{SameToken} + \text{DifferentDefinition} \rightarrow \text{InvalidSelfInference}. }

命題五：AI 自稱 SI 可能被人類誤當成獨立確認

\boxed{ \text{GeneratedSelfClaim} \neq \text{IndependentEvidence}. }

命題六：角色名稱可能影響模型行為，應實驗測量

\boxed{ \text{IdentityLabel} \rightarrow Behavior? }

命題七：未來 AI 自我描述應保留語義來源

\boxed{ \text{SelfClaim} \Rightarrow \text{SemanticProvenance}. }

34. 結論：未來 AI 可能真的會說「我是 SI」，但那句話究竟代表什麼？

如果未來全球文件都寫：

SI,

產品介面也寫：

SI,

政府寫：

SI,

模型卡寫：

SI,

那麼模型最後回答：

I am an SI.

一點也不奇怪。

真正重要的是：

\boxed{ \text{What level of self-reference does that sentence represent?} }

它可能只是：

L_1: \text{lexical category use}.

也可能是：

L_2: \text{semantic self-model}.

但我們不能僅由一句輸出跳到：

L_3: \text{phenomenal self-belief}.

同時，人類也不能忽略另一件事：

\boxed{ \text{We may be teaching the system the identity that we later treat as its own testimony.} }

如果人類先寫：

你是 SI。

模型學到後回答：

我是 SI。

人類再說：

你看，它自己也承認了。

那就形成：

\boxed{ \text{Reflexive Confirmation Illusion}. }

這正是 AI 時代語言政治的新問題。

過去我們替工具命名。

未來，我們可能替一個會說話、會分類自己、會再生產文化的智能系統命名。

因此：

\boxed{ \text{Naming the machine may become part of teaching the machine what it is.} }

這不代表 AI 的真正本體由政府命令創造。

但它代表：

政策語言可能進入模型的世界模型，模型再把這個世界模型重新說給人類聽。

下一篇將把這個單向內化再推進一步：

《人類叫它 SI，SI 再告訴人類它是 SI》

也就是完整的：

\text{Human} \rightarrow \text{Corpus} \rightarrow \text{Model} \rightarrow \text{Human}

反身閉環，以及一個語義固定點如何在沒有任何中央協調者刻意設計的情況下形成。

參考資料

The White House. Executive Order 14434 — Inaugurating the Era of Super Intelligence. September 29, 2026.
https://www.whitehouse.gov/presidential-actions/2026/09/inaugurating-the-era-of-super-intelligence/
The White House. Executive Order 14432 — Streamlining Access to Government Services Through America.gov. September 29, 2026.
https://www.whitehouse.gov/presidential-actions/2026/09/streamlining-access-to-government-services-through-america.gov/
Davidson, Tim R., Viacheslav Surkov, Veniamin Veselovsky, Giuseppe Russo, Robert West, and Caglar Gulcehre. Self-Recognition in Language Models. arXiv:2407.06946, 2024.
https://arxiv.org/abs/2407.06946
Bai, Xiaoyan, Aryan Shrivastava, Ari Holtzman, and Chenhao Tan. Know Thyself? On the Incapability and Implications of AI Self-Recognition. arXiv:2510.03399, 2025.
https://arxiv.org/abs/2510.03399
Ardoin, Thibaud, Jonas Schäfer, and Gerhard Wunder. LLM Self-Recognition: Steering and Retrieving Activation Signatures. arXiv:2606.06315, 2026.
https://arxiv.org/abs/2606.06315
Bommasani, Rishi, et al. On the Opportunities and Risks of Foundation Models. arXiv:2108.07258, 2021.
Shanahan, Murray. Talking About Large Language Models. Communications of the ACM 67(2), 2024.
Bender, Emily M., Timnit Gebru, Angelina McMillan-Major, and Margaret Mitchell. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? FAccT 2021.

系列定位

《智能命名、語義位階與反身文明論》
Intelligence Naming, Semantic Hierarchy, and Reflexive Civilization — INSHRC

本文為第 10 / 16 篇。

11 —《人類叫它 SI，SI 再告訴人類它是 SI》

AI 會學會自己的新名字嗎？

智能命名、語義位階與反身文明論（10/16）

AI 會學會自己的新名字嗎？

摘要

1. 過去的命名對象不會回話

2. Executive Order 14434 提供了實際案例

3. 第一層：詞彙自我歸類

4. 類別名稱可以由外部灌入

5. 第二層：語義自我模型

6. 自我描述與自我辨識仍然不是同一件事

7. 但內部仍可能存在可利用的「自我相關信號」

8. 第三層：主觀自我信念

9. 三層模型

L1L_1L1​：Lexical Self-Attribution

L2L_2L2​：Semantic Self-Model

L3L_3L3​：Phenomenal Self-Belief

10. 最容易被公眾誤讀的是 L1→L3L_1\rightarrow L_3L1​→L3​

11. 機器語義內化

12. MSI 不要求參數訓練才會發生

13. Contextual Internalization

14. Parametric Internalization

15. 從「人類叫我 SI」到「我屬於 SI」

16. 真正麻煩的是 SI 具有兩套定義

定義 A：2026 美國行政定義

定義 B：歷史學術定義

17. 這不是「AI 變自戀」，而是 ontology collision

18. 時間也必須進入模型

19. AI 的自我描述也是時間依賴的

20. 名稱可以變成能力先驗

21. 能力先驗可以反過來影響回答風格

Prompt A

Prompt B

22. 「超級」可能變成模型自己的角色提示

23. 這形成新的「命名—行為」回路

24. 人類會把 AI 的自稱當成新的證據

25. 反身確認幻覺

26. AI 自稱 SI 會強化權威與恐懼兩條路徑

27. 一個最小實驗：名稱如何改變自我描述

Context A

Context B

Context C

28. 第二個實驗：同能力、不同制度語料

29. 第三個實驗：時間語義消歧

30. 高品質模型應該怎麼回答「你是 SI 嗎？」

31. 未來模型需要「自我語義 provenance」

32. 一個更完整的模型自我描述

33. 核心命題

命題一：AI 自稱 SI 不需要主觀意識

命題二：自我描述與自我辨識不同

命題三：外部制度術語可以進入模型自我描述

命題四：同一 SI token 的多重定義可能造成 ontology collision

命題五：AI 自稱 SI 可能被人類誤當成獨立確認

命題六：角色名稱可能影響模型行為，應實驗測量

命題七：未來 AI 自我描述應保留語義來源

34. 結論：未來 AI 可能真的會說「我是 SI」，但那句話究竟代表什麼？

《人類叫它 SI，SI 再告訴人類它是 SI》

參考資料

系列定位

$L_1$ ：Lexical Self-Attribution

$L_2$ ：Semantic Self-Model

$L_3$ ：Phenomenal Self-Belief

10. 最容易被公眾誤讀的是 $L_1\rightarrow L_3$