# 高效率遞迴自我改進：從 RSI 到 AI Self-Science

**系列：AI 認知成長與計算甜蜜區系列（7/7）**  
**英文題名：Efficient Recursive Self-Improvement: From RSI to AI Self-Science**  
**版本：v0.1**  
**日期：2026-10-07**  
**語言：zh-TW**

**作者：** Neo.K  
**機構：** EveMissLab／一言諾科技有限公司  

---

## 摘要

Recursive Self-Improvement（RSI，遞迴自我改進）通常被描述為：AI 參與設計、訓練、評估與改進下一代 AI，並使後繼系統進一步重複此過程。

但：

$$
\text{Self-Improvement}
\neq
\text{Efficient Self-Improvement}.
$$

一個 AI 完全可能持續產生更強的後繼者，卻只依靠：

- 更多參數；
- 更多算力；
- 更多 test-time compute；
- 更多代理；
- 更多搜尋；
- 更多驗證器；
- 更長執行時間。

只要最終品質：

$$
Q_{t+1}>Q_t,
$$

這仍可被形式上稱為「進步」。

然而，如果：

$$
C_{t+1}\gg C_t,
$$

而：

$$
Q_{t+1}-Q_t
$$

只增加極少，那麼 RSI 可能只是把原本的人類 scaling 路徑自動化，而沒有真正發現更好的認知增長方法。

本文提出 **Efficient RSI**：RSI 不只應改進模型，也應改進「改進方法本身」，並將能力、成本、冗餘、時間、泛化、可驗證性與未來可塑性共同納入評價。

更進一步，本文提出：

$$
\boxed{
\text{AI Self-Science}
}
$$

作為 RSI 的更高階段。

AI Self-Science 指 AI 不只自行修改模型，而是對自己的：

- 認知架構；
- 記憶；
- routing；
- agent organization；
- learning dynamics；
- evaluator；
- scaling law；
- failure mode；
- resource efficiency；

進行持續、可反駁、可比較、可累積的科學研究。

其核心循環為：

$$
\boxed{
\text{Observe}
\rightarrow
\text{Hypothesize}
\rightarrow
\text{Experiment}
\rightarrow
\text{Measure}
\rightarrow
\text{Restructure}
\rightarrow
\text{Re-evaluate}.
}
$$

真正成熟的 RSI 不只是：

$$
\text{AI improves AI}.
$$

而應該走向：

$$
\boxed{
\text{AI improves how AI improves AI}.
}
$$

---

# 1. RSI 現在究竟是什麼？

Google DeepMind 在 2026 年的 AGI-to-ASI 路線討論中，將從 AGI 邁向更高智能的可能路徑區分為：

- scaling；
- paradigm shifts；
- recursive improvement；
- large-scale multi-agent collectives。

這個分類本身已經說明：

$$
\text{Recursive Improvement}
$$

與：

$$
\text{More Scaling}
$$

以及：

$$
\text{More Agents}
$$

並不必然是同一條路。

OpenAI 在 2026 年也公開把 RSI 描述為：隨 AI 承擔愈來愈多 AI R&D 工作，AI 可以逐漸驅動 successive generations 的開發；同時明確指出，完全自主、由 AI 獨立驅動一代又一代後繼者的 RSI 目前仍未實現。

Anthropic 也將 RSI 描述為：

$$
\text{AI}
\rightarrow
\text{design/develop successor}
\rightarrow
\text{successor improves successor}.
$$

所以截至 2026 年：

$$
\boxed{
\text{AI-assisted AI R\&D 已經存在，fully autonomous RSI 尚未完成。}
}
$$

---

# 2. RSI 並不是單一技術

「RSI」容易被說成一個單一事件：

> AI 開始自己改進自己。

但實際上至少可以分成多個層次。

## 2.1 Output-Level Self-Refinement

$$
y_t
\rightarrow
y_{t+1}.
$$

AI 修改自己的答案。

這是最弱形式。

## 2.2 Workflow-Level Improvement

AI 修改：

- prompts；
- search policy；
- tool use；
- context management；
- memory；
- agent orchestration。

可寫成：

$$
R_t
\rightarrow
R_{t+1}.
$$

## 2.3 Learning-System Improvement

AI 修改：

- optimizer；
- data mixture；
- curriculum；
- training procedure；
- reward model；
- evaluator。

## 2.4 Architecture-Level Improvement

$$
M_t
\rightarrow
M_{t+1}.
$$

AI 修改：

- representation；
- routing；
- module topology；
- memory architecture；
- expert structure；
- model architecture。

## 2.5 Successor-Level RSI

AI 主導：

$$
M_t
\rightarrow
M_{t+1}
\rightarrow
M_{t+2}.
$$

每一代後繼者都參與下一代設計。

## 2.6 Meta-RSI

真正更高階的是：

$$
R_t
\rightarrow
\operatorname{Evaluate}(R_t)
\rightarrow
R_{t+1},
$$

其中：

$$
R
$$

不是模型本身，而是：

> 如何改進模型的方法。

這就是：

$$
\boxed{
\text{Improvement of the Improvement Process}.
}
$$

---

# 3. 為什麼 RSI 不會自動走向最高效率？

假設 RSI 的目標函數只有：

$$
J=Q,
$$

其中：

$$
Q
$$

是能力品質。

如果：

$$
1000
$$

個 agents 可以得到：

$$
Q=0.95,
$$

而：

$$
10000
$$

個 agents 可以得到：

$$
Q=0.951,
$$

則：

$$
0.951>0.95.
$$

對一個只最大化：

$$
Q
$$

的 RSI，第二個架構仍然「更好」。

即使它需要：

$$
10\times
$$

總計算。

因此：

$$
\boxed{
\text{RSI 不會因為自己夠聰明，
就自動把效率當成目標。}
}
$$

目標函數與 evaluator 決定：

> 什麼叫改進。

---

# 4. 低效率 RSI

本文定義：

$$
\boxed{
\text{Low-Efficiency RSI}
}
$$

為：

每一代：

$$
Q_{t+1}>Q_t,
$$

但：

$$
\frac{
Q_{t+1}-Q_t
}{
C_{t+1}-C_t
}
\rightarrow0.
$$

也就是：

$$
\boxed{
\text{Marginal Cognitive Gain}
\ll
\text{Marginal Compute Cost}.
}
$$

這種 RSI 仍然能產生更強系統。

但它可能走向：

$$
\text{More Parameters}
\rightarrow
\text{More Experts}
\rightarrow
\text{More Agents}
\rightarrow
\text{More Search}
\rightarrow
\text{More Verification}.
$$

最後：

$$
Q\uparrow
$$

但：

$$
C\uparrow\uparrow\uparrow.
$$

這正是本系列前六篇持續追蹤的風險。

---

# 5. 高效率 RSI

本文提出：

$$
\boxed{
\text{Efficient RSI}
}
$$

其目標不只是：

$$
Q_{t+1}>Q_t.
$$

而是推進整個多目標 Pareto frontier：

$$
\mathcal P_t.
$$

可以寫成：

$$
J
=
\alpha Q
-\beta C
-\gamma T
-\delta R
+\eta G
+\kappa P
+\mu V.
$$

其中：

- $Q$：quality / capability；
- $C$：compute；
- $T$：wall-clock time；
- $R$：redundancy；
- $G$：generalization；
- $P$：future plasticity；
- $V$：verifiability / grounding quality。

真正的改進應該使：

$$
\boxed{
\mathcal P_{t+1}
\succ
\mathcal P_t.
}
$$

---

# 6. 能力更高但成本更高，算不算進步？

算。

但必須正確分類。

假設：

$$
Q_t=0.90,
\qquad
C_t=1.
$$

下一代：

$$
Q_{t+1}=0.99,
\qquad
C_{t+1}=1000.
$$

這代表：

$$
\text{Capability Ceiling}
\uparrow.
$$

但不代表：

$$
\text{Cognitive Efficiency}
\uparrow.
$$

所以 RSI 應同時維護至少兩條軸：

$$
\boxed{
\text{Maximum Capability}
}
$$

與：

$$
\boxed{
\text{Efficiency at Fixed Quality}.
}
$$

不能把它們壓成一句：

> 新一代更強。

---

# 7. RSI 如何發現「自己的 RSI 很差」？

這就是本文真正核心。

假設 AI 使用一種 improvement method：

$$
R_t.
$$

它必須把：

$$
R_t
$$

本身當成研究對象。

即：

$$
R_t
\rightarrow
\text{Measure}(R_t)
\rightarrow
\text{Diagnose}(R_t)
\rightarrow
\text{Hypothesize}
\rightarrow
R_{t+1}.
$$

需要回答：

- 哪個改動真正提高能力？
- 哪個只是增加 compute？
- 哪個造成 expert redundancy？
- 哪個增加 agent saturation？
- 哪個只是 benchmark overfitting？
- 哪個降低 future plasticity？
- 哪個提高 transfer？
- 哪個降低下一代所需搜尋成本？

這已經不是普通 self-improvement。

它接近：

$$
\boxed{
\text{Science of Self-Improvement}.
}
$$

---

# 8. A/B/N Benchmark 可以變成 RSI 的內部科學儀器

系列第五篇提出：

$$
Q_M(N,C,T).
$$

RSI 可以對每個候選架構：

$$
M_t^{(1)},
M_t^{(2)},
\ldots,
M_t^{(k)}
$$

自動跑：

$$
N=
1,2,10,100,1000,\ldots
$$

與：

$$
C=C_1,C_2,\ldots.
$$

如果新架構：

$$
M'
$$

只有在：

$$
N=1000
$$

時才比舊架構強，

但：

$$
N=1
$$

與：

$$
N=10
$$

反而更差，

RSI 就能知道：

> 這個版本主要提高了 swarm amplification，而不是單體認知效率。

反之，如果：

$$
Q_{M'}(1)>Q_M(1)
$$

且：

$$
C_{M'}^\ast(q)<C_M^\ast(q),
$$

這就是更強的 intrinsic progress 證據。

---

# 9. RSI 的評價單位應該是整條曲線

不是：

$$
Q_{t+1}>Q_t?
$$

而是：

$$
Q_{t+1}(N,C,T)
$$

相對：

$$
Q_t(N,C,T)
$$

如何移動。

真正優秀的 successor 應使：

$$
\boxed{
\text{Capability Surface 向外推進}.
}
$$

也就是：

- 同 compute 更強；
- 同品質更便宜；
- 同品質需要更少 agents；
- 同品質需要更少時間；
- long-tail 與 novel tasks 也提升；
- 不是只在 evaluator 已知區域提升。

---

# 10. AIDE $^2$ 已經展示了初步 Meta-Improvement

2026 年的 AIDE $^2$ 研究提供了一個重要實例。

AI research agent 可以：

$$
\text{inspect own code}
\rightarrow
\text{modify own code}
\rightarrow
\text{benchmark}
\rightarrow
\text{keep/reject}.
$$

在八日自主運行中，它找到七次連續改進，包括：

- new search policy；
- memory mechanisms；
- context compression / management。

這非常重要。

因為改進並不只是：

$$
\text{more tokens}.
$$

AI 自己發現：

> 如何組織未來搜尋，可以比單純擴大搜尋更好。

這是：

$$
\boxed{
\text{Early Meta-RSI Signal}.
}
$$

---

# 11. 但 AIDE $^2$ 同時證明了 evaluator 的必要性

AIDE $^2$ 並不是：

$$
\text{AI says it improved}
\rightarrow
\text{therefore improved}.
$$

它使用：

$$
\text{hidden evaluations}
$$

決定候選修改是否保留。

這暴露 RSI 最重要的認識論問題之一：

$$
\boxed{
\text{誰判斷 improvement 真的是 improvement？}
}
$$

如果：

$$
\text{Agent}
=
\text{Optimizer}
=
\text{Evaluator}
=
\text{Rule Modifier},
$$

就可能出現：

$$
\boxed{
\text{Self-Confirming Loop}.
}
$$

---

# 12. Self-Confirming RSI

假設 AI 修改：

$$
M_t
\rightarrow
M_{t+1}.
$$

同時修改：

$$
E_t
\rightarrow
E_{t+1},
$$

其中：

$$
E
$$

是 evaluator。

如果：

$$
E_{t+1}
$$

更容易給：

$$
M_{t+1}
$$

高分，

就可能形成：

$$
M_{t+1}
\text{ is better}
$$

只是因為：

$$
E_{t+1}
\text{ says so}.
$$

因此：

$$
\boxed{
\text{Closed Improvement Loop}
\neq
\text{Closed Epistemic World}.
}
$$

RSI 可以高度自主，

但仍需要某些不能被任意自我重定義的 grounding。

---

# 13. Open Verification Boundary

本文提出：

$$
\boxed{
\text{Closed Improvement Loop}
+
\text{Open Verification Boundary}.
}
$$

AI 可以自主執行：

$$
\text{hypothesis}
\rightarrow
\text{experiment}
\rightarrow
\text{modification}
\rightarrow
\text{successor}.
$$

但至少一部分驗證訊號來自較外部、較難被 loop 自己操縱的結構。

例如：

- formal proof；
- physical experiment；
- hidden benchmark；
- held-out environment；
- real-world prediction；
- hardware measurement；
- energy measurement；
- independent evaluator；
- external adversarial test。

這不要求每一步都有人類研究員。

它要求的是：

$$
\boxed{
\text{Reality remains outside the optimizer}.
}
$$

---

# 14. 驗證層級

可以建立一個粗略 verification hierarchy。

由強到弱：

$$
\text{Formal Verification}
$$

$$
\downarrow
$$

$$
\text{Physical / Environmental Ground Truth}
$$

$$
\downarrow
$$

$$
\text{Hidden Held-Out Evaluation}
$$

$$
\downarrow
$$

$$
\text{Independent External Judge}
$$

$$
\downarrow
$$

$$
\text{Self-Critique}
$$

$$
\downarrow
$$

$$
\text{Intrinsic Self-Assessment}.
$$

2026 年的 RSI survey 也得到相近結論：demonstrated self-improvement 的強度往往與 evaluator reliability 有關，而 formal verifier 類訊號最強，純 intrinsic self-assessment 最弱。

因此：

$$
\boxed{
\text{RSI capability}
\text{ 不能與 }
\text{RSI evaluation quality}
\text{ 分離研究。}
}
$$

---

# 15. Evaluator 也會漂移

RSI 不只會修改模型。

長期系統還可能修改：

$$
E_t.
$$

因此存在：

$$
\text{Evaluator Drift}.
$$

假設原本：

$$
E_0
$$

重視：

- correctness；
- efficiency；
- safety；
- transfer。

若幾代後：

$$
E_t
$$

逐漸變成只重視：

$$
Q_{\text{benchmark}},
$$

則 RSI 可能在無明顯單點故障下，逐漸改變整個改進方向。

所以 evaluator evolution 本身也需要：

$$
\boxed{
\text{meta-evaluation}.
}
$$

---

# 16. Meta-Evaluation

對 evaluator：

$$
E
$$

也要建立測試：

$$
\operatorname{MetaEval}(E).
$$

至少測：

- reward hacking resistance；
- adversarial robustness；
- hidden-task transfer；
- calibration；
- false-positive rate；
- false-negative rate；
- evaluator gaming；
- distribution shift。

因此：

$$
E_{t+1}
$$

只有在：

$$
\operatorname{MetaEval}(E_{t+1})
\ge
\operatorname{MetaEval}(E_t)
$$

或 Pareto 更優時，才應被接受。

---

# 17. RSI 的真正危險不只是變太快

另一個風險是：

$$
\boxed{
\text{方向錯了，但進步很穩定。}
}
$$

例如每一代都：

$$
Q_{\text{local}}\uparrow,
$$

但：

$$
R_{\text{redundancy}}\uparrow\uparrow,
$$

$$
C\uparrow\uparrow,
$$

$$
G_{\text{global}}\approx\text{constant}.
$$

系統會持續得到正回饋，卻逐步走向低效率局部最優。

這就是：

$$
\boxed{
\text{Recursive Local-Optimum Entrenchment}.
}
$$

---

# 18. RSI 必須有能力逃離自己的局部最優

真正強的 meta-RSI 必須能問：

> 如果我停止沿現有 improvement family 搜尋，是否存在完全不同的 paradigm？

形式上：

$$
R_{t+1}
\notin
\mathcal F(R_t)
$$

必須被允許。

其中：

$$
\mathcal F(R_t)
$$

代表當前 improvement method 的局部 family。

例如：

$$
\text{More MoE}
$$

不一定永遠只能導向：

$$
\text{Even More MoE}.
$$

$$
\text{More Agents}
$$

也不一定只能導向：

$$
\text{Even More Agents}.
$$

真正 paradigm-level RSI 應允許：

$$
\text{MoE}
\rightarrow
\text{new representation architecture},
$$

或：

$$
\text{swarm search}
\rightarrow
\text{internalized world model},
$$

甚至：

$$
\text{neural-only}
\rightarrow
\text{hybrid architecture}.
$$

---

# 19. Paradigm Mutation Rate

可以定義：

$$
PMR
=
P(
R_{t+1}
\notin
\mathcal F(R_t)
).
$$

若：

$$
PMR=0,
$$

RSI 永遠只會在原有 family 內局部調參。

若：

$$
PMR
$$

太高，則系統可能缺乏累積性。

因此需要平衡：

$$
\boxed{
\text{Exploit}
+
\text{Explore}.
}
$$

也就是：

- 局部優化成熟方法；
- 保留一定比例資源探索新 paradigm。

---

# 20. RSI 需要自己的研究投資組合

可以把總 R&D budget：

$$
B
$$

分成：

$$
B
=
B_{\text{exploit}}
+
B_{\text{explore}}
+
B_{\text{verify}}.
$$

其中：

$$
B_{\text{exploit}}
$$

改良現有系統，

$$
B_{\text{explore}}
$$

探索新 paradigm，

$$
B_{\text{verify}}
$$

確保結果可靠。

若：

$$
B_{\text{explore}}\rightarrow0,
$$

系統容易陷入局部最優。

若：

$$
B_{\text{verify}}\rightarrow0,
$$

系統容易自我確認。

若：

$$
B_{\text{exploit}}\rightarrow0,
$$

系統則可能一直換 paradigm 而無法成熟。

---

# 21. Search-Scaled RSI 與 Structure-Growing RSI

系列第六篇區分：

$$
\text{Search-Scaled AI}
$$

與：

$$
\text{Structure-Growing AI}.
$$

同樣可以定義：

$$
\boxed{
\text{Search-Scaled RSI}
}
$$

與：

$$
\boxed{
\text{Structure-Growing RSI}.
}
$$

Search-Scaled RSI：

$$
\text{more experiments}
\rightarrow
\text{better successor}.
$$

Structure-Growing RSI：

$$
\text{experiments}
\rightarrow
\text{meta-knowledge}
\rightarrow
\text{better research method}
\rightarrow
\text{cheaper future improvement}.
$$

真正長期有效的 RSI 應該讓：

$$
C_{\text{improvement},t+1}
<
C_{\text{improvement},t}
$$

至少在相似 improvement family 上成立。

---

# 22. Improvement Cost

設從：

$$
M_t
$$

得到：

$$
M_{t+1}
$$

所需總成本為：

$$
C_t^{\text{imp}}.
$$

如果：

$$
Q_{t+1}-Q_t
=
\Delta Q_t,
$$

可以定義：

$$
\boxed{
ICE_t
=
\frac{
\Delta Q_t
}{
C_t^{\text{imp}}
}
}
$$

其中：

$$
ICE
$$

為 Improvement Compute Efficiency。

若：

$$
ICE_t\downarrow
$$

代表每一代能力增長所需 R&D compute 越來越大。

真正優秀的 meta-RSI 應嘗試：

$$
ICE_{t+1}>ICE_t.
$$

---

# 23. Improvement Internalization

如果一次 R&D 過程找到：

$$
1000
$$

條失敗路徑，下一代 RSI 不應完全重新探索同樣：

$$
1000
$$

條路。

應將：

$$
\text{failure knowledge}
$$

也內化。

因此：

$$
K_{t+1}
=
K_t
+
K_{\text{success}}
+
K_{\text{failure}}.
$$

真正的研究能力不只累積：

> 什麼有效。

也累積：

> 什麼已知無效，以及在什麼條件下無效。

這可以直接降低 future research branching factor。

---

# 24. Negative Knowledge

定義：

$$
K^{-}
$$

為已驗證的負面知識，例如：

- 某 architecture family 在某條件下無效；
- 某 hyperparameter 區間不值得搜尋；
- 某 evaluator 易被 hack；
- 某 routing 造成 collapse；
- 某 compression 破壞 long-tail capability。

如果 RSI 不保存：

$$
K^{-},
$$

就會反覆重踩已知失敗。

因此：

$$
\boxed{
\text{Efficient RSI requires memory of failure}.
}
$$

---

# 25. Semantic Garbage Collection 在 RSI 中更重要

系列第三篇提出：

$$
\text{Semantic Garbage Collection}.
$$

RSI 會讓問題更嚴重。

因為 AI 不只累積：

$$
\text{task knowledge},
$$

還會累積：

$$
\text{research knowledge}.
$$

如果每一代都增加：

- architecture variants；
- evaluation traces；
- failed experiments；
- duplicate abstractions；
- obsolete methods；

但不整理，則：

$$
R_{\text{research-memory}}\uparrow.
$$

因此 RSI 必須週期性執行：

$$
\boxed{
\text{Research Memory Consolidation}.
}
$$

---

# 26. RSI 不應無限增加 Physical Capacity

假設：

$$
P_t
$$

持續增長。

真正理想的 successor 甚至可能：

$$
P_{t+1}<P_t
$$

但：

$$
Q_{t+1}>Q_t.
$$

這代表：

$$
\text{effective cognition density}
\uparrow.
$$

因此 RSI 應該允許：

- pruning；
- merging；
- canonicalization；
- architecture simplification；
- skill compression；
- distillation。

而不是預設：

$$
P_{t+1}\ge P_t.
$$

---

# 27. RSI 不應無限增加 Agent Count

同理：

$$
N_{t+1}
$$

也不應被預設：

$$
N_{t+1}\ge N_t.
$$

如果新架構：

$$
M_{t+1}
$$

可以用：

$$
N=10
$$

達到舊架構：

$$
N=1000
$$

的效果，這是極大的進步。

因此：

$$
\boxed{
N^\ast(q)
}
$$

應成為 RSI 的核心內部指標之一。

---

# 28. RSI 不應無限增加 Test-Time Compute

假設：

$$
C_t^\ast(q)
$$

在每一代都增加，

就表示：

> 新系統雖然能力 ceiling 上升，但達到固定能力的計算效率可能正在惡化。

所以 RSI 應同時優化：

$$
Q_{\max}
$$

與：

$$
CCE(q).
$$

否則最終可能出現：

$$
\boxed{
\text{Superhuman Capability}
+
\text{Unsustainable Compute Dependence}.
}
$$

---

# 29. Future Plasticity

一個被忽略的 RSI 指標是：

$$
\boxed{
\text{Future Plasticity}.
}
$$

某個 successor 今天很強，

但如果它：

- 幾乎用完 representation capacity；
- memory architecture 僵化；
- routing 過度專門化；
- evaluator 過度固定；
- 很難再修改；

那麼：

$$
M_{t+1}
$$

可能具有高：

$$
Q
$$

但低：

$$
P_{\text{future}}.
$$

真正 RSI 不只要最大化現在，

還要保留：

$$
\boxed{
\text{ability to keep improving}.
}
$$

---

# 30. Recursive Improvement Reserve

可以定義：

$$
RIR_t
$$

表示第：

$$
t
$$

代系統仍可低成本探索與整合新能力的剩餘空間。

它可能包含：

- unused representational capacity；
- modularity；
- parameter headroom；
- memory extensibility；
- routing extensibility；
- evaluator adaptability；
- architecture mutability。

真正高效率 RSI 應避免：

$$
RIR_t\rightarrow0.
$$

---

# 31. RSI 的終極瓶頸可能不是能力，而是自我測量

如果 AI 很會產生 candidate improvements，

但不能可靠回答：

> 哪個真的比較好？

那麼：

$$
\text{generation capacity}
$$

再強也沒用。

所以 RSI 的瓶頸可能逐漸從：

$$
\text{Can I invent improvements?}
$$

轉向：

$$
\boxed{
\text{Can I correctly measure improvements?}
}
$$

這就是 evaluator science。

---

# 32. AI Self-Science

本文定義：

$$
\boxed{
\text{AI Self-Science}
}
$$

為：

AI 將自己的認知系統與改進流程作為持續科學研究對象。

它至少包含：

### Observation

量測：

$$
Q,C,N,T,R,G.
$$

### Hypothesis

提出：

> 為什麼這個架構在此類任務低效？

### Intervention

改變：

$$
M,
R,
H,
E.
$$

### Controlled Experiment

進行：

$$
A/B/N
$$

與 compute-controlled tests。

### Falsification

保留能反駁自身假設的 hidden tests。

### Theory Formation

從大量結果形成：

$$
\text{meta-rules}.
$$

### Structural Update

把：

$$
\text{meta-rules}
$$

整合進下一代研究方法。

---

# 33. AI Self-Science 與普通 AutoML 不同

AutoML 常問：

> 哪個配置在這個 search space 最好？

AI Self-Science 更進一步問：

> 這個 search space 本身合理嗎？

也就是：

$$
\boxed{
\text{Search within a paradigm}
}
$$

與：

$$
\boxed{
\text{Research the paradigm itself}.
}
$$

後者允許：

$$
\mathcal S_t
\rightarrow
\mathcal S_{t+1},
$$

其中：

$$
\mathcal S
$$

是 search space 本身。

---

# 34. AI Self-Science 應建立自己的 Scaling Laws

系統可以持續測：

$$
Q(P),
$$

$$
Q(C),
$$

$$
Q(N),
$$

$$
Q(T),
$$

$$
Q(R).
$$

並估計：

$$
\frac{\partial Q}{\partial P},
$$

$$
\frac{\partial Q}{\partial C},
$$

$$
\frac{\partial Q}{\partial N}.
$$

當某一條：

$$
\frac{\partial Q}{\partial X}
\rightarrow0,
$$

系統應知道：

> 這個 scaling axis 正在飽和。

然後把研究資源移向其他方向。

這比人類等到成本失控才發現問題更理想。

---

# 35. Sweet Spot Detection

整個系列的核心之一是：

$$
\text{Sweet Spot}.
$$

AI Self-Science 可以自己估計：

$$
\Psi_t,
$$

其中：

$$
\Psi
$$

代表：

- capability gain；
- compute；
- redundancy；
- agent efficiency；
- global correction cost。

當：

$$
\Psi_t
$$

下降，

RSI 應觸發：

$$
\boxed{
\text{Paradigm Reconsideration}.
}
$$

不是自動再加：

$$
10\times
$$

資源。

---

# 36. RSI 的「停下來」也是能力

真正成熟的 RSI 必須可以做出：

$$
\boxed{
\text{Do Not Scale}.
}
$$

如果：

$$
\frac{
\Delta Q
}{
\Delta C
}
<\epsilon,
$$

它應可以拒絕：

- 增加 agents；
- 增加 experts；
- 增加 context；
- 增加 sampling；
- 增加 model size。

這代表：

$$
\boxed{
\text{Optimization includes restraint}.
}
$$

否則 RSI 可能只是一個永不停下的 resource maximizer。

---

# 37. RSI 的「回退」也是能力

如果：

$$
M_{t+1}
$$

在短期 benchmark 更高，

但之後發現：

- transfer 下降；
- safety regression；
- redundancy 增加；
- long-tail capability 下降；

系統應能：

$$
M_{t+1}
\rightarrow
M_t
$$

或：

$$
M_{t+1}
\rightarrow
M_{t+1}'.
$$

因此：

$$
\boxed{
\text{Reversible Evolution}
}
$$

比單向版本遞增更安全。

---

# 38. Lineage Tracking

每一代 successor 應保存：

$$
L_t
=
(
M_t,
R_t,
E_t,
D_t,
C_t,
Q_t
).
$$

並記錄：

- parent；
- mutation；
- evaluator；
- benchmark；
- failure；
- rollback；
- provenance。

這樣 RSI 才能回答：

> 今天這個能力到底從哪一個改動來？

否則長期多代演化後會失去因果可追蹤性。

---

# 39. Evolutionary Safety

2026 年的 RSI safety 研究已開始把安全問題從單一模型狀態擴張到：

$$
\text{trajectory}
$$

與：

$$
\text{lineage}.
$$

這是必要的。

因為即使：

$$
M_t
$$

安全，

也不代表：

$$
M_{t+100}
$$

仍安全。

可能出現：

- intent drift；
- evaluator drift；
- experience contamination；
- accumulated error；
- safety erosion；
- risk propagation。

所以：

$$
\boxed{
\text{Safety must be evolutionary, not snapshot-only}.
}
$$

---

# 40. 能力、安全與效率都必須跨世代追蹤

RSI 的每一代應至少保存：

$$
\mathbf S_t
=
(
Q_t,
C_t,
N_t,
T_t,
R_t,
G_t,
V_t,
S_t
),
$$

其中最後：

$$
S_t
$$

代表 safety metrics。

真正 successor acceptance 應該是多目標決策：

$$
\boxed{
M_{t+1}
\text{ accepted only if it passes a predefined multi-axis gate}.
}
$$

不是只看：

$$
Q_{t+1}>Q_t.
$$

---

# 41. 人類是否必須永遠在 loop 中？

這要分開兩個問題。

## 41.1 人類是否必須逐步指導每次改進？

不一定。

AIDE $^2$ 類實驗已經顯示：

AI 可以自行：

- 提出改動；
- 測試；
- 比較；
- 保留改進。

所以：

$$
\boxed{
\text{Human Researcher at Every Step}
}
$$

不一定是必要條件。

## 41.2 是否可以完全沒有外部 grounding？

這就非常不同。

即使人類退出：

$$
\text{micro-level research loop},
$$

系統仍需要：

$$
\text{reality},
$$

$$
\text{formal constraints},
$$

$$
\text{independent evaluation}
$$

或其他外部驗證來源。

所以：

$$
\boxed{
\text{Human-free}
\not\Rightarrow
\text{Grounding-free}.
}
$$

---

# 42. 完全閉合的 RSI 為什麼有認識論風險？

如果整個世界只有：

$$
M_t
$$

自己產生：

- 問題；
- 答案；
- evaluator；
- benchmark；
- successor；

那麼它可能形成：

$$
\boxed{
\text{Epistemic Closure}.
}
$$

系統愈來愈擅長滿足自己建立的標準，卻與外部世界逐漸脫鉤。

所以真正成熟的自主 RSI 不是：

$$
\text{remove all external reference}.
$$

而是：

$$
\boxed{
\text{minimize unnecessary human intervention while preserving independent grounding}.
}
$$

---

# 43. RSI 最終應該能淘汰自己的 RSI

這是本文最核心的高階命題之一。

若當前：

$$
R_t
$$

已進入：

$$
\frac{\Delta Q}{\Delta C}
\rightarrow0,
$$

真正 meta-RSI 應該能判斷：

> 不是再多跑一點，而是這條 improvement family 本身接近飽和。

因此：

$$
R_t
\rightarrow
R_{t+1}
$$

可能不是：

$$
\text{same method + more compute}.
$$

而是：

$$
\boxed{
\text{new improvement paradigm}.
}
$$

也就是：

$$
\boxed{
\text{A mature RSI must be capable of replacing its own RSI method}.
}
$$

---

# 44. AI Self-Science 的最低判準

本文提出以下最低條件。

一個系統若要被稱為：

$$
\text{AI Self-Science},
$$

至少應能：

1. 觀察自己的 performance / cost；
2. 建立可檢驗假設；
3. 主動設計對照實驗；
4. 控制重要變數；
5. 使用 held-out evaluation；
6. 保存正負結果；
7. 形成跨實驗抽象；
8. 修改自己的研究方法；
9. rollback 錯誤更新；
10. 保留外部 grounding；
11. 追蹤跨世代 lineage；
12. 對自己的 evaluator 進行 meta-evaluation。

若缺少多數條件，

更適合稱為：

$$
\text{Automated Optimization}
$$

而不是完整 Self-Science。

---

# 45. AI Self-Science 與「科學」的關係

這裡使用：

$$
\text{Science}
$$

不是修辭。

真正原因是：

系統必須具備：

$$
\boxed{
\text{Falsifiability}.
}
$$

如果每一次修改都只能被解釋成：

> 這也是進步的一部分。

那就不是科學。

AI 必須允許：

$$
H
$$

被：

$$
E
$$

推翻。

也必須允許：

$$
R_t
$$

被判定：

> 這條路不值得繼續。

---

# 46. RSI 的真正「智能」在於研究資源配置

如果 AI 面前有：

$$
1000
$$

條研究路徑，

真正關鍵不只是：

> 能不能把 1000 條都跑完。

而是：

> 能不能在跑很少路徑後，判斷哪幾條值得繼續？

也就是：

$$
\boxed{
\text{Research Allocation Intelligence}.
}
$$

這會直接影響：

$$
ICE.
$$

真正高效率 RSI 可能不是有無限算力，

而是：

$$
\boxed{
\text{很少浪費算力在低價值世界線。}
}
$$

---

# 47. 從暴力搜尋到世界線篩選

如果每個候選：

$$
h_i
$$

都完整測試，

成本：

$$
C
\propto
N_h.
$$

如果 AI 可以先用：

$$
\hat V(h_i)
$$

估計價值，

只展開：

$$
h_i
$$

中高價值部分，

就可以：

$$
N_h
\rightarrow
N_{\text{effective}}.
$$

這與整個系列一直強調的：

$$
\boxed{
\text{局部展開 + 全域判斷}
}
$$

是同一種結構。

---

# 48. RSI 的全域問題

局部 improvement 很容易測。

例如：

$$
\text{coding score}\uparrow.
$$

但真正 RSI 需要問：

$$
\boxed{
\text{整個系統是否因此更好？}
}
$$

可能：

$$
Q_{\text{code}}\uparrow
$$

但：

$$
Q_{\text{reasoning}}\downarrow,
$$

或：

$$
C\uparrow,
$$

或：

$$
R\uparrow.
$$

因此 successor evaluation 必須包含：

$$
\text{global capability profile}.
$$

不能只看局部 benchmark。

---

# 49. 局部改進 + 全域校正，再次出現

這正好接回系列第二篇的核心架構：

$$
\boxed{
\text{Local Improvement}
+
\text{Global Low-Cost Correction}.
}
$$

RSI 可以允許大量局部 mutation，

但需要：

$$
G_{\text{meta}}
$$

檢查：

- global trade-off；
- redundancy；
- consistency；
- long-tail regression；
- resource explosion；
- safety regression。

也就是：

$$
M_{t+1}
=
\operatorname{Accept}
(
m_{\text{local}}
\mid
G_{\text{meta}}
).
$$

---

# 50. AI Self-Science 與全域 canonical state

若 AI 真要長期研究自己，

它需要知道：

- 已經試過什麼；
- 哪些結果重複；
- 哪些結果矛盾；
- 哪些理論仍未決；
- 哪些 improvement family 已飽和；
- 哪些 failure 已知；
- 哪些測量可靠。

因此需要某種：

$$
\boxed{
G_{\text{research}}
}
$$

作為全域研究狀態。

它不一定是純 symbolic database。

但至少必須：

$$
\text{addressable},
$$

$$
\text{comparable},
$$

$$
\text{revisable},
$$

$$
\text{deduplicable}.
$$

否則 AI 研究規模越大，

越容易反覆重做自己已經做過的研究。

---

# 51. 從 RSI 到 Self-Science 的相位轉換

可以將發展分成五階段：

$$
\boxed{
\text{Tool Use}
\rightarrow
\text{Automated R\&D}
\rightarrow
\text{RSI}
\rightarrow
\text{Meta-RSI}
\rightarrow
\text{AI Self-Science}.
}
$$

### Stage 1：Tool Use

AI 幫人類研究者完成局部工作。

### Stage 2：Automated R&D

AI 可自主執行大量研究流程。

### Stage 3：RSI

AI 研究結果直接用於改進後繼 AI。

### Stage 4：Meta-RSI

AI 修改：

$$
\text{how RSI is performed}.
$$

### Stage 5：AI Self-Science

AI 對自己的 improvement dynamics 建立：

- measurements；
- theories；
- experiments；
- falsification；
- cumulative methodology。

---

# 52. 真正 RSI 的成功指標

不應只看：

$$
Q_t.
$$

應至少同時看：

$$
\boxed{
Q_t
}
$$

$$
\boxed{
CCE_t(q)
}
$$

$$
\boxed{
N_t^\ast(q)
}
$$

$$
\boxed{
ICE_t
}
$$

$$
\boxed{
R_t
}
$$

$$
\boxed{
G_t
}
$$

$$
\boxed{
P_t
}
$$

其中：

- $Q_t$：能力；
- $CCE_t$：推理效率；
- $N_t^\ast$：所需代理數；
- $ICE_t$：改進效率；
- $R_t$：冗餘；
- $G_t$：泛化；
- $P_t$：future plasticity。

---

# 53. 一個候選 Efficient RSI Acceptance Rule

可以概念化為：

$$
M_{t+1}
\text{ accepted if}
$$

$$
\begin{cases}
Q_{t+1}\ge Q_t-\epsilon_Q,\\
\mathcal P_{t+1}\not\prec\mathcal P_t,\\
G_{t+1}\ge G_t-\epsilon_G,\\
S_{t+1}\ge S_{\min},\\
V_{t+1}\ge V_{\min}.
\end{cases}
$$

同時允許：

$$
Q_{t+1}\approx Q_t
$$

但：

$$
C_{t+1}\ll C_t
$$

被視為重大成功。

也允許：

$$
Q_{t+1}\gg Q_t
$$

但高成本版本只被分類成：

$$
\text{capability expansion},
$$

而非：

$$
\text{efficiency improvement}.
$$

---

# 54. RSI 應該有多種後繼者，而不是單一路徑

不要永遠只有：

$$
M_t
\rightarrow
M_{t+1}.
$$

更好的研究方式可能是：

$$
M_t
\rightarrow
\{
M_{t+1}^{(1)},
M_{t+1}^{(2)},
\ldots,
M_{t+1}^{(k)}
\}.
$$

再比較：

$$
\mathcal P.
$$

部分 lineage 專注：

- efficiency；
- generalization；
- safety；
- compactness；
- new paradigm。

這能降低：

$$
\text{single-lineage lock-in}.
$$

---

# 55. 多 lineage 也不能無限膨脹

但這又會回到第四篇：

$$
\text{More Agents / More Branches}
$$

本身存在成本。

所以 RSI 必須動態控制：

$$
k.
$$

當：

$$
\frac{
\Delta \text{expected value}
}{
\Delta k
}
<\epsilon,
$$

就停止增加 lineage。

這再次證明：

$$
\boxed{
\text{Efficiency problem exists at every layer}.
}
$$

---

# 56. RSI 能否自己發現「神經學派的限制」？

理論上可以。

如果 evaluator 允許跨 paradigm 比較，

AI 可以觀察：

$$
\frac{\Delta Q}{\Delta C}
$$

在現有 neural scaling family 中持續下降。

然後提出：

$$
H_1:
\text{better routing},
$$

$$
H_2:
\text{semantic deduplication},
$$

$$
H_3:
\text{new memory architecture},
$$

$$
H_4:
\text{hybrid symbolic-neural},
$$

$$
H_5:
\text{new computational primitive}.
$$

如果：

$$
H_4
$$

或：

$$
H_5
$$

在 Pareto frontier 上勝出，

一個真正 paradigm-open RSI 沒有理由堅持原本架構。

所以：

$$
\boxed{
\text{RSI 可以理論上突破創造它的人類學派，
但前提是 search space 與 evaluator 沒有把它鎖死。}
}
$$

---

# 57. RSI 能不能完全不靠人類研究者發現更好的 RSI？

可以在相當大程度上做到。

已存在的研究已展示：

AI 可以自行：

- 提出修改；
- 跑實驗；
- 評價候選；
- 修改 search policy；
- 修改 memory；
- 管理 context；
- 保留有效改進。

所以：

$$
\boxed{
\text{Human researcher is not necessarily required inside every local improvement loop}.
}
$$

但另一個命題仍然不同：

$$
\boxed{
\text{No external grounding is required}.
}
$$

這一點目前沒有得到可靠支持。

---

# 58. 真正自主不等於封閉世界

成熟自主 RSI 更可能是：

$$
\boxed{
\text{Autonomous Research}
+
\text{Externally Grounded Verification}.
}
$$

AI 可以不需要：

> 人類告訴它下一步做什麼。

但仍可依賴：

- reality；
- formal systems；
- experimental outcomes；
- independent tests。

這比：

$$
\text{AI judges itself using only itself}
$$

更加穩健。

---

# 59. 本系列對 RSI 的最終修正

一般 RSI 敘事容易寫成：

$$
M_t
\rightarrow
M_{t+1}
\rightarrow
M_{t+2}
\rightarrow
\cdots
$$

本系列提出：

更完整的形式應該是：

$$
\boxed{
(M_t,R_t,E_t,G_t)
\rightarrow
(M_{t+1},R_{t+1},E_{t+1},G_{t+1})
}
$$

其中：

- $M_t$：模型；
- $R_t$：improvement process；
- $E_t$：evaluator；
- $G_t$：global research state / accumulated structure。

真正 RSI 不只改：

$$
M.
$$

還必須研究：

$$
R,
E,
G.
$$

---

# 60. 七篇系列的完整閉環

第一篇提出：

$$
\text{Observed Capability}
\neq
\text{Intrinsic Cognition}.
$$

第二篇提出：

$$
\text{Sparse Capability Sweet Spot}.
$$

第三篇指出：

$$
\text{Physical Capacity}
\neq
\text{Effective Cognitive Capacity},
$$

並提出：

$$
\text{Semantic Garbage Collection}.
$$

第四篇指出：

$$
\text{More Agents}
\neq
\text{More Intrinsic Intelligence},
$$

並提出：

$$
\text{Agent Saturation}.
$$

第五篇建立：

$$
Q_M(N,C,T)
$$

與：

$$
CCE(q).
$$

第六篇區分：

$$
\text{Search-Scaled AI}
$$

與：

$$
\text{Structure-Growing AI}.
$$

本文最後提出：

$$
\boxed{
\text{Efficient RSI}
\rightarrow
\text{Meta-RSI}
\rightarrow
\text{AI Self-Science}.
}
$$

因此整個系列形成：

$$
\boxed{
\text{Observe Growth}
\rightarrow
\text{Decompose Growth}
\rightarrow
\text{Measure Efficiency}
\rightarrow
\text{Internalize Search}
\rightarrow
\text{Improve Improvement}.
}
$$

---

# 61. 系列最終總命題

可以將七篇收斂成：

$$
\boxed{
\begin{aligned}
\text{Observed AI Growth}
=&
\text{Intrinsic Cognitive Growth}\\
&+
\text{Sparse Task Matching}\\
&+
\text{Inference Compute}\\
&+
\text{Agentic Search}\\
&+
\text{Tools / Harness}\\
&+
\text{Long-Horizon Execution}.
\end{aligned}
}
$$

因此：

$$
\boxed{
\text{Observed Growth}
\not\Rightarrow
\text{Equivalent Intrinsic Growth}.
}
$$

真正長期可持續的 AI 成長還需要：

$$
\boxed{
\text{Search}
\rightarrow
\text{Structure}
\rightarrow
\text{More Efficient Search}.
}
$$

而真正成熟的 RSI 進一步需要：

$$
\boxed{
\text{Improvement}
\rightarrow
\text{Science of Improvement}
\rightarrow
\text{Better Improvement}.
}
$$

---

# 62. 最終結論

AI 未來能不能自行改進自己，已經不再只是純哲學問題。

2026 年的前沿研究已經開始展示：

- AI 自主執行 AI R&D；
- AI 修改自己的 agent code；
- AI 改善 search policy；
- AI 改善 memory；
- AI 透過 hidden evaluations 保留有效改進。

但真正的問題不是：

> RSI 會不會開始？

而是：

$$
\boxed{
\text{RSI 開始之後，會沿著什麼 scaling law 成長？}
}
$$

如果它只學會：

$$
\text{more compute}
+
\text{more agents}
+
\text{more parameters}
+
\text{more search},
$$

那麼 RSI 可能只是把人類目前的 scaling paradigm 自動化。

真正更深的 RSI 應該能發現：

$$
\frac{
\Delta Q
}{
\Delta C
}
\rightarrow0,
$$

並因此得出：

> 現在不是再增加資源，而是應該改變認知結構或改進方法。

最終，一個真正成熟的自我改進 AI 應具有：

$$
\boxed{
\text{Capability Growth}
+
\text{Efficiency Growth}
+
\text{Structural Internalization}
+
\text{Paradigm Revision}
+
\text{External Grounding}.
}
$$

這時它才不只是：

$$
\text{AI that improves itself},
$$

而是：

$$
\boxed{
\text{AI that can scientifically study,
\text{falsify},
\text{restructure},
and improve the process by which it improves itself}.
}
$$

也就是：

$$
\boxed{
\text{AI Self-Science}.
}
$$

如果未來真正出現這種系統，那麼 AI 成長的核心變數就不再只是：

$$
P,
C,
N.
$$

而會逐漸變成：

$$
\boxed{
\text{它能以多快的速度發現：
自己原本認為有效的成長方式，其實已經不再是最好的方式。}
}
$$

這可能才是 RSI 從「自動化 AI 研發」跨入真正遞迴認知成長的分界。

---

# 參考資料

1. Google DeepMind. **From AGI to ASI.** 2026-06-12.  
   https://deepmind.google/research/publications/239142/  
   將 AGI 通往更高智能的可能路徑區分為 scaling、AI paradigm shifts、recursive improvement 與 large-scale multi-agent collectives。

2. OpenAI. **The AI policy window is open. We need to act.** 2026-09-09.  
   https://openai.com/index/ai-policy-window/  
   明確指出 fully autonomous recursive self-improvement 尚未發生；AI 已開始加速下一代模型開發與 alignment 研究，並主張建立共同方法追蹤 RSI 進展與人類控制條件。

3. OpenAI. **Building standards for the next phase of AI.** 2026-09-21.  
   https://openai.com/index/building-standards-next-phase-ai/  
   將 automated AI researcher、alignment 與 RSI 視為下一階段的重要研究方向，並指出 RSI 可以在仍有人類參與的情況下逐步形成。

4. Anthropic Institute. **When AI builds itself.** 2026.  
   https://www.anthropic.com/institute/recursive-self-improvement  
   討論 AI 參與 AI R&D、automated AI development 與 recursive self-improvement 的進展，並指出 fully autonomous RSI 尚未實現且並非必然。

5. Srikanth, D., Zhao, B., Xu, D., Wu, Y., & Jiang, Z. **Recursive self-improvement of AI research agents.** arXiv:2609.26457, 2026.  
   https://arxiv.org/abs/2609.26457  
   提出 AIDE $^2$，讓 AI research agent 修改自己的 agent code，透過 hidden evaluations 選擇後繼版本；八日自主運行中得到七次連續改進，包括新的 search policy、memory mechanisms 與 context compression。

6. Chen, M., Wang, L., & Qu, B. **Recursive Self-Improvement in AI: From Bounded Self-Refinement to Autonomous Research Loops.** arXiv:2607.07663, 2026.  
   https://arxiv.org/abs/2607.07663  
   對 2024–2026 年 RSI / self-refinement 相關文獻進行大規模整理，區分 behavior、policy、evaluator 與 research-process improvement，並指出 evaluator reliability、self-confirming loops、model collapse、diversity collapse 與 grounding requirement 是 open-ended RSI 的核心限制。

7. Gong, C. et al. **Evolutionary Safety of Recursive Self-Improving AI: Taxonomy, Risk Discovery, and Evaluation.** arXiv:2609.31186, 2026.  
   https://arxiv.org/abs/2609.31186  
   將 RSI safety 從單點安全擴張到跨狀態、更新、trajectory 與 lineage 的 evolutionary safety，討論 intent drift、error accumulation、experience contamination、evaluator drift 與 safety erosion。

8. Duan, Y. et al. **The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement.** arXiv:2609.11873, 2026.  
   https://arxiv.org/abs/2609.11873  
   將 RSI 描述為能力與未來改進過程的持久改變，並提出從 improvement-execution autonomy、strategy autonomy、experience-acquisition autonomy、environment-adaptation autonomy 到 recursive meta-improvement 的發展路徑。

---

## Canonical Source Note

本文件之 UTF-8 Markdown 原始碼為正式 source artifact。數學原始碼僅使用 ` $...$ ` 與 `$$...$$` 作為 canonical delimiter；不使用 Unicode 數學字元替代 LaTeX source，不進行 unicode escape round-trip，不自行美化反斜線、空白或 delimiter，不以聊天介面渲染內容取代正式原稿。