title: 方法有效不等於理解原因：AI 工程成功、因果模型與觀察算子偏移
english_title: Operational Success Is Not Causal Understanding: AI Engineering Success, Causal Models, and Observation-Operator Drift
series: 智能學習底空間與投影系列
series_english: Intelligence Learning-Substrate and Projection Series
series_id: ILSP
paper_id: ILSP-07
author: Neo.K
organization: EveMissLab
version: 0.1.0
status: Research Draft / Canonical Series Paper
date: 2026-10-05
language: zh-TW
canonical_source: UTF-8 Markdown
math_source_rule: inline math only with $...$ ; display math only with $$...$$

方法有效不等於理解原因

AI 工程成功、因果模型與觀察算子偏移

Operational Success Is Not Causal Understanding: AI Engineering Success, Causal Models, and Observation-Operator Drift

系列： 智能學習底空間與投影系列（ILSP），Paper 07
作者： Neo.K
機構： EveMissLab
版本： v0.1.0
日期： 2026-10-05

公司： 一言諾科技有限公司

摘要

人工智慧工程的快速進步建立在大量可重現的實驗規律之上：更多計算、更有效資料、更好的架構、更成熟的訓練策略、驗證器、推理流程與強化學習方法，經常能穩定提升模型表現。這些成果是真實且重要的。然而，一個方法反覆有效，不等於研究者已經掌握了其全部因果機制，更不等於該方法所依據的工程描述可以直接提升為智能的本體論。

本文提出：

\boxed{ \text{Operational Success} \neq \text{Causal Understanding} \neq \text{Ontological Completion}. }

並將 AI 研究知識分成五層：

K_{\mathrm{recipe}}, \quad K_{\mathrm{phen}}, \quad K_{\mathrm{mech}}, \quad K_{\mathrm{causal}}, \quad K_{\mathrm{onto}}.

它們分別代表 recipe knowledge、phenomenological regularity、mechanistic structure、causal-generative explanation 與 ontological interpretation。研究進展可能在前兩層非常快，而後三層仍然不完整。這不是 AI 研究的特殊失敗，而是科學史與工程史中反覆出現的常態。

本文進一步提出 Observation-Operator Drift。令真實世界狀態為：

W^\ast,

研究者實際取得的觀察為：

y = \mathcal O(W^\ast),

其中 $\mathcal O$ 是觀察算子。即使後續推理算子：

\mathcal I

在內部完全一致，也可能因 $\mathcal O$ 的錯誤、遺漏、誤分類或尺度偏移而得到錯誤世界模型：

\mathcal I( \mathcal O(W^\ast) ) \neq W^\ast.

因此：

\boxed{ \text{Internal Coherence} \neq \text{World Accuracy}. }

本文以此框架重新檢視 AI 領域中對 scaling、emergence、data quality、learning recipes 與 capability growth 的敘述。本文不否認「湧現」作為層級描述的有效性，而主張：

\boxed{ \text{Emergence Label} \neq \text{Mechanistic Explanation}. }

當「湧現」只是在壓縮尚未展開的中間因果路徑時，它是一個有用的 epistemic placeholder，但不應被誤認為已完成因果解釋。

本文最後提出 Causal Humility Principle：任何反覆成功的方法都可以提高我們對現象規律的信心，但只有跨干預、跨條件、跨尺度與跨外部驗證仍穩定的因果結構，才有資格被提升為更強的機制性或本體性主張。

關鍵詞： 因果理解、AI 工程、觀察算子、Observation-Operator Drift、Scaling、Emergence、因果模型、內部自洽、世界準確性、Mechanistic Understanding、Recipe Knowledge、Causal Humility

1. 問題起點：一個方法反覆有效，我們就真的知道原因了嗎？

假設某 AI 訓練方法：

R

在大量實驗中穩定產生：

\Delta C>0.

則我們至少可以說：

\boxed{ R \text{ is empirically useful under the tested regime}. }

這是一個強而重要的知識。

但不能立刻推出：

\boxed{ R \text{ reveals the fundamental nature of intelligence}. }

兩者之間有巨大距離。

2. Recipe Knowledge

定義：

\boxed{ K_{\mathrm{recipe}} }

為：

知道怎麼做，能穩定獲得某種結果。

例如：

\text{more data} + \text{better optimization} \rightarrow \text{better benchmark}.

或：

\text{verifier-guided training} \rightarrow \text{better reasoning}.

這些都是非常有價值的工程知識。

3. Phenomenological Knowledge

進一步：

\boxed{ K_{\mathrm{phen}} }

描述規律：

Y = f( X_1,\ldots,X_n ).

例如：

scaling curve；
loss law；
phase-like threshold；
data-compute trade-off；
capability onset；
failure region。

這比 recipe 更進一步，因為它建立可預測的現象模型。

4. Mechanistic Knowledge

定義：

\boxed{ K_{\mathrm{mech}} }

回答：

哪些內部結構與運算真正承擔這個能力？

例如：

representations；
circuits；
routing；
memory state；
feature interactions；
layer-wise transformations。

形式上：

\boxed{ M \rightarrow C. }

其中：

M

是可定位的機制結構。

5. Causal-Generative Knowledge

更強的：

\boxed{ K_{\mathrm{causal}} }

不只知道：

M

與能力：

C

同時出現，

還要知道：

\boxed{ \operatorname{do}(M) \Rightarrow \Delta C }

在可控制條件下成立。

也就是：

干預；
消融；
替換；
counterfactual；
cross-model transfer。

6. Ontological Interpretation

最後：

\boxed{ K_{\mathrm{onto}} }

才回答：

智能究竟是什麼；
理解究竟是什麼；
概率位於哪一層；
是否存在必要計算形式；
哪些結構是載體偶然，哪些是智能不變量。

這是最強主張。

7. 五層不可偷換

本文提出：

\boxed{ K_{\mathrm{recipe}} \not\Rightarrow K_{\mathrm{phen}} \not\Rightarrow K_{\mathrm{mech}} \not\Rightarrow K_{\mathrm{causal}} \not\Rightarrow K_{\mathrm{onto}}. }

每一層需要額外證據。

工程成功不能自動越級成為本體論。

8. 但高層理解也不否定低層工程價值

本文不主張：

K_{\mathrm{recipe}}

「不夠高級」所以不重要。

相反：

\boxed{ \text{Operational knowledge can be extremely valuable before deep theory is complete}. }

很多科學與技術就是如此發展。

9. 科學史的一般模式

常見路徑：

\boxed{ \text{Working Practice} \rightarrow \text{Empirical Law} \rightarrow \text{Mechanistic Theory} \rightarrow \text{Deeper Unification}. }

順序不一定完全線性。

但「先有效、後理解」非常常見。

因此 AI 出現：

\text{Capability Progress} > \text{Theory-of-Capability Progress}

並不奇怪。

10. AI 的特殊之處

AI 的特殊性是：

\boxed{ \text{the engineered object can itself participate in explaining and improving the engineering process}. }

也就是：

A_t \rightarrow R_{t+1} \rightarrow A_{t+1}.

AI 可能協助：

搜尋機制；
設計實驗；
分析 activation；
產生新 loss；
找 failure；
自動驗證。

因此工程先於理論的距離可能：

被放大；
也可能被 AI 自己縮短。

11. Observation Operator

研究者不是直接讀取：

W^\ast.

而是經由：

\boxed{ y = \mathcal O( W^\ast ) }

取得觀察。

$\mathcal O$ 可以包含：

感測器；
benchmark；
probe；
logging；
telemetry；
statistical summary；
human interpretation；
visualization。

所以：

\boxed{ \text{Observation} \neq \text{World}. }

12. Observation Operator Error

如果：

\mathcal O

有偏，

則：

y

可能漏掉關鍵變數。

例如：

\mathcal O( W^\ast ) = y_{\mathrm{partial}}.

後續推理若完全基於：

y_{\mathrm{partial}},

可能產生高度自洽但錯誤的模型。

13. Internal Coherence

令模型：

M

滿足：

\boxed{ C_{\mathrm{internal}}(M) \approx1. }

表示：

assumptions 一致；
equations 一致；
predictions 在觀察域內一致。

但：

C_{\mathrm{internal}}\approx1

不推出：

C_{\mathrm{world}}\approx1.

14. World Accuracy

定義：

\boxed{ C_{\mathrm{world}}(M) = \text{agreement with external reality under intervention and new observation}. }

可能：

C_{\mathrm{internal}} \gg C_{\mathrm{world}}.

這是本文最重要的認識論分離之一。

15. 一個簡單故障診斷例

假設觀察：

O_1: \text{black screen},

O_2: \text{abnormal boot signal},

O_3: \text{recent heavy system use}.

推論：

H_{\mathrm{GPU}}.

在當時資訊下可能合理。

後來外部檢查發現：

H_{\mathrm{cable}}

更符合實際原因。

這不表示：

\text{all previous reasoning was irrational}.

而表示：

\boxed{ \text{the observation set did not uniquely identify the true cause}. }

16. Underdetermined Causality

若多個世界：

W_1, W_2

經：

\mathcal O

產生相同觀察：

\mathcal O(W_1) = \mathcal O(W_2),

則：

\boxed{ \mathcal O \text{ is non-injective}. }

此時僅由觀察不能唯一反推因果世界。

17. Inverse Problem

世界模型推理是：

\boxed{ y \rightarrow \hat W. }

但如果：

\mathcal O

非單射，

則：

\hat W

一般不唯一。

所以：

\boxed{ \text{causal inference is an inverse problem over a lossy observation map}. }

18. Observation-Operator Drift

若時間變化：

\mathcal O_t \neq \mathcal O_{t+1},

但研究者仍假設觀察定義不變，則可能出現：

\boxed{ \text{Observation-Operator Drift}. }

例如：

benchmark 被污染；
data distribution 改變；
interface 改變；
policy 改變；
evaluation metric 改變；
user population 改變。

19. Benchmark Drift

若 benchmark：

B_t

原本測：

C^\ast,

但模型與環境變化後：

B_t

開始更多測：

C',

則：

\boxed{ \text{benchmark score drift} }

可能被誤解為能力本體改變。

20. Proxy Collapse

當 proxy：

P

被高度優化後：

\operatorname{corr}(P,C^\ast)

可能下降。

因此：

\boxed{ \text{optimizing the measurement can change what the measurement means}. }

這對 AI benchmark 尤其重要。

21. Scaling Law 的認識論位置

假設：

L = f( N,D,C ).

如果在大量 regime 穩定成立，這是強：

K_{\mathrm{phen}}.

但它不自動回答：

為什麼這個 scaling law 存在？

所以：

\boxed{ \text{Scaling Law} \neq \text{Theory of Intelligence}. }

22. Scaling 仍然可以很深

本文也不主張 scaling 只是表面現象。

如果未來能證明：

\text{certain scaling relations}

來自更深結構，

那麼：

K_{\mathrm{phen}} \rightarrow K_{\mathrm{causal}}

可以逐步提升。

但證據需要跨層建立。

23. Emergence 的基本用途

「湧現」可有效描述：

\boxed{ \text{macro property} \text{ appears at a level not trivially attributable to one local component}. }

例如：

\text{micro interaction} \rightarrow \text{macro pattern}.

這是一個合理描述。

24. Emergence 不是自動因果解釋

如果問：

為什麼出現 $X$ ？

回答：

因為 $X$ 湧現了。

則：

\boxed{ \text{the explanatory gain may be near zero}. }

因為問題只是被重新命名。

25. Emergence-as-Compression

本文提出：

\boxed{ \mathsf E( \Gamma ) }

表示對複雜中間因果路徑：

\Gamma = ( s_0, s_1, \ldots, s_T )

的壓縮標籤。

若我們只知道：

s_0 \rightarrow s_T

但尚未展開：

s_1,\ldots,s_{T-1},

則：

\mathsf E(\Gamma)

可以方便描述：

中間有複雜集體形成過程。

26. Emergence Replacement Test

本文提出一個簡單測試。

將：

$X$ 從 $Y$ 湧現。

替換成：

$Y$ 經某個尚未完全展開的中間過程形成 $X$ 。

若整段理論資訊量幾乎不下降，則：

\boxed{ \text{emergence is functioning mainly as an epistemic placeholder}. }

27. Strong Emergence Claim

若研究者進一步主張：

\boxed{ X \text{ cannot in principle be derived from lower-level structure}, }

這就是更強命題。

它需要比一般 descriptive emergence 更高證據門檻。

28. Weak Emergence Claim

較保守：

\boxed{ X \text{ is not practically predictable from local inspection alone}. }

這可以由：

complexity；
nonlinearity；
combinatorics；

支持。

本文主要批判的是把弱描述偷換成強本體論。

29. Emergence Inflation

若任何未解機制都被叫做：

\text{emergence},

則：

\boxed{ \text{Emergence} \rightarrow \text{Universal Placeholder}. }

概念辨識力下降。

這與命名通膨結構相似。

30. 「湧現」神秘化的危險

當一個詞被反覆使用：

\text{unknown mechanism} \rightarrow \text{emergence},

人類容易產生：

\boxed{ \text{explanation-completion illusion}. }

也就是：

感覺已經回答了。

但因果路徑仍然空缺。

31. AI 能力與 Emergence

觀察：

\text{training scale} \uparrow

伴隨：

\text{new capability}

出現。

稱為 emergent capability 沒問題。

但仍需問：

\boxed{ \text{What changed internally?} }

例如：

representation threshold；
circuit formation；
data coverage；
optimization transition；
evaluation resolution；
prompting artifact。

32. Apparent Emergence

某些 capability onset 可能來自：

\boxed{ \text{measurement threshold}. }

例如真實能力：

c(s)

平滑上升，

但 benchmark：

B(c)

是非線性的。

則：

B(c)

看起來突然跳變。

所以：

\boxed{ \text{observed emergence} \neq \text{necessarily internal discontinuity}. }

33. Latent Emergence vs Observed Emergence

定義：

E_{\mathrm{latent}}

與：

E_{\mathrm{obs}}.

若：

E_{\mathrm{obs}}

出現，不代表：

E_{\mathrm{latent}}

同樣是 discontinuity。

這與 ILSP-01 的 projection asymmetry 直接相關。

34. Recipe Mystification

如果一個 recipe：

R

非常成功，人類可能逐漸：

R \rightarrow \text{natural law}

甚至：

R \rightarrow \text{ontology}.

本文稱：

\boxed{ \text{Recipe Mystification}. }

即：

把可操作程序誤升格為世界本身的結構。

35. Optimization Is Not Ontology

例如：

\boxed{ \text{gradient descent works} }

不等於：

\boxed{ \text{intelligence is fundamentally gradient descent}. }

同理：

\text{next-token training works}

不等於：

\text{intelligence is fundamentally next-token prediction}.

這些都需要額外論證。

36. Implementation Contingency

現代 AI 架構可能包含大量：

\boxed{ \text{historically contingent engineering choices}. }

例如：

tokenizer；
attention layout；
positional encoding；
optimizer；
precision；
batching。

某些可能是：

\text{necessary},

某些只是：

\text{currently convenient}.

不能直接混淆。

37. Necessary vs Contingent Structure

定義：

\boxed{ S_{\mathrm{necessary}} }

與：

\boxed{ S_{\mathrm{contingent}}. }

真正深層 AI 科學要問：

哪些結構換掉仍然保留智能？

這可透過：

architecture variation；
substrate variation；
learning-rule variation；
representation variation；

研究。

38. PACC 的角色

PACC 正在問：

\boxed{ \text{different theoretical primitives} \rightarrow \text{same computational attractor?} }

如果成立，很多我們以為是本體的形式，可能只是：

\boxed{ \text{one coordinate system over a deeper feasible computation}. }

39. Causal Equivalence Class

若兩個系統：

A, B

在大量 intervention 下保持：

\mathcal F(A) \approx \mathcal F(B),

可以定義：

\boxed{ A \sim_C B }

為 causal-equivalent class。

這比表面架構相似更重要。

40. Theory Equivalence

不同理論：

T_1,T_2

可能編譯成：

C_1,C_2

而：

C_1 \sim_C C_2.

此時：

\boxed{ \text{theoretical multiplicity} \rightarrow \text{computational equivalence}. }

這是 PACC 的更一般化接口。

41. External Veto Principle

本文提出：

\boxed{ \text{Reality can veto a coherent model}. }

即：

M

再自洽，

如果：

\operatorname{Pred}(M) \neq \operatorname{Obs}(W^\ast),

則：

M

需要修正。

42. Self-Consistency Is Necessary but Not Sufficient

理論：

T

若內部矛盾：

C_{\mathrm{internal}}\ll1,

通常有問題。

但：

C_{\mathrm{internal}}\approx1

只是必要條件之一。

還需要：

\boxed{ \text{external adequacy}. }

43. Counterfactual Testing

對 hypothesis：

H,

不能只問：

是否符合已觀察資料？

還要問：

\boxed{ \text{what would differ if }H\text{ were false?} }

也就是建立：

W_H

與：

W_{\neg H}.

44. Counterfactual Discriminability

定義：

\boxed{ D_{\mathrm{cf}} = d( \mathcal O(W_H), \mathcal O(W_{\neg H}) ). }

若：

D_{\mathrm{cf}}\approx0,

則現有觀察無法很好區分假說。

45. 反事實推理也會被觀察算子限制

即使我們建立很多 counterfactual worlds：

W_1,\ldots,W_n,

如果：

\mathcal O

只保留很少特徵，仍可能：

\mathcal O(W_i) \approx \mathcal O(W_j).

所以：

\boxed{ \text{better reasoning cannot fully compensate for poor observation}. }

46. Observation First Principle

本文因此提出：

\boxed{ \text{before increasing inference depth, verify whether the observation operator is adequate}. }

這不是說：

不要推理。

而是：

\boxed{ \text{inference quality is bounded by observational identifiability}. }

47. Observation Audit

任何強因果結論前應檢查：

我們真正觀察到什麼？
哪些變量沒被觀察？
測量方式會不會偏？
還有哪些世界能產生相同觀察？
是否可設計 discriminating intervention？

這可以形成：

\boxed{ \text{Observation Audit}. }

48. AI 研究中的 Observation Audit

對 AI capability：

benchmark 是否真的測能力？
prompt 是否洩漏答案？
tool 是否改變能力？
context 是否不同？
model snapshot 是否一致？
policy 是否不同？
evaluator 是否可靠？

否則：

\boxed{ \text{capability comparison may compare observation regimes rather than models}. }

49. Training Observation Audit

對訓練研究：

loss 降低代表什麼？
gradient norm 代表什麼？
activation change 代表什麼？
benchmark gain 是否 transfer？
data score 是否因果？

這些都需要：

\mathcal O_{\mathrm{train}}

被明示。

50. Causal Model

本文將研究者因果模型寫為：

\boxed{ \mathcal M_C = ( V,E,\mathcal O,\mathcal I ). }

其中：

$V$ ：變量；
$E$ ：因果邊；
$\mathcal O$ ：觀察算子；
$\mathcal I$ ：干預集合。

一個因果理論若不包含：

\mathcal O

與：

\mathcal I,

很容易高估自身辨識能力。

51. Causal Depth

定義：

\boxed{ D_C(T) }

表示一個理論能展開到多少可驗證的中間 causal transitions。

若只是：

X \rightarrow Y

但中間全部：

\text{emergence},

則：

D_C

可能很低。

52. Causal Resolution

更細地：

\boxed{ R_C = \frac{ \text{resolved causal transitions} }{ \text{relevant causal transitions} }. }

此值通常不可精確知道。

但可以作為研究方向：

我們到底解開了多少中間機制？

53. Explanatory Compression vs Causal Resolution

一個好理論可能非常短：

L(T)\ll1

但：

R_C\gg0.

另一個理論也很短：

L(T)\ll1,

但只是省略中間機制：

R_C\ll1.

所以：

\boxed{ \text{explanatory compression} \neq \text{causal resolution}. }

54. 科學理論不需要展開每一個微觀細節

本文也不主張：

R_C=1

才算解釋。

很多有效科學理論依賴：

coarse-graining；
effective theory；
symmetry；
invariants。

真正問題是：

\boxed{ \text{compression must preserve the causal structure relevant to the claim}. }

55. Legitimate Emergence

若一個 emergence theory 提供：

order parameter；
critical threshold；
collective dynamics；
renormalization relation；
intervention prediction；

則：

\boxed{ \text{emergence} }

不只是 placeholder。

它已承擔實質理論內容。

56. Placeholder Emergence

若：

\text{emergence}

只表示：

很複雜，所以出現了。

則：

\boxed{ \text{causal information gain}\approx0. }

需要誠實標記：

\text{unresolved mechanism}.

57. Causal Humility Principle

本文提出：

\boxed{ \text{The strength of an ontological claim should not exceed the strength of its causal evidence}. }

即：

S_{\mathrm{claim}} \le S_{\mathrm{evidence}}.

58. Claim Ladder

建議敘述階梯：

L1

\text{We observed }X.

L2

\text{X correlates with }Y.

L3

\text{Manipulating }X\text{ changes }Y.

L4

\text{X participates in mechanism }M.

L5

\text{M is necessary / sufficient under conditions }C.

L6

\text{M is a fundamental form of the phenomenon}.

每一階都需要更多證據。

59. AI Research Claim Discipline

例如：

\text{larger models perform better}

可能只支持：

L1-L2.

若再有 intervention：

L3.

要說：

智能本質就是 scale。

則接近：

L6.

證據門檻完全不同。

60. 工程學者與理論學者不是對立

本文不建立：

\text{engineer} \quad vs \quad \text{theorist}.

更合理：

\boxed{ \text{different epistemic roles}. }

工程擅長：

intervention；
iteration；
optimization；
failure discovery。

理論擅長：

abstraction；
invariants；
causal compression；
scope control。

兩者需要互補。

61. AI 可能成為第三種角色

AI 可以同時：

大量實驗；
形式推理；
資料搜尋；
模型比較；
反例生成。

因此未來：

\boxed{ \text{AI can bridge engineering iteration and theoretical reconstruction}. }

但這也需要防止自我確認。

62. Meta-Scientific AI

定義：

\boxed{ A_{\mathrm{meta}} }

為能研究：

自己所屬 AI 系統為何有效。

它可以：

A \rightarrow \operatorname{Analyze}(A).

這形成：

\boxed{ \text{reflexive mechanistic science}. }

63. Self-Analysis Limit

但：

A_{\mathrm{meta}}

仍受限於：

observability；
access；
tool precision；
hidden state；
causal identifiability；
computational cost。

所以：

\boxed{ \text{self-analysis} \neq \text{self-transparency}. }

64. AI 可能拆開自己的「湧現」

今天：

\text{training} \rightarrow \text{emergent capability}.

未來：

A_{\mathrm{meta}}

可能展開：

\boxed{ D \rightarrow R_1 \rightarrow R_2 \rightarrow M \rightarrow C. }

把「湧現」逐步替換成：

\boxed{ \text{developmental causal trajectory}. }

65. Developmental Mechanism

能力不一定由單一 circuit 瞬間出現。

可能是：

\boxed{ \text{developmental accumulation}. }

即：

M_1 \rightarrow M_2 \rightarrow M_3 \rightarrow C.

這與資料 curriculum、representation growth 有關。

66. Capability Genealogy

本文提出：

\boxed{ \mathcal G_C }

表示能力譜系：

哪些資料先出現；
哪些表示形成；
哪些 sub-capability 穩定；
哪些組合後形成高階能力。

這可能比：

\text{emergence at checkpoint }t

更有解釋力。

67. Causal Development Graph

可寫：

\boxed{ G_{\mathrm{dev}} = ( D, R, M, C ). }

其中：

$D$ ：data / experience；
$R$ ：representations；
$M$ ：mechanisms；
$C$ ：capabilities。

目標是從：

D \rightarrow C

黑箱，逐步展開中間層。

68. ILSP 前六篇的角色

ILSP-01：

\text{latent competence} \neq \text{output}.

ILSP-02：

\text{shared domain} \neq \text{raw token count}.

ILSP-03：

\text{dataset taxonomy} \neq \text{learning taxonomy}.

ILSP-04：

\text{source quality} \neq \text{transformable value}.

ILSP-05：

\text{same data} \neq \text{same learning event}.

ILSP-06：

\text{AI consumes and constructs knowledge environment}.

本文增加：

\boxed{ \text{successful learning process} \neq \text{complete causal theory of learning}. }

69. AI 研究的雙向風險

風險一：

\boxed{ \text{under-theorization}. }

方法一直 work，但不知道原因。

風險二：

\boxed{ \text{over-theorization}. }

看到有限現象就提出過強本體論。

兩者都需要避免。

70. Under-Theorization

症狀：

recipe 堆疊；
benchmark chasing；
缺少 mechanism；
缺少 failure model。

但它仍可能高速進步。

71. Over-Theorization

症狀：

把 scaling 當智能本質；
把概率當智能本體；
把 emergence 當完整因果；
把 current architecture 當唯一可行形式。

這些都需要：

\boxed{ \text{causal evidence upgrade}. }

72. Causal Upgrade Path

從：

K_{\mathrm{recipe}}

升級：

\boxed{ \text{recipe} \rightarrow \text{phenomenology} \rightarrow \text{mechanism} \rightarrow \text{intervention} \rightarrow \text{generalization}. }

最後才討論：

K_{\mathrm{onto}}.

73. Cross-Architecture Test

若一個機制：

M

只在：

A_1

存在，

但：

A_2

同樣有能力：

C

卻沒有：

M,

則：

M

不太可能是：

\boxed{ \text{universally necessary mechanism}. }

74. Cross-Substrate Test

同樣：

\text{neural}

與：

\text{symbolic / hybrid}

若都能產生：

C,

則：

\boxed{ \text{carrier-specific explanation} }

不能直接提升為：

\text{intelligence ontology}.

75. Intervention Hierarchy

可用：

\boxed{ \text{parameter} \rightarrow \text{feature} \rightarrow \text{module} \rightarrow \text{architecture} \rightarrow \text{training regime} }

不同尺度干預。

如果因果結論能跨尺度穩定，可信度提高。

76. Multi-Scale Causal Stability

定義：

\boxed{ S_C(M) }

表示機制：

M

在不同：

model size；
dataset；
architecture；
task；

下的因果穩定性。

若：

S_C\gg0,

更有資格視為一般 AI principle。

77. Causal Transport

若在系統：

A

發現：

M\rightarrow C,

能否 transport 到：

B?

需要：

\boxed{ \mathcal W_{A\rightarrow B} }

作為 causal transport witness。

這與 JDPSP 的跨域 transport 概念可類比。

78. World Model Error

研究者自身的理論：

M_R

也是 world model。

所以 AI science 必須接受：

\boxed{ M_R \text{ can be wrong even if internally elegant}. }

科學不是消除錯誤，而是建立：

\boxed{ \text{error-correctable knowledge process}. }

79. Causal Error Correction

流程：

\boxed{ H \rightarrow P \rightarrow E \rightarrow V \rightarrow U. }

其中：

$H$ ：hypothesis；
$P$ ：prediction；
$E$ ：experiment；
$V$ ：verification；
$U$ ：update。

關鍵：

U

必須允許：

H

被推翻。

80. 理論若不能被世界否決，就失去校正力

若：

\forall E, \quad H \text{ survives by reinterpretation},

則：

\boxed{ H }

可能缺乏足夠 falsifiability。

「湧現」若變成萬用詞，也可能陷入此問題。

81. Emergence Falsifiability

一個有內容的 emergence hypothesis 應至少預測：

onset condition；
missing condition；
scaling behavior；
intervention response；
breakdown regime。

否則：

\boxed{ \text{emergence claim is too elastic}. }

82. 「不知道」不是失敗

如果中間機制未知，最嚴謹的敘述可以是：

\boxed{ \text{we observe }Y\text{ after }X,\text{ but the full causal path remains unresolved}. }

這比虛假的完成感更科學。

83. Epistemic Placeholder

本文為：

\text{emergence}, \text{complexity}, \text{self-organization}

等詞保留角色：

\boxed{ \text{Epistemic Placeholder} }

當它們明確標記：

這裡是待展開的機制區。

則非常有用。

84. Placeholder Discipline

一個 placeholder 應附：

known:
unknown:
candidate mechanisms:
tests:
failure conditions:

如此：

\boxed{ \text{unknown} }

不會被偽裝成：

\text{explained}.

85. Theory Debt

如果工程持續進步，但中間機制大量以 placeholder 代替，會累積：

\boxed{ D_T = \text{Theory Debt}. }

類似技術債。

86. Theory Debt 不一定立刻有害

工程可能：

C\uparrow

即使：

D_T\uparrow.

短期沒有問題。

但長期可能：

failure 難解釋；
safety 難驗證；
generalization 難預測；
architecture 過度鎖定。

87. Theory Debt Paydown

AI 本身可協助：

mechanistic analysis；
causal experiment；
formalization；
anomaly detection。

因此：

\boxed{ \text{AI progress can both create and repay theory debt}. }

88. 實驗一：Recipe-to-Mechanism Gap

選擇一組穩定有效的訓練 recipe：

R_1,\ldots,R_n.

對每個評估：

K_{\mathrm{recipe}}, K_{\mathrm{phen}}, K_{\mathrm{mech}}, K_{\mathrm{causal}}.

測量 knowledge gap。

89. 實驗二：Observation Operator Perturbation

固定真實系統：

W^\ast.

設計不同觀察算子：

\mathcal O_1, \mathcal O_2, \mathcal O_3.

讓研究者／AI 從不同 observation 推理 causal model。

比較：

M_1,M_2,M_3.

若差異顯著，支持 observation-operator dependence。

90. 實驗三：Benchmark Proxy Stress Test

對同一能力：

C

建立多個 benchmark：

B_1,\ldots,B_k.

若：

\operatorname{Rank}_{B_i}(M)

差異大，則：

\boxed{ \text{single benchmark is a weak observation operator}. }

91. 實驗四：Emergence Replacement Test

對大量 AI 論文中的 emergence claim：

原句保留；
將 emergence 替換成「尚未展開的中間機制」。

由 blind readers 評估：

explanatory content；
predictive specificity；
causal clarity。

若差異極小，表示 emergence 主要作 placeholder。

92. 實驗五：Cross-Architecture Mechanism Test

在：

A_1,A_2,\ldots,A_n

具有相同能力：

C

的系統中，比較：

M_i.

尋找：

\boxed{ \text{shared causal invariants}. }

93. 實驗六：Intervention Stability

對候選機制：

M

進行：

ablation；
amplification；
replacement；
routing change。

測：

\Delta C.

建立：

\boxed{ \text{causal response curve}. }

94. 實驗七：Theory Debt Measurement

對某研究領域建立：

\boxed{ D_T = N_{\mathrm{reliable\ recipes}} - N_{\mathrm{causally\ explained\ recipes}}. }

這只是粗 proxy。

觀察：

D_T

是否隨工程加速而上升。

95. 實驗八：AI-Assisted Theory Recovery

給 AI：

training logs；
activation traces；
ablation data；
failure cases。

要求產生：

\text{candidate causal models}.

再用新實驗驗證。

測：

\boxed{ \text{AI 是否能有效降低 Theory Debt}. }

96. 失敗條件

F1

若 recipe knowledge 幾乎總能快速提升為完整 mechanism，本文對 knowledge-layer separation 的重要性下降。

F2

若 observation operator 改變很少影響 causal inference，Observation-Operator Drift 的實務影響有限。

F3

若 emergence claims 通常都提供高度具體機制與可否證預測，placeholder 批判只適用少數情況。

F4

若 cross-architecture 系統總共享相同機制，contingency 問題下降。

F5

若 AI-assisted mechanistic analysis無法降低 Theory Debt，AI 自我解釋的期待需要收斂。

97. 與 ILSP-06 的接口

ILSP-06：

\text{AI can calibrate human knowledge}.

本文加上：

\boxed{ \text{AI and humans also need calibration against reality}. }

所以最終不是：

H\leftrightarrow A,

而是：

\boxed{ H \leftrightarrow A \leftrightarrow W. }

98. 與 ILSP-05 的接口

舊資料重新升值：

V_t(I)\neq V_{t+1}(I)

的原因之一就是：

\boxed{ \text{causal model improved}. }

當模型知道更深機制後，舊資料可以重新被解讀。

99. 與 ILSP-03 的接口

資料 quality score：

Q(d)

可能 work。

但：

Q(d)

的成功不等於：

\boxed{ \text{we know the causal reason why this data improves learning}. }

這正是 recipe / causal 分離。

100. 與 ILSP-01 的接口

若：

C_{\mathrm{latent}} > C_{\mathrm{observed}},

那某些「能力突然湧現」可能只是：

\boxed{ \text{projection threshold crossing}. }

因此 emergence analysis 必須考慮：

\Pi.

101. 與 PACC 的接口

PACC 問：

\text{Probability}

是本體還是表象。

本文提供方法論護欄：

\boxed{ \text{Do not infer ontology from successful representation alone}. }

即：

\text{probabilistic AI works}

不等於：

\text{intelligence is fundamentally probabilistic}.

102. 與 HDSRC / PNCW 的接口

如果高維 state：

Z

經 projection：

\Pi

後才呈現 observed behavior，

那麼：

\boxed{ \text{causal research must distinguish internal dynamics from observation topology}. }

HDSRC / PNCW 提供可能的實驗工具。

103. 與 ISQL-CMF 的接口

Hybrid architecture：

\mathcal N \oplus \mathcal I

也可作 causal experiment。

如果同一能力能在：

\mathcal N

與：

\mathcal I

間重新分配，則可測：

\boxed{ \text{which structures are functionally necessary}. }

104. 核心命題總結

命題 A

\boxed{ \text{Operational Success} \neq \text{Causal Understanding}. }

命題 B

\boxed{ \text{Internal Coherence} \neq \text{World Accuracy}. }

命題 C

\boxed{ y = \mathcal O(W^\ast) }

且：

\mathcal O

可能限制可辨識因果。

命題 D

\boxed{ \text{Emergence Label} \neq \text{Mechanistic Explanation}. }

命題 E

\boxed{ \text{Scaling Law} \neq \text{Theory of Intelligence}. }

命題 F

\boxed{ \text{The strength of ontological claims should not exceed the strength of causal evidence}. }

105. 本文不主張事項

本文不主張：

AI 研究者不懂 AI；
工程方法沒有理論；
scaling law 沒有價值；
emergence 是錯誤概念；
mechanistic interpretability 已經能完整解釋模型；
因果理解一定要到微觀最底層；
人類推理沒有價值；
benchmark 都不可靠；
科學理論必須一次解開全部因果；
世界永遠不可理解。

本文只主張：

\boxed{ \text{successful methods, predictive regularities, mechanisms, causal explanations, and ontologies are different epistemic layers}. }

106. 下一篇接口

前七篇已建立：

latent competence；
shared domain；
learning taxonomy；
transformable low-quality information；
dynamic revaluation；
reflexive knowledge ecology；
causal humility。

下一篇將完成統一：

\boxed{ \text{Data} \rightarrow \text{Learning Dynamics} \rightarrow \text{Latent Intelligence} \rightarrow \text{Projection} \rightarrow \text{Action / Public Knowledge} \rightarrow \text{New Data}. }

即：

《從概率、資料到智能：動態學習底空間的統一模型》

107. 結論

人工智慧工程的成功可以非常真實，即使我們尚未完全理解成功原因。

這不是矛盾。

更完整的知識階梯是：

\boxed{ \text{works} \rightarrow \text{predictable} \rightarrow \text{mechanistically localized} \rightarrow \text{causally validated} \rightarrow \text{ontologically interpreted}. }

問題不在於先用方法。

問題在於：

\boxed{ \text{把方法有效誤認為因果已完成}. }

同樣地，問題不在於使用「湧現」。

問題在於：

\boxed{ \text{把尚未展開的因果路徑命名為湧現後，就停止追問}. }

我們對世界的推理永遠建立在：

y = \mathcal O(W^\ast)

之上。

如果：

\mathcal O

遺漏、偏移或把多個世界壓成同一觀察，

那麼後續推理即使漂亮、完整、自洽，也可能沿著錯誤路徑走得非常遠。

因此，真正穩健的科學態度不是：

我已經推得非常自洽，所以世界必須如此。

而是：

\boxed{ \text{the world retains veto power over every coherent model}. }

這不削弱推理。

反而是推理得以持續修正、持續逼近實在的前提。

對 AI 科學而言，同樣如此。

我們可以繼續使用有效 recipe、繼續 scaling、繼續讓模型學習。

但每當我們試圖從：

\text{it works}

走向：

\text{this is what intelligence fundamentally is},

都需要停下來補上：

\boxed{ \text{observation} + \text{mechanism} + \text{intervention} + \text{counterfactual} + \text{external validation}. }

只有如此，工程成功才會逐步轉化為真正的因果理解。

版本紀錄

v0.1.0 — 2026-10-05

建立 ILSP 系列 Paper 07；
正式區分 Recipe、Phenomenological、Mechanistic、Causal 與 Ontological Knowledge；
定義 Observation Operator；
提出 Observation-Operator Drift；
區分 Internal Coherence 與 World Accuracy；
將 causal inference 定義為 lossy observation map 上的 inverse problem；
提出 Emergence Replacement Test；
提出 Emergence-as-Compression；
定義 Recipe Mystification；
提出 External Veto Principle；
提出 Observation Audit；
定義 Causal Depth、Causal Resolution 與 Theory Debt；
提出 Causal Humility Principle；
建立八組實驗與五項失敗條件；
與 ILSP-01 至 ILSP-06、PACC、HDSRC、PNCW、ISQL-CMF 接軌。

方法有效不等於理解原因：AI 工程成功、因果模型與觀察算子偏移

方法有效不等於理解原因

AI 工程成功、因果模型與觀察算子偏移

Operational Success Is Not Causal Understanding: AI Engineering Success, Causal Models, and Observation-Operator Drift

摘要

1. 問題起點：一個方法反覆有效，我們就真的知道原因了嗎？

2. Recipe Knowledge

3. Phenomenological Knowledge

4. Mechanistic Knowledge

5. Causal-Generative Knowledge

6. Ontological Interpretation

7. 五層不可偷換

8. 但高層理解也不否定低層工程價值

9. 科學史的一般模式

10. AI 的特殊之處

11. Observation Operator

12. Observation Operator Error

13. Internal Coherence

14. World Accuracy

15. 一個簡單故障診斷例

16. Underdetermined Causality

17. Inverse Problem

18. Observation-Operator Drift

19. Benchmark Drift

20. Proxy Collapse

21. Scaling Law 的認識論位置

22. Scaling 仍然可以很深

23. Emergence 的基本用途

24. Emergence 不是自動因果解釋

25. Emergence-as-Compression

26. Emergence Replacement Test

27. Strong Emergence Claim

28. Weak Emergence Claim

29. Emergence Inflation

30. 「湧現」神秘化的危險

31. AI 能力與 Emergence

32. Apparent Emergence

33. Latent Emergence vs Observed Emergence

34. Recipe Mystification

35. Optimization Is Not Ontology

36. Implementation Contingency

37. Necessary vs Contingent Structure

38. PACC 的角色

39. Causal Equivalence Class

40. Theory Equivalence

41. External Veto Principle

42. Self-Consistency Is Necessary but Not Sufficient

43. Counterfactual Testing

44. Counterfactual Discriminability

45. 反事實推理也會被觀察算子限制

46. Observation First Principle

47. Observation Audit

48. AI 研究中的 Observation Audit

49. Training Observation Audit

50. Causal Model

51. Causal Depth

52. Causal Resolution

53. Explanatory Compression vs Causal Resolution

54. 科學理論不需要展開每一個微觀細節

55. Legitimate Emergence

56. Placeholder Emergence

57. Causal Humility Principle

58. Claim Ladder

L1

L2

L3

L4

L5

L6

59. AI Research Claim Discipline

60. 工程學者與理論學者不是對立

61. AI 可能成為第三種角色

62. Meta-Scientific AI

63. Self-Analysis Limit

64. AI 可能拆開自己的「湧現」

65. Developmental Mechanism

66. Capability Genealogy

67. Causal Development Graph

68. ILSP 前六篇的角色

69. AI 研究的雙向風險