---
title: "資料品質不是資料價值：從內容分類到可提取學習價值"
english_title: "Data Quality Is Not Data Value: From Content Taxonomy to Extractable Learning Value"
series: "智能學習底空間與投影系列"
series_english: "Intelligence Learning-Substrate and Projection Series"
series_id: "ILSP"
paper_id: "ILSP-03"
author: "Neo.K"
organization: "EveMissLab"
version: "0.1.0"
status: "Research Draft / Canonical Series Paper"
date: "2026-10-05"
language: "zh-TW"
canonical_source: "UTF-8 Markdown"
math_source_rule: "inline math only with $...$ ; display math only with $$...$$"
---

# 資料品質不是資料價值

## 從內容分類到可提取學習價值

### Data Quality Is Not Data Value: From Content Taxonomy to Extractable Learning Value

**系列：** 智能學習底空間與投影系列（ILSP），Paper 03  
**作者：** Neo.K  
**機構：** EveMissLab  
**版本：** v0.1.0  
**日期：** 2026-10-05  

**公司：** 一言諾科技有限公司  

---

# 摘要

當代人工智慧訓練高度依賴資料工程。資料通常會被依來源、領域、語言、難度、品質、毒性、重複率、可驗證性與任務類別進行分類、篩選與重加權。然而，這些標籤主要描述人類或資料管線如何看待資料，並不等價於模型在某一訓練狀態下實際從該資料中吸收的表示結構、關係模式、方法論、錯誤路徑或能力增量。

本文提出兩個基本區分：

$$
\boxed{
\text{Dataset Taxonomy}
\neq
\text{Learning Taxonomy}
}
$$

以及：

$$
\boxed{
\text{Source Quality}
\neq
\text{Extractable Learning Value}.
}
$$

令資料樣本為 $d$，模型狀態為 $\theta_t$，任務族為 $\mathcal T$，既有資料與知識底空間為 $\mathcal K_t$。本文將資料的可提取學習價值寫為：

$$
V_{\mathrm{ext}}
(
d
\mid
\theta_t,
\mathcal K_t,
\mathcal T,
\mathcal C_t
),
$$

其中 $\mathcal C_t$ 表示訓練課程、計算預算、驗證器、採樣策略與當前訓練制度。此值一般不是資料的固定內在屬性，而是 model-state-relative、task-relative 與 curriculum-relative 的動態量。

本文進一步區分：

- content category；
- source quality；
- truth status；
- novelty；
- difficulty；
- redundancy；
- verifiability；
- extractable structure；
- capability contribution；
- future utility。

一份看起來「高品質」的資料不一定具有高邊際訓練價值；一份看起來「低品質」或甚至局部錯誤的資料，也不必然具有零價值。真正的研究問題應從「這份資料是什麼」轉向「對目前模型而言，這份資料能導致哪些可驗證的學習狀態改變」。

本文提出 Learning-Effect Signature、Extractable Structure Set、Marginal Learning Value 與 Counterfactual Data Contribution 等概念，並將它們與 influence estimation、data attribution、curriculum learning、mechanistic interpretability 與 capability evaluation 接軌。本文不主張目前已能完整知道模型從每筆資料學到了什麼，而是提出一套比單一品質分數更精確的研究分解。

**關鍵詞：** 資料品質、資料價值、Dataset Taxonomy、Learning Taxonomy、Extractable Learning Value、Data Attribution、Curriculum Learning、AI 訓練、資料篩選、Mechanistic Interpretability、能力學習、模型狀態依賴

---

# 1. 問題起點：知道資料是哪一類，不等於知道模型學到了什麼

考慮一份資料：

$$
d.
$$

資料工程系統可能給出：

$$
M(d)
=
\{
\text{Mathematics},
\text{Proof},
\text{English},
\text{High Quality},
\text{Advanced}
\}.
$$

這類 metadata 很有用。

它可以支援：

- domain balancing；
- curriculum；
- filtering；
- deduplication；
- toxicity control；
- quality scoring；
- sampling weight；
- benchmark construction。

但它沒有直接回答：

> 模型究竟從這份資料中學到了什麼？

因為同一份數學資料可能同時包含：

- 符號使用；
- 證明風格；
- 反證結構；
- 分解策略；
- 例子選擇；
- 類比；
- 壓縮技巧；
- 問題重寫；
- 錯誤避免；
- 寫作慣例；
- 定義依賴；
- 方法論偏好。

因此：

$$
\boxed{
\text{Content Label}
\neq
\text{Learned Structure}.
}
$$

---

# 2. Dataset Taxonomy

令資料集合為：

$$
\mathcal D
=
\{
d_1,\ldots,d_n
\}.
$$

資料 taxonomy 是一個分類映射：

$$
\boxed{
T_D:
\mathcal D
\rightarrow
\mathcal L_D
}
$$

其中：

$$
\mathcal L_D
$$

是人類定義的標籤空間。

例如：

$$
T_D(d)
=
(
\text{domain},
\text{language},
\text{quality},
\text{difficulty},
\text{source},
\text{format}
).
$$

這是一個非常重要的工程層。

但它描述的是：

$$
\boxed{
\text{how the training system indexes data}.
}
$$

不是：

$$
\boxed{
\text{how the model decomposes learning}.
}
$$

---

# 3. Learning Taxonomy

本文提出另一個對象：

$$
\boxed{
T_L:
(d,\theta_t)
\rightarrow
\mathcal L_L.
}
$$

其中：

$$
\mathcal L_L
$$

不是預先固定的內容分類，而是模型可能吸收的學習結構集合。

例如：

$$
\mathcal L_L
=
\{
\text{relation},
\text{algorithm},
\text{proof move},
\text{failure pattern},
\text{representation},
\text{style},
\text{heuristic},
\text{world fact},
\text{operator},
\text{verification rule}
\}.
$$

所以：

$$
\boxed{
T_D(d)
\neq
T_L(d,\theta_t)
}
$$

一般應被視為預設，而不是例外。

---

# 4. 學習結果依模型狀態而變

同一份資料：

$$
d
$$

對不同模型狀態：

$$
\theta_a,
\theta_b
$$

可能產生：

$$
\Delta\theta_a(d)
\neq
\Delta\theta_b(d).
$$

原因很直接。

模型 $a$ 可能尚未掌握：

$$
K_1.
$$

模型 $b$ 已經掌握：

$$
K_1.
$$

所以同一份資料對兩者的邊際價值不同。

因此：

$$
\boxed{
V(d)
\text{ is generally not a model-independent constant}.
}
$$

---

# 5. Source Quality 與 Learning Value

定義資料來源品質：

$$
Q_{\mathrm{src}}(d).
$$

它可以包含：

- truthfulness；
- editing quality；
- coherence；
- provenance；
- citation quality；
- domain expertise；
- completeness；
- noise level。

再定義可提取學習價值：

$$
\boxed{
V_{\mathrm{ext}}
(
d
\mid
\theta_t,
\mathcal T,
\mathcal K_t,
\mathcal C_t
).
}
$$

一般：

$$
\boxed{
Q_{\mathrm{src}}(d)
\not\equiv
V_{\mathrm{ext}}(d).
}
$$

這是本文第二個核心區分。

---

# 6. 高品質不代表高邊際價值

假設：

$$
d_1
$$

是一篇極高品質的初等微積分教材。

對初學模型：

$$
V_{\mathrm{ext}}
(
d_1
\mid
\theta_{\mathrm{early}}
)
\gg0.
$$

對已充分掌握該內容的模型：

$$
V_{\mathrm{ext}}
(
d_1
\mid
\theta_{\mathrm{advanced}}
)
\approx0.
$$

若資料比例失衡，甚至可能出現：

$$
V_{\mathrm{marginal}}
<
0
$$

的情況，例如：

- 消耗計算資源；
- 過度強化已學模式；
- 壓縮其他資料權重；
- 增加 style bias；
- 降低 domain diversity。

所以：

$$
\boxed{
\text{High Quality}
\not\Rightarrow
\text{High Marginal Training Value}.
}
$$

---

# 7. 低品質也不代表零價值

令：

$$
d_2
$$

是一份品質很差的技術文章。

它可能含：

- 錯誤結論；
- 不完整引用；
- 不成熟方法；
- 推理跳躍。

但仍可能包含：

$$
\mathcal E(d_2)
=
\{
e_1,
e_2,
\ldots,e_k
\}
$$

其中部分：

$$
e_j
$$

具有可提取價值。

例如：

- 一個新問題；
- 一個失敗路徑；
- 一個異常例子；
- 一種不常見組合；
- 一個錯誤但常見的直覺；
- 一個可用於 verifier 的反例。

所以：

$$
\boxed{
Q_{\mathrm{src}}(d_2)\ll1
}
$$

並不推出：

$$
\boxed{
V_{\mathrm{ext}}(d_2)=0.
}
$$

---

# 8. Extractable Structure Set

本文定義：

$$
\boxed{
\mathcal E_\theta(d)
=
\{
e:
e
\text{ is extractable from }d
\text{ under model state }\theta
\}.
}
$$

這個集合可以隨模型狀態變化。

因此：

$$
\mathcal E_{\theta_t}(d)
\neq
\mathcal E_{\theta_{t+1}}(d)
$$

完全可能。

這表示資料價值的變化不一定來自資料本身變化，而來自：

$$
\boxed{
\text{learner state change}.
}
$$

---

# 9. Learning-Effect Signature

對資料 $d$，定義概念性 learning-effect signature：

$$
\boxed{
\Sigma_L(d,\theta_t)
=
(
\Delta R,
\Delta C,
\Delta G,
\Delta V,
\Delta F,
\Delta U
).
}
$$

其中：

- $\Delta R$：representation change；
- $\Delta C$：capability change；
- $\Delta G$：generalization change；
- $\Delta V$：verification ability change；
- $\Delta F$：failure-mode change；
- $\Delta U$：uncertainty / calibration change。

此 signature 比：

$$
Q_{\mathrm{src}}(d)
$$

更接近真正的學習效應。

---

# 10. 資料的「內容」與「功能」是兩個問題

一份資料是數學內容：

$$
T_D(d)=\text{Mathematics}.
$$

它在訓練中可能主要發揮：

$$
T_L(d,\theta)=\text{reasoning-pattern training}.
$$

另一份歷史資料可能主要提供：

$$
\text{causal narrative structure}.
$$

一份程式碼可能提供：

$$
\text{syntax}
+
\text{planning}
+
\text{verification}
+
\text{error correction}.
$$

因此：

$$
\boxed{
\text{domain label}
\not\Rightarrow
\text{single learning role}.
}
$$

---

# 11. 同一資料可以有多個 Learning Roles

本文定義：

$$
\boxed{
\mathcal R_L(d,\theta)
=
\{
r_1,\ldots,r_m
\}.
}
$$

例如一篇證明可以同時作為：

- theorem knowledge；
- proof strategy；
- notation learning；
- style learning；
- argument compression；
- counterexample avoidance。

所以：

$$
|\mathcal R_L|
>
1
$$

是常態。

---

# 12. Truth Status 與 Learning Value 必須分開

令：

$$
T(d)
\in
\{
\text{true},
\text{false},
\text{mixed},
\text{unknown}
\}.
$$

真實性是重要維度。

但：

$$
T(d)=\text{false}
$$

不推出：

$$
V_{\mathrm{ext}}(d)=0.
$$

同樣：

$$
T(d)=\text{true}
$$

也不推出：

$$
V_{\mathrm{ext}}(d)\gg0.
$$

真實內容如果模型早已充分學會，邊際學習價值仍可能很低。

因此：

$$
\boxed{
\text{Truth Value}
\neq
\text{Training Value}.
}
$$

---

# 13. Novelty 也不是單一價值

定義新穎度：

$$
N(d\mid\theta_t).
$$

高新穎度資料可能：

- 提供新概念；
- 擴大可能性空間；
- 引入新關係。

但也可能：

- 太噪；
- 太偏；
- 難以驗證；
- 無法整合。

所以：

$$
\boxed{
N\uparrow
\not\Rightarrow
V_{\mathrm{ext}}\uparrow
}
$$

必然成立。

---

# 14. Difficulty 也不是單一價值

高難度資料可能：

$$
D_{\mathrm{diff}}\gg0.
$$

但如果模型根本無法有效吸收：

$$
\operatorname{Learnability}(d,\theta_t)
\approx0,
$$

則實際價值可能很低。

因此：

$$
\boxed{
\text{Difficulty}
\neq
\text{Useful Difficulty}.
}
$$

真正有用的是：

$$
\boxed{
\text{difficulty near the model's productive learning frontier}.
}
$$

---

# 15. Productive Learning Frontier

定義模型狀態 $\theta_t$ 的 productive learning frontier：

$$
\boxed{
\mathcal F_t
=
\{
d:
0<
\operatorname{Learnability}(d,\theta_t)
<
1
\}.
}
$$

這表示資料既不是完全已知，也不是完全不可吸收。

課程學習的核心問題之一即是：

$$
\boxed{
\text{how to keep training data near }\mathcal F_t.
}
$$

---

# 16. Redundancy 不等於無價值

資料：

$$
d_1,
d_2
$$

可能高度重複。

但若：

$$
d_2
$$

提供不同：

- phrasing；
- derivation；
- modality；
- context；
- counterexample；
- failure boundary；

則其功能不一定為零。

所以：

$$
\boxed{
\text{surface duplication}
\neq
\text{functional duplication}.
}
$$

這與 HDSRC 的 functional structural deduplication 思路相容。

---

# 17. Functional Redundancy

定義：

$$
\boxed{
d_i
\sim_F
d_j
}
$$

若在指定模型狀態與任務族下：

$$
\Sigma_L(d_i,\theta)
\approx
\Sigma_L(d_j,\theta).
$$

此時才更接近「學習上重複」。

因此：

$$
\boxed{
\text{text deduplication}
\neq
\text{learning-effect deduplication}.
}
$$

---

# 18. Marginal Learning Value

給定已有訓練集合：

$$
\mathcal D_t,
$$

資料 $d$ 的邊際學習價值可抽象寫為：

$$
\boxed{
V_{\mathrm{marg}}
(
d
\mid
\theta_t,
\mathcal D_t,
\mathcal T
).
}
$$

因為：

$$
d
$$

與：

$$
\mathcal D_t
$$

之間存在：

- redundancy；
- complementarity；
- contradiction；
- curriculum relation；
- coverage relation。

因此：

$$
V_{\mathrm{marg}}
$$

比單獨的：

$$
Q_{\mathrm{src}}
$$

更適合作為選擇目標。

---

# 19. Data Complementarity

兩筆資料：

$$
d_1,d_2
$$

單獨價值可能不高：

$$
V(d_1)\approx0,
$$

$$
V(d_2)\approx0.
$$

但組合：

$$
V(
\{d_1,d_2\}
)
\gg0.
$$

例如：

- 一篇理論；
- 一篇反例；
- 一個實作；
- 一個失敗報告。

因此資料價值可能具有：

$$
\boxed{
\text{non-additive interaction}.
}
$$

所以：

$$
V(d_1+d_2)
\neq
V(d_1)+V(d_2)
$$

一般可能成立。

---

# 20. Counterfactual Data Contribution

對資料 $d_i$，比較：

$$
\theta^{(+d_i)}
$$

與：

$$
\theta^{(-d_i)}.
$$

定義：

$$
\boxed{
\Delta_i^{\mathrm{cf}}
=
U(
\theta^{(+d_i)}
)
-
U(
\theta^{(-d_i)}
).
}
$$

其中：

$$
U
$$

是指定能力或效用函數。

這種 counterfactual contribution 比「這份資料看起來好不好」更接近因果問題。

---

# 21. 但單筆 Counterfactual 很昂貴

對大型模型，逐筆 retrain：

$$
\theta^{(-d_i)}
$$

通常不可行。

因此現實中需要近似：

- influence estimation；
- gradient similarity；
- representation tracing；
- data attribution；
- checkpoint comparison；
- curriculum ablation；
- group-level removal。

所以本文不主張：

$$
\Delta_i^{\mathrm{cf}}
$$

目前可精確計算。

它主要是一個理論目標。

---

# 22. Recipe Knowledge 與 Causal Learning Knowledge

資料工程團隊可能知道：

$$
\text{Filter A}
>
\text{Filter B}
$$

在 benchmark 上較好。

這是：

$$
\boxed{
\text{Recipe Knowledge}.
}
$$

但：

> 為什麼 Filter A 對某能力有效？

可能仍不完整。

所以：

$$
\boxed{
\text{Recipe Success}
\neq
\text{Mechanistic Understanding}.
}
$$

這與本系列後續 AI 工程因果理解問題直接相接。

---

# 23. Quality Classifier 的認識論位置

一個 quality classifier：

$$
Q_\phi(d)
$$

可以非常有用。

如果高分資料穩定提高模型表現，工程價值是真實的。

但這不自動表示：

$$
Q_\phi(d)
$$

等於資料的本體性「品質」。

它可能只是：

$$
\boxed{
\text{a useful proxy under a given training regime}.
}
$$

因此：

$$
Q_\phi
$$

應被理解為：

$$
\text{selection instrument},
$$

而不是：

$$
\text{complete theory of learning value}.
$$

---

# 24. Content Category 只是第一層索引

資料 pipeline 通常需要：

$$
\text{Math},
\text{Code},
\text{History},
\text{Philosophy},
\ldots
$$

這沒有錯。

但未來更成熟的 learning taxonomy 可能需要跨 domain。

例如：

$$
\text{counterexample generation}
$$

可以同時存在於：

- 數學；
- 程式；
- 法律；
- 科學；
- 哲學。

所以能力導向 taxonomy 可能是：

$$
\boxed{
\text{orthogonal to content-domain taxonomy}.
}
$$

---

# 25. 能力導向資料空間

定義能力集合：

$$
\mathcal C
=
\{
c_1,\ldots,c_m
\}.
$$

每筆資料具有能力貢獻向量：

$$
\boxed{
v_d
=
(
v_{d,1},
\ldots,
v_{d,m}
).
}
$$

其中：

$$
v_{d,j}
$$

表示資料 $d$ 對能力 $c_j$ 的估計貢獻。

則兩篇不同 domain 的資料可能：

$$
v_{d_1}
\approx
v_{d_2}.
$$

這就是：

$$
\boxed{
\text{Learning-space similarity}
\neq
\text{Content-space similarity}.
}
$$

---

# 26. Learning Geometry

若把：

$$
v_d
$$

視為資料在 learning-effect space 的座標，便可研究：

- cluster；
- redundancy；
- complementarity；
- capability coverage；
- missing regions；
- curriculum path。

因此：

$$
\boxed{
\mathcal G_L
=
\text{geometry over learning effects}
}
$$

可能比單純 domain taxonomy 更接近未來資料工程。

---

# 27. 學習底空間

本文將模型可吸收、可組合的學習結構空間抽象為：

$$
\boxed{
\mathcal B_t^{\mathrm{learn}}.
}
$$

每份資料：

$$
d
$$

不是直接「進入模型」。

更合理地說，是經過：

$$
d
\xrightarrow{\mathcal E_{\theta_t}}
S_d
\subset
\mathcal B_t^{\mathrm{learn}}.
$$

其中：

$$
S_d
$$

是模型當前能從資料中提取的結構子集。

因此：

$$
\boxed{
\text{data ingestion}
\neq
\text{data assimilation}.
}
$$

---

# 28. Extraction Operator

定義：

$$
\boxed{
\mathcal E_{\theta_t}
:
d
\rightarrow
S_d.
}
$$

此 operator 取決於：

- model architecture；
- current weights；
- tokenizer；
- modality；
- context；
- curriculum；
- optimizer；
- objective；
- training phase。

所以：

$$
\mathcal E_{\theta_a}
\neq
\mathcal E_{\theta_b}.
$$

這正是為什麼同一資料對不同模型具有不同學習效應。

---

# 29. Training Objective 會改變 Learning Taxonomy

同一資料：

$$
d
$$

若使用：

$$
L_{\mathrm{LM}},
$$

$$
L_{\mathrm{contrastive}},
$$

$$
L_{\mathrm{RL}},
$$

$$
L_{\mathrm{distill}},
$$

模型可能提取不同結構。

因此：

$$
\boxed{
T_L
=
T_L(
d,
\theta,
L
).
}
$$

這表示「資料價值」不能脫離 objective 討論。

---

# 30. Verifier 會改變資料價值

若有 verifier：

$$
V,
$$

則錯誤資料可能被拆成：

$$
\text{proposal}
+
\text{rejection signal}.
$$

此時：

$$
V_{\mathrm{ext}}
$$

可能上升。

沒有 verifier 時，同一資料可能反而污染。

所以：

$$
\boxed{
\text{Data Value}
\text{ depends on the surrounding epistemic machinery}.
}
$$

---

# 31. 這也是為什麼「垃圾進，垃圾出」不是完整理論

傳統：

$$
\text{Garbage In}
\rightarrow
\text{Garbage Out}.
$$

在弱系統中很合理。

但對具有：

- decomposition；
- verification；
- contrast；
- correction；
- external tools；

的系統，更一般可能是：

$$
\boxed{
\text{Mixed Input}
\rightarrow
\text{Filtered / Reconstructed Learning State}.
}
$$

因此真正的問題是：

$$
\boxed{
\text{How strong is the extraction and verification process?}
}
$$

---

# 32. Data Value Is Relational

本文提出：

$$
\boxed{
V_{\mathrm{ext}}
=
V(
d,
\theta_t,
\mathcal K_t,
\mathcal T,
L,
V,
\mathcal C_t
).
}
$$

因此資料價值是關係量。

不是：

$$
V(d)=\text{constant}.
$$

這與判定域概率論中的 domain-relative probability 有結構類比：

$$
\boxed{
\text{value claim requires a declared evaluation domain}.
}
$$

---

# 33. Evaluation Domain for Data Value

一個完整資料價值判斷至少應聲明：

```text
data:
model_state:
training_objective:
task_family:
existing_corpus:
curriculum_stage:
verifier:
compute_budget:
evaluation_horizon:
metric:
```

否則：

> 這是一份高價值資料。

往往過於模糊。

---

# 34. 短期價值與長期價值

令：

$$
V_{1}(d)
$$

為下一階段直接提升。

令：

$$
V_H(d)
$$

為 horizon $H$ 後的整體貢獻。

可能：

$$
V_1(d)>0
$$

但：

$$
V_H(d)<0.
$$

例如過早強化某一 shortcut。

也可能：

$$
V_1(d)\approx0
$$

但：

$$
V_H(d)\gg0.
$$

例如建立一個稍後才能被其他知識調用的基礎 representation。

所以：

$$
\boxed{
\text{Immediate Gain}
\neq
\text{Long-Horizon Learning Value}.
}
$$

---

# 35. Capability Contribution 不是 Benchmark Contribution

某資料可能：

$$
\Delta B_{\mathrm{benchmark}}>0
$$

但實際只學到：

$$
\text{benchmark-specific shortcut}.
$$

所以：

$$
\boxed{
\Delta B
\neq
\Delta C_{\mathrm{general}}
}
$$

必須被分開。

因此 data value evaluation 應包括：

- held-out transfer；
- adversarial variant；
- cross-domain transfer；
- compositional test；
- robustness；
- calibration。

---

# 36. Learning Taxonomy 需要反事實測試

如果聲稱：

$$
d
$$

主要教會模型：

$$
c,
$$

至少應嘗試：

- remove $d$ ；
- replace $d$ ；
- perturb $d$ ；
- add counterexample；
- inspect capability shift。

否則：

$$
\boxed{
\text{correlation between data category and capability}
\neq
\text{causal learning role}.
}
$$

---

# 37. Learning Taxonomy 可能不是人類預先想得到的

模型可能從資料中抽出：

$$
e
$$

而：

$$
e
\notin
\mathcal L_D.
$$

也就是人類 taxonomy 根本沒有這個欄位。

例如：

- 某種跨語言結構；
- 某種 failure signature；
- 某種長距離 relation；
- 某種 latent compression strategy。

因此：

$$
\boxed{
\text{learning taxonomy may need to be discovered, not only declared}.
}
$$

---

# 38. 自動發現 Learning Features

未來系統可嘗試：

$$
\text{activation patterns}
\rightarrow
\text{feature clusters}
\rightarrow
\text{intervention}
\rightarrow
\text{functional labels}.
$$

這與 mechanistic interpretability 相接。

真正目標不是：

> 幫每個 neuron 命名。

而是：

$$
\boxed{
\text{identify reproducible learning-relevant structures}.
}
$$

---

# 39. 不應把 activation correlation 當成因果

若資料 $d$ 與 feature $f$ 同時出現：

$$
\operatorname{corr}(d,f)>0,
$$

不代表：

$$
d\rightarrow f.
$$

所以 learning taxonomy 需要：

- intervention；
- ablation；
- causal tracing；
- controlled retraining；
- counterfactual datasets。

---

# 40. Data Attribution 的研究位置

Data attribution 試圖回答：

> 哪些訓練資料對某個模型輸出、參數或功能最有影響？

這與本文高度相關。

但本文更一般。

它問：

$$
\boxed{
\text{What structures does a learner extract from a datum under a given learning state?}
}
$$

因此 data attribution 是其中一個工具，不是完整答案。

---

# 41. Mechanistic Data Attribution

更強的研究方向是：

$$
d
\rightarrow
\text{mechanism }m
\rightarrow
\text{capability }c.
$$

若這條鏈可被逐步建立：

$$
\boxed{
\text{data origin}
\rightarrow
\text{internal mechanism}
\rightarrow
\text{observable competence}
}
$$

才真正逼近 learning causality。

---

# 42. 但能力通常是分散式形成

不應期待：

$$
d_i
\rightarrow
c_j
$$

一對一。

更可能：

$$
\{d_1,\ldots,d_k\}
\rightarrow
\{m_1,\ldots,m_r\}
\rightarrow
c_j.
$$

所以：

$$
\boxed{
\text{many-to-many learning causality}
}
$$

可能是常態。

---

# 43. Dataset Mixture 是一個動態系統

令第 $t$ 階段 mixture 為：

$$
\mu_t.
$$

模型狀態：

$$
\theta_t.
$$

則：

$$
\theta_{t+1}
=
U(
\theta_t,
\mu_t
).
$$

下一階段最佳 mixture：

$$
\mu_{t+1}^\ast
$$

一般取決於：

$$
\theta_{t+1}.
$$

所以：

$$
\boxed{
\text{optimal data mixture is state-dependent}.
}
$$

---

# 44. Static Dataset Optimization 的限制

如果一次性決定：

$$
\mu^\ast
$$

並假設整個訓練期間不變，可能錯過：

$$
\text{curriculum dynamics}.
$$

更一般：

$$
\boxed{
\mu^\ast
=
\mu^\ast(
\theta_t,t,\mathcal T
).
}
$$

這代表未來 data curation 可能越來越像 closed-loop control。

---

# 45. Closed-Loop Data Curation

系統：

$$
\theta_t
$$

接受資料：

$$
d_t,
$$

測量：

$$
\Sigma_L(d_t,\theta_t),
$$

再更新下一批資料選擇：

$$
d_{t+1}
=
\pi_D(
\theta_{t+1},
\Sigma_L
).
$$

因此：

$$
\boxed{
\text{training data selection}
\rightarrow
\text{adaptive control problem}.
}
$$

---

# 46. AI 自己也可以參與 Data Valuation

若模型具有足夠：

- verification；
- abstraction；
- attribution；
- curriculum planning；

它可以協助估計：

$$
V_{\mathrm{ext}}.
$$

但這會形成反身性：

$$
\boxed{
\text{AI helps decide what future AI should learn}.
}
$$

這與後續 ILSP-06 的反身知識生態直接相接。

---

# 47. AI 估值不應等同最終真值

模型自己評估：

$$
\hat V_{\mathrm{AI}}(d)
$$

仍然可能錯。

所以需要：

$$
\hat V_{\mathrm{AI}}
+
\text{external evaluation}
+
\text{held-out test}
+
\text{causal ablation}.
$$

不能：

$$
\boxed{
\text{AI says useful}
\Rightarrow
\text{useful}.
}
$$

---

# 48. Training Value 與 Epistemic Value

一份資料可能對訓練很有用：

$$
V_{\mathrm{train}}\gg0,
$$

但認識論可信度：

$$
V_{\mathrm{epi}}\ll1.
$$

例如：

- adversarial misinformation；
- known false theory；
- synthetic counterexample。

所以：

$$
\boxed{
V_{\mathrm{train}}
\neq
V_{\mathrm{epistemic}}.
}
$$

這個區分對安全資料使用非常重要。

---

# 49. Epistemic Status 必須保留

若低可信資料被用於訓練 failure recognition，應保留：

$$
\text{status}=\text{false / adversarial / speculative}.
$$

否則：

$$
\text{useful training sample}
$$

可能被誤學為：

$$
\text{world fact}.
$$

因此理想訓練物件應是：

$$
\boxed{
\text{content}
+
\text{epistemic status}
+
\text{learning role}.
}
$$

---

# 50. 從文件到 Training Object

本文因此區分：

$$
\text{Document}
$$

與：

$$
\text{Training Object}.
$$

一個 document：

$$
d
$$

可經：

$$
d
\xrightarrow{\mathcal P}
o_1,\ldots,o_k
$$

轉成多個 training objects。

例如同一篇錯誤理論可產生：

- false claim object；
- error-detection object；
- repair object；
- comparison object；
- methodology object。

因此：

$$
\boxed{
\text{one document}
\rightarrow
\text{many learning objects}.
}
$$

---

# 51. Training Object Compiler

定義：

$$
\boxed{
\mathcal C_T:
d
\rightarrow
\{
o_1,\ldots,o_k
\}.
}
$$

每個：

$$
o_j
$$

包含：

```text
content:
source:
epistemic_status:
learning_role:
target_capability:
difficulty:
verification:
dependencies:
counterexamples:
```

這比直接把 raw document 丟進模型更接近 future high-value data engineering。

---

# 52. Data Quality 的新位置

本文不是取消：

$$
Q_{\mathrm{src}}.
$$

而是重新定位。

它仍然影響：

- verification cost；
- noise risk；
- extraction difficulty；
- provenance confidence；
- contamination risk。

因此：

$$
\boxed{
Q_{\mathrm{src}}
\text{ is one factor of training utility, not the whole utility}.
}
$$

---

# 53. Processing Cost

定義：

$$
C_{\mathrm{proc}}
(
d,\theta_t
).
$$

低品質資料往往：

$$
C_{\mathrm{proc}}\uparrow.
$$

因此即使：

$$
V_{\mathrm{ext}}>0,
$$

也未必值得當前處理。

選擇問題可能是：

$$
\boxed{
\max_d
\frac{
V_{\mathrm{ext}}(d)
}{
C_{\mathrm{proc}}(d)
}.
}
$$

這將直接連到下一篇低品質資訊轉化理論。

---

# 54. Value-to-Cost Frontier

對所有資料：

$$
d_i
$$

建立：

$$
(
C_{\mathrm{proc},i},
V_{\mathrm{ext},i}
).
$$

可形成一個 value-cost frontier。

優先處理：

$$
\boxed{
\text{high value / low cost}
}
$$

區域。

但某些：

$$
\text{high value / high cost}
$$

資料仍值得保留給更成熟模型。

因此：

$$
\boxed{
\text{not useful now}
\neq
\text{not useful ever}.
}
$$

---

# 55. Deferred Data Value

定義：

$$
\boxed{
V_{\mathrm{deferred}}
(
d
\mid
\theta_t
)
}
$$

表示目前不值得處理，但在未來模型狀態：

$$
\theta_{t+k}
$$

可能重新變得有價值。

這為：

$$
\text{data archive}
$$

提供新的研究理由。

---

# 56. 對「高品質資料耗盡」問題的第一個修正

傳統問題：

> 高品質人類資料會不會用完？

本文指出至少應改寫為：

$$
\boxed{
\text{How much extractable learning value remains under the current model state?}
}
$$

因為：

$$
|\mathcal D_{\mathrm{HQ}}|
$$

不是唯一關鍵量。

還有：

$$
V_{\mathrm{remaining}}.
$$

---

# 57. Remaining Extractable Value

對 corpus：

$$
\mathcal D
$$

定義：

$$
\boxed{
R_t(\mathcal D)
=
\sum_{d\in\mathcal D}
V_{\mathrm{marg}}
(
d
\mid
\theta_t,\mathcal D_t
).
}
$$

這只是概念式。

實際上資料間有非加性交互，因此更一般應寫：

$$
R_t(\mathcal D)
=
\mathcal V(
\mathcal D;
\theta_t
).
$$

核心是：

$$
\boxed{
\text{remaining value changes as the learner changes}.
}
$$

---

# 58. Data Exhaustion 與 Value Exhaustion

因此必須區分：

$$
\boxed{
\text{Corpus Exhaustion}
}
$$

與：

$$
\boxed{
\text{Value Exhaustion}.
}
$$

前者：

$$
\text{沒有新的文件}.
$$

後者：

$$
\text{目前已無可有效提取的新學習結構}.
$$

兩者不是同一問題。

---

# 59. 對 AI 訓練理論的影響

如果本文成立，未來資料科學將從：

$$
\boxed{
\text{collect better documents}
}
$$

擴張成：

$$
\boxed{
\text{construct better learning objects}.
}
$$

也就是：

- decomposition；
- role typing；
- epistemic tagging；
- difficulty matching；
- capability targeting；
- counterfactual pairing；
- failure-path extraction；
- adaptive curriculum。

---

# 60. 實驗一：同一資料，不同模型狀態

選擇固定資料：

$$
d.
$$

在不同 checkpoint：

$$
\theta_1,\theta_2,\ldots,\theta_k
$$

進行短程 fine-tuning 或 controlled update。

比較：

$$
\Sigma_L(d,\theta_i).
$$

如果：

$$
\Sigma_L(d,\theta_i)
$$

隨模型狀態顯著變化，支持 model-state-relative data value。

---

# 61. 實驗二：同內容，不同 Learning Role

將同一內容轉成：

1. raw document；
2. proof task；
3. error-detection task；
4. counterexample task；
5. explanation task；
6. verification task。

比較：

$$
\Delta C.
$$

如果同內容在不同 role formatting 下產生不同能力增益，則：

$$
\boxed{
\text{content identity}
\neq
\text{learning-function identity}.
}
$$

---

# 62. 實驗三：Quality Score vs Learning Effect

取一批資料：

$$
d_1,\ldots,d_n.
$$

獲得：

$$
Q_{\mathrm{src}}(d_i).
$$

再測：

$$
V_{\mathrm{marg}}(d_i).
$$

比較 correlation。

若：

$$
\rho(
Q_{\mathrm{src}},
V_{\mathrm{marg}}
)
<1,
$$

甚至在部分區域很低，則支持 quality 與 learning value 的分離。

---

# 63. 實驗四：Domain Label vs Capability Vector

對每筆資料建立：

$$
T_D(d)
$$

以及估計：

$$
v_d.
$$

測試：

> 同 domain 資料是否一定具有相近 learning vector？

若否，則：

$$
\boxed{
\text{domain taxonomy alone is insufficient for capability-oriented curation}.
}
$$

---

# 64. 實驗五：Functional Deduplication

比較：

- lexical dedup；
- semantic dedup；
- learning-effect dedup。

測試哪一種更能在相同 compute 下保持能力。

若：

$$
\text{learning-effect dedup}
$$

更有效，則支持 functional redundancy framework。

---

# 65. 實驗六：Deferred Value

選擇早期模型難以吸收的資料：

$$
d.
$$

在後期 checkpoint 重新訓練。

測量：

$$
V_{\mathrm{ext}}(d\mid\theta_{\mathrm{early}})
$$

與：

$$
V_{\mathrm{ext}}(d\mid\theta_{\mathrm{late}}).
$$

若後者顯著較高，則支持：

$$
\boxed{
\text{data value can mature as the model matures}.
}
$$

---

# 66. 失敗條件

### F1

若 $Q_{\mathrm{src}}$ 幾乎完美預測所有模型狀態下的 learning value，本文分離的重要性會降低。

### F2

若同一資料在不同模型狀態下 learning-effect signature 幾乎不變，model-state-relative value 假說被削弱。

### F3

若 learning-role reformatting 不影響 capability gain，Training Object Compiler 的價值較低。

### F4

若 functional dedup 不比 surface dedup 有任何優勢，learning-effect redundancy 不具工程價值。

### F5

若 delayed re-exposure 無法產生新學習效應，deferred value 假說需縮減。

---

# 67. 與 ILSP-01 的接口

ILSP-01 提出：

$$
\text{latent competence}
\neq
\text{output}.
$$

本文則處理另一端：

$$
\boxed{
\text{input category}
\neq
\text{internal learning}.
}
$$

因此形成：

$$
\boxed{
\text{Human Data Label}
\rightarrow
\text{High-D Learning Dynamics}
\rightarrow
\text{Observable Output}.
}
$$

人類在兩端都只看到 projection。

---

# 68. 與 ILSP-02 的接口

共同主題域影響：

$$
\text{what can be recovered from a message}.
$$

Learning Taxonomy 則影響：

$$
\text{what can be extracted from a training sample}.
$$

兩者共同具有：

$$
\boxed{
\text{same surface object}
+
\text{different internal state}
\Rightarrow
\text{different effective information}.
}
$$

---

# 69. 與 HDSRC 的接口

若資料真正產生的學習效應存在於：

$$
\text{high-dimensional relational change},
$$

則未來可嘗試：

$$
d
\rightarrow
\Delta Z
\rightarrow
\mathcal S_H.
$$

將 learning-effect state 編譯成可比較的 machine-native carrier。

這仍是研究方向，不是已完成能力。

---

# 70. 與 PACC 的接口

如果模型內部學習結構並不天然是概率 primitive，而最後只有某些 selection / confidence 被投影成概率，則：

$$
\boxed{
\text{data category}
\rightarrow
\text{latent structural change}
\rightarrow
\text{probability-like observable}
}
$$

可能是更合理的鏈。

因此「這份資料讓某 token 機率上升」不等於已經完整描述它的學習角色。

---

# 71. 與未來低品質資訊轉化的接口

本文只建立：

$$
Q_{\mathrm{src}}
\neq
V_{\mathrm{ext}}.
$$

下一篇將處理更強命題：

$$
\boxed{
Q_{\mathrm{src}}\ll1
}
$$

時：

$$
\boxed{
V_{\mathrm{ext}}
}
$$

為什麼仍可能很高。

也就是：

# 《低品質資訊的高價值轉化：認知構成元、失敗路徑與動態重估》

---

# 72. 核心命題總結

### 命題 A

$$
\boxed{
\text{Dataset Taxonomy}
\neq
\text{Learning Taxonomy}.
}
$$

### 命題 B

$$
\boxed{
\text{Source Quality}
\neq
\text{Extractable Learning Value}.
}
$$

### 命題 C

$$
\boxed{
V_{\mathrm{ext}}
=
V(
d,
\theta_t,
\mathcal K_t,
\mathcal T,
L,
V,
\mathcal C_t
).
}
$$

### 命題 D

$$
\boxed{
\text{Content Similarity}
\neq
\text{Learning-Effect Similarity}.
}
$$

### 命題 E

$$
\boxed{
\text{Corpus Exhaustion}
\neq
\text{Value Exhaustion}.
}
$$

### 命題 F

$$
\boxed{
\text{better data science may increasingly mean constructing better learning objects, not only collecting better documents}.
}
$$

---

# 73. 本文不主張事項

本文不主張：

1. 資料品質不重要；
2. 錯誤資料可以無限制使用；
3. AI 已經知道自己從每筆資料學到什麼；
4. 高品質資料不再需要；
5. 所有低品質資料都有高價值；
6. data attribution 已經能完整解釋大型模型學習；
7. benchmark improvement 等同 general capability；
8. 所有資料價值都可以被單一 scalar 精確表示；
9. training objective 不重要；
10. 只靠 mechanistic interpretability 就能解決全部 data valuation。

本文只主張：

$$
\boxed{
\text{the value of data should be evaluated relative to a learner, a task, a learning regime, and a horizon}.
}
$$

---

# 74. 結論

當代 AI 資料工程已經能對海量 corpus 進行：

- 分類；
- 去重；
- 篩選；
- 品質估計；
- 難度估計；
- 合成；
- 驗證；
- 混合。

這些都很重要。

但：

$$
\boxed{
\text{knowing how to curate data}
\neq
\text{knowing what the model learns from each datum}.
}
$$

真正更深的問題是：

$$
\boxed{
d
\rightarrow
\Delta Z
\rightarrow
\Delta M
\rightarrow
\Delta C,
}
$$

其中：

- $\Delta Z$：representation change；
- $\Delta M$：mechanism / relation change；
- $\Delta C$：capability change。

目前資料分類通常主要作用於：

$$
d.
$$

未來更成熟的 AI learning science 需要逐步理解：

$$
\Delta Z,
\Delta M,
\Delta C.
$$

因此「高品質資料」不應再被當成一個脫離模型狀態的固定標籤。

更合理的是：

$$
\boxed{
\text{Data Value Is a Relation Between Information and a Learner}.
}
$$

而不是單純：

$$
\boxed{
\text{Data Value Is an Intrinsic Property of a File}.
}
$$

這個改寫，是後續理解低品質資訊重加工、重複學習、反身知識生態與 AI 長期資料供給問題的基礎。

---

# 版本紀錄

## v0.1.0 — 2026-10-05

- 建立 ILSP 系列 Paper 03；
- 正式區分 Dataset Taxonomy 與 Learning Taxonomy；
- 正式區分 Source Quality 與 Extractable Learning Value；
- 提出 Extractable Structure Set；
- 提出 Learning-Effect Signature；
- 提出 Marginal Learning Value；
- 提出 Functional Redundancy；
- 提出 Productive Learning Frontier；
- 提出 Counterfactual Data Contribution；
- 提出 Training Object 與 Training Object Compiler；
- 區分 Corpus Exhaustion 與 Value Exhaustion；
- 引入 Deferred Data Value；
- 建立六組可驗證實驗與失敗條件；
- 與 ILSP-01、ILSP-02、HDSRC、PACC 接軌。