← Archive
lm-003142 · 2026-08

自主研究的最小閉環條件:從自動化流水線到證據敏感的認知自主性

下載 MD 檔 ⬇
📎 附件 · Companion files — 隨文交付的程式 / 證明 / 資料,可獨立下載重驗

Series C / Paper 05

自主研究的最小閉環條件:從自動化流水線到證據敏感的認知自主性

Minimal Closure Conditions for Autonomous Research: From Automated Pipelines to Evidence-Sensitive Epistemic Autonomy

版本:v0.1
日期:2026-08-14
狀態:Theory + executable structural checker paper

摘要

當代 AI research agents 已可串聯文獻搜尋、假設生成、程式撰寫、實驗執行、資料分析、圖表生成與論文寫作。然而「一條研究 pipeline 能自動跑到終點」不等於「系統具有研究自主性」。固定工作流即使完全無人值守,也可能只是自動化;相反地,一個真正的研究閉環至少必須讓外部 evidence 對後續假設、實驗與策略產生因果作用。

本文提出 Minimal Autonomous Research Closure(MARC),將最小自主研究系統形式化為:

Rt=(Qt,Bt,Ht,Πt,Mt,Rt),\mathfrak R_t = ( Q_t, B_t, H_t, \Pi_t, M_t, R_t ),

其中 QtQ_t 是研究目標, BtB_t 是 epistemic state, HtH_t 是候選假設, Πt\Pi_t 是研究策略, MtM_t 是持久記憶與 provenance, RtR_t 是資源與安全邊界。一次最小研究循環為:

statehypothesisinterventionobservationverificationepistemic updatepolicy revisionnext state.\boxed{ \text{state} \rightarrow \text{hypothesis} \rightarrow \text{intervention} \rightarrow \text{observation} \rightarrow \text{verification} \rightarrow \text{epistemic update} \rightarrow \text{policy revision} \rightarrow \text{next state}. }

本文提出七個最小閉環條件:持久狀態、假設可變性、外部介入、非退化 evidence、evidence-sensitive update、策略回饋、provenance-preserving bounded execution。並區分四級自主性:流水線自動化、適應性自動化、認知自主、策略自主。

本文證明三個基礎結果。第一,若在控制既有狀態後,未來 research action 與新 evidence 條件獨立,則 evidence 無法改變研究路由,因此系統不具 evidence-sensitive epistemic autonomy。第二,若研究狀態圖包含由 hypothesis 經 intervention、observation、verification、epistemic update 返回 future-policy selection 的可達閉路,且至少存在一項 evidence 能改變下一步策略,則系統具備本文定義下的最小 operational research closure。第三,若 claim / artifact 生成速率長期高於可驗證速率,verification backlog 必然增長;在常數平均速率模型下:

BTB0+T(gˉvˉ)B_T \geq B_0 + T(\bar g-\bar v)

當:

gˉ>vˉ.\bar g>\bar v.

因此提高生成能力而不提高 verification throughput,可能使研究系統在表面產量增加的同時降低可審核性。

公開系統與 benchmark 提供了相互補充的現實定位。The AI Scientist-v2 已展示從假設到實驗與 manuscript 的 end-to-end agentic workflow;Arbor 以 persistent Hypothesis Tree 將 hypotheses、artifacts、evidence 與 distilled insights 跨時間保留;Claw AI Lab 將研究重構為可觀察、可 rollback 的持久 laboratory process;AHOIS 更進一步把「能依 physical evidence 建構、挑戰與修正 explanation」視為 epistemic autonomy。另一方面,ResearchGym 報告 frontier research agents 在 real-world closed-loop tasks 上仍存在明顯 capability–reliability gap;2026 verification-gap survey 也指出 runnable research systems 的 code availability 已高於 execution traces、seeds 與 novelty-verification artifacts 的完整度。

因此本文不主張現有系統已等於 autonomous scientist,也不把 manuscript completion 當作自主性的判準。本文主張的是一個較窄的結構命題:

Autonomous research begins when evidence can alter the system’s own future research trajectory without requiring step-level human choice.\boxed{ \text{Autonomous research begins when evidence can alter the system's own future research trajectory without requiring step-level human choice.} }

關鍵詞: autonomous research;epistemic autonomy;agentic AI;research loop;verification gap;persistent memory;hypothesis revision;closed-loop science


1. 自動化與自主性的區別

考慮一個完全自動化 workflow:

P0P1P2Pn.P_0 \rightarrow P_1 \rightarrow P_2 \rightarrow \cdots \rightarrow P_n.

即使其中每一步都由 AI 執行,而且整條 pipeline 無人監督,也可能存在:

Pt+1=Ft(Pt)P_{t+1} = F_t(P_t)

而與實際 experiment result 無關。

這種系統可以:

  • 自動搜尋;
  • 自動生成 hypothesis;
  • 自動跑 code;
  • 自動寫 report;

但如果 failure 與 success 都不會改變 future route,那它仍接近:

automated production pipeline.\boxed{ \text{automated production pipeline}. }

研究自主性需要更強的條件:

evidence must have causal leverage over future research action.\boxed{ \text{evidence must have causal leverage over future research action}. }

2. 研究系統狀態

令時間 tt 的研究狀態為:

Rt=(Qt,Bt,Ht,Πt,Mt,Rt).\mathfrak R_t = ( Q_t, B_t, H_t, \Pi_t, M_t, R_t ).

其中:

QtQ_t:Research Objective

目前研究問題、目標與允許修改的 meta-objective。

BtB_t:Epistemic State

包含:

  • admissible worlds;
  • uncertainty;
  • shared permissions;
  • unresolved contradictions;
  • evidence weights。

可直接接 Paper 03:

Bt(At,Pt,Kt).B_t \supseteq ( \mathcal A_t, \mathfrak P_t, \mathfrak K_t ).

HtH_t:Hypothesis Space

目前可考慮、可淘汰、可變形的 hypotheses。

Πt\Pi_t:Research Policy

決定:

  • 下一個 hypothesis;
  • 下一個 experiment;
  • verification budget;
  • pivot / refine / stop。

MtM_t:Persistent Memory

保存:

  • prior attempts;
  • failed hypotheses;
  • artifacts;
  • execution results;
  • provenance;
  • reusable lessons。

RtR_t:Resource and Boundary State

包含:

  • compute;
  • time;
  • API budget;
  • permissions;
  • safety boundaries;
  • allowed tools。

3. 最小研究循環

一次 minimal cycle:

ht=G(Rt),h_t = G(\mathfrak R_t),

其中 GG 生成或選擇 hypothesis。

再由 experiment designer:

at=D(ht,Rt).a_t = D(h_t,\mathfrak R_t).

將 intervention:

ata_t

送入環境:

ot+1=E(at).o_{t+1} = \mathcal E(a_t).

由 Paper 04 的 epistemic carrier 將 output 轉成 certificate:

χt+1=V(at,ot+1,ηt).\chi_{t+1} = V( a_t, o_{t+1}, \eta_t ).

再更新 epistemic state:

Bt+1=U(Bt,χt+1).B_{t+1} = U( B_t, \chi_{t+1} ).

研究策略再依新狀態修改:

Πt+1=M(Πt,Bt+1,Mt).\Pi_{t+1} = \mathcal M( \Pi_t, B_{t+1}, M_t ).

最後:

Rt+1=F(Rt,χt+1,Bt+1,Πt+1).\mathfrak R_{t+1} = F( \mathfrak R_t, \chi_{t+1}, B_{t+1}, \Pi_{t+1} ).

因此完整 closure:

Rthtatot+1χt+1Bt+1Πt+1Rt+1.\boxed{ \mathfrak R_t \rightarrow h_t \rightarrow a_t \rightarrow o_{t+1} \rightarrow \chi_{t+1} \rightarrow B_{t+1} \rightarrow \Pi_{t+1} \rightarrow \mathfrak R_{t+1}. }

4. 七個最小閉環條件

C1. Persistent State

系統必須能跨 step 保留:

Mt+1Relevant(Mt,χt+1).M_{t+1} \supseteq \mathrm{Relevant}(M_t,\chi_{t+1}).

沒有持久狀態,失敗不容易轉成長程學習。

C2. Hypothesis Variability

存在至少兩個可選 hypothesis:

Ht2|H_t|\geq2

或至少存在可修改 hypothesis 的 operator。

如果唯一 hypothesis 被永久固定,則系統沒有真正的 hypothesis revision。

C3. External Intervention

系統必須能執行至少一個會改變或探測外部 carrier / environment 的 action:

atAext.a_t\in\mathcal A_{\mathrm{ext}}.

純內部思考可以是研究的一部分,但不能單獨閉合 empirical loop。

C4. Non-Degenerate Evidence

存在 observations:

o+,oo^+, o^-

使:

U(Bt,o+)U(Bt,o).U(B_t,o^+) \neq U(B_t,o^-).

若所有可能 observation 都產生同一 belief state,experiment 沒有 epistemic value。

C5. Evidence-Sensitive Epistemic Update

新 evidence 必須實際改變:

  • belief;
  • admissible worlds;
  • confidence;
  • fault hypotheses; 中的至少一項。

C6. Policy Feedback

存在 evidence e1,e2e_1,e_2 使:

Πt+1(e1)Πt+1(e2).\Pi_{t+1}(\cdot\mid e_1) \neq \Pi_{t+1}(\cdot\mid e_2).

也就是 evidence 能改變下一步研究路由。

C7. Provenance-Preserving Bounded Execution

研究 action 必須在:

  • provenance 可保存;
  • resource 可追蹤;
  • permission / safety boundary 可判定;

的條件下運作。

這一條不是「求真」本身的邏輯必要條件,但對可部署 autonomous research system 是 operational minimum。否則系統即使有 epistemic closure,也可能不可審核、不可重現或無法安全持續。


5. 四級自主性

Level 0:Pipeline Automation

at+1=F(t,Q0).a_{t+1} = F(t,Q_0).

future action 幾乎由預先 workflow 決定。

Level 1:Adaptive Automation

evidence 可以調參或 retry:

θt+1=f(θt,et),\theta_{t+1} = f(\theta_t,e_t),

但 hypothesis class / research route 基本不改變。

Level 2:Epistemic Autonomy

evidence 可使系統:

  • reject hypothesis;
  • generate alternative;
  • redesign experiment;
  • allocate verification;
  • pivot / refine。

即:

etBt+1Πt+1.e_t \rightarrow B_{t+1} \rightarrow \Pi_{t+1}.

Level 3:Strategic Autonomy

在 human-defined meta-boundary 內,系統可以重新定義 subproblem:

Qt+1Qt,Q_{t+1} \neq Q_t,

例如:

  • 發現原問題不可識別;
  • 改寫 measurement objective;
  • 分裂研究路線;
  • 暫停低價值分支。

Level 3 仍不等於「自由選擇人生研究方向」或 unrestricted AGI。


6. 定理 1:Evidence-Coupling Necessity

定理

令:

EtE_t

為新 evidence,

At+1A_{t+1}

為下一個 substantive research action,

StS_t

為 evidence 到來前的完整既有狀態。

若:

At+1EtSt,A_{t+1} \perp E_t \mid S_t,

則:

I(Et;At+1St)=0.I( E_t; A_{t+1} \mid S_t ) = 0.

因此新 evidence 不對下一步研究 action 提供條件資訊,系統不具本文所定義的 evidence-sensitive research autonomy。

證明

條件獨立:

P(At+1,EtSt)=P(At+1St)P(EtSt)P( A_{t+1},E_t \mid S_t ) = P( A_{t+1} \mid S_t ) P( E_t \mid S_t )

等價於:

I(Et;At+1St)=0.I( E_t; A_{t+1} \mid S_t ) = 0.

因此在控制既有狀態後,觀察到不同 evidence 不會改變 future action distribution。

證畢。

解讀

最重要的分界不是:

系統有沒有跑 experiment?

而是:

experiment result 是否能改變它之後要做什麼?


7. Evidence Leverage

可定義:

Λt=I(Et;At+1St).\Lambda_t = I( E_t; A_{t+1} \mid S_t ).

若:

Λt=0,\Lambda_t=0,

新 evidence 對 next action 沒有條件資訊。

若:

Λt>0,\Lambda_t>0,

表示 research policy 對 evidence 敏感。

但:

Λt>0\Lambda_t>0

並不保證 sensitivity 是正確的。

一個錯誤 feedback controller 也可能高度敏感。

因此還需 Paper 02–04 的:

  • evidence normalization;
  • admissibility;
  • trust chain;
  • verification quality。

8. 定義:Minimal Autonomous Research Closure

令 research-state graph:

GR=(VR,ER).G_R=(V_R,E_R).

節點至少包含:

{H,A,O,V,B,Π}.\{ H, A, O, V, B, \Pi \}.

分別代表:

  • hypothesis;
  • action / intervention;
  • observation;
  • verification;
  • epistemic state;
  • policy。

若存在 directed cycle:

HAOVBΠH,H \rightarrow A \rightarrow O \rightarrow V \rightarrow B \rightarrow \Pi \rightarrow H',

且至少存在兩個 evidence outcomes:

e1,e2e_1,e_2

使:

Π(e1)Π(e2),\Pi(e_1)\neq\Pi(e_2),

則稱該系統具有 Minimal Autonomous Research Closure

注意:

HH'

可以是:

  • refined HH
  • alternative hypothesis;
  • new branch;
  • stop decision。

9. 定理 2:Operational Closure Sufficiency

定理

若系統滿足:

  1. 存在 hypothesis generation / selection;
  2. hypothesis 可導致外部 intervention;
  3. intervention 產生 non-degenerate observation;
  4. observation 經 verifier 進入 epistemic update;
  5. epistemic update 能改變 future research policy;
  6. future policy 能再產生新的 hypothesis / intervention;

則其 research-state graph 包含至少一個 evidence-sensitive closed research cycle。

證明

由 1–4,存在 path:

HAOVB.H \rightarrow A \rightarrow O \rightarrow V \rightarrow B.

由 5:

BΠB \rightarrow \Pi

且對至少兩種 evidence 結果,policy 不同。

由 6:

ΠH\Pi \rightarrow H'

或新的 intervention。

因此存在:

HAOVBΠH,H \rightarrow A \rightarrow O \rightarrow V \rightarrow B \rightarrow \Pi \rightarrow H',

且 evidence 對循環後段具有因果路由作用。

依本文定義,此系統具有 minimal autonomous research closure。

證畢。

限制

這是一個結構充分條件

它不保證:

  • hypothesis 有創造性;
  • verifier 正確;
  • science 有價值;
  • 系統勝過人類;
  • 結果可發表。

10. Human-in-the-Loop 不等於非自主

設 human action sequence:

Ut.U_t.

若每一個 research step 都需要人類選擇下一步:

At+1=f(Ut),A_{t+1} = f(U_t),

則 autonomy 弱。

但若人類只設定:

(Q0,R0,constraints)( Q_0, R_0, \text{constraints} )

而在 episode 內:

At+1=π(St,Et),A_{t+1} = \pi( S_t,E_t ),

系統仍可以具有 operational autonomy。

因此應區分:

human governancehuman micromanagement.\boxed{ \text{human governance} \neq \text{human micromanagement}. }

在實際研究系統中,安全審批、資源上限與 milestone steering 並不自動取消 autonomy。


11. Persistent Memory 是研究閉環的一部分

如果每一輪都重設:

Mt+1=,M_{t+1}=\varnothing,

系統仍可能完成短 cycle,

但長期容易:

  • 重複失敗;
  • 忘記 negative results;
  • 重試已淘汰方向;
  • 失去 provenance;
  • 無法累積策略。

Arbor 的 Hypothesis Tree Refinement 特別明確地將:

  • hypotheses;
  • artifacts;
  • evidence;
  • distilled insights;

跨時間保存在 persistent tree 中,並由 long-lived coordinator 管理全域策略、short-lived executors 執行 isolated experiments。

這提供一個很重要的現實證據:

long-horizon autonomy需要 externalized cumulative research state.\boxed{ \text{long-horizon autonomy} \text{需要 externalized cumulative research state}. }

12. Failure as Information

真正的自主研究閉環不能只處理:

success.\text{success}.

還必須把:

failure\text{failure}

轉成:

epistemic update.\text{epistemic update}.

令 experiment:

ata_t

失敗。

至少可分類:

Ft{hypothesis failure,implementation failure,measurement failure,resource failure,verification failure}.F_t \in \{ \text{hypothesis failure}, \text{implementation failure}, \text{measurement failure}, \text{resource failure}, \text{verification failure} \}.

不同 failure 應導向不同 action:

ρ:Ft{refine,retry,pivot,rollback,abandon,escalate}.\rho: F_t \rightarrow \{ \text{refine}, \text{retry}, \text{pivot}, \text{rollback}, \text{abandon}, \text{escalate} \}.

如果所有 failure 都只導向:

retry same thing,\text{retry same thing},

則 closure 可能退化成 livelock。


13. Closure 不等於 Progress

存在 closed loop:

StSt+1S_t \rightarrow S_{t+1}

不代表:

Q(St+1)>Q(St).\mathcal Q(S_{t+1}) > \mathcal Q(S_t).

系統可能:

  • oscillate;
  • overfit verifier;
  • exploit benchmark;
  • refine trivial metric;
  • recursively confirm wrong premise。

因此需另外定義 progress functional:

Jt=J(Bt,Ht,χt,Rt).J_t = J( B_t, H_t, \chi_t, R_t ).

但:

JtJ_t

本身也可能被錯誤 specification 污染。

所以 autonomous research 的主要問題不是只把 loop 閉起來,而是:

close the loop against an epistemically meaningful external carrier.\boxed{ \text{close the loop against an epistemically meaningful external carrier}. }

14. Verification Gap

令時間 tt 新生成、尚需驗證的 claim / artifact 數量為:

gt.g_t.

同一時間可完成充分 verification 的數量為:

vt.v_t.

verification backlog:

Bt+1=max(0,Bt+gtvt).B_{t+1} = \max( 0, B_t+g_t-v_t ).

定理 3:Verification Backlog Growth

若對所有相關 tt

gtg,g_t\geq g, vtv,v_t\leq v,

且:

g>v,g>v,

則:

BTB0+T(gv)B_T \geq B_0 + T(g-v)

只要 backlog 不先被外部丟棄。

證明

由:

Bt+1=max(0,Bt+gtvt)B_{t+1} = \max( 0, B_t+g_t-v_t )

以及:

gtvtgv>0,g_t-v_t \geq g-v > 0,

得到:

Bt+1Bt+(gv).B_{t+1} \geq B_t+(g-v).

遞推:

BTB0+T(gv).B_T \geq B_0+T(g-v).

證畢。

意義

若 AI 讓:

gg\uparrow

遠快於:

v,v\uparrow,

研究系統可能出現:

more output+less verified fraction.\boxed{ \text{more output} + \text{less verified fraction}. }

這正是 autonomous research scalability 的核心 bottleneck 之一。


15. 2026 Verification-Gap 現況

一份 2026 autonomous-research-agent survey 對 computational AI/ML research systems 編碼後指出:

  • runnable systems 中,code release 已相對常見;
  • seeds、execution traces 等 reproduction-grade artifacts 明顯較少;
  • novelty verification 也遠未普及;
  • closed-loop systems 的 claim verification 仍落後於生成能力。

因此:

research generation frontier>research verification frontier\boxed{ \text{research generation frontier} > \text{research verification frontier} }

至少已成為一個需要獨立測量的系統問題。

本文因此把:

verification throughput\text{verification throughput}

視為 autonomous-research capacity 的基本狀態變數,而不是論文完成後才考慮的附屬工作。


16. 現有系統的定位

16.1 The AI Scientist-v2

已可迭代:

  • formulate hypotheses;
  • design / execute experiments;
  • analyze / visualize data;
  • write manuscripts。

這證明 end-to-end research automation 已有實際系統案例。

但 manuscript completion 不自動證明:

  • problem choice 優良;
  • evidence interpretation 正確;
  • novelty 真實;
  • physical validity;
  • long-run reliability。

16.2 Arbor

Arbor 明確研究 long-horizon autonomous research。

其 persistent Hypothesis Tree 把:

hypothesis+artifact+evidence+distilled lesson\text{hypothesis} + \text{artifact} + \text{evidence} + \text{distilled lesson}

跨時間連接。

這與本文的:

MtM_t

高度相容。

16.3 Claw AI Lab

Claw AI Lab 把 autonomous research 改寫為 interactive persistent laboratory,而不是 black-box paper generator。

其:

  • event stream;
  • artifact inspection;
  • rollback;
  • multi-project monitoring;
  • reproduction mode;

對本文 C1、C6、C7 都具有直接工程意義。

16.4 AHOIS

AHOIS 直接區分 procedural automation 與 epistemic autonomy。

其物理 critic 能:

  • causal questioning;
  • constraint checking;
  • counterexample generation;
  • falsification criteria;

並在 real optical platform 中依 evidence 修改 explanation。

這是 Paper 05 最接近「外部自然世界閉環」的現有案例之一。

16.5 Codex Long-Horizon Work

OpenAI 公開的 Codex long-horizon workflow 採用:

planedittoolsobserverepairstatus updaterepeat.\text{plan} \rightarrow \text{edit} \rightarrow \text{tools} \rightarrow \text{observe} \rightarrow \text{repair} \rightarrow \text{status update} \rightarrow \text{repeat}.

其 durable project memory、milestone validation 與 stop-and-fix rule 顯示,即使在 software engineering,長程 Agent 成功也高度依賴 externalized state 與 continuous verification。


17. ResearchGym:能力不等於可靠性

ResearchGym 將 real-world research repositories 轉成 closed-loop tasks,保留 dataset、evaluation harness 與 baseline,但隱去 paper 的 proposed method。

其 2026 實驗顯示 frontier agent 可以偶爾取得強結果,但整體可靠性明顯不足,常見失敗包括:

  • impatience;
  • poor resource management;
  • weak-hypothesis overconfidence;
  • parallel experiment coordination failure;
  • context-length constraints。

因此:

closed-loop accessclosed-loop competence.\boxed{ \text{closed-loop access} \neq \text{closed-loop competence}. }

Paper 05 只定義最小 closure,不能把 closure 存在直接升格成 autonomous-scientist capability。


18. 自主研究不是固定「科學方法腳本」

一個常見誤解是把 research autonomy 寫成固定 SOP:

QuestionHypothesisExperimentConclusion.\text{Question} \rightarrow \text{Hypothesis} \rightarrow \text{Experiment} \rightarrow \text{Conclusion}.

但真正研究可能需要:

redefine question,\text{redefine question}, invalidate instrument,\text{invalidate instrument}, change representation,\text{change representation}, discover confounder,\text{discover confounder}, abandon metric.\text{abandon metric}.

因此 closure 的本質不是固定節點順序。

而是:

the system can use evidence to reconfigure its own admissible future research routes.\boxed{ \text{the system can use evidence to reconfigure its own admissible future research routes}. }

19. Problem Selection 邊界

2026 的批判性 position paper 指出,現有 AI scientist systems 在自然科學中仍常依賴人類:

  • 定義問題;
  • 提供 dataset;
  • 定義成功標準;

並警告 benchmark / tool affordance 可能把研究推向容易測量而非真正重要的問題。

本文因此把:

QtQ_t

分成:

Qt=(Qtmeta,Qtsub).Q_t = ( Q_t^{\mathrm{meta}}, Q_t^{\mathrm{sub}} ).

其中:

  • QmetaQ^{\mathrm{meta}} 可由人類治理;
  • QsubQ^{\mathrm{sub}} 可由 Agent 在 boundary 內自適應重構。

這讓研究自主性不必等同:

unbounded problem sovereignty.\boxed{ \text{unbounded problem sovereignty}. }

20. Minimal Closure Score

本文不主張唯一 scalar,但可建立診斷向量:

CR=(cM,cH,cA,cE,cU,cΠ,cP)\mathbf C_R = ( c_M, c_H, c_A, c_E, c_U, c_\Pi, c_P )

分別對應:

  • memory;
  • hypothesis variability;
  • actionability;
  • evidence non-degeneracy;
  • update sensitivity;
  • policy feedback;
  • provenance / bounds。

每個:

ci[0,1].c_i\in[0,1].

可定義保守 closure score:

Cmin=minici.C_{\min} = \min_i c_i.

若任一核心條件為:

0,0,

則:

Cmin=0.C_{\min}=0.

這比 arithmetic average 更符合「閉環最弱鏈條」直覺。


21. Research Autonomy Index

另定義 autonomy vector:

A=(Astep,Ahyp,Aexp,Averify,Apivot,Agoal).\mathbf A = ( A_{\mathrm{step}}, A_{\mathrm{hyp}}, A_{\mathrm{exp}}, A_{\mathrm{verify}}, A_{\mathrm{pivot}}, A_{\mathrm{goal}} ).

其中分別表示系統在:

  • step selection;
  • hypothesis revision;
  • experiment design;
  • verification routing;
  • pivot decision;
  • goal restructuring;

上的自主比例。

這避免二分法:

autonomous / not autonomous.\text{autonomous / not autonomous}.

一個系統可以在 experiment execution 高度自主,但在 problem selection 幾乎完全由人類決定。


22. 本篇 Structural Checker

附帶 Python checker 比較三類系統。

System A:Fixed Pipeline

無論 experiment 返回:

support\text{support}

或:

refute,\text{refute},

下一個 action 都是:

write report.\text{write report}.

所以:

Λ=0.\Lambda=0.

System B:Adaptive Retry

若 execution fail:

retry,\text{retry},

若 success:

continue.\text{continue}.

有 feedback,但 hypothesis 不修改。

對應 Level 1。

System C:Epistemic Closed Loop

若 evidence refutes:

h0h1.h_0 \rightarrow h_1.

若 evidence supports:

h0refine(h0).h_0 \rightarrow \text{refine}(h_0).

並保存:

  • result;
  • reason;
  • provenance;
  • next branch。

對應至少 Level 2。

checker 也模擬:

g=5,v=3,g=5, \qquad v=3,

因此:

BT=B0+2T.B_T = B_0+2T.

用以驗證 verification-backlog growth。


23. 最小自主研究系統

因此本文提出:

RMARC=(persistent state,mutable hypotheses,external actions,non-degenerate evidence,trusted verification,epistemic update,policy feedback,provenance,bounded execution).\boxed{ \mathfrak R_{\mathrm{MARC}} = ( \text{persistent state}, \text{mutable hypotheses}, \text{external actions}, \text{non-degenerate evidence}, \text{trusted verification}, \text{epistemic update}, \text{policy feedback}, \text{provenance}, \text{bounded execution} ). }

其中真正最不能省略的核心閉路是:

evidenceepistemic statefuture policy.\boxed{ \text{evidence} \rightarrow \text{epistemic state} \rightarrow \text{future policy}. }

如果這條邊不存在:

automation remains open-loop at the epistemic level.\boxed{ \text{automation remains open-loop at the epistemic level}. }

24. 與 AGI 前夜命題的關係

這篇不證明 AGI 已經到來。

但它指出一個重要結構變化。

以前:

AIanswer.\text{AI} \rightarrow \text{answer}.

現在可以形成:

AI ensemble+memory+tools+computer+network+verification\boxed{ \text{AI ensemble} + \text{memory} + \text{tools} + \text{computer} + \text{network} + \text{verification} }

並使:

research statet+1\text{research state}_{t+1}

真正取決於:

world feedbackt.\text{world feedback}_t.

這使「自主研究」第一次不只是一個語言生成比喻,而可以被拆成:

  • closure;
  • evidence leverage;
  • verification capacity;
  • policy autonomy;
  • auditability;

等可測量量。


25. 結論

本文提出自主研究的最小閉環條件。

最核心區分是:

automationepistemic autonomy.\boxed{ \text{automation} \neq \text{epistemic autonomy}. }

一條 pipeline 可以完全無人執行,但若:

I(Et;At+1St)=0,I( E_t; A_{t+1} \mid S_t ) = 0,

則 evidence 不會改變 future research route。

相反地,只要存在:

HAOVBΠHH \rightarrow A \rightarrow O \rightarrow V \rightarrow B \rightarrow \Pi \rightarrow H'

且:

e1,e2:Π(e1)Π(e2),\exists e_1,e_2: \Pi(e_1)\neq\Pi(e_2),

便形成本文定義下的 minimal evidence-sensitive research closure。

但 closure 仍不等於 truth、progress 或 scientific value。

此外,如果:

gˉ>vˉ,\bar g>\bar v,

則 verification backlog 長期增長:

BTB0+T(gˉvˉ).B_T \geq B_0 + T( \bar g-\bar v ).

所以未來 autonomous research 的瓶頸很可能不只是:

Can AI generate research?\boxed{ \text{Can AI generate research?} }

而是:

Can the system close, verify, remember, revise, and govern the research loop faster than it generates new claims?\boxed{ \text{Can the system close, verify, remember, revise, and govern the research loop faster than it generates new claims?} }

本文最終命題為:

Autonomous research begins when evidence can alter the system’s own future research trajectory without requiring step-level human choice.\boxed{ \textbf{Autonomous research begins when evidence can alter the system's own future research trajectory without requiring step-level human choice.} }

下一篇將把研究焦點轉向異質模型本身:

Series C / Paper 06 — Cross-Model Epistemic Convergence.


參考文獻

  1. Yamada, Y. et al. (2025). The AI Scientist-v2: Workshop-Level Automated Scientific Discovery via Agentic Tree Search. arXiv:2504.08066.
  2. Jin, J. et al. (2026). Toward Generalist Autonomous Research via Hypothesis-Tree Refinement. arXiv:2606.11926.
  3. Claw AI Lab: An Autonomous Multi-Agent Research Team. (2026). arXiv:2605.22662.
  4. Garikaparthi, A., Patwardhan, M., & Cohan, A. (2026). ResearchGym: Evaluating Language Model Agents on Real-World AI Research. arXiv:2602.15112.
  5. Zeng, X. et al. (2026). Socratic Agents for Autonomous Scientific Discovery in High-Dimensional Physical Systems. arXiv:2606.26722.
  6. Ding, T. et al. (2026). Autonomous Research Agents: A Survey of AI Scientists and the Verification Gap. arXiv:2608.05179.
  7. Bisht, H. et al. (2026). Agentic AI Scientists Are Not Built For Autonomous Scientific Discovery. arXiv:2605.08956.
  8. OpenAI. (2026). Run Long Horizon Tasks with Codex. OpenAI Developers.
  9. Google DeepMind. (2025). AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms.

狀態標記

  • Definitions: research state、MARC、four autonomy levels、Evidence Leverage、Closure Score、Research Autonomy Vector。
  • Proved: Evidence-Coupling Necessity、Operational Closure Sufficiency、Verification Backlog Growth。
  • Externally grounded observations: AI Scientist-v2 end-to-end pipeline、Arbor persistent hypothesis tree、Claw AI Lab persistent/inspectable laboratory abstraction、AHOIS physical closed-loop epistemic revision、ResearchGym reliability gap、verification-gap survey、Codex long-horizon loop。
  • Structural checker: fixed pipeline vs adaptive retry vs epistemic closed loop;verification backlog.
  • Not claimed: current systems equal autonomous scientists、closure implies scientific progress、human governance cancels autonomy、AGI has been achieved。