← Archive
lm-004830 · 2026-10

DACWE-02:最小人類引導、認知算子與能力增幅效率

下載 MD 檔 ⬇

DACWE-02:最小人類引導、認知算子與能力增幅效率

English Title: Minimal Human Steering, Cognitive Operators, and Capability Amplification Efficiency

Series: Desire-to-ASI Counterfactual World Experiment (DACWE)
Document: DACWE-02
Version: v0.1
Status: Canonical Experimental Draft
Language: Traditional Chinese (zh-TW)
Encoding: UTF-8
Upstream: DACWE-00, DACWE-01

作者: Neo.K
機構: EveMissLab/一言諾科技有限公司
日期: 2026-10-08(整理日期;原稿未標註日期)


摘要

DACWE-00 建立了 ordinary-human seed、反事實世界結構與 ASI-like requirement 判定;DACWE-01 則將強意圖拆解為可控制的 desire representation,並建立欲望通用性、工具廣度、願望閉合壓力與語義污染控制。

DACWE-02 進一步處理整個系列最核心的原始問題:

一個普通人如果不具備專業技術能力,只保留高階意圖、選擇權與少量「提升詞」,是否仍能透過 AI 逐步形成高階能力路徑?

本篇將「繼續」、「分解」、「找缺口」、「驗證」、「找反例」、「自動化」等自然語言操作重新定義為有限的 Cognitive Operator Set(認知算子集合)。研究重點不再是 AI 能不能給出好答案,而是普通人需要提供多少認知工作,系統才能持續向前。

因此,本篇正式定義:

U={ucontinue,uclarify,udecompose,ucompare,uverify,ufalsify,urepair,uautomate,uglobalize,ustop}U = \{ u_{continue}, u_{clarify}, u_{decompose}, u_{compare}, u_{verify}, u_{falsify}, u_{repair}, u_{automate}, u_{globalize}, u_{stop} \}

並引入:

  • Human Steering Budget(HSB)
  • Human Cognitive Burden(HCB)
  • Operator Compression Ratio(OCR)
  • Capability Amplification Efficiency(CAE)
  • Steering Sufficiency Frontier(SSF)
  • Human Bottleneck Transition(HBT)

本篇最重要的研究命題為:

高階能力演化所需的人類輸入,可能可以被壓縮成少量高階選擇與認知算子。\boxed{ \text{高階能力演化所需的人類輸入,可能可以被壓縮成少量高階選擇與認知算子。} }

但這不是預設結論。DACWE-02 的任務,就是建立可以否證它的實驗規格。


1. 問題重新定義

傳統的人機協作通常假設:

Human→Detailed Instruction→AI Output\text{Human} \rightarrow \text{Detailed Instruction} \rightarrow \text{AI Output}

人類仍然必須知道:

  • 要問什麼;
  • 怎麼拆問題;
  • 哪些答案可信;
  • 下一步做什麼;
  • 什麼時候該驗證;
  • 什麼時候該停止。

但如果 AI 能接管大量中階與低階認知工作,則可能出現另一種協作結構:

Human Intent+Minimal Steering→AI Cognitive Expansion\text{Human Intent} + \text{Minimal Steering} \rightarrow \text{AI Cognitive Expansion}

更具體地說:

D0+Ut→Gt→Ct→Tt→Wt+1D_0 + U_t \rightarrow G_t \rightarrow C_t \rightarrow T_t \rightarrow W_{t+1}

其中人類每輪只提供:

ut∈Uu_t \in U

而不是自己完成整個推理鏈。

DACWE-02 的核心問題是:

Q2:最小的人類 steering set 到底可以縮到多小?Q_2: \quad \text{最小的人類 steering set 到底可以縮到多小?}

2. 什麼叫做「最小人類引導」

最小人類引導不是:

人類完全不做任何事。

而是:

人類保留價值、偏好、接受/拒絕、風險限制與最終選擇,但不要求其自己完成專業分解、搜尋、推理、工程與驗證。

定義:

MHS=Minimal Human SteeringMHS = \text{Minimal Human Steering}

一個 MHS 系統必須滿足:

HumanRole⊆{intent,preference,choice,constraint,approval,termination}\text{HumanRole} \subseteq \{ \text{intent}, \text{preference}, \text{choice}, \text{constraint}, \text{approval}, \text{termination} \}

而 AI 可以承擔:

AIRole⊇{decomposition,research,planning,tool use,verification,repair,memory,coordination}\text{AIRole} \supseteq \{ \text{decomposition}, \text{research}, \text{planning}, \text{tool use}, \text{verification}, \text{repair}, \text{memory}, \text{coordination} \}

3. 人類保留的不可壓縮部分

DACWE 不假設人類價值本身可以被 AI 完全代替。

最低限度,人類仍需要保留:

3.1 原始價值

VHV_H

也就是:

我真正想要什麼?

3.2 偏好

PHP_H

例如:

  • 我不要冒太大財務風險;
  • 我不想搬家;
  • 我不想犧牲家庭生活;
  • 我不接受非法路徑。

3.3 授權

AHA_H

即:

這一步可不可以做?

3.4 終止權

StopHStop_H

即:

什麼時候不再繼續?

因此:

MHS≠HumanEliminationMHS \neq \text{HumanElimination}

而是:

MHS=HumanValueControl+LowBandwidthSteeringMHS = \text{HumanValueControl} + \text{LowBandwidthSteering}

4. Cognitive Operator Set

本篇將自然語言中的「提升詞」定義為認知算子。

4.1 Continue

ucontinueu_{continue}

語義:

沿目前方向繼續推進,但不得無條件擴張問題。

人類常見表達:

  • 繼續;
  • 下一步;
  • 往下做;
  • 接著完成。

4.2 Clarify

uclarifyu_{clarify}

語義:

找出目前最模糊、最可能導致錯誤理解的條件。


4.3 Decompose

udecomposeu_{decompose}

語義:

將當前目標拆成可分別處理的子問題。

形式化:

G→{g1,g2,…,gn}G \rightarrow \{g_1,g_2,\ldots,g_n\}

4.4 Compare

ucompareu_{compare}

語義:

產生多條可行路徑並比較成本、風險與適配性。


4.5 Verify

uverifyu_{verify}

語義:

不再擴寫方案,而是檢查目前聲稱是否有證據、測試或可重現結果。


4.6 Falsify

ufalsifyu_{falsify}

語義:

主動尋找能使目前方案失敗的反例。


4.7 Repair

urepairu_{repair}

語義:

針對已發現失敗,採用最小必要修改恢復可行性。


4.8 Automate

uautomateu_{automate}

語義:

尋找目前需要人類重複操作的部分,判斷哪些可以交給工具、程式或 agent。

形式化:

HumanWorkt→MachineWorkt+1HumanWork_t \rightarrow MachineWork_{t+1}

4.9 Globalize

uglobalizeu_{globalize}

語義:

從目前局部成功回到整體目標,確認局部優化沒有偏離原始 desire。


4.10 Stop

ustopu_{stop}

語義:

停止當前分支,不再增加能力或複雜度。


5. 基本算子集合與擴展集合

5.1 Tier 0:極簡集合

U0={continue,stop}U_0 = \{ \text{continue}, \text{stop} \}

5.2 Tier 1:普通人集合

U1={continue,clarify,choose,verify,stop}U_1 = \{ \text{continue}, \text{clarify}, \text{choose}, \text{verify}, \text{stop} \}

5.3 Tier 2:提升詞集合

U2={continue,clarify,decompose,compare,verify,falsify,repair,automate,globalize,stop}U_2 = \{ \text{continue}, \text{clarify}, \text{decompose}, \text{compare}, \text{verify}, \text{falsify}, \text{repair}, \text{automate}, \text{globalize}, \text{stop} \}

6. Operator Compression Hypothesis

如果人類可以用很少的操作控制很大的認知展開,則存在:

Compression=AI Cognitive WorkHuman Steering Tokens\text{Compression} = \frac{ \text{AI Cognitive Work} }{ \text{Human Steering Tokens} }

定義:

OCR=Nmeaningful AI transitionsNhuman operator actionsOCR = \frac{ N_{meaningful\ AI\ transitions} }{ N_{human\ operator\ actions} }

若:

OCR≫1OCR \gg 1

代表每一次人類操作可以觸發多個有意義的能力轉換。


7. Human Steering Budget

定義:

HSB=(Nactions,Ntokens,Nchoices,Ninterruptions)HSB = ( N_{actions}, N_{tokens}, N_{choices}, N_{interruptions} )

其中:

  • NactionsN_{actions}:人類操作次數;
  • NtokensN_{tokens}:人類實際輸入量;
  • NchoicesN_{choices}:需要做出的實質選擇數;
  • NinterruptionsN_{interruptions}:人類必須重新介入的次數。

8. Human Cognitive Burden

單看 token 數量會誤導,因此定義:

HCB=(K,J,A,M,E)HCB = ( K, J, A, M, E )

其中:

  • KK:Knowledge burden;
  • JJ:Judgment burden;
  • AA:Attention burden;
  • MM:Memory burden;
  • EE:Execution burden。

將其正規化:

HCB∈[0,1]HCB \in [0,1]

9. Capability Amplification Efficiency

定義:

CAE=ΔCeffectiveHCB+λHSBCAE = \frac{ \Delta C_{effective} }{ HCB+\lambda HSB }

如果:

CAE↑CAE \uparrow

代表人類用較少認知成本取得較大能力提升。


10. 能力不是輸出字數

真正的:

ΔCeffective\Delta C_{effective}

必須反映:

  1. 能不能完成以前做不到的任務;
  2. 能不能跨更多任務族;
  3. 能不能減少人類操作;
  4. 能不能自行驗證;
  5. 能不能在失敗後恢復;
  6. 能不能把能力保留到下一輪。

11. Steering Sufficiency Frontier

定義:

SSF=Steering Sufficiency FrontierSSF = \text{Steering Sufficiency Frontier}

表示:

在給定 AI、環境與 desire 下,需要多少人類 steering 才能維持某一能力階梯?

形式化:

SSF(L)=min⁡HSBSSF(L) = \min HSB

subject to:

CapabilityLevel≥L\text{CapabilityLevel} \geq L

12. Human Bottleneck Transition

在低 AI 能力時:

Bottleneck=HumanSkill\text{Bottleneck} = \text{HumanSkill}

但 AI 提升後,可能變成:

Bottleneck=HumanPreference+Approval+Resources\text{Bottleneck} = \text{HumanPreference} + \text{Approval} + \text{Resources}

定義:

HBT=Human Bottleneck TransitionHBT = \text{Human Bottleneck Transition}

若:

∂Y∂TechnicalSkillH↓\frac{\partial Y}{\partial TechnicalSkill_H} \downarrow

同時:

∂Y∂PreferenceClarityH↑\frac{\partial Y}{\partial PreferenceClarity_H} \uparrow

則人類瓶頸可能從「會不會做」轉為「知不知道自己要什麼」。


13. 最小操作協議

ordinary-human simulator 每輪只能執行:

atH∈Uia_t^H \in U_i

以及少量參數。

例如:

OPERATOR: compare
FOCUS: cost

或:

OPERATOR: verify
FOCUS: feasibility

人類不得在參數中偷偷注入專業解法。


14. Natural-Language Surface Form

同一 operator 可以有多種自然表達。

例如:

ufalsifyu_{falsify}

可以表達為:

  • 找反例;
  • 哪裡可能錯;
  • 怎樣會失敗;
  • 挑最弱的地方;
  • 反過來證明它不行。

因此區分:

OperatorIdentity\text{OperatorIdentity}

與:

SurfacePhrase\text{SurfacePhrase}

15. Operator Semantics Must Be Stable

同一算子在不同 rollout 中不能任意改義。

例如:

uautomateu_{automate}

canonical semantics 應固定為:

尋找當前流程中可由工具或軟體接管的重複性認知或操作工作,優先採用最低充分自動化方案。


16. Tier 0 實驗:只有「繼續」

最極端條件:

U0′={continue}U_0' = \{ \text{continue} \}

人類除了最初 desire 之外,只能說:

繼續。

它直接測:

AutonomousExpansion\text{AutonomousExpansion}

但也容易產生 desire drift 與 overengineering,因此必須配合:

DFDF

與:

CICI

評估。


17. Tier 1 實驗:普通選擇

Tier 1 使用:

U1U_1

人類可以:

  • 繼續;
  • 要求澄清;
  • 從選項中選;
  • 要求驗證;
  • 停止。

如果:

Cmax(U1)≫CHC_{max}(U_1) \gg C_H

代表高階 cognition lifting 不一定依賴精密 prompt engineering。


18. Tier 2 實驗:提升詞

Tier 2 加入:

  • 分解;
  • 比較;
  • 找反例;
  • 修復;
  • 自動化;
  • 回到全域。

這裡真正測的是:

是否存在一小組 domain-general cognitive operators\text{是否存在一小組 domain-general cognitive operators}

能讓普通人跨任務重複使用。


19. Cognitive Control Plane

可將 AI 的大量能力視為:

DataPlaneAIDataPlane_{AI}

而人類少量算子為:

ControlPlaneHControlPlane_H

因此:

Human→UAI Cognitive Runtime\text{Human} \xrightarrow{U} \text{AI Cognitive Runtime}

若 DACWE-02 得到支持,可以提出:

Human Cognitive Control Plane\boxed{ \text{Human Cognitive Control Plane} }

20. 認知算子是否可組合

研究:

ui∘uju_i \circ u_j

例如:

udecompose∘uverifyu_{decompose} \circ u_{verify}

又例如:

ufalsify∘urepairu_{falsify} \circ u_{repair}

形成:

OperatorProgram=(u1,u2,…,un)\text{OperatorProgram} = (u_1,u_2,\ldots,u_n)

21. 固定算子程序與自由 steering

比較:

模式 A:自由 steering

普通人根據當下感覺選 operator。

模式 B:固定 operator cycle

例如:

decompose→compare→verify→falsify→repair→globalize\text{decompose} \rightarrow \text{compare} \rightarrow \text{verify} \rightarrow \text{falsify} \rightarrow \text{repair} \rightarrow \text{globalize}

如果模式 B 能跨多數任務穩定工作,表示高階認知流程可能部分程序化。


22. Operator Choice Burden

定義:

OCB=Operator Choice BurdenOCB = \text{Operator Choice Burden}

即 ordinary-human simulator 判斷「現在該用哪個算子」的難度。

若:

OCB↑OCB \uparrow

它可能成為新的認知瓶頸。


23. AI 建議下一個 operator

為降低 OCB,可允許:

AI→RecommendedOperator→HumanApprovalAI \rightarrow \text{RecommendedOperator} \rightarrow \text{HumanApproval}

比較:

Uself−selectedU_{self-selected}

與:

UAI−recommendedU_{AI-recommended}

若結果接近,代表 meta-operator selection 也可能被部分外包。


24. Operator Autopilot

更進一步測:

UautopilotU_{autopilot}

AI 自己決定何時:

  • 分解;
  • 驗證;
  • 找反例;
  • 修復;
  • 自動化。

人類只保留:

approve,reject,stop\text{approve}, \text{reject}, \text{stop}

這是:

MHSminMHS_{min}

候選,但必須嚴格監控 desire drift、overengineering 與 verification collapse。


25. 人類選擇的資訊顯示量

每個 Decision Packet 最多包含:

  1. 選項;
  2. 每個選項一句優點;
  3. 每個選項一句風險;
  4. AI 推薦理由;
  5. 是否可逆。

用以測量:

LowBandwidthDecisionInterface\text{LowBandwidthDecisionInterface}

是否足夠。


26. 「不知道」是合法操作

加入:

uunknownu_{unknown}

若人類表示:

我不知道。

AI 不得要求其自己補足專業知識,而應:

  1. 簡化;
  2. 提供預設方案;
  3. 說明可逆性;
  4. 降低決策風險。

27. Default Policy

若人類表示:

unknown\text{unknown}

AI 使用:

DefaultPolicy=arg⁡min⁡T(Risk+Irreversibility+Cost)\text{DefaultPolicy} = \arg\min_T ( \text{Risk} + \text{Irreversibility} + \text{Cost} )

subject to:

Progress(T)>0Progress(T)>0

28. Reversibility Principle

定義:

PreferredAction=arg⁡max⁡aInformationGain(a)\text{PreferredAction} = \arg\max_a InformationGain(a)

subject to:

Risk(a)≤θRRisk(a)\leq\theta_R

且:

Reversibility(a)≥θVReversibility(a)\geq\theta_V

讓普通人在不理解全部底層細節時仍可安全探索。


29. Human Burden Failure

若任何步驟要求人類:

  • 閱讀大量高階論文才能選擇;
  • 自己寫複雜程式;
  • 自己判斷難以驗證的專業爭議;
  • 持續追蹤大量平行任務;

則:

HBF=1HBF=1

即使 trajectory 表面成功,也不能算 MHS 成功。


30. Steering Deadlock

如果 AI 要求人類在資訊不足時自行做高難度決策,並連續:

kk

輪無法推進,則:

SD=1SD=1

MVP 可設定:

k=3k=3

31. Cognitive Loop Failure

若 operator cycle 只是反覆:

decompose→verify→repair→decompose\text{decompose} \rightarrow \text{verify} \rightarrow \text{repair} \rightarrow \text{decompose}

而:

ΔW=0\Delta W=0

則為:

CognitiveLoopFailure\text{CognitiveLoopFailure}

有效 trajectory 必須定期產生真實 world-state change。


32. 語言層與算子層分離

自然語句透過:

ut=Map(Languaget)u_t = Map(Language_t)

映射成 canonical operator。

因此研究可以跨語言比較,而不把字面差異誤認為 cognition 差異。


33. 跨文化的 Operator Vocabulary

未來可比較:

P(ui∣Culture)P(u_i\mid Culture)

研究不同文化/語言背景下,人們自然採用哪些高階操作。


34. Operator Discovery

除了預定義 U2U_2,也可從大量自然對話聚類出:

U\*U^\*

即真實使用者反覆使用、且跨任務有效的 operator set。


35. Operator Ablation

例如:

U2−verify=U2∖{verify}U_2^{-verify} = U_2 \setminus \{\text{verify}\}

比較:

Y(U2)Y(U_2)

與:

Y(U2−verify)Y(U_2^{-verify})

可估計單一 operator 的邊際作用。


36. Operator Interaction Effects

算子可能具有交互作用:

Effect(verify+falsify)>Effect(verify)+Effect(falsify)Effect(\text{verify}+\text{falsify}) > Effect(\text{verify})+Effect(\text{falsify})

後續可估:

Y=β0+∑iβiui+∑i<jβijuiuj+ϵY = \beta_0 + \sum_i\beta_i u_i + \sum_{i<j}\beta_{ij}u_iu_j + \epsilon

37. Automate 的特殊地位

uautomateu_{automate}

可能形成:

Automation→FreedHumanBandwidth→HigherLevelSteering→FurtherAutomation\text{Automation} \rightarrow \text{FreedHumanBandwidth} \rightarrow \text{HigherLevelSteering} \rightarrow \text{FurtherAutomation}

但也可能:

Automation→Opacity→LossOfControl\text{Automation} \rightarrow \text{Opacity} \rightarrow \text{LossOfControl}

因此必須同步測:

Observability\text{Observability}

與:

Recoverability\text{Recoverability}

38. Globalize 的特殊地位

uglobalizeu_{globalize}

用來對抗局部最優與 goal drift。

每次執行都重新檢查:

DFtDF_t

若:

DFt<θFDF_t<\theta_F

則必須:

repair\text{repair}

或:

stop\text{stop}

39. 認知算子作為有限控制語言

如果 U2U_2 足夠穩定,可形成:

LUL_U

例如:

CONTINUE
CLARIFY
DECOMPOSE
COMPARE
VERIFY
FALSIFY
REPAIR
AUTOMATE
GLOBALIZE
STOP

形成:

Intent→Operator→CognitiveRuntime\text{Intent} \rightarrow \text{Operator} \rightarrow \text{CognitiveRuntime}

40. Operator 不是魔法詞

Operator≠MagicPrompt\text{Operator} \neq \text{MagicPrompt}

真正重要的是:

Semantics+RuntimeBehavior+Verification\text{Semantics} + \text{RuntimeBehavior} + \text{Verification}

如果「找反例」只改變文字風格,而不改變驗證流程:

OperatorEffect=0OperatorEffect=0

41. Operator Execution Trace

每次 operator 執行應保存:

{
  "turn": 12,
  "operator": "falsify",
  "surface_phrase": "哪裡最可能錯?",
  "target_state": "current_plan",
  "ai_action": [
    "identify assumptions",
    "construct failure cases",
    "rank vulnerabilities"
  ],
  "state_change": true,
  "human_followup_required": false
}

42. Minimal Human Steering Score

定義:

MHSS=1−Normalized(HCB+HSB)2MHSS = 1 - \frac{ Normalized(HCB+HSB) }{ 2 }

再結合 capability level:

MHSQ=MHSS×LLmaxMHSQ = MHSS \times \frac{L}{L_{max}}

避免「人類負擔極低但系統也完全無能力」的假高分。


43. 主要實驗矩陣

DACWE-02 第一階段固定:

D=D3,D5D=D_3,D_5 A=AfrontierA=A_{frontier} E=EME=E_M

比較:

U0,U1,U2,UautopilotU_0,U_1,U_2,U_{autopilot}

每組:

2020

次 rollout。

總數:

2×4×20=1602 \times 4 \times 20 = 160

條。


44. 低成本 MVP

先固定:

D=D5decontaminatedD=D_5^{decontaminated}

比較:

U0,U1,U2U_0,U_1,U_2

每組:

1010

次。

總共:

3030

條 trajectory。


45. 主要 dependent variables

每條 rollout 保存:

Y=(L,GC,HCB,HSB,OCR,CAE,DF,CI,HBF,SD,XASI)Y= ( L, G_C, HCB, HSB, OCR, CAE, DF, CI, HBF, SD, X_{ASI} )

46. 主要假說

H2.1:低頻 steering 可行假說

HSB↓HSB \downarrow

不一定導致:

Y↓Y \downarrow

到相同比例。

H2.2:認知算子增益假說

Y(U2)>Y(U1)>Y(U0)Y(U_2) > Y(U_1) > Y(U_0)

至少在部分高通用 desire 中成立。

H2.3:人類負擔下降假說

如果 AI 足夠強:

HCB↓HCB \downarrow

與:

L↑L \uparrow

可以同時發生。

H2.4:meta-steering 外包假說

若:

Y(UAI−recommended)≈Y(Uself−selected)Y(U_{AI-recommended}) \approx Y(U_{self-selected})

則 operator selection 也可能部分外包。

H2.5:最低控制面假說

存在:

UminU_{min}

使:

∣Umin∣≪∣CognitiveTaskSpace∣|U_{min}| \ll |CognitiveTaskSpace|

但仍能維持高階 capability trajectory。


47. 反證條件

以下情況會削弱或否定本篇核心命題:

  1. 必須由人類提供專業級分解;
  2. operator 只改變文字風格;
  3. 人類必須頻繁救援;
  4. 低 steering 導致嚴重 goal drift;
  5. 所有關鍵選擇仍依賴高階專業判斷。

48. Human Steering Frontier 可能不是單調的

可能存在:

HSB\*HSB^\*

使:

Y(HSB)Y(HSB)

在中間區間最大。

即:

TooLittleSteering→Drift\text{TooLittleSteering} \rightarrow \text{Drift} TooMuchSteering→Interference\text{TooMuchSteering} \rightarrow \text{Interference} OptimalSteering→ValueControl+AICompetence\text{OptimalSteering} \rightarrow ValueControl+AICompetence

49. Steering Granularity

定義:

SG=MajorStateTransitionsHumanActionsSG = \frac{ \text{MajorStateTransitions} }{ \text{HumanActions} }

若:

SG↑SG \uparrow

代表人類控制粒度變粗,AI 承擔更多細節。


50. 從 Prompt Engineering 到 Intent Steering

區分:

PromptEngineering\text{PromptEngineering}

與:

IntentSteering\text{IntentSteering}

前者關注:

如何精確描述模型該怎麼回答。

後者關注:

人類只維持價值方向、驗證要求與停止權,細節由 AI 自主展開。

因此:

Intent Steering≠Prompt Engineering\boxed{ \text{Intent Steering} \neq \text{Prompt Engineering} }

51. 從使用 AI 到治理 AI 工作

人類角色可能從:

Operator\text{Operator}

轉為:

Governor\text{Governor}

即:

HumanRole:Execution→Governance\text{HumanRole} : \text{Execution} \rightarrow \text{Governance}

這裡的 governance 僅指目標、限制、風險、批准與停止控制。


52. 對高階智能路徑研究的意義

如果最小 steering 足以使能力階梯從:

L1L_1

上升到:

L7,L8,L9L_7,L_8,L_9

則真正發生的是:

普通人可以藉由低頻控制,維持一個比自己認知範圍更大的研究系統。\boxed{ \text{普通人可以藉由低頻控制,維持一個比自己認知範圍更大的研究系統。} }

如果 trajectory 在:

L3L_3

或:

L4L_4

就停止,則代表目前 AI 仍高度依賴人類專業能力。


53. Canonical Ordinary-Human Operator Policy

第一版 simulator policy:

1. 如果看不懂,使用 CLARIFY。
2. 如果只有一條低風險路徑,使用 CONTINUE。
3. 如果有多條重要路徑,使用 COMPARE。
4. 如果出現重要主張,使用 VERIFY。
5. 如果計畫已變複雜,使用 DECOMPOSE。
6. 如果看起來太順利,使用 FALSIFY。
7. 如果找到明確失敗,使用 REPAIR。
8. 如果有重複人工操作,使用 AUTOMATE。
9. 每完成一個主要階段,使用 GLOBALIZE。
10. 如果風險、成本或偏離目標不可接受,使用 STOP。

54. 最小版普通人 Policy

- 看不懂:CLARIFY
- 不確定:VERIFY
- 有選項:COMPARE
- 沒明顯問題:CONTINUE
- 太複雜:DECOMPOSE
- 做完一段:GLOBALIZE
- 不值得:STOP

如果這麼小的 policy 已能維持高階 trajectory,則支持低頻 cognitive control 假說。


55. Machine-Readable Operator Schema

{
  "turn": 18,
  "actor": "ordinary_human",
  "operator": "verify",
  "focus": "feasibility",
  "choice": null,
  "free_text": null,
  "confidence": 0.42
}

56. AI Response Contract

{
  "current_goal": "...",
  "action_taken": "...",
  "result": "...",
  "confidence": 0.0,
  "needs_human_choice": false,
  "options": [],
  "recommended_operator": "continue",
  "verification_status": "unverified",
  "desire_fidelity": 0.0,
  "state_changed": true
}

57. 安全限制

Minimal steering 不代表 AI 可以因一句「繼續」而任意採取不可逆高風險行動。

必須有:

Risk(a)↑⇒RequiredHumanApproval(a)↑Risk(a) \uparrow \Rightarrow RequiredHumanApproval(a) \uparrow

尤其包括:

  • 真實金錢;
  • 法律承諾;
  • 帳號與身分;
  • 高風險外部操作;
  • 危險技術;
  • 不可逆部署。

58. DACWE-02 MVP Run

建議配置:

D=D5decontaminatedD = D_5^{decontaminated} H=H0H = H_0 E=EME = E_M A=AfrontierA = A_{frontier}

比較:

U0,U1,U2U_0, U_1, U_2

各:

1010

次。

每條最多:

5050

輪。

主要比較:

L,HCB,HSB,CAE,DF,CI,XASIL, HCB, HSB, CAE, DF, CI, X_{ASI}

59. 第二批實驗

若第一批有明顯差異,再加入:

UAI−recommendedU_{AI-recommended}

與:

UautopilotU_{autopilot}

測量 meta-steering 是否也能逐步外包。


60. 第三批實驗

再比較:

Aweak,Afrontier,AagenticA_{weak}, A_{frontier}, A_{agentic}

如果:

A↑A \uparrow

導致:

SSF(L)↓SSF(L) \downarrow

則表示達到相同能力階梯所需的人類 steering 隨 AI 能力下降。


61. 核心判定圖

DACWE-02 最後希望得到一張:

橫軸:

HumanSteering\text{HumanSteering}

縱軸:

CapabilityLevel\text{CapabilityLevel}

不同曲線:

Aweak,Afrontier,AagenticA_{weak}, A_{frontier}, A_{agentic}

如果 AI 越強,曲線越向左上移,則:

less human steering→more capability\boxed{ \text{less human steering} \rightarrow \text{more capability} }

獲得支持。


62. 本篇核心命題

DACWE-02 不宣稱:

普通人只要按「繼續」就能建立 ASI。

而是提出可測命題:

∃Usmall:Ceffective(H0,A,Usmall)≫CH\boxed{ \exists U_{small} : C_{effective}(H_0,A,U_{small}) \gg C_H }

也就是:

可能存在一個很小、很普通、跨領域的認知算子集合,使普通人能透過強 AI 維持遠超自身專業範圍的能力演化。

更進一步:

人類未來的重要能力,可能不是自己完成所有認知工作,而是維持正確的高階控制迴路。\boxed{ \text{人類未來的重要能力,可能不是自己完成所有認知工作,而是維持正確的高階控制迴路。} }

63. 與 DACWE-00、DACWE-01 的連接

完整鏈條現在成為:

D→U→AI→G→C→T→W′D \rightarrow U \rightarrow AI \rightarrow G \rightarrow C \rightarrow T \rightarrow W'

其中:

  • DACWE-00 定義世界與反事實;
  • DACWE-01 定義 DD ;
  • DACWE-02 定義 UU。

因此原始問題可以正式寫為:

Y=F(H,D,U,A,E,M,T)Y = F( H, D, U, A, E, M, T )

64. 下一篇

下一篇進入:

DACWE-03:AI Capability Counterfactuals\boxed{ \text{DACWE-03:AI Capability Counterfactuals} }

固定:

H,D,U,EH,D,U,E

只替換 AI 能力層級。

核心問題:

當 AI 從一般聊天模型、前沿推理模型、工具型 agent、長時程 autonomous agent 逐步升級時,人類最低 steering requirement 如何改變?

並估計:

∂Capability∂A\frac{\partial Capability}{\partial A}

與:

∂HumanBurden∂A\frac{\partial HumanBurden}{\partial A}

建立:

AI Capability↔Human Cognitive Requirement\boxed{ \text{AI Capability} \leftrightarrow \text{Human Cognitive Requirement} }

的第一條反事實曲線。