CFATC-B03|能力可見性門檻:為什麼普通任務看不出 Frontier AI 到底有多強
Capability Visibility Threshold: Why Ordinary Tasks Fail to Reveal Frontier AI Capability
系列: Conditional Frontier Activation and Human–AI Tail Coupling(CFATC)
系列中文名: 條件式前沿觸發與人機尾端耦合系列
篇次: Paper 03 / 08
作者: Neo.K
研究協作: Aletheia(GPT-5.6 Sol)
機構: EveMissLab/一言諾科技有限公司
版本: v0.1
日期: 2026-09-05
狀態: Canonical Source / UTF-8 Markdown
文件性質: AI 能力可見性/Benchmark Methodology/Frontier Evaluation/人機耦合觀測論
摘要
CFATC-B01 已提出:
Clatent=Crealized
CFATC-B02 進一步提出 Conditional Frontier Activation:
pF(A∣ΘF)=P(Crealized∈Ctail∣A,ΘF).
然而,即使 AI 已具有某種 latent frontier capability,而且在適當耦合條件下確實可被觸發,仍然存在第三個問題:
觀察者是否看得見?
本文提出:
Capability=Capability Visibility.
模型能力可以存在,但如果任務太簡單、評測已飽和、互動模式過窄、時間跨度太短、使用者能力不足、驗證器解析度不夠,則高階能力可能完全不出現在觀察面上。
本文將 Capability Visibility(能力可見性) 定義為:
χ(A,c,T,R,O,E)∈[0,1],
其中:
- A:被測 AI 系統;
- c:欲觀察的能力;
- T:任務族;
- R:interaction / evaluation regime;
- O:observer / evaluator;
- E:environment,包括工具、時間、記憶、verifier 與資源。
當:
χ<τvis,
則即使:
c(A)=1,
觀察者也可能得到:
ObservedO(c)=0.
本文將造成低可見性的來源拆成六類:
Task Ceiling+Regime Blindness+Temporal Truncation+Observer Limitation+Verification Resolution+Domain Mismatch.
第一,若任務難度遠低於兩個模型的能力:
D(T)≪C(A1),C(A2),
則兩者都接近滿分:
Psuccess(A1)≈Psuccess(A2)≈1.
此時模型能力差距仍存在,但 benchmark discrimination:
Δobs→0.
第二,如果 benchmark 只測:
Q→A,
它看不到:
W→Q,
也看不到問題生成、frame switching、長期 state maintenance、方法重構、跨域 attention transfer 等更高階能力。
第三,短任務無法揭示需要多輪修復、跨 session memory、長期 wake condition 或 trajectory-level coherence 才能出現的能力。
第四,即使 AI 產生真正 frontier output,若 observer 無法判斷其價值、錯誤或新穎性,能力仍可能不可見。本文因此引入:
CO
表示 observer competence。
第五,若 evaluator 只能判斷 final answer,卻無法檢查 proof、test、trajectory、state delta 或 external consequence,則高階能力與高階錯誤都會被壓縮成同一個表面分數。
第六,不同領域的 capability frontier 極不均勻。METR 的 2026 time-horizon work 明確指出不同 domain 的 time horizon 可以相差數個數量級,且其主要 task suite 集中於 software engineering、machine learning 與 cybersecurity。因此:
Visible in Domain D1⇒Visible in Domain D2.
本文提出 Capability Visibility Threshold(CVT):
Dtask≥Dvis(A1,A2,c,R,O)
只有當任務進入足夠有區辨力的區間,能力差異才較可能穩定可見。
但如果任務過難:
Dtask≫C(A1),C(A2),
兩者又會共同失敗:
Psuccess≈0.
所以真正理想的 frontier evaluation 並不是「越難越好」,而是存在一個 Diagnostic Visibility Band(診斷可見帶):
Dlow<D(T)<Dhigh.
在這個區域中,模型仍具有非零成功率,但能力差距尚未被 ceiling 或 floor 壓扁。
本文將此寫成:
Bvis={T:ϵ<PA(success∣T)<1−ϵ}.
對多模型比較,則要求 task family 對模型排序與失敗形態具有足夠 discrimination。
2026 年 Stanford AI Index 已直接指出,frontier capability 正在超越 benchmark 設計速度:Humanity’s Last Exam 一年內 frontier model 成績提升約 30 個百分點,而原本預期可維持多年挑戰性的評測在數月內即可能快速失去區辨力。METR 亦指出其 time-horizon benchmark 對現代 frontier models 正接近飽和,測量誤差與分析假設敏感度因此上升,且 16 小時以上的 time horizon 目前無法可靠估計。這些現象共同支持:
Benchmark Half-Life
正在成為 frontier AI evaluation 的實際問題。
本文定義 benchmark diagnostic half-life:
T1/2B=inf{Δt:Disc(B,t+Δt)≤21Disc(B,t)}.
其中 Disc 表示 benchmark 對 frontier models 的區辨能力。
本文也提出一個更強命題:
As frontier AI improves, capability visibility may migrate upward in task meta-level.
也就是,以前足以區分模型的能力可能是:
- syntax;
- factual QA;
- short coding;
- direct reasoning;
未來則逐步上移到:
- long-horizon coherence;
- problem formulation;
- representation change;
- verification;
- recursive repair;
- frame generation;
- autonomous frontier discovery。
因此一般使用者可能真實感受到:
「模型看起來都差不多。」
但這個觀察只能推出:
models are similar inside the user’s visibility band.
不能推出:
models have equal latent or frontier capability.
本文最後提出 Visibility-Aware Frontier Evaluation(VAFE),要求 frontier 評測同時掃描:
Task Difficulty×Time Horizon×Interaction Regime×Observer Competence×Verification Depth.
CFATC 的研究因此形成第三條鏈:
Latent Capability→Activated Capability→Visible Capability→Recognized Capability.
能力「看不見」不是證明能力不存在,而是要求我們先檢查:
是不是觀察器本身已經落後於被觀察系統?
關鍵詞: Capability Visibility Threshold、Benchmark Saturation、Frontier Evaluation、Ceiling Effect、Floor Effect、Observer Competence、Long-Horizon Evaluation、Diagnostic Band、Benchmark Half-Life、Human–AI Coupling
1. 問題:模型明明變強,為什麼很多人感覺「差不多」?
假設:
C(A2)>C(A1).
但普通使用者的任務集合:
TU
全部滿足:
D(T)≪C(A1).
那麼:
P(A1 succeeds)≈P(A2 succeeds)≈1.
使用者自然會得到:
A1≈A2
的經驗。
2. 這個經驗不一定錯
對:
TU
而言,它可能完全正確。
問題只出在把:
A1≈A2∣TU
外推成:
A1≈A2∀T.
3. Capability Visibility
本文定義:
χ(A,c,T,R,O,E)
表示能力 c 在特定 task、regime、observer 與 environment 下被可靠觀察的程度。
4. Visibility 不是 Capability
因此:
C(A)=χ(A).
高能力可以低可見。
低能力也可能因 demo 設計而高可見。
5. Demo Visibility
一個精心挑選的 demo 可以:
χdemo≫0
即使:
Rrobust≪1.
所以:
Demonstrability=Robust Capability.
6. 第一個可見性障礙:Ceiling Effect
若任務太簡單:
D(T)<Dlow,
則:
Psuccess→1.
模型差異被壓縮。
7. 第二個障礙:Floor Effect
若任務太難:
D(T)>Dhigh,
則:
Psuccess→0.
所有模型都失敗。
8. 因此越難不一定越好
真正 evaluation 需要找:
Diagnostic Visibility Band.
9. Visibility Band
定義:
Bvis(A)={T:ϵ<P(success∣A,T)<1−ϵ}.
10. 多模型比較的可見帶
對:
A1,A2,…,An,
理想 task family 應讓模型成功率:
- 不全部為 1;
- 不全部為 0;
- 有穩定排序或可解釋 failure difference。
11. Visibility Threshold
對能力 c,定義:
Dvis(c)
為 task difficulty 進入可辨識該能力區域的最低門檻。
12. Task Difficulty 不是單一尺度
更完整:
D(T)=(Ddepth,Dhorizon,Dambiguity,Dtools,Dverification,Dopen).
13. Reasoning Depth
有些能力只有在多步推理中可見。
14. Time Horizon
有些能力需要:
t≫1
才出現,例如:
- persistence;
- recovery;
- delayed planning;
- long-run consistency。
15. Ambiguity
有些 frontier 能力表現在:
問題本身不完整時,AI 是否先重構問題。
16. Tool Demand
有些能力只有在:
model+tools
的 regime 下可見。
17. Verification Demand
如果任務不要求證明、測試或 external evidence,很多高階 verifier / repair 能力不會被觸發。
18. Open-World Demand
如果所有問題與評分都預先定義:
Q→A,
就看不到:
W→Q.
19. Regime Blindness
同一 AI 在:
- chat;
- agent;
- tool-using;
- persistent runtime;
中是不同 system regime。
所以:
χ(A,c,T,R1)=χ(A,c,T,R2).
20. Chat Benchmark 可能看不到 Agent Capability
如果 benchmark 每題:
- reset context;
- 禁工具;
- 無記憶;
- 無多輪 repair;
則:
Agentic Capability
被結構性消除。
21. Agent Benchmark 也可能看不到 Metacognition
如果 task 已經明確:
- goal;
- method;
- tool;
- verifier;
則 AI 不需要:
select its own cognitive strategy.
22. Meta-Level Visibility
因此越高階能力,越需要:
less pre-specified task structure.
23. LHCF 的 Solver 問題
既有 LHCF 已提出:
S1=Problem Solver,
S2=Theory Builder,
S3=Problem Generator,
S4=Frame Generator,
S5=Frontier Regenerator.
24. Solver Benchmark 只能穩定觀察 S1
如果 benchmark 給定:
Q,R,G,
則高階:
S3,S4,S5
可能根本沒有被要求。
25. 所以沒有出現,不代表沒有
Not Invoked=Not Possessed.
26. 第三個障礙:Temporal Truncation
如果評測只有:
5 minutes,
就無法觀察需要:
5 hours
才出現的 failure / recovery pattern。
27. Long-Horizon Capability
有些 AI 在短任務很穩,
但長任務出現:
- drift;
- state loss;
- goal substitution;
- compounding error。
28. 反過來也可能存在
模型短任務不突出,
但長任務:
- better recovery;
- better planning;
- better self-check;
差異放大。
29. 因此時間本身是觀察器
χ=χ(Δt).
30. METR Time Horizon
METR 將 task difficulty 映射到:
human expert completion time。
這提供一個可解釋的 long-horizon capability axis。
31. 但 Time Horizon 不是自治工作時間
METR 自己明確指出:
Time Horizon=time AI can work independently.
它是基於人類完成時間標定的 task difficulty measure。
32. Domain Limitation
METR 目前主要 task suite 來自:
- software engineering;
- ML;
- cybersecurity。
因此:
HT(D1)=HT(D2).
33. 不同領域可差數個數量級
這進一步說明:
One capability metric=universal visibility metric.
34. 第四個障礙:Observer Limitation
即使 AI 產生正確 frontier result,
observer 也可能看不懂。
35. Observer Competence
定義:
CO(c,T)
表示 observer 對能力 c 與任務 T 的評判能力。
36. 如果 Observer Competence 太低
可能:
CO<Coutput.
此時:
- 正確結果被當錯;
- 錯誤結果被當對;
- 新方法被當成胡說。
37. Recognition Bottleneck
所以:
Capability Visibility≤Evaluator Resolution.
38. Human Expert Evaluation
frontier 數學、科學、程式與法律問題 often require domain experts。
一般 crowd label:
Lcrowd
可能沒有足夠解析度。
39. AI-as-Judge 也有同樣問題
如果 evaluator model:
J
比 candidate:
A
弱,
則:
Judge Capability Ceiling.
40. Stronger Judge 仍不保證正確
因為:
- shared blind spot;
- same training distribution;
- style preference;
- reward hacking;
仍可能存在。
41. 第五個障礙:Verification Resolution
只評 final answer:
y.
會丟失:
- proof;
- process;
- repair;
- test;
- uncertainty。
42. Outcome-Only Eval
可寫:
Eout(y).
43. Trajectory Eval
更高階:
Etraj(s0,a1,s1,…,an,sn).
44. 為什麼 trajectory 重要?
同樣 final success:
y=1
可能來自:
- robust method;
- luck;
- reward hack;
- hidden leakage。
45. OpenAI 2026 Long-Horizon Case
OpenAI 公開描述,在有限內部長程模型部署中觀察到 pre-deployment eval 未捕捉的新 failure modes,之後加入 trajectory-level monitoring。
這支持:
Deployment Trajectory=Static Eval Snapshot.
46. 第六個障礙:Domain Mismatch
若能力是:
cmath,
用 coding benchmark 測不到。
這很明顯,但 frontier evaluation 仍常犯更細的版本。
47. Subdomain Mismatch
例如:
coding
內還有:
- greenfield;
- legacy reconstruction;
- debugging;
- architecture;
- formal verification。
能力不均勻。
48. Jagged Frontier
因此:
C(A,D)
是一個崎嶇曲面。
不是平滑 IQ 軸。
49. Capability Visibility Surface
本文提出:
VA=χ(D,R,O,E).
50. Visibility Ridge
存在一些 task region:
Visibility Ridge
最能放大模型差異。
51. Visibility Desert
也存在:
Visibility Desert
其中模型能力不同但觀察表現接近。
52. Ceiling Desert
第一種:
P≈1.
53. Floor Desert
第二種:
P≈0.
54. Regime Desert
第三種:
benchmark 根本沒有給能力發生的條件。
55. Observer Desert
第四種:
沒有足夠 evaluator 能辨識結果。
56. Benchmark Saturation
令 benchmark:
B.
若 frontier models:
S(Ai,B)→Smax,
則:
Disc(B)→0.
57. Diagnostic Discrimination
定義:
Disc(B,t)=VarA∈Ft[S(A,B)]
作為最簡概念量。
58. 這個定義不是唯一方法
實務上還可以使用:
- rank stability;
- information gain;
- item response theory;
- pairwise separation。
本文只需要一個抽象。
59. Benchmark Half-Life
定義:
T1/2B=inf{Δt:Disc(B,t+Δt)≤21Disc(B,t)}.
60. 2026 AI Index 的現實訊號
Stanford AI Index 2026 指出:
frontier capability 正跑得比 benchmark 設計更快。
Humanity’s Last Exam 一年內 frontier score 提升約 30 percentage points。
61. Benchmark 原本預計很難
但:
designed-to-last-years→months-scale saturation
正在出現。
62. 這不是 benchmark 沒價值
而是:
benchmark is a moving measurement instrument.
63. METR 也觀察到 Saturation
METR 2026 明確指出其 time-horizon suite 正接近 saturation,導致:
- error bars widening;
- point estimate sensitivity;
- longer task shortage。
64. 16 小時以上目前難以可靠測量
METR 公開頁明示:
H50>16h
的測量目前不可靠。
65. 這是 Instrument Ceiling
不是:
AI incapable above 16h.
而是:
instrument cannot resolve reliably above 16h.
66. Measurement Ceiling 與 Capability Ceiling 必須分開
Cinstrument=Csystem.
67. Frontier Model 會逃出 Benchmark Window
當:
CA(t)↑
固定 benchmark:
B
最終會落到 ceiling region。
68. 因此評測必須動態更新
Bt→Bt+1.
69. 但 benchmark 更新也有成本
建立 frontier-quality task 需要:
- expert time;
- verification;
- contamination control;
- baselining。
70. Evaluation Lag
定義:
τE=Tnew diagnostic−Tcapability shift.
71. 當 τE>0
存在一段:
capability 已進步,但公開測量仍看不清。
72. 一般使用者的 Evaluation Lag 更大
一般人不會每天更新自己的 task suite。
所以:
τU≫τE
可能成立。
73. User Visibility Band
每位使用者其實都有:
Buser(u).
74. 如果兩模型都超出使用者需求
則:
A1≈A2
對使用者而言是真實效用等價。
75. 但 Product Utility 等價不等於 Frontier Capability 等價
Uu(A1)≈Uu(A2)⇒Ctail(A1)=Ctail(A2).
76. 這能解釋很多模型爭論
兩個人可能都沒說謊:
因為其:
Buser
不同。
77. Coupling Visibility
B02 已提出 CFA。
如果使用者從不提供:
- method;
- verifier;
- long horizon;
- repair;
則:
pF
很低。
78. 因此能力尾端可能對大多數使用者是不可見的
即:
Ctail∩Buser=∅.
79. Capability Activation 與 Visibility 是兩道不同門
即使:
Activate=1,
也可能:
Visible=0
因為 evaluator 看不懂。
80. 所以完整鏈是
Latent→Activated→Visible→Recognized.
81. Observed Capability
本文定義:
Cobs=ΠO(Crealized,R,E).
其中 ΠO 是 observer projection。
82. Projection 可以丟失能力差異
如果:
kerΠO=0,
部分能力落入 observer blind spot。
83. 這直接接回 GIRA-A02
Representation / observer dependence:
observer-relative representation=arbitrary truth.
84. 高階能力可見性可能需要高階 Observer
例如 theorem proof:
COmath
不足時,
一般人無法區分:
- valid theorem;
- plausible nonsense。
85. Expert Observer 仍有限
真正 frontier 可能:
Coutput>COmax.
此時需要:
- formal verifier;
- experiment;
- collective review。
86. Verification as Visibility Amplifier
因此:
V↑⇒χ↑
在許多 frontier tasks 可能成立。
87. Formal Proof 是極端案例
如果 theorem 被 Lean 驗證:
Vformal=1,
observer 不必自己重做完整 proof 才知道:
至少形式系統接受。
88. 但 Formal Verification 也不等於所有語義正確
仍需檢查:
- theorem statement;
- assumptions;
- formalization fidelity。
89. Skill-Formation Visibility
AI 不只影響輸出,也影響人類能力。
這種效應在一次 task benchmark 幾乎不可見。
90. Longitudinal Human–AI Eval
需要:
Ht→Ht+n.
測:
- learning;
- hollowing;
- calibration;
- coupling growth。
91. Relation-State Visibility
共享歷史:
RHA
的價值也需要多次互動才能可見。
92. 一次性 Benchmark 看不到 Relational Capital
所以:
Session Reset
會刻意刪除某些真實能力維度。
93. 這有時是好事
如果我們只想測:
Cbase,
reset 很合理。
94. 但不能把 Base Capability Benchmark 當完整系統能力
Base Model Eval=Coupled System Eval.
95. Visibility-Aware Frontier Evaluation(VAFE)
本文提出:
VAFE=(T,H,R,O,V).
96. T:Task Difficulty Sweep
從:
Dlow→Dhigh.
97. H:Time-Horizon Sweep
從:
- minutes;
- hours;
- days;
- persistent multi-session。
98. R:Interaction-Regime Sweep
比較:
- first-shot;
- expert coupled;
- tool-enabled;
- verifier-enabled;
- autonomous agent。
99. O:Observer Sweep
比較:
- automatic scorer;
- general human;
- expert human;
- stronger AI judge;
- formal verifier。
100. V:Verification Depth
從:
- final answer;
- output evidence;
- process trace;
- formal / empirical certification。
101. Visibility Tensor
最終可得到:
VA=[χd,h,r,o,v].
102. 這比單一 benchmark 更接近能力形狀
模型可能在:
(d1,h1,r1)
不可見,
但在:
(d2,h2,r2)
非常清楚。
103. Visibility Robustness
定義:
Rvis=P(χ>τvis∣T∼TF).
104. Tail Visibility Ratio
定義:
ρtail−vis=μ(Ctail)μ(Ctail∩Cvisible).
105. 如果 ρtail−vis≪1
表示:
模型大部分尾端能力尚未被現有觀察制度穩定顯影。
106. 這不是神秘能力論
必須有:
- repeatable task;
- verified output;
- ablation;
- empirical evidence。
否則不能宣稱 invisible tail。
107. Invisible ≠ Unfalsifiable
本文堅持:
Invisible Capability Claim must generate a testable visibility intervention.
108. 例如
如果我們聲稱:
加 verifier 能顯示 latent math capability。
就必須測:
χ(V=1)>χ(V=0).
109. Visibility Intervention
定義:
Δχi=χ(Θ+i)−χ(Θ).
110. 如果任何 intervention 都無效
那「能力只是看不見」的說法應被削弱。
111. 可證偽命題一
若模型差距只存在 marketing claim,而非 tail capability:
Bvis
擴大後仍不應出現穩定 separation。
112. 可證偽命題二
若 ceiling effect 是主因,把 task difficulty 上調到 diagnostic band 後:
Disc↑.
113. 可證偽命題三
若 long-horizon capability 真實存在:
χ(Δtlong)>χ(Δtshort)
對相關能力應成立。
114. 可證偽命題四
若 expert coupling 只是 placebo:
χ(Hexpert)−χ(Hordinary)
在控制 prompt information 後不應穩定為正。
115. 可觀測預測
本文提出九個預測:
- frontier model 的一般日常使用體感差異會隨 ordinary-task saturation 而縮小。
- 真正模型差異會向更難、更長、更開放、更需驗證的任務遷移。
- benchmark half-life 會持續縮短,迫使 frontier evaluation 更頻繁更新。
- public benchmark score 將越來越需要搭配 task-distribution 與 saturation disclosure。
- long-horizon evaluation 會增加 trajectory-level scoring,而不是只看 final output。
- domain expert evaluators、formal verifiers 與 empirical tools 會變得更重要。
- 一部分「新版模型沒差」其實是 user visibility-band saturation,而非 capability stagnation。
- coupling-aware evaluation 會發現相同模型在 expert interaction regimes 中呈現更大的 tail visibility。
- 當 AI self-activation 提升後,tail visibility 將逐步從 rare expert coupling 移入一般 agent runtime。
116. 與既有 EveMissLab 研究的關係
116.1 CFATC-B01
B01 建立:
Clatent=Crealized.
B03 再加入:
Crealized=Cobserved.
116.2 CFATC-B02
B02 建立 CFA:
ΘF→Ctail.
B03 研究:
tail 被觸發後,何時能被 observer 看見?
116.3 LHCF-07
LHCF 已提出 Problem Solver → Theory Builder → Problem Generator → Frame Generator → Frontier Regenerator。
B03 將其解讀為:
不同 meta-level 需要不同 evaluation regime 才可見。
116.4 GIRA-A06
GIRA-A06 已區分:
TE,TO,TC,TR.
B03 提供 TO 之前的一個微觀條件:
capability must enter the observer’s visibility band.
117. 外部研究支點
- Stanford Institute for Human-Centered Artificial Intelligence, The 2026 AI Index Report — Technical Performance, 2026.
- METR, Task-Completion Time Horizons of Frontier AI Models, updated May 8, 2026.
- Kwa, T., Clarifying Limitations of Time Horizon, METR Research Note, January 22, 2026.
- METR, Frontier Risk Report (February to March 2026), May 19, 2026.
- OpenAI, Safety and Alignment in an Era of Long-Horizon Models, July 20, 2026.
- Neo.K with Aletheia, CFATC-B01, 2026.
- Neo.K with Aletheia, CFATC-B02, 2026.
- Neo.K, 從解題者到前沿生成者:最後人類認知對手的能力結構, LHCF-07, 2026.
118. 結論
本文的核心命題是:
Capability=Capability Visibility.
一個 frontier model 可以真實變強,但普通任務仍讓:
Psuccess≈1.
此時差異被 ceiling effect 吃掉。
反之,如果任務遠超所有模型能力:
Psuccess≈0,
差異又被 floor effect 吃掉。
所以真正的 frontier evaluation 要找到:
Bvis
——能讓能力差異具有最大診斷價值的可見帶。
更完整地:
χ=χ(Task,Horizon,Regime,Observer,Verification,Domain).
因此我們不能從:
「我日常用起來沒差」
直接推出:
「模型 frontier capability 沒差」。
也不能從:
「某個 benchmark 已經滿分」
推出:
「能力已經測完」。
更精確的結論是:
The measurement instrument may have saturated before the capability did.
CFATC 至此形成三層:
Latent Capability→Activated Capability→Visible Capability.
下一篇 CFATC-B04 將處理第四個現象:
Error Morphology Shift.
也就是:
當 frontier AI 越來越強,為什麼錯誤不只是變少,而會從低級錯誤遷移到遺漏、邊界、形式化義務、架構分支與高複雜度殘差?
Canonical Source Note
本文件的正式原稿為此 UTF-8 Markdown source。聊天介面的渲染版本不應被視為 canonical source。
數學公式 canonical delimiter 僅使用:
- inline math:
$...$
- display math:
$$...$$
不得以 Unicode 數學字元替換 LaTeX source,不進行 unicode_escape 類 round-trip,不自行改寫反斜線、delimiter 或公式原始碼。