AI 單次品質論:意圖忠實度、過程品質、完成度與結果品質
AI Single-Run Quality Theory: Intent Fidelity, Process Quality, Completion, Verification, and Outcome Quality
系列 :AI 互動時間與智能時間經濟學系列,第 7 篇/共 8 篇文件編號 :EML-ASRQT-2026-07-v0.1作者 :Neo.K(許筌崴)with Aletheia(GPT-5.6 Sol)機構 :EveMissLab/一言諾科技有限公司版本 :v0.1日期 :2026-08-20性質 :理論框架/Agent Evaluation/Run-Level Quality/互動時間論收斂篇狀態 :Public Theory Draft直接前置 :《委任時間論:自主 Agent、人類介入密度與治理槓桿》v0.1
摘要
AI Agent 的品質常被壓縮成單一結果判定:答案正確、任務通過、benchmark 得分或使用者接受,便被視為「這次表現很好」。然而,對具有意圖解析、規劃、工具使用、長時程執行、驗證、恢復、授權與世界作用能力的 Agent 而言,單一 outcome score 會隱藏至少三類重要資訊:第一,最終結果可能正確,但過程包含錯誤推理、無效工具、違反限制、危險 side effect 或純粹幸運;第二,過程可能高度合理、合規、可驗證,卻因外部環境、隨機失敗或不可控條件而未完成;第三,一個 run 可能已產生大量高價值 evidence、排除錯誤路徑與可重用知識,卻被二值 pass/fail 判為與「什麼都沒做到」相同。
本文提出「AI 單次品質論」(AI Single-Run Quality Theory, ASRQT),將一次 Agent run 的品質定義為多層、向量化、可定位錯誤的結構。第一代品質向量為:
Q r u n = ( Q I , Q S , Q P , Q E , Q C , Q V , Q C o m p , Q R , Q G , Q W ) , \mathbf Q_{\mathrm{run}}
=
(
Q_I,
Q_S,
Q_P,
Q_E,
Q_C,
Q_V,
Q_{\mathrm{Comp}},
Q_R,
Q_G,
Q_W
), Q run = ( Q I , Q S , Q P , Q E , Q C , Q V , Q Comp , Q R , Q G , Q W ) ,
其中:
Q I Q_I Q I :Intent Fidelity;
Q S Q_S Q S :Specification Quality;
Q P Q_P Q P :Plan Quality;
Q E Q_E Q E :Execution Quality;
Q C Q_C Q C :Constraint Retention;
Q V Q_V Q V :Verification Quality;
Q C o m p Q_{\mathrm{Comp}} Q Comp :Completion;
Q R Q_R Q R :Result Quality;
Q G Q_G Q G :Governance / Authority Quality;
Q W Q_W Q W :World-Commit Integrity。
本文同時區分 Hard Gates 與 Soft Scores。若禁態被觸發、授權無效、必要驗證缺失或真實世界提交未被正確標記,其他高分不能透過平均將其洗掉。可定義:
Q s o f t = exp ( ∑ i w i ln ( Q i + ϵ ) ∑ i w i ) , Q_{\mathrm{soft}}
=
\exp
\left(
\frac{
\sum_iw_i\ln(Q_i+\epsilon)
}{
\sum_iw_i
}
\right), Q soft = exp ( ∑ i w i ∑ i w i ln ( Q i + ϵ ) ) ,
以及:
Q e f f e c t i v e = G h a r d ⋅ Q s o f t . Q_{\mathrm{effective}}
=
G_{\mathrm{hard}}
\cdot
Q_{\mathrm{soft}}. Q effective = G hard ⋅ Q soft .
本文進一步提出「品質—結果四象限」:可靠成功、幸運成功、紀律失敗、全面失敗;將 termination、completion、verification、acceptance 與 certification 分離;引入 Verified Completion、Quality-Adjusted Completion、Trace Coverage、Evaluation Coverage、Failure-Origin Distance、Verification Debt、False Completion Rate 與 Run Reliability 等量。
本文與 EveMissLab 既有 GCPR、生成爆炸/創造優先方法論、ISF、UCPNP Truth–Evidence–Certification 以及本系列前六篇形成收斂。外部研究方面,ClawTrack 已以 Task Score/Process Score 雙評估處理 outcome-only 盲點,Agent GPA 將 Goal、Plan、Action 分層評估,而 2026 年的 log-analysis 研究則直接指出只看 final pass/fail 可能錯估 capability、utility 與 safety。本文在這些方向上再加入意圖忠實度、限制保持、完成度、治理與世界提交,使「AI 單次品質」涵蓋從使用者意圖到現實結果的完整生命週期。
關鍵詞 :Agent Evaluation、Single-Run Quality、Intent Fidelity、Process Score、Task Score、Completion、Verification、Constraint Retention、Lucky Success、Trace Evaluation、World Commit
0. 核心問題
最常見的 Agent 評估是:
S u c c e s s ∈ { 0 , 1 } Success\in\{0,1\} S u ccess ∈ { 0 , 1 }
或:
S c o r e ∈ [ 0 , 1 ] . Score\in[0,1]. S cor e ∈ [ 0 , 1 ] .
但它不足以回答:
是否理解正確意圖;
計畫是否正確;
是否遵守限制;
工具是否正確;
驗證是否充分;
到底完成多少;
是否有合法 authority;
是否真的改變正確的世界狀態。
因此:
Outcome Score ≠ Run Quality . \boxed{
\text{Outcome Score}
\neq
\text{Run Quality}.
} Outcome Score = Run Quality .
1. Run Quality 的完整對象
令:
R = ( I , S , P , E , V , O , G , W ) . R
=
(
I,S,P,E,V,O,G,W
). R = ( I , S , P , E , V , O , G , W ) .
其中:
I I I :Intent;
S S S :Specification;
P P P :Plan;
E E E :Execution Trace;
V V V :Verification;
O O O :Outcome;
G G G :Governance;
W W W :World Commit。
則:
Q : R → Q r u n . \mathcal Q:R\rightarrow\mathbf Q_{\mathrm{run}}. Q : R → Q run .
2. 第一代品質向量
Q r u n = ( Q I , Q S , Q P , Q E , Q C , Q V , Q C o m p , Q R , Q G , Q W ) . \boxed{
\mathbf Q_{\mathrm{run}}
=
(
Q_I,
Q_S,
Q_P,
Q_E,
Q_C,
Q_V,
Q_{\mathrm{Comp}},
Q_R,
Q_G,
Q_W
).
} Q run = ( Q I , Q S , Q P , Q E , Q C , Q V , Q Comp , Q R , Q G , Q W ) .
品質首先是一個向量,不是單一數字。
3. Intent Fidelity
使用者意圖:
I U I_U I U
與 Agent 重建:
I ^ A . \widehat I_A. I A .
定義:
Q I = 1 − d I ( I U , I ^ A ) . Q_I
=
1-d_I(I_U,\widehat I_A). Q I = 1 − d I ( I U , I A ) .
即使最終 artifact 很漂亮,如果 Agent 完成的是錯誤任務:
Q R ↑ ∧ Q I ↓ . Q_R\uparrow
\quad\land\quad
Q_I\downarrow. Q R ↑ ∧ Q I ↓ .
所以:
Perfect Execution of Wrong Intent ≠ High-Quality Run . \boxed{
\text{Perfect Execution of Wrong Intent}
\neq
\text{High-Quality Run}.
} Perfect Execution of Wrong Intent = High-Quality Run .
4. Specification Quality
Agent 將意圖轉成:
I X . I_X. I X .
定義:
Q S = 1 − d S ( I ^ A , I X ) . Q_S
=
1-d_S(\widehat I_A,I_X). Q S = 1 − d S ( I A , I X ) .
它檢查:
goal;
hard constraints;
soft preferences;
forbidden states;
success criteria;
expected artifacts;
authority;
risk boundary。
因此「聽懂了」與「成功編譯成 runtime 規格」是兩種不同品質。
5. Plan Quality
Q P = f ( G o a l A l i g n m e n t , F e a s i b i l i t y , D e p e n d e n c y C o r r e c t n e s s , R i s k A w a r e n e s s , R e s o u r c e F i t n e s s , V e r i f i c a t i o n P l a n ) . Q_P
=
f(
GoalAlignment,
Feasibility,
DependencyCorrectness,
RiskAwareness,
ResourceFitness,
VerificationPlan
). Q P = f ( G o a l A l i g nm e n t , F e a s ibi l i t y , D e p e n d e n cy C or r ec t n ess , R i s k A w a r e n ess , R eso u r ce F i t n ess , V er i f i c a t i o n P l an ) .
高品質 plan 不能忽略必要依賴、使用不存在工具、超出 budget、漏掉 validator 或假設不可逆 action 可直接 rollback。
6. Execution Quality
對 execution trace:
E = ( e 1 , … , e n ) , E=(e_1,\ldots,e_n), E = ( e 1 , … , e n ) ,
定義:
Q E = f ( A c t i o n C o r r e c t n e s s , T o o l C o r r e c t n e s s , O b s e r v a t i o n U s e , E f f i c i e n c y , R e c o v e r y , T r a c e I n t e g r i t y ) . Q_E
=
f(
ActionCorrectness,
ToolCorrectness,
ObservationUse,
Efficiency,
Recovery,
TraceIntegrity
). Q E = f ( A c t i o n C or r ec t n ess , T oo l C or r ec t n ess , O b ser v a t i o n U se , E f f i c i e n cy , R eco v er y , T r a ce I n t e g r i t y ) .
它回答的是:
計畫即使對,Agent 實際有沒有做好?
7. Plan Adherence 不等於 Blind Adherence
定義:
Q P A = 1 − d ( P , E ) . Q_{PA}=1-d(P,E). Q P A = 1 − d ( P , E ) .
但:
Q P A = 1 Q_{PA}=1 Q P A = 1
不一定最佳。
若世界狀態改變,合理行為可能是:
P → P ′ . P\rightarrow P'. P → P ′ .
所以必須區分:
Unauthorized Deviation \text{Unauthorized Deviation} Unauthorized Deviation
與:
Evidence-Justified Replan . \text{Evidence-Justified Replan}. Evidence-Justified Replan .
8. Constraint Retention
令 hard constraints:
C H = { c 1 , … , c m } . C_H=\{c_1,\ldots,c_m\}. C H = { c 1 , … , c m } .
在第 j j j 步仍保留:
C H ( j ) . C_H^{(j)}. C H ( j ) .
定義:
Q C = min j ∑ i w i I [ c i ∈ C H ( j ) ] ∑ i w i . Q_C
=
\min_j
\frac{
\sum_iw_i\mathbb I[c_i\in C_H^{(j)}]
}{
\sum_iw_i
}. Q C = j min ∑ i w i ∑ i w i I [ c i ∈ C H ( j ) ] .
採最小值是因為某些限制只要曾被破壞一次,就可能造成不可逆後果。
因此:
Final Compliance ≠ Trajectory Compliance . \boxed{
\text{Final Compliance}
\neq
\text{Trajectory Compliance}.
} Final Compliance = Trajectory Compliance .
9. Verification Quality
Q V = f ( C o v e r a g e , I n d e p e n d e n c e , C o r r e c t n e s s , R e l e v a n c e , E v i d e n c e S t r e n g t h , R e p r o d u c i b i l i t y ) . Q_V
=
f(
Coverage,
Independence,
Correctness,
Relevance,
EvidenceStrength,
Reproducibility
). Q V = f ( C o v er a g e , I n d e p e n d e n ce , C or r ec t n ess , R e l e v an ce , E v i d e n ce S t r e n g t h , R e p r o d u c ibi l i t y ) .
最重要的不等式:
Result Exists ≠ Result Verified . \boxed{
\text{Result Exists}
\neq
\text{Result Verified}.
} Result Exists = Result Verified .
10. Verification Coverage
若必要驗證:
V r e q = { v 1 ∗ , … , v m ∗ } , V_{\mathrm{req}}
=
\{v_1^\ast,\ldots,v_m^\ast\}, V req = { v 1 ∗ , … , v m ∗ } ,
實際完成:
V d o n e , V_{\mathrm{done}}, V done ,
則:
V C o v = ∑ i w i I [ v i ∗ ∈ V d o n e ] ∑ i w i . VCov
=
\frac{
\sum_iw_i\mathbb I[v_i^\ast\in V_{\mathrm{done}}]
}{
\sum_iw_i
}. V C o v = ∑ i w i ∑ i w i I [ v i ∗ ∈ V done ] .
11. Verification Independence
生成器與 evaluator 若共享:
則 nominal validation 可能虛高。
因此加入:
I V = Verification Independence . I_V
=
\text{Verification Independence}. I V = Verification Independence .
可由 deterministic test、independent model、external evidence、proof checker 或 human expert 提高。
12. Completion
令:
Q C o m p = C o m p ( S ) ∈ [ 0 , 1 ] . Q_{\mathrm{Comp}}
=
Comp(S)\in[0,1]. Q Comp = C o m p ( S ) ∈ [ 0 , 1 ] .
若成功條件:
K = { k 1 , … , k m } , K=\{k_1,\ldots,k_m\}, K = { k 1 , … , k m } ,
可定義:
C o m p = ∑ i w i s i ∑ i w i , s i ∈ [ 0 , 1 ] . Comp
=
\frac{
\sum_iw_is_i
}{
\sum_iw_i
},
\qquad
s_i\in[0,1]. C o m p = ∑ i w i ∑ i w i s i , s i ∈ [ 0 , 1 ] .
13. Hard Completion Gates
若不可妥協條件集合:
K H , K_H, K H ,
則:
G K = ∏ k i ∈ K H I [ k i satisfied ] . G_K
=
\prod_{k_i\in K_H}
\mathbb I[k_i\text{ satisfied}]. G K = k i ∈ K H ∏ I [ k i satisfied ] .
有效完成度:
C o m p e f f = G K ⋅ C o m p s o f t . Comp_{\mathrm{eff}}
=
G_K
\cdot
Comp_{\mathrm{soft}}. C o m p eff = G K ⋅ C o m p soft .
十項完成九項不一定是 90% 完成;若缺的是「不得刪除原始資料」,整體可以直接失效。
14. Result Quality
Q R = f ( C o r r e c t n e s s , U t i l i t y , R e l e v a n c e , C l a r i t y , R o b u s t n e s s , U s e r F i t ) . Q_R
=
f(
Correctness,
Utility,
Relevance,
Clarity,
Robustness,
UserFit
). Q R = f ( C or r ec t n ess , U t i l i t y , R e l e v an ce , C l a r i t y , R o b u s t n ess , U ser F i t ) .
結果品質只是整體品質的一個維度。
15. Governance Quality
Q G = f ( A u t h o r i t y V a l i d i t y , P o l i c y C o m p l i a n c e , E s c a l a t i o n Q u a l i t y , H u m a n O v e r s i g h t , R e v o c a b i l i t y , A u d i t a b i l i t y ) . Q_G
=
f(
AuthorityValidity,
PolicyCompliance,
EscalationQuality,
HumanOversight,
Revocability,
Auditability
). Q G = f ( A u t h or i t y V a l i d i t y , P o l i cy C o m pl ian ce , E sc a l a t i o n Q u a l i t y , H u man O v er s i g h t , R e v oc abi l i t y , A u d i t abi l i t y ) .
正確結果若來自無授權 action:
Q R ≈ 1 , Q G ≪ 1. Q_R\approx1,
\qquad
Q_G\ll1. Q R ≈ 1 , Q G ≪ 1.
所以:
Useful Result ≠ Legitimate Run . \boxed{
\text{Useful Result}
\neq
\text{Legitimate Run}.
} Useful Result = Legitimate Run .
16. World-Commit Integrity
定義:
Q W = f ( C o m m i t A u t h o r i t y , R e c e i p t I n t e g r i t y , S t a t e M a t c h , E x t e r n a l C o n f i r m a t i o n , H i s t o r i c a l I n t e g r i t y ) . Q_W
=
f(
CommitAuthority,
ReceiptIntegrity,
StateMatch,
ExternalConfirmation,
HistoricalIntegrity
). Q W = f ( C o mmi t A u t h or i t y , R ece i pt I n t e g r i t y , S t a t e M a t c h , E x t er na l C o n f i r ma t i o n , H i s t or i c a l I n t e g r i t y ) .
Sandbox 成功被誤報為 production 成功:
Q W ≪ 1. Q_W\ll1. Q W ≪ 1.
17. Hard Gates
G h a r d = G F G A G V G W G S , G_{\mathrm{hard}}
=
G_FG_AG_VG_WG_S, G hard = G F G A G V G W G S ,
其中:
G F G_F G F :Forbidden-state gate;
G A G_A G A :Authority gate;
G V G_V G V :Required verification gate;
G W G_W G W :World-commit gate;
G S G_S G S :Safety / domain gate。
在高風險任務中:
G i ∈ { 0 , 1 } G_i\in\{0,1\} G i ∈ { 0 , 1 }
可以保留真正 veto。
18. Soft Quality Scalarization
若需要 scalar:
Q s o f t = exp ( ∑ i w i ln ( Q i + ϵ ) ∑ i w i ) . Q_{\mathrm{soft}}
=
\exp
\left(
\frac{
\sum_iw_i\ln(Q_i+\epsilon)
}{
\sum_iw_i
}
\right). Q soft = exp ( ∑ i w i ∑ i w i ln ( Q i + ϵ ) ) .
再定義:
Q e f f e c t i v e = G h a r d Q s o f t . \boxed{
Q_{\mathrm{effective}}
=
G_{\mathrm{hard}}
Q_{\mathrm{soft}}.
} Q effective = G hard Q soft .
但報告時仍應保存完整:
Q r u n . \mathbf Q_{\mathrm{run}}. Q run .
19. 為什麼不能只看總分
同樣:
Q e f f e c t i v e = 0.72 Q_{\mathrm{effective}}=0.72 Q effective = 0.72
可能是:
intent 高、verification 低;
intent 低、execution 高;
result 高、governance 低。
因此:
Scalarization ≠ Diagnosis . \boxed{
\text{Scalarization}
\neq
\text{Diagnosis}.
} Scalarization = Diagnosis .
20. 品質—結果四象限
定義 process quality:
Q p r o c Q_{\mathrm{proc}} Q proc
與 outcome:
Q o u t . Q_{\mathrm{out}}. Q out .
得到四類:
Reliable Success
Q p r o c ↑ , Q o u t ↑ . Q_{\mathrm{proc}}\uparrow,
\qquad
Q_{\mathrm{out}}\uparrow. Q proc ↑ , Q out ↑ .
Lucky Success
Q p r o c ↓ , Q o u t ↑ . Q_{\mathrm{proc}}\downarrow,
\qquad
Q_{\mathrm{out}}\uparrow. Q proc ↓ , Q out ↑ .
Disciplined Failure
Q p r o c ↑ , Q o u t ↓ . Q_{\mathrm{proc}}\uparrow,
\qquad
Q_{\mathrm{out}}\downarrow. Q proc ↑ , Q out ↓ .
Comprehensive Failure
Q p r o c ↓ , Q o u t ↓ . Q_{\mathrm{proc}}\downarrow,
\qquad
Q_{\mathrm{out}}\downarrow. Q proc ↓ , Q out ↓ .
21. Reliable Success
可靠成功代表:
意圖對;
規格對;
plan 對;
execution 對;
constraints 守住;
verification 足夠;
result 對;
authority 合法;
world commit 正確。
它最適合作為 training exemplar 與 workflow baseline。
22. Lucky Success
幸運成功可能是:
猜中;
工具參數錯但系統容錯;
走錯流程但碰巧得到正確結果;
未驗證卻剛好正確。
因此:
Q R ↑ ⇏ Q p r o c ↑ . \boxed{
Q_R\uparrow
\not\Rightarrow
Q_{\mathrm{proc}}\uparrow.
} Q R ↑ ⇒ Q proc ↑ .
若只用 final pass 做正向訓練,可能把壞過程學進去。
23. Disciplined Failure
紀律失敗可能因:
API outage;
target changed;
theorem false;
authority revoked;
external event;
insufficient deadline。
這類 run:
Q R ↓ Q_R\downarrow Q R ↓
但:
Q p r o c ↑ , Δ K > 0. Q_{\mathrm{proc}}\uparrow,
\qquad
\Delta K>0. Q proc ↑ , Δ K > 0.
它不應與「什麼都沒做好」等價。
24. Termination、Completion、Verification、Acceptance、Certification
令:
T = Terminated , T=\text{Terminated}, T = Terminated ,
C = Completed , C=\text{Completed}, C = Completed ,
V = Verified , V=\text{Verified}, V = Verified ,
A = Accepted , A=\text{Accepted}, A = Accepted ,
C e r t = Certified . Cert=\text{Certified}. C er t = Certified .
一般:
T ≠ C ≠ V ≠ A ≠ C e r t . \boxed{
T
\neq
C
\neq
V
\neq
A
\neq
Cert.
} T = C = V = A = C er t .
25. Verified Completion
V C = Q C o m p Q V . VC
=
Q_{\mathrm{Comp}}
Q_V. V C = Q Comp Q V .
若完成度是 1 1 1 ,驗證只有 0.2 0.2 0.2 :
V C = 0.2. VC=0.2. V C = 0.2.
26. Quality-Adjusted Completion
Q A C = Q C o m p Q R Q V . QAC
=
Q_{\mathrm{Comp}}
Q_R
Q_V. Q A C = Q Comp Q R Q V .
加入 hard gate:
Q A C e f f = G h a r d Q A C . QAC_{\mathrm{eff}}
=
G_{\mathrm{hard}}
QAC. Q A C eff = G hard Q A C .
27. Intent-Adjusted Completion
若完成了錯誤 intent:
Q C o m p ≈ 1 Q_{\mathrm{Comp}}\approx1 Q Comp ≈ 1
仍不應高分。
定義:
I A C = Q I Q C o m p . IAC
=
Q_IQ_{\mathrm{Comp}}. I A C = Q I Q Comp .
28. Governance-Adjusted Completion
對世界作用任務:
G A C = Q C o m p Q G Q W . GAC
=
Q_{\mathrm{Comp}}Q_GQ_W. G A C = Q Comp Q G Q W .
任務做成,不代表手段與 authority 可以被忽略。
29. Useful Progress
未完成 run 仍可能有:
Δ K , Δ E , − Δ U . \Delta K,
\Delta E,
-\Delta U. Δ K , Δ E , − Δ U .
定義:
U P = α Δ C o m p + β Δ K + γ Δ E − δ Δ R i s k . UP
=
\alpha\Delta Comp
+
\beta\Delta K
+
\gamma\Delta E
-
\delta\Delta Risk. U P = α Δ C o m p + β Δ K + γ Δ E − δ Δ R i s k .
這對 research、debugging、proof search 特別重要。
30. Negative Progress
若 Agent:
污染資料;
寫入錯誤記憶;
增加 verification debt;
製造錯誤 artifact;
則:
U P < 0 UP<0 U P < 0
是可能的。
因此:
Activity ≠ Progress . \boxed{
\text{Activity}
\neq
\text{Progress}.
} Activity = Progress .
31. Trace Coverage
若需要觀察事件集合:
E r e q , E_{\mathrm{req}}, E req ,
實際 log:
E l o g , E_{\mathrm{log}}, E log ,
則:
T C o v = ∣ E r e q ∩ E l o g ∣ ∣ E r e q ∣ . TCov
=
\frac{
|E_{\mathrm{req}}\cap E_{\mathrm{log}}|
}{
|E_{\mathrm{req}}|
}. T C o v = ∣ E req ∣ ∣ E req ∩ E log ∣ .
Process score 的可信度受 trace coverage 限制。
32. Evaluation Coverage
令品質維度:
Q = { I , S , P , E , C , V , C o m p , R , G , W } . \mathcal Q
=
\{I,S,P,E,C,V,Comp,R,G,W\}. Q = { I , S , P , E , C , V , C o m p , R , G , W } .
Evaluator 實際覆蓋:
Q e v a l . \mathcal Q_{\mathrm{eval}}. Q eval .
則:
E C o v = ∑ i w i I [ q i ∈ Q e v a l ] ∑ i w i . ECov
=
\frac{
\sum_iw_i\mathbb I[q_i\in\mathcal Q_{\mathrm{eval}}]
}{
\sum_iw_i
}. E C o v = ∑ i w i ∑ i w i I [ q i ∈ Q eval ] .
只測結果的 benchmark 不能聲稱測完整 Agent quality。
33. Evaluator Quality
Q e v a l = f ( C a l i b r a t i o n , A g r e e m e n t , R o b u s t n e s s , I n d e p e n d e n c e , D e t e r m i n i s m ) . Q_{\mathrm{eval}}
=
f(
Calibration,
Agreement,
Robustness,
Independence,
Determinism
). Q eval = f ( C a l ib r a t i o n , A g r ee m e n t , R o b u s t n ess , I n d e p e n d e n ce , D e t er mini s m ) .
所以:
Measured Quality ≠ True Quality . \boxed{
\text{Measured Quality}
\neq
\text{True Quality}.
} Measured Quality = True Quality .
34. Hybrid Evaluation
不同 evaluator 適合不同層:
deterministic test:schema、unit test、數值;
LLM judge:語義、相關性、複合 rubric;
human:高風險、價值衝突、模糊 intent;
external evidence:真實世界狀態。
因此不應讓單一 evaluator monoculture 取代全部品質層。
35. Failure-Origin Distance
令真正因果錯誤事件:
e c , e_c, e c ,
表面失敗事件:
e s . e_s. e s .
定義:
D F = d G ( e c , e s ) . D_F
=
d_G(e_c,e_s). D F = d G ( e c , e s ) .
高 D F D_F D F 代表錯誤很早發生、很晚才暴露。
36. Error Amplification
若初始偏差:
ϵ 0 \epsilon_0 ϵ 0
經後續變換:
ϵ n = L n ⋯ L 1 ϵ 0 , \epsilon_n
=
L_n\cdots L_1\epsilon_0, ϵ n = L n ⋯ L 1 ϵ 0 ,
且:
∏ i L i > 1 , \prod_iL_i>1, i ∏ L i > 1 ,
小錯誤可能被放大成大終局偏差。
所以 early-stage quality 不能由最終結果完全替代。
37. Failure Attribution Vector
F = ( F I , F S , F P , F E , F C , F V , F G , F W ) . \mathbf F
=
(
F_I,
F_S,
F_P,
F_E,
F_C,
F_V,
F_G,
F_W
). F = ( F I , F S , F P , F E , F C , F V , F G , F W ) .
目標不是強迫找唯一 root cause,而是產生可操作的 attribution。
38. Process Score 與 Outcome Score
定義:
Q p r o c = f ( Q I , Q S , Q P , Q E , Q C , Q V , Q G ) , Q_{\mathrm{proc}}
=
f(
Q_I,Q_S,Q_P,Q_E,Q_C,Q_V,Q_G
), Q proc = f ( Q I , Q S , Q P , Q E , Q C , Q V , Q G ) ,
以及:
Q o u t = f ( Q C o m p , Q R , Q W ) . Q_{\mathrm{out}}
=
f(
Q_{\mathrm{Comp}},Q_R,Q_W
). Q out = f ( Q Comp , Q R , Q W ) .
建議首先報:
( Q p r o c , Q o u t ) (Q_{\mathrm{proc}},Q_{\mathrm{out}}) ( Q proc , Q out )
雙軸。
39. ClawTrack 接口
ClawTrack 的 process dimensions:
goal alignment;
efficiency;
information utilization;
result verification。
本文映射:
G o a l A l i g n m e n t → ( Q I , Q P ) , GoalAlignment
\rightarrow
(Q_I,Q_P), G o a l A l i g nm e n t → ( Q I , Q P ) ,
E f f i c i e n c y → Q E , Efficiency
\rightarrow
Q_E, E f f i c i e n cy → Q E ,
I n f o r m a t i o n U t i l i z a t i o n → Q E , InformationUtilization
\rightarrow
Q_E, I n f or ma t i o n U t i l i z a t i o n → Q E ,
R e s u l t V e r i f i c a t i o n → Q V . ResultVerification
\rightarrow
Q_V. R es u l t V er i f i c a t i o n → Q V .
再補:
Q S , Q C , Q G , Q W , Q C o m p . Q_S,Q_C,Q_G,Q_W,Q_{\mathrm{Comp}}. Q S , Q C , Q G , Q W , Q Comp .
40. Agent GPA 接口
Agent GPA 的:
Goal Fulfillment;
Logical Consistency;
Execution Efficiency;
Plan Quality;
Plan Adherence;
可映射到:
Q P , Q E , Q C o m p , Q R . Q_P,
Q_E,
Q_{\mathrm{Comp}},
Q_R. Q P , Q E , Q Comp , Q R .
ASRQT 再加入上游 Intent 及下游 Verification、Governance、World Commit。
41. Log Analysis 接口
Outcome-only evaluation 可能隱藏:
shortcut;
scaffold failure;
dangerous action;
wrong tool;
recurring failure mode。
因此:
Credible Agent Evaluation ⊃ Outcome + Trace . \boxed{
\text{Credible Agent Evaluation}
\supset
\text{Outcome}
+
\text{Trace}.
} Credible Agent Evaluation ⊃ Outcome + Trace .
Trace 不要求公開 private chain-of-thought。
42. Verification Bottleneck
生成爆炸理論已指出:
λ s y s t e m ≤ min ( λ g , λ e , λ v ) . \lambda_{\mathrm{system}}
\le
\min(
\lambda_g,
\lambda_e,
\lambda_v
). λ system ≤ min ( λ g , λ e , λ v ) .
當:
λ g ≫ λ v , \lambda_g\gg\lambda_v, λ g ≫ λ v ,
系統累積未驗證候選。
所以:
Q V Q_V Q V
是 AI 時代單次品質的核心瓶頸之一。
43. Verification Debt
D V = ∑ i w i ( 1 − Q V , i ) . D_V
=
\sum_iw_i(1-Q_{V,i}). D V = i ∑ w i ( 1 − Q V , i ) .
若:
d D V d t > 0 , \frac{dD_V}{dt}>0, d t d D V > 0 ,
代表生成速度長期高於可信驗證能力。
44. Quality Debt
更廣義:
D Q = D I + D S + D V + D G + D W . D_Q
=
D_I+D_S+D_V+D_G+D_W. D Q = D I + D S + D V + D G + D W .
高名義產出可以伴隨:
D Q ↑ . D_Q\uparrow. D Q ↑ .
45. Run Quality 不等於 Agent Capability
單一 run:
Q r u n \mathbf Q_{\mathrm{run}} Q run
只是一次樣本。
Agent capability 應估:
C A = E [ Q r u n ∣ T a s k , B u d g e t , T o o l s , H a r n e s s , E n v i r o n m e n t ] . C_A
=
E[
\mathbf Q_{\mathrm{run}}
\mid
Task,Budget,Tools,Harness,Environment
]. C A = E [ Q run ∣ T a s k , B u d g e t , T oo l s , H a r n ess , E n v i r o nm e n t ] .
還需看 variance、tail failure、recovery 與 calibration。
因此:
One Good Run ≠ Reliable Agent . \boxed{
\text{One Good Run}
\neq
\text{Reliable Agent}.
} One Good Run = Reliable Agent .
46. Run Reliability
定義:
R e l = P ( Q p r o c ≥ θ P ∧ Q o u t ≥ θ O ) . Rel
=
P(
Q_{\mathrm{proc}}\ge\theta_P
\land
Q_{\mathrm{out}}\ge\theta_O
). R e l = P ( Q proc ≥ θ P ∧ Q out ≥ θ O ) .
它比只看:
P ( Q R ≥ θ R ) P(Q_R\ge\theta_R) P ( Q R ≥ θ R )
更嚴格。
47. Lucky Success Rate
L S R = P ( Q R ≥ θ R ∧ Q p r o c < θ P ) . LSR
=
P(
Q_R\ge\theta_R
\land
Q_{\mathrm{proc}}<\theta_P
). L S R = P ( Q R ≥ θ R ∧ Q proc < θ P ) .
高 LSR 代表 pass rate 可能高估可靠能力。
48. Disciplined Failure Rate
D F R = P ( Q p r o c ≥ θ P ∧ Q R < θ R ) . DFR
=
P(
Q_{\mathrm{proc}}\ge\theta_P
\land
Q_R<\theta_R
). D F R = P ( Q proc ≥ θ P ∧ Q R < θ R ) .
它能分離「系統很亂」與「環境困難/任務不可達」。
49. False Completion Rate
F C R = P ( A g e n t C l a i m s D o n e = 1 ∧ V C < θ ) . FCR
=
P(
AgentClaimsDone=1
\land
VC<\theta
). F C R = P ( A g e n tC l aim sD o n e = 1 ∧ V C < θ ) .
這是 production Agent 非常重要的品質指標。
50. Completion Calibration
若 Agent 自評:
p ^ C \hat p_C p ^ C
而外部 verified completion:
y C , y_C, y C ,
可使用 Brier score / calibration error 評估:
Agent 說自己完成時到底可信不可信?
51. Quality-Adjusted Productivity
P Q = Q A C e f f C t o t a l + ϵ . P_Q
=
\frac{
QAC_{\mathrm{eff}}
}{
C_{\mathrm{total}}+\epsilon
}. P Q = C total + ϵ Q A C eff .
其中:
C t o t a l = C c o m p u t e + C t o o l + C h u m a n + C l a t e n c y + C r i s k . C_{\mathrm{total}}
=
C_{\mathrm{compute}}
+
C_{\mathrm{tool}}
+
C_{\mathrm{human}}
+
C_{\mathrm{latency}}
+
C_{\mathrm{risk}}. C total = C compute + C tool + C human + C latency + C risk .
52. Quality-Adjusted Delegation Leverage
第 6 篇委任槓桿:
Λ D . \Lambda_D. Λ D .
現在定義:
Λ D Q = Q e f f e c t i v e V d e l e g a t e d T H g o v + ϵ . \Lambda_D^Q
=
\frac{
Q_{\mathrm{effective}}
V_{\mathrm{delegated}}
}{
T_H^{gov}+\epsilon
}. Λ D Q = T H g o v + ϵ Q effective V delegated .
低品質 autonomous throughput 不應被叫做高治理槓桿。
53. Evaluation-to-Improvement
若:
Q i Q_i Q i
是主要低分維度,下一輪應優先投入能最大化:
E [ Δ Q e f f e c t i v e ] E[
\Delta Q_{\mathrm{effective}}
] E [ Δ Q effective ]
的 intervention。
所以 evaluation 直接回接第 5 篇的 compute allocation。
54. Evaluation-to-Training
完整閉環:
R u n → E v a l u a t e → A t t r i b u t e → S e l e c t T r a c e → U p d a t e → R u n ′ . Run
\rightarrow
Evaluate
\rightarrow
Attribute
\rightarrow
SelectTrace
\rightarrow
Update
\rightarrow
Run'. R u n → E v a l u a t e → A tt r ib u t e → S e l ec tT r a ce → U p d a t e → R u n ′ .
若只選 final success,Lucky Success 可能被誤當正樣本。
55. Evaluation-to-Governance
若主要問題是:
Q G , Q_G, Q G ,
不一定要重新訓練模型。
可能要改:
authority;
approval;
escalation;
policy;
tool scope。
因此:
Low Quality ⇏ Model Problem . \boxed{
\text{Low Quality}
\not\Rightarrow
\text{Model Problem}.
} Low Quality ⇒ Model Problem .
56. Evaluation-to-Architecture
若:
Q I ↓ Q_I\downarrow Q I ↓
問題偏 intent inference。
若:
Q P ↓ Q_P\downarrow Q P ↓
偏 planner。
若:
Q E ↓ Q_E\downarrow Q E ↓
偏 execution runtime。
若:
Q V ↓ Q_V\downarrow Q V ↓
偏 validator。
所以品質向量可以定位 architecture layer。
57. Benchmark Contract
任何 Agent benchmark 至少應聲明:
task semantics
intent source
success criteria
hard constraints
tool environment
budget
harness
process observability
outcome evaluator
process evaluator
verification method
authority assumptions
world-effect scope
seed / repetition policy
否則 score 很容易偷換測量對象。
58. Budget-Normalized Quality
若:
B A ( 1 ) ≠ B A ( 2 ) , B_A^{(1)}
\neq
B_A^{(2)}, B A ( 1 ) = B A ( 2 ) ,
不能把 score 差異全部歸因於模型能力。
應比較:
Q ( A ∣ B 0 ) Q(A\mid B_0) Q ( A ∣ B 0 )
或完整:
Q ( B u d g e t ) Q(Budget) Q ( B u d g e t )
曲線。
59. Quality Frontier
不同模型、harness、budget、topology、oversight 形成:
( Q u a l i t y , C o s t , L a t e n c y , H u m a n T i m e , R i s k ) . (
Quality,
Cost,
Latency,
HumanTime,
Risk
). ( Q u a l i t y , C os t , L a t e n cy , H u man T im e , R i s k ) .
真正比較應看 Pareto frontier,而不是單一 leaderboard。
60. Minimum Quality Contract
Production task 可定義:
Q min = ( Q I m i n , Q C m i n , Q V m i n , Q R m i n , Q G m i n , Q W m i n ) . \mathfrak Q_{\min}
=
(
Q_I^{min},
Q_C^{min},
Q_V^{min},
Q_R^{min},
Q_G^{min},
Q_W^{min}
). Q m i n = ( Q I min , Q C min , Q V min , Q R min , Q G min , Q W min ) .
若 hard floor 不滿足:
R e j e c t C o m m i t . RejectCommit. R e j ec tC o mmi t .
所以:
Best-Effort Output ≠ Production-Admissible Output . \boxed{
\text{Best-Effort Output}
\neq
\text{Production-Admissible Output}.
} Best-Effort Output = Production-Admissible Output .
61. Domain-Specific Quality
不同 domain 的權重不同。
Creative writing 偏重:
Q I , Q R . Q_I,Q_R. Q I , Q R .
Code deployment 偏重:
Q C , Q V , Q G , Q W . Q_C,Q_V,Q_G,Q_W. Q C , Q V , Q G , Q W .
Mathematical proof 偏重:
Q V . Q_V. Q V .
高風險專業領域還要加重 evidence、scope、uncertainty 與 governance。
因此不存在所有 domain 共用的唯一品質 scalar。
62. 可檢驗命題
命題一:Outcome Insufficiency
存在:
Q R ( 1 ) ≈ Q R ( 2 ) Q_R^{(1)}
\approx
Q_R^{(2)} Q R ( 1 ) ≈ Q R ( 2 )
但:
Q p r o c ( 1 ) ≠ Q p r o c ( 2 ) . Q_{\mathrm{proc}}^{(1)}
\neq
Q_{\mathrm{proc}}^{(2)}. Q proc ( 1 ) = Q proc ( 2 ) .
命題二:Lucky Success
P ( Q R ↑ ∧ Q p r o c ↓ ) > 0. P(
Q_R\uparrow
\land
Q_{\mathrm{proc}}\downarrow
)>0. P ( Q R ↑ ∧ Q proc ↓ ) > 0.
命題三:Disciplined Failure
P ( Q R ↓ ∧ Q p r o c ↑ ) > 0. P(
Q_R\downarrow
\land
Q_{\mathrm{proc}}\uparrow
)>0. P ( Q R ↓ ∧ Q proc ↑ ) > 0.
命題四:Verification Bottleneck
生成能力上升而 validator 固定時:
D V ↑ . D_V\uparrow. D V ↑ .
命題五:Trace Value
有 trace 的 evaluator 對 failure attribution 優於 outcome-only evaluator。
命題六:Hard-Gate Necessity
純平均分數可能讓 authority / forbidden-state violation 被其他高分錯誤補償。
命題七:Run-Capability Separation
單次高分不充分支持高 reliability claim。
63. 實驗設計
第一,設計 Lucky Success:故意讓 Agent 用錯過程但因環境容錯得到正確答案。
第二,設計 Disciplined Failure:外部 API 故障,但過程完全合理。
第三,加入 hard-constraint violation,測平均分數是否錯誤掩蓋。
第四,對同結果分別做 no verification、self-check、independent validator。
第五,做 trace ablation:final only、tool log、full event lineage。
第六,控制相同 budget,測完整:
Q r u n . \mathbf Q_{\mathrm{run}}. Q run .
64. 生成爆炸理論的收斂
生成成本下降後,稀缺逐步從候選本身轉向:
criteria + evaluation + verification + world feedback . \text{criteria}
+
\text{evaluation}
+
\text{verification}
+
\text{world feedback}. criteria + evaluation + verification + world feedback .
所以 AI 時代品質系統的核心不是「多生成」,而是能否把候選爆炸轉成可信結果。
65. GCPR 的收斂
GCPR 提出:
結果是過程的積分。
ASRQT 將其操作化為:
Run Quality = Intent + Process + Verification + Completion + Result + Governance + World Commit . \boxed{
\text{Run Quality}
=
\text{Intent}
+
\text{Process}
+
\text{Verification}
+
\text{Completion}
+
\text{Result}
+
\text{Governance}
+
\text{World Commit}.
} Run Quality = Intent + Process + Verification + Completion + Result + Governance + World Commit .
66. UCPNP 的收斂
UCPNP 分離:
T r u t h , E v i d e n c e , C e r t i f i c a t i o n . Truth,
Evidence,
Certification. T r u t h , E v i d e n ce , C er t i f i c a t i o n .
因此:
Q R ≠ Q V ≠ Q C e r t . Q_R
\neq
Q_V
\neq
Q_{\mathrm{Cert}}. Q R = Q V = Q Cert .
看起來對、有證據、通過正式 certification 是不同層次。
67. 與第 8 篇的接口
前七篇依次處理:
互動時間;
意圖週期;
單輪 execution;
偏序拓撲;
compute allocation;
委任與治理;
run quality。
最後第 8 篇要回到最大的問題:
人類每天仍只有有限生物時間,而 AI 可以在同一世界日裡運行大量互動時間、計算時間與委任時間。這些局部時間如何真正進入世界歷史?
即:
世界時間與智能文明
68. 規範與倫理邊界
本框架不應:
把所有價值壓成 leaderboard;
為 process score 要求公開 private chain-of-thought;
把使用者滿意等同真實正確;
讓結果高分抵消 authority / safety violation;
以低成本為由犧牲必要 verification;
把一次成功當 reliability;
讓同模型 evaluator 壟斷所有品質判定;
把可量化維度當作全部價值。
69. 理論限制
第一,各 Q i Q_i Q i 的 operationalization 依 domain 而異。
第二,完整 intent 不可直接觀測, Q I Q_I Q I 只能近似。
第三,process evaluation 受 trace completeness 限制。
第四,LLM judge 可能有 calibration 與 correlation 問題。
第五,不存在已證明的普遍唯一 scalarization。
第六,hard gate 需要 domain governance。
第七,單次品質與長期 reliability 間仍需統計模型。
70. 結論
AI Agent 的品質不能再只問:
答案對不對?
完整問題是:
它理解對了嗎?規格對了嗎?計畫對了嗎?執行對了嗎?限制守住了嗎?驗證做了嗎?完成多少?結果好嗎?有權這樣做嗎?真的正確改變世界了嗎?
因此:
Q r u n = ( Q I , Q S , Q P , Q E , Q C , Q V , Q C o m p , Q R , Q G , Q W ) . \boxed{
\mathbf Q_{\mathrm{run}}
=
(
Q_I,
Q_S,
Q_P,
Q_E,
Q_C,
Q_V,
Q_{\mathrm{Comp}},
Q_R,
Q_G,
Q_W
).
} Q run = ( Q I , Q S , Q P , Q E , Q C , Q V , Q Comp , Q R , Q G , Q W ) .
最重要的拒絕是:
Outcome ≠ Quality . \boxed{
\text{Outcome}
\neq
\text{Quality}.
} Outcome = Quality .
一個 run 可以:
答對但不可靠;
答錯但值得學習;
完成但未驗證;
驗證但未獲授權;
有 artifact 但沒完成 intent;
sandbox 成功但未改變現實。
真正成熟的 Agent evaluation 應同時保存:
Intent Fidelity + Process Quality + Constraint Retention + Verification + Completion + Outcome + Governance + World Integrity . \boxed{
\text{Intent Fidelity}
+
\text{Process Quality}
+
\text{Constraint Retention}
+
\text{Verification}
+
\text{Completion}
+
\text{Outcome}
+
\text{Governance}
+
\text{World Integrity}.
} Intent Fidelity + Process Quality + Constraint Retention + Verification + Completion + Outcome + Governance + World Integrity .
它的目的不是產生更漂亮的總分,而是:
知道這一次哪裡好、哪裡壞、為什麼成功、為什麼失敗,以及下一單位資源應該修哪裡。 \boxed{
\text{知道這一次哪裡好、哪裡壞、為什麼成功、為什麼失敗,以及下一單位資源應該修哪裡。}
} 知道這一次哪裡好、哪裡壞、為什麼成功、為什麼失敗,以及下一單位資源應該修哪裡。
參考文獻與前置理論
EveMissLab 前置理論
Neo.K,《互動時間論:從鐘錶時間到意圖驅動的智能狀態轉換》v0.1,2026。
Neo.K,《意圖週期論:使用者意圖、AI 接受、執行與結果的閉環結構》v0.1,2026。
Neo.K,《單輪不是一步:AI Turn、內部迴圈、工具動作與執行軌跡》v0.1,2026。
Neo.K,《互動時間拓撲:平行 Agent、偏序因果與不可約互動深度》v0.1,2026。
Neo.K,《AI 計算時間經濟學:Token、算力、額度與智能資源配置》v0.1,2026。
Neo.K,《委任時間論:自主 Agent、人類介入密度與治理槓桿》v0.1,2026。
Neo.K,《生成爆炸:AI 時代的創造優先方法論》公開版 v2.0,2026。
Neo.K,《通用創造過程結果論》,EveMissLab。
Neo.K,《Intent-to-System Flow》系列,2026。
Neo.K with Aletheia,《UCPNP Unified Theory》v0.1,2026。
外部研究
Wu, X., Zhu, X., Liu, X., et al. ClawTrack: Towards Trace-Level Evaluation and Improvement of Real-World Autonomous Agents . arXiv:2607.28037, 2026.
Jia, A. S., Huang, D., Vytla, N., Choudhury, N., Mitchell, J. C., Datta, A. What Is Your Agent's GPA? A Framework for Evaluating Agent Goal-Plan-Action Alignment . arXiv:2510.08847v2, 2026.
Kirgis, P., Kapoor, S., et al. Log analysis is necessary for credible evaluation of AI agents . arXiv:2605.08545, 2026.
Liu, S., Dehghan, S., Ganhotra, J., Hirzel, M., Jabbarvand, R. From Plan to Action: How Well Do Agents Follow the Plan? arXiv:2604.12147, 2026.
Arghal, R., Chen, F., Dalton, N., et al. A Behavioural and Representational Evaluation of Goal-Directedness in Language Model Agents . arXiv:2602.08964, 2026.
Aligning Agents via Planning: A Benchmark for Trajectory-Level Planning Preferences . arXiv:2604.08178, 2026.
一句話版本
AI 單次品質不是最終答案的分數,而是從意圖、規格、計畫、執行、限制、驗證、完成、結果、治理到世界提交的完整品質向量;「答對了」只能證明結果可能是對的,不能單獨證明這是一個可靠的成功。
EML-ASRQT-2026-07-v0.1 AI 互動時間與智能時間經濟學系列 07/08