07.極致分類、快速索引與計算直覺
系列:《從路徑覆蓋到行星智能:記憶編譯型計算存在論》 部別:第二部——記憶編譯型智能 版本:v0.1 日期:2026-08-01
摘要
記憶編譯型狀態智能體若要持續增長,會立即遭遇一個核心瓶頸:記憶容量增加並不自動等於可用智能增加。若每次遭遇新狀態,都必須在完整歷史記憶中進行昂貴全域搜尋,則:
∣ M ∣ ↑ ⇒ T r e t r i e v e ↑ |\mathcal M|\uparrow
\quad\Rightarrow\quad
T_{\mathrm{retrieve}}\uparrow ∣ M ∣ ↑ ⇒ T retrieve ↑
最終可能形成「記得越多,反而找得越慢」的記憶負擔。
本文因此將問題轉化為:如何讓記憶容量持續擴張,同時使狀態辨識、候選縮減、精確檢索與策略調用保持低延遲?本文提出一個多尺度分類—索引架構,將原始狀態逐層映射到領域、問題族、狀態原型、例外類與具體歷史案例;每一層只需處理上一層已經縮小的候選集合。此架構可以搭配近似最近鄰搜尋、圖式索引、量化、粗排—重排、多層記憶與快取,使「全庫搜尋」轉化為「階層導航」。
本文同時定義「計算直覺」:它不是沒有計算,而是大量過去計算經由抽象、分塊、分類、索引與策略編譯後,將原本需要長序列推理的問題壓縮成少量狀態原型的快速匹配。這與認知科學中專家依靠 chunk、schema 與 retrieval structure 快速辨認複雜情境的研究具有結構類似性,但本文的目的不是將 AI 擬人化,而是建立可工程化的低延遲狀態響應模型。
最後,本文指出「極致分類」並非無限增加分類數量,而是尋找對決策而言足夠細、對索引而言足夠粗的最小有效分類。好的分類系統必須同時保留未知類別、例外節點、跨類關係與重新分類能力,否則極致索引會退化為極致固著。
關鍵詞: 分層索引、狀態分類、近似最近鄰、HNSW、Agent Memory、Chunking、快取、計算直覺、記憶編譯、狀態原型
1.記憶越大,真的會越聰明嗎?
上一章建立了記憶編譯型狀態智能體:
A t = ( Φ , C , I , Π , V , U , M t , C M ) \mathcal A_t
=
(
\Phi,
C,
I,
\Pi,
V,
U,
\mathcal M_t,
\mathfrak C_M
) A t = ( Φ , C , I , Π , V , U , M t , C M )
它將歷史搜尋與推理逐步壓成:
狀態類 → 索引 → 策略 → 驗證 \text{狀態類}
\rightarrow
\text{索引}
\rightarrow
\text{策略}
\rightarrow
\text{驗證} 狀態類 → 索引 → 策略 → 驗證
直覺上,只要:
∣ M t ∣ ↑ |\mathcal M_t|\uparrow ∣ M t ∣ ↑
智能體就應該越來越強。
但這裡存在一個非常直接的反問題:
如果記憶大到必須花很久才能找到需要的東西,那麼巨大記憶還有多少實際價值?
因此真正重要的不是:
∣ M ∣ |\mathcal M| ∣ M ∣
而是:
M u s a b l e \boxed{
\mathcal M_{\mathrm{usable}}
} M usable
也就是「可在合理成本內被正確取回並轉化成行動的記憶」。
2.可用記憶與總記憶不同
設總記憶:
M = { m 1 , m 2 , … , m N } \mathcal M=
\{m_1,m_2,\ldots,m_N\} M = { m 1 , m 2 , … , m N }
總容量:
N = ∣ M ∣ N=|\mathcal M| N = ∣ M ∣
但一次任務真正相關的可能只有:
R ( q ) ⊂ M \mathcal R(q)\subset\mathcal M R ( q ) ⊂ M
且:
∣ R ( q ) ∣ ≪ N |\mathcal R(q)|\ll N ∣ R ( q ) ∣ ≪ N
所以問題其實是:
q → R ( q ) q
\rightarrow
\mathcal R(q) q → R ( q )
而不是:
q → M q
\rightarrow
\mathcal M q → M
如果每一次檢索都要:
O ( N ) O(N) O ( N )
掃描全部記憶,那麼:
N → 10 12 N\rightarrow10^{12} N → 1 0 12
時,記憶容量本身就會變成負擔。
所以強記憶系統的第一條件是:
記憶增長速度不能直接轉化為檢索成本增長速度。 \boxed{
\text{記憶增長速度不能直接轉化為檢索成本增長速度。}
} 記憶增長速度不能直接轉化為檢索成本增長速度。
3.真正的目標:次線性候選縮減
理想狀態下,希望:
T r e t r i e v e ( N ) ≪ O ( N ) T_{\mathrm{retrieve}}(N)
\ll
O(N) T retrieve ( N ) ≪ O ( N )
例如:
O ( log N ) O(\log N) O ( log N )
或某種實務上近似固定延遲的受限搜尋。
但本文不主張所有知識檢索都能形式上達到:
O ( 1 ) O(1) O ( 1 )
真正要建立的是一個工程原則:
先縮小候選空間,再做精確推理。 \boxed{
\text{先縮小候選空間,再做精確推理。}
} 先縮小候選空間,再做精確推理。
也就是:
M → M 1 → M 2 → ⋯ → M k \mathcal M
\rightarrow
\mathcal M_1
\rightarrow
\mathcal M_2
\rightarrow
\cdots
\rightarrow
\mathcal M_k M → M 1 → M 2 → ⋯ → M k
且:
∣ M ∣ ≫ ∣ M 1 ∣ ≫ ∣ M 2 ∣ ≫ ⋯ ≫ ∣ M k ∣ |\mathcal M|
\gg
|\mathcal M_1|
\gg
|\mathcal M_2|
\gg
\cdots
\gg
|\mathcal M_k| ∣ M ∣ ≫ ∣ M 1 ∣ ≫ ∣ M 2 ∣ ≫ ⋯ ≫ ∣ M k ∣
最後才由高成本模型處理:
M k \mathcal M_k M k
4.分層索引
可以建立:
L 0 , L 1 , … , L d L_0,L_1,\ldots,L_d L 0 , L 1 , … , L d
多層記憶索引。
例如:
L 0 L_0 L 0 :世界域
物理 , 軟體 , 經濟 , 社會 , … \text{物理}
,\;
\text{軟體}
,\;
\text{經濟}
,\;
\text{社會}
,\ldots 物理 , 軟體 , 經濟 , 社會 , …
L 1 L_1 L 1 :問題族
搜尋 , 控制 , 預測 , 故障 , 規劃 \text{搜尋}
,\;
\text{控制}
,\;
\text{預測}
,\;
\text{故障}
,\;
\text{規劃} 搜尋 , 控制 , 預測 , 故障 , 規劃
L 2 L_2 L 2 :狀態原型
例如:
資源不足 \text{資源不足} 資源不足
高重複低收益 \text{高重複低收益} 高重複低收益
未知邊界 \text{未知邊界} 未知邊界
L 3 L_3 L 3 :策略類
π 1 , π 2 , … \pi_1,\pi_2,\ldots π 1 , π 2 , …
L 4 L_4 L 4 :具體案例
τ 1 , τ 2 , … \tau_1,\tau_2,\ldots τ 1 , τ 2 , …
檢索不再是:
q → 全庫 q\rightarrow\text{全庫} q → 全庫
而是:
q → L 0 → L 1 → L 2 → L 3 → L 4 q
\rightarrow
L_0
\rightarrow
L_1
\rightarrow
L_2
\rightarrow
L_3
\rightarrow
L_4 q → L 0 → L 1 → L 2 → L 3 → L 4
5.這不是固定資料夾,而是動態路由圖
若分類只有單一路徑:
c 0 → c 1 → c 2 c_0\rightarrow c_1\rightarrow c_2 c 0 → c 1 → c 2
它容易產生錯誤。
因為同一狀態可能同時屬於:
c a c_a c a
與:
c b c_b c b
所以更合理的是:
G C = ( V C , E C ) G_C=(V_C,E_C) G C = ( V C , E C )
也就是分類圖。
一個狀態:
z z z
可以同時連到多個候選類:
C ( z ) = { c 1 , c 2 , … , c k } C(z)
=
\{c_1,c_2,\ldots,c_k\} C ( z ) = { c 1 , c 2 , … , c k }
並帶權:
P ( c i ∣ z ) P(c_i\mid z) P ( c i ∣ z )
因此分類器真正輸出的是:
一組可能的導航入口 \boxed{
\text{一組可能的導航入口}
} 一組可能的導航入口
而不是唯一資料夾。
6.極致分類不是「分類越多越好」
如果每一個新狀態都建立一個新類:
N c l a s s ≈ N m e m o r y N_{\mathrm{class}}
\approx
N_{\mathrm{memory}} N class ≈ N memory
那麼分類就失去壓縮作用。
反過來,如果只有一個超大類:
N c l a s s = 1 N_{\mathrm{class}}=1 N class = 1
索引也沒有意義。
所以需要找到一個中間尺度。
設分類複雜度為:
K C K_C K C
分類後剩餘搜尋成本:
K R K_R K R
總成本:
K t o t a l = K C + K R K_{\mathrm{total}}
=
K_C+K_R K total = K C + K R
理想分類粒度:
g ∗ = arg min g [ K C ( g ) + K R ( g ) ] g^\ast
=
\arg\min_g
\left[
K_C(g)+K_R(g)
\right] g ∗ = arg g min [ K C ( g ) + K R ( g ) ]
因此:
最好的分類不是最細分類,而是總決策成本最低的分類。 \boxed{
\text{最好的分類不是最細分類,而是總決策成本最低的分類。}
} 最好的分類不是最細分類,而是總決策成本最低的分類。
7.最小充分狀態
如果兩個狀態:
x i , x j x_i,x_j x i , x j
雖然表面不同,但對行動而言:
π ∗ ( x i ) = π ∗ ( x j ) \pi^\ast(x_i)
=
\pi^\ast(x_j) π ∗ ( x i ) = π ∗ ( x j )
那麼在該任務尺度下,它們不一定需要被分成兩類。
真正應保留的是:
z ∗ z^\ast z ∗
也就是對策略選擇足夠的最小狀態表示。
理想化地:
z ∗ = MinimalSufficientState ( x ) z^\ast
=
\operatorname{MinimalSufficientState}(x) z ∗ = MinimalSufficientState ( x )
它應該刪除:
不影響決策的表面差異 \text{不影響決策的表面差異} 不影響決策的表面差異
但保留:
會改變策略的關鍵變量 \text{會改變策略的關鍵變量} 會改變策略的關鍵變量
這是極致分類真正困難的地方。
8.原型分類
每個狀態類不必保存為固定規則。
可以表示為:
c i = ( μ i , Σ i , Θ i , E i ) c_i=
(
\mu_i,
\Sigma_i,
\Theta_i,
E_i
) c i = ( μ i , Σ i , Θ i , E i )
其中:
μ i \mu_i μ i :原型中心;
Σ i \Sigma_i Σ i :允許變異;
Θ i \Theta_i Θ i :策略適用條件;
E i E_i E i :例外集合。
新狀態:
z z z
先計算:
D ( z , μ i ) D(z,\mu_i) D ( z , μ i )
再檢查:
Θ i ( z ) \Theta_i(z) Θ i ( z )
因此:
D ( z , μ i ) 小 D(z,\mu_i)\text{ 小} D ( z , μ i ) 小
並不代表可以直接使用該策略。
還要確認:
Θ i ( z ) = 1 \Theta_i(z)=1 Θ i ( z ) = 1
9.例外索引
成熟系統不能只有:
prototype \text{prototype} prototype
還要有:
exceptions \text{exceptions} exceptions
設:
E ( c i ) = { e 1 , e 2 , … } E(c_i)
=
\{e_1,e_2,\ldots\} E ( c i ) = { e 1 , e 2 , … }
若新狀態接近:
c i c_i c i
但也接近某個例外:
e j e_j e j
則不能直接走快速通道。
可以寫成:
FastPath ( z ) = 1 \operatorname{FastPath}(z)
=
1 FastPath ( z ) = 1
只有當:
P ( c i ∣ z ) > τ c P(c_i\mid z)>\tau_c P ( c i ∣ z ) > τ c
且:
min e ∈ E ( c i ) D ( z , e ) > τ e \min_{e\in E(c_i)}D(z,e)>\tau_e e ∈ E ( c i ) min D ( z , e ) > τ e
時才成立。
因此:
直覺的安全性,很大一部分來自「也快速記得例外」。 \boxed{
\text{直覺的安全性,很大一部分來自「也快速記得例外」。}
} 直覺的安全性,很大一部分來自「也快速記得例外」。
10.近似搜尋為何重要?
如果記憶向量:
v i ∈ R d v_i\in\mathbb R^d v i ∈ R d
數量巨大,精確全域 nearest-neighbor 搜尋會越來越昂貴。
Approximate Nearest Neighbor(ANN)方法的基本思想是:
犧牲少量精確性 → 大幅降低搜尋成本 \text{犧牲少量精確性}
\rightarrow
\text{大幅降低搜尋成本} 犧牲少量精確性 → 大幅降低搜尋成本
HNSW 是代表性方法之一。
它利用多層近鄰圖:
G 0 , G 1 , … , G L G_0,G_1,\ldots,G_L G 0 , G 1 , … , G L
高層圖更稀疏,用來完成長距離跳躍;
低層圖更密,用來完成局部精細搜尋。
因此:
先在粗尺度找到區域,再在細尺度找到鄰居。 \boxed{
\text{先在粗尺度找到區域,再在細尺度找到鄰居。}
} 先在粗尺度找到區域,再在細尺度找到鄰居。
這和本文的多尺度記憶導航具有高度相似的工程直覺。
11.HNSW 給我們的真正啟發
本文不是要說:
MCSA 就是 HNSW。
而是借用一個結構原則。
若記憶空間為:
M \mathcal M M
可以建立不同尺度的導航層:
M ( L ) ⊂ ⋯ ⊂ M ( 1 ) ⊂ M ( 0 ) \mathcal M^{(L)}
\subset
\cdots
\subset
\mathcal M^{(1)}
\subset
\mathcal M^{(0)} M ( L ) ⊂ ⋯ ⊂ M ( 1 ) ⊂ M ( 0 )
高層只保存:
少量代表點 \text{少量代表點} 少量代表點
低層保存:
大量細節 \text{大量細節} 大量細節
查詢從:
M ( L ) \mathcal M^{(L)} M ( L )
開始,逐層下降。
所以:
巨大記憶的檢索問題,可以部分轉化為導航問題。 \boxed{
\text{巨大記憶的檢索問題,可以部分轉化為導航問題。}
} 巨大記憶的檢索問題,可以部分轉化為導航問題。
12.向量搜尋還不夠
單純 ANN 通常依賴:
D ( v q , v i ) D(v_q,v_i) D ( v q , v i )
也就是向量距離。
但對狀態智能而言:
語義相似 ≠ 決策相似 \text{語義相似}
\neq
\text{決策相似} 語義相似 = 決策相似
所以第一階段可以使用:
semantic coarse retrieval \text{semantic coarse retrieval} semantic coarse retrieval
然後第二階段加入:
constraints \text{constraints} constraints
time \text{time} time
causal structure \text{causal structure} causal structure
task state \text{task state} task state
failure similarity \text{failure similarity} failure similarity
完成重排。
因此:
粗排靠便宜相似度,精排靠決策相關性。 \boxed{
\text{粗排靠便宜相似度,精排靠決策相關性。}
} 粗排靠便宜相似度,精排靠決策相關性。
13.兩階段檢索
定義第一階段:
R 1 ( q ) = ANN ( q , M , k 1 ) R_1(q)
=
\operatorname{ANN}(q,\mathcal M,k_1) R 1 ( q ) = ANN ( q , M , k 1 )
取得:
k 1 k_1 k 1
個候選。
第二階段:
R 2 ( q ) = Rerank ( q , R 1 ( q ) , Θ , H , T ) R_2(q)
=
\operatorname{Rerank}
(
q,
R_1(q),
\Theta,
H,
T
) R 2 ( q ) = Rerank ( q , R 1 ( q ) , Θ , H , T )
其中:
Θ \Theta Θ :條件;
H H H :歷史;
T T T :時間狀態。
最後只保留:
k 2 ≪ k 1 k_2\ll k_1 k 2 ≪ k 1
這種 coarse-to-fine 結構已廣泛存在於現代檢索系統中。
對智能體而言,它可以變成:
快速候選定位 → 高成本策略確認 \boxed{
\text{快速候選定位}
\rightarrow
\text{高成本策略確認}
} 快速候選定位 → 高成本策略確認
14.量化與壓縮
當:
N N N
達到極大尺度,索引本身也會占大量記憶。
因此還需要:
quantization \text{quantization} quantization
把高精度表示:
v i v_i v i
壓縮成:
v ^ i \hat v_i v ^ i
使:
MemoryCost ( v ^ i ) ≪ MemoryCost ( v i ) \operatorname{MemoryCost}(\hat v_i)
\ll
\operatorname{MemoryCost}(v_i) MemoryCost ( v ^ i ) ≪ MemoryCost ( v i )
Faiss 等大規模向量搜尋系統長期使用 product quantization、inverted index、多級量化等技術來降低 billion-scale similarity search 的儲存與運算成本。
這提供另一個重要原則:
索引用的表示,不一定需要和原始記憶一樣精細。 \boxed{
\text{索引用的表示,不一定需要和原始記憶一樣精細。}
} 索引用的表示,不一定需要和原始記憶一樣精細。
15.索引記憶與原始記憶應分離
因此可以分成:
M r a w \mathcal M_{\mathrm{raw}} M raw
原始高保真記憶;
M i n d e x \mathcal M_{\mathrm{index}} M index
低成本導航表示;
M c o m p i l e d \mathcal M_{\mathrm{compiled}} M compiled
成熟策略結構。
三者關係:
M i n d e x → M c o m p i l e d → M r a w \mathcal M_{\mathrm{index}}
\rightarrow
\mathcal M_{\mathrm{compiled}}
\rightarrow
\mathcal M_{\mathrm{raw}} M index → M compiled → M raw
查詢通常優先使用:
M i n d e x \mathcal M_{\mathrm{index}} M index
只有必要時才展開:
M r a w \mathcal M_{\mathrm{raw}} M raw
因此:
不是所有記憶都需要同時在線。 \boxed{
\text{不是所有記憶都需要同時在線。}
} 不是所有記憶都需要同時在線。
16.熱記憶與冷記憶
設每個記憶項:
m i m_i m i
具有使用頻率:
f i f_i f i
近期性:
r i r_i r i
與價值:
v i v_i v i
可以建立熱度:
h i = α f i + β r i + γ v i h_i
=
\alpha f_i
+
\beta r_i
+
\gamma v_i h i = α f i + β r i + γ v i
高熱度項放入:
M h o t M_{\mathrm{hot}} M hot
低熱度項進入:
M c o l d M_{\mathrm{cold}} M cold
所以:
T h o t ≪ T c o l d T_{\mathrm{hot}}
\ll
T_{\mathrm{cold}} T hot ≪ T cold
這和 cache 層級相似。
但對智能體而言,還多一個條件:
某段記憶雖然很少使用,但可能是高風險例外,因此不能因低頻而被完全埋沒。
所以熱度不是唯一索引原則。
17.風險快取
設:
r i r i s k r_i^{\mathrm{risk}} r i risk
為記憶對風險的重要程度。
則即使:
f i ≈ 0 f_i\approx0 f i ≈ 0
如果:
r i r i s k ≫ 0 r_i^{\mathrm{risk}}\gg0 r i risk ≫ 0
仍可放入:
M c r i t i c a l M_{\mathrm{critical}} M critical
因此記憶層級可以至少分成:
M h o t M_{\mathrm{hot}} M hot
M c r i t i c a l M_{\mathrm{critical}} M critical
M w a r m M_{\mathrm{warm}} M warm
M c o l d M_{\mathrm{cold}} M cold
這樣避免:
罕見但致命的例外,被效率最佳化系統遺忘。 \boxed{
\text{罕見但致命的例外,被效率最佳化系統遺忘。}
} 罕見但致命的例外,被效率最佳化系統遺忘。
18.近期 Agent Memory 已經開始走向分層與多階段檢索
2026 年的 H-MEM 直接採用多層語義抽象結構,高階記憶帶有指向下一層子記憶的位置索引,推理時逐層導航,而不是對全部記憶進行完整相似度計算。
LightMem 則將記憶分成:
STM → MTM → LTM \text{STM}
\rightarrow
\text{MTM}
\rightarrow
\text{LTM} STM → MTM → LTM
並採用:
vector coarse retrieval → semantic reranking \text{vector coarse retrieval}
\rightarrow
\text{semantic reranking} vector coarse retrieval → semantic reranking
的兩階段檢索。
GAM 則將事件進程與穩定主題關聯網路分離,避免短期噪聲直接污染長期穩定記憶。
這些工作共同指向:
記憶規模增加後,組織方式本身就成為智能性能的一部分。 \boxed{
\text{記憶規模增加後,組織方式本身就成為智能性能的一部分。}
} 記憶規模增加後,組織方式本身就成為智能性能的一部分。
19.索引品質不只看速度
定義檢索系統:
R ( q ) R(q) R ( q )
至少要同時衡量:
T R T_R T R
檢索延遲;
P R P_R P R
precision;
R R R_R R R
recall;
以及:
D R D_R D R
decision relevance。
一個很快但漏掉關鍵例外的索引:
T R ↓ T_R\downarrow T R ↓
卻:
D R ↓ D_R\downarrow D R ↓
並不是好索引。
所以真正的目標是:
max decision-relevant recall latency + compute + memory cost \boxed{
\max
\frac{
\text{decision-relevant recall}
}{
\text{latency + compute + memory cost}
}
} max latency + compute + memory cost decision-relevant recall
20.索引本身也要被學習
若世界持續變化:
p t ( x ) ≠ p t + 1 ( x ) p_t(x)
\neq
p_{t+1}(x) p t ( x ) = p t + 1 ( x )
那麼固定索引結構會過時。
因此:
I t I_t I t
也必須更新:
I t + 1 = U I ( I t , M t + 1 , Q t ) I_{t+1}
=
U_I(I_t,\mathcal M_{t+1},Q_t) I t + 1 = U I ( I t , M t + 1 , Q t )
其中:
Q t Q_t Q t
可以包括:
查詢頻率;
誤檢;
漏檢;
路由成本;
新類形成;
舊類失效。
所以:
智能體不只學知識,也必須學「去哪裡找知識」。 \boxed{
\text{智能體不只學知識,也必須學「去哪裡找知識」。}
} 智能體不只學知識,也必須學「去哪裡找知識」。
21.從索引到計算直覺
現在可以進入本篇第二個主題。
什麼叫:
計算直覺 \text{計算直覺} 計算直覺
假設第一次處理狀態:
x x x
需要:
x → p 1 , p 2 , … , p n → a ∗ x
\rightarrow
p_1,p_2,\ldots,p_n
\rightarrow
a^\ast x → p 1 , p 2 , … , p n → a ∗
大量展開。
經過多次經驗後:
x ∼ c x\sim c x ∼ c
且:
c ↦ π c c\mapsto\pi_c c ↦ π c
已成熟。
新狀態:
x ′ x' x ′
一出現時,系統只需:
x ′ → c → π c x'
\rightarrow
c
\rightarrow
\pi_c x ′ → c → π c
所以:
直覺不是零計算,而是被歷史壓縮過的低深度計算。 \boxed{
\text{直覺不是零計算,而是被歷史壓縮過的低深度計算。}
} 直覺不是零計算,而是被歷史壓縮過的低深度計算。
22.計算深度壓縮
設第一次求解的有效深度:
D 1 = n D_1=n D 1 = n
經編譯後:
D 2 = k D_2=k D 2 = k
且:
k ≪ n k\ll n k ≪ n
可以定義壓縮率:
R D = 1 − D 2 D 1 R_D
=
1-
\frac{D_2}{D_1} R D = 1 − D 1 D 2
當:
R D → 1 R_D\rightarrow1 R D → 1
外部觀察就越像:
一眼就知道。
因此直覺的工程化表示之一是:
高歷史成本 → 高記憶結構 → 低當前決策深度 \boxed{
\text{高歷史成本}
\rightarrow
\text{高記憶結構}
\rightarrow
\text{低當前決策深度}
} 高歷史成本 → 高記憶結構 → 低當前決策深度
23.Chunking 與專家快速辨認
人類專家研究提供一個有趣類比。
棋類研究長期發現,高水平棋手的重要優勢不只是「向前算得更遠」,而是能快速辨認熟悉局面中的高階結構。
Chunking 理論認為,經驗會把多個細小元素壓縮成較大的有意義單位:
{ x 1 , x 2 , … , x n } → c \{x_1,x_2,\ldots,x_n\}
\rightarrow
c { x 1 , x 2 , … , x n } → c
因此工作記憶不必逐一處理:
n n n
個原始元素,而可以調用:
1 1 1
個高階 chunk。
這和本文的記憶編譯具有結構相似性:
大量細節 → 原型 → 快速辨認 \text{大量細節}
\rightarrow
\text{原型}
\rightarrow
\text{快速辨認} 大量細節 → 原型 → 快速辨認
但本文不主張 AI 必須模仿人類大腦。
我們借用的是:
經驗可以透過結構壓縮降低即時處理成本。 \boxed{
\text{經驗可以透過結構壓縮降低即時處理成本。}
} 經驗可以透過結構壓縮降低即時處理成本。
24.直覺其實需要大量記憶
這裡出現一個反直覺結論。
表面看:
直覺 = 不用想 \text{直覺}
=
\text{不用想} 直覺 = 不用想
但如果直覺來自大量成熟 pattern 的快速命中,那麼:
直覺能力 \text{直覺能力} 直覺能力
反而依賴:
∣ M s t r u c t u r e d ∣ ↑ |\mathcal M_{\mathrm{structured}}|\uparrow ∣ M structured ∣ ↑
也就是:
越像「不用想」的成熟反應,背後可能越依賴大量已經想過、分類過、驗證過的歷史。 \boxed{
\text{越像「不用想」的成熟反應,背後可能越依賴大量已經想過、分類過、驗證過的歷史。}
} 越像「不用想」的成熟反應,背後可能越依賴大量已經想過、分類過、驗證過的歷史。
25.但記憶多不代表直覺好
若:
M \mathcal M M
只是無結構堆積:
M = { m 1 , … , m N } \mathcal M=
\{m_1,\ldots,m_N\} M = { m 1 , … , m N }
但沒有:
C C C
分類;
I I I
索引;
Π \Pi Π
策略映射;
那麼:
∣ M ∣ ↑ |\mathcal M|\uparrow ∣ M ∣ ↑
不一定產生:
T r e s p o n s e ↓ T_{\mathrm{response}}\downarrow T response ↓
所以:
計算直覺依賴的是「結構化可調用記憶」,不是原始資料量。 \boxed{
\text{計算直覺依賴的是「結構化可調用記憶」,不是原始資料量。}
} 計算直覺依賴的是「結構化可調用記憶」,不是原始資料量。
26.直覺命中與直覺錯誤
若新狀態:
x ′ x' x ′
被分類成:
c i c_i c i
但其實:
x ′ ∈ c j x'\in c_j x ′ ∈ c j
則快速反應會錯。
這類錯誤:
Fast Wrong Match \text{Fast Wrong Match} Fast Wrong Match
比慢速推理錯誤更危險,因為:
T d e c i s i o n ↓ T_{\mathrm{decision}}\downarrow T decision ↓
同時:
confidence ↑ \text{confidence}\uparrow confidence ↑
所以直覺系統必須保留:
uncertainty \text{uncertainty} uncertainty
可以寫成:
P ( c i ∣ x ′ ) P(c_i\mid x') P ( c i ∣ x ′ )
若:
max i P ( c i ∣ x ′ ) < τ \max_iP(c_i\mid x')
<\tau i max P ( c i ∣ x ′ ) < τ
就不應走快速通道。
27.直覺需要「猶豫閥」
因此加入:
H ( x ) H(x) H ( x )
表示狀態分類熵。
若:
H ( x ) ≪ τ H H(x)\ll\tau_H H ( x ) ≪ τ H
代表分類高度集中,可以快速反應。
若:
H ( x ) ≫ τ H H(x)\gg\tau_H H ( x ) ≫ τ H
則進入:
deliberative mode \text{deliberative mode} deliberative mode
也就是:
好的直覺系統不只會快速回答,也要知道什麼時候不該快速回答。 \boxed{
\text{好的直覺系統不只會快速回答,也要知道什麼時候不該快速回答。}
} 好的直覺系統不只會快速回答,也要知道什麼時候不該快速回答。
28.分類信心與例外距離雙門檻
快速通道可以要求:
P ( c ∗ ∣ z ) > τ c P(c^\ast\mid z)>\tau_c P ( c ∗ ∣ z ) > τ c
同時:
D ( z , E ( c ∗ ) ) > τ e D(z,E(c^\ast))>\tau_e D ( z , E ( c ∗ )) > τ e
其中:
D ( z , E ( c ∗ ) ) = min e ∈ E ( c ∗ ) D ( z , e ) D(z,E(c^\ast))
=
\min_{e\in E(c^\ast)}D(z,e) D ( z , E ( c ∗ )) = e ∈ E ( c ∗ ) min D ( z , e )
只有:
才允許:
FastPath = 1 \operatorname{FastPath}=1 FastPath = 1
這比單一 similarity threshold 更安全。
29.分類的分類:元索引
當分類系統本身變得巨大:
∣ C ∣ ↑ |C|\uparrow ∣ C ∣ ↑
又會遇到:
怎麼快速找到該使用哪個分類器?
所以需要:
C ( 2 ) C^{(2)} C ( 2 )
也就是分類的分類。
例如:
domain router → task router → state classifier \text{domain router}
\rightarrow
\text{task router}
\rightarrow
\text{state classifier} domain router → task router → state classifier
這形成:
Meta-Index \boxed{
\text{Meta-Index}
} Meta-Index
因此極大記憶系統天然容易出現:
index of indices \text{index of indices} index of indices
的分層結構。
30.最終索引可能是一個聯邦
不同類型記憶適合不同索引。
文字語義:
I v e c t o r I_{\mathrm{vector}} I vector
時間事件:
I t e m p o r a l I_{\mathrm{temporal}} I temporal
因果關係:
I g r a p h I_{\mathrm{graph}} I graph
精確 ID:
I h a s h I_{\mathrm{hash}} I hash
程序策略:
I p o l i c y I_{\mathrm{policy}} I policy
失敗模式:
I f a i l u r e I_{\mathrm{failure}} I failure
因此不應要求:
I a l l I_{\mathrm{all}} I all
一個索引處理所有東西。
更合理的是:
I = { I v e c t o r , I g r a p h , I t e m p o r a l , I p o l i c y , I e x c e p t i o n } \boxed{
\mathfrak I
=
\{
I_{\mathrm{vector}},
I_{\mathrm{graph}},
I_{\mathrm{temporal}},
I_{\mathrm{policy}},
I_{\mathrm{exception}}
\}
} I = { I vector , I graph , I temporal , I policy , I exception }
由元路由器決定使用哪幾個索引。
31.快速索引的完整流程
可以寫成:
z t z_t z t
先經:
R 0 ( z t ) R_0(z_t) R 0 ( z t )
選擇索引域。
再:
R 1 ( z t ) R_1(z_t) R 1 ( z t )
完成粗分類。
再:
R 2 ( z t ) R_2(z_t) R 2 ( z t )
取得候選原型。
再:
R 3 ( z t ) R_3(z_t) R 3 ( z t )
進行案例與例外重排。
最後:
Π ( z t ) \Pi(z_t) Π ( z t )
選策略。
即:
z t → route → coarse → prototype → rerank → policy \boxed{
z_t
\rightarrow
\text{route}
\rightarrow
\text{coarse}
\rightarrow
\text{prototype}
\rightarrow
\text{rerank}
\rightarrow
\text{policy}
} z t → route → coarse → prototype → rerank → policy
32.檢索預算
不是每一次任務都值得無限查找。
定義:
B R B_R B R
為檢索預算。
例如:
K r e t r i e v e ≤ B R K_{\mathrm{retrieve}}\leq B_R K retrieve ≤ B R
當預算即將耗盡時,系統可以:
使用目前最佳候選;
切換探索模式;
請求更多計算;
返回不確定。
這避免:
為了找到最完美記憶而無限搜尋記憶。 \text{為了找到最完美記憶而無限搜尋記憶。} 為了找到最完美記憶而無限搜尋記憶。
33.記憶規模與有效延遲的分離
最終我們真正希望的是:
∣ M ∣ ↑ |\mathcal M|\uparrow ∣ M ∣ ↑
但:
d T e f f e c t i v e d ∣ M ∣ ≈ 0 \frac{dT_{\mathrm{effective}}}{d|\mathcal M|}
\approx0 d ∣ M ∣ d T effective ≈ 0
至少在高頻狀態中接近如此。
這可以靠:
hierarchy + ANN + cache + prototype + reranking + compilation \text{hierarchy}
+
\text{ANN}
+
\text{cache}
+
\text{prototype}
+
\text{reranking}
+
\text{compilation} hierarchy + ANN + cache + prototype + reranking + compilation
共同實現。
因此強記憶不再意味:
每次都查更多 \text{每次都查更多} 每次都查更多
而可能意味:
記得越多,越知道應該少查哪裡。 \boxed{
\text{記得越多,越知道應該少查哪裡。}
} 記得越多,越知道應該少查哪裡。
34.極致分類的真正定義
現在可以重新定義本文所說的:
極致分類 \text{極致分類} 極致分類
它不是:
把世界分成無限細類別 \text{把世界分成無限細類別} 把世界分成無限細類別
而是:
對任務決策所需差異進行最大化保留,對不影響策略的差異進行最大化壓縮,並保持未知、例外與重新分類能力。
可形式化為:
C ∗ = arg min C [ K c l a s s i f i c a t i o n + K r e t r i e v a l + K d e c i s i o n + K e r r o r ] C^\ast
=
\arg\min_C
\left[
K_{\mathrm{classification}}
+
K_{\mathrm{retrieval}}
+
K_{\mathrm{decision}}
+
K_{\mathrm{error}}
\right] C ∗ = arg C min [ K classification + K retrieval + K decision + K error ]
所以它是一個總成本最小化問題。
35.計算直覺的正式定義
本文可以把:
計算直覺 \text{計算直覺} 計算直覺
暫時定義為:
智能體在高置信狀態分類成立時,利用經歷過多次驗證的結構化記憶與已編譯策略,以顯著低於原始求解深度的計算成本完成決策的能力。
形式上:
I i n t u i t i o n ( x ) = K s o l v e ( x ) K c o m p i l e d ( x ) I_{\mathrm{intuition}}(x)
=
\frac{
K_{\mathrm{solve}}(x)
}{
K_{\mathrm{compiled}}(x)
} I intuition ( x ) = K compiled ( x ) K solve ( x )
若:
I i n t u i t i o n ≫ 1 I_{\mathrm{intuition}}\gg1 I intuition ≫ 1
表示編譯收益很高。
36.直覺不是永遠比推理高級
若狀態高度成熟:
x ∈ X c o m p i l e d x\in\mathcal X_{\mathrm{compiled}} x ∈ X compiled
則快速直覺可能最有效。
若:
x ∈ X u n k n o w n x\in\mathcal X_{\mathrm{unknown}} x ∈ X unknown
則長推理更重要。
所以:
直覺與推理不是競爭關係,而是不同覆蓋區域的計算模式。 \boxed{
\text{直覺與推理不是競爭關係,而是不同覆蓋區域的計算模式。}
} 直覺與推理不是競爭關係,而是不同覆蓋區域的計算模式。
37.高成熟區與低成熟區
定義成熟度場:
M C ( x ) ∈ [ 0 , 1 ] M_C(x)\in[0,1] M C ( x ) ∈ [ 0 , 1 ]
若:
M C ( x ) → 1 M_C(x)\rightarrow1 M C ( x ) → 1
則:
K r e s p o n s e ( x ) ↓ K_{\mathrm{response}}(x)\downarrow K response ( x ) ↓
若:
M C ( x ) → 0 M_C(x)\rightarrow0 M C ( x ) → 0
則:
K e x p l o r e ( x ) ↑ K_{\mathrm{explore}}(x)\uparrow K explore ( x ) ↑
因此整個狀態空間可以分成:
X = X c o m p i l e d ∪ X a d a p t i v e ∪ X u n k n o w n \mathcal X
=
\mathcal X_{\mathrm{compiled}}
\cup
\mathcal X_{\mathrm{adaptive}}
\cup
\mathcal X_{\mathrm{unknown}} X = X compiled ∪ X adaptive ∪ X unknown
三區。
38.成熟區域越多,整體系統越像有「直覺」
若:
P ( x ∈ X c o m p i l e d ) ↑ P(x\in\mathcal X_{\mathrm{compiled}})
\uparrow P ( x ∈ X compiled ) ↑
則日常輸入中越多狀態能直接:
x → c → π x
\rightarrow
c
\rightarrow
\pi x → c → π
所以平均決策深度:
E [ D ] \mathbb E[D] E [ D ]
下降。
從外部看,智能體會越來越:
這不是單純模型參數變強,而是:
世界狀態被越來越多地編譯進可快速索引的結構。 \boxed{
\text{世界狀態被越來越多地編譯進可快速索引的結構。}
} 世界狀態被越來越多地編譯進可快速索引的結構。
39.極致分類與創新並不衝突
第五篇已指出:
strong memory ⇏ low innovation \text{strong memory}
\not\Rightarrow
\text{low innovation} strong memory ⇒ low innovation
第七篇可以補上一個更細的關係:
分類越成熟:
X k n o w n \mathcal X_{\mathrm{known}} X known
越容易被壓縮。
因此更多計算可以移到:
X u n k n o w n \mathcal X_{\mathrm{unknown}} X unknown
所以:
高分類效率 → 低已知成本 → 高未知探索預算 \text{高分類效率}
\rightarrow
\text{低已知成本}
\rightarrow
\text{高未知探索預算} 高分類效率 → 低已知成本 → 高未知探索預算
只要未知狀態:
⊥ \bot ⊥
仍被保留,分類反而可以幫助創新。
40.最大的風險:分類把未知吃掉
如果分類器的設計目標只是:
max classification coverage \max\text{classification coverage} max classification coverage
它可能傾向把任何狀態都塞進已知類:
x ↦ c ∗ x\mapsto c^\ast x ↦ c ∗
即使:
P ( c ∗ ∣ x ) P(c^\ast\mid x) P ( c ∗ ∣ x )
很低。
此時:
X u n k n o w n → ∅ \mathcal X_{\mathrm{unknown}}\rightarrow\varnothing X unknown → ∅
不是因為世界真的被理解,而是因為:
系統失去了表示未知的能力。 \boxed{
\text{系統失去了表示未知的能力。}
} 系統失去了表示未知的能力。
這是極致分類最危險的失敗模式。
41.所以未知必須是一級公民
分類輸出必須包含:
⊥ \bot ⊥
以及:
ambiguous \text{ambiguous} ambiguous
例如:
C ( z ) ∈ { c 1 , … , c n , ⊥ , ? } C(z)
\in
\{
c_1,\ldots,c_n,
\bot,
?
\} C ( z ) ∈ { c 1 , … , c n , ⊥ , ?}
其中:
⊥ \bot ⊥ :沒有適用類;
? ? ? :多個類競爭,無法高置信決定。
只有這樣:
分類系統才不會因為必須回答,而把未知錯編譯成已知。 \boxed{
\text{分類系統才不會因為必須回答,而把未知錯編譯成已知。}
} 分類系統才不會因為必須回答,而把未知錯編譯成已知。
42.本文的統一結構
最終,記憶檢索可以表示成:
z t → R 0 I t → R 1 C t → R 2 P t → R 3 R t → Π a t z_t
\xrightarrow{R_0}
\mathfrak I_t
\xrightarrow{R_1}
\mathcal C_t
\xrightarrow{R_2}
\mathcal P_t
\xrightarrow{R_3}
\mathcal R_t
\xrightarrow{\Pi}
a_t z t R 0 I t R 1 C t R 2 P t R 3 R t Π a t
其中:
R 0 R_0 R 0 :選索引;
R 1 R_1 R 1 :粗分類;
R 2 R_2 R 2 :原型定位;
R 3 R_3 R 3 :精排與例外檢查;
Π \Pi Π :策略選擇。
如果置信度不足:
z t → ⊥ z_t
\rightarrow
\bot z t → ⊥
則退出快速通道。
43.計算直覺的完整形成鏈
因此一個成熟直覺的生成過程其實是:
第一次昂貴探索 \text{第一次昂貴探索} 第一次昂貴探索
↓ \downarrow ↓
保存軌跡 \text{保存軌跡} 保存軌跡
↓ \downarrow ↓
多案例聚合 \text{多案例聚合} 多案例聚合
↓ \downarrow ↓
抽象為 chunk/原型 \text{抽象為 chunk/原型} 抽象為 chunk /原型
↓ \downarrow ↓
建立分層索引 \text{建立分層索引} 建立分層索引
↓ \downarrow ↓
編譯策略 \text{編譯策略} 編譯策略
↓ \downarrow ↓
快速命中 \text{快速命中} 快速命中
所以:
直覺是歷史計算被時間壓縮後的再利用。 \boxed{
\text{直覺是歷史計算被時間壓縮後的再利用。}
} 直覺是歷史計算被時間壓縮後的再利用。
44.真正的尺度躍遷
如果一個智能體只有:
10 3 10^3 1 0 3
個記憶,也許平坦檢索就夠。
如果增加到:
10 6 10^6 1 0 6
需要 ANN、圖索引與重排。
如果增加到:
10 9 10^9 1 0 9
需要分層、壓縮、冷熱分離與記憶治理。
如果增加到:
10 12 10^{12} 1 0 12
甚至更大,問題就不再只是:
怎麼找?
而是:
怎麼讓記憶本身形成一個自治的知識地理系統?
因此:
記憶規模跨越某些尺度後,索引架構本身會成為智能架構。 \boxed{
\text{記憶規模跨越某些尺度後,索引架構本身會成為智能架構。}
} 記憶規模跨越某些尺度後,索引架構本身會成為智能架構。
45.結論:記得越多,越需要知道「去哪裡找」
本文回答了上一章留下的問題:
∣ M ∣ ↑ |\mathcal M|\uparrow ∣ M ∣ ↑
是否必然導致:
T r e t r i e v e ↑ T_{\mathrm{retrieve}}\uparrow T retrieve ↑
答案是:
若記憶平坦、沒有抽象與索引,幾乎不可避免;但若記憶被多尺度分類、建立導航圖、區分熱冷層、使用粗排—重排、原型與例外索引,則總記憶規模可以和高頻檢索延遲部分解耦。
因此極強記憶智能體真正需要的是:
大記憶 + 小候選集 \boxed{
\text{大記憶}
+
\text{小候選集}
} 大記憶 + 小候選集
而不是:
大記憶 + 每次大搜尋 \text{大記憶}
+
\text{每次大搜尋} 大記憶 + 每次大搜尋
最終,本文將計算直覺定義為:
大量歷史計算經過分類、分塊、索引與策略編譯後,形成的低延遲高置信狀態響應。 \boxed{
\text{大量歷史計算經過分類、分塊、索引與策略編譯後,形成的低延遲高置信狀態響應。}
} 大量歷史計算經過分類、分塊、索引與策略編譯後,形成的低延遲高置信狀態響應。
下一篇將進一步處理這套架構最重要的安全閥:
08.《已知則編譯,未知則展開》
亦即:
什麼時候應該相信快速通道?什麼時候必須承認「不知道」,重新展開? \boxed{
\text{什麼時候應該相信快速通道?什麼時候必須承認「不知道」,重新展開?}
} 什麼時候應該相信快速通道?什麼時候必須承認「不知道」,重新展開?
參考資料
Malkov, Y. A., & Yashunin, D. A. (2016/2020). Efficient and Robust Approximate Nearest Neighbor Search Using Hierarchical Navigable Small World Graphs. https://arxiv.org/abs/1603.09320
Faiss Documentation. Faiss: A library for efficient similarity search and clustering of dense vectors. https://faiss.ai/
Sun, H., Zeng, S., & Zhang, B. (2026). H-MEM: Hierarchical Memory for High-Efficiency Long-Term Reasoning in LLM Agents. EACL 2026.https://aclanthology.org/2026.eacl-long.15/
Zhang, J. et al. (2026). Lightweight LLM Agent Memory with Small Language Models. ACL 2026.https://aclanthology.org/2026.acl-long.588/
Wu, Z. et al. (2026). GAM: Hierarchical Graph-based Agentic Memory for LLM Agents. ACL 2026.https://aclanthology.org/2026.acl-long.1600/
Huang, Z. et al. (2026). LiCoMemory: Lightweight and Cognitive Agentic Memory for Efficient Long-Term Reasoning. Findings of ACL 2026.https://aclanthology.org/2026.findings-acl.1835/
Hsu, H.-L. et al. (2026). Organize then Retrieve: Hierarchical Memory Navigation for Efficient Agents. https://arxiv.org/abs/2606.11680
Gobet, F., Lane, P. C., & Lloyd-Kelly, M. (2015). Chunks, Schemata, and Retrieval Structures: Past and Current Computational Models. Frontiers in Psychology.https://www.frontiersin.org/journals/psychology/articles/10.3389/fpsyg.2015.01785/full
Gilchrist, A. L. (2015). How should we measure chunks? A continuing issue in chunking research and a way forward. Frontiers in Psychology.https://www.frontiersin.org/journals/psychology/articles/10.3389/fpsyg.2015.01456/full
Blanch, A. et al. / Cambridge Handbook literature on chess expertise and memory-based pattern recognition.https://www.cambridge.org/core/books/cambridge-handbook-of-expertise-and-expert-performance/expertise-in-chess/80ECEE9EB4E29866F90C8A45B9F8034E
系列內部依賴
前置: 05《極強記憶會壓制創新嗎?》、06《記憶編譯型狀態智能體》後續: 08《已知則編譯,未知則展開》、09《當所有計算機與記憶空間連成一體》、10《文明記憶編譯體與聯邦式行星智能》。
一句話摘要
極強記憶真正的關鍵不是「存得下多少」,而是能否把巨大記憶壓縮成可分層導航的小候選集,讓成熟歷史計算以接近直覺的速度重新被調用。 \boxed{
\text{極強記憶真正的關鍵不是「存得下多少」,而是能否把巨大記憶壓縮成可分層導航的小候選集,讓成熟歷史計算以接近直覺的速度重新被調用。}
} 極強記憶真正的關鍵不是「存得下多少」,而是能否把巨大記憶壓縮成可分層導航的小候選集,讓成熟歷史計算以接近直覺的速度重新被調用。