← Archive
lm-002128 · 2026-08

07_極致分類快速索引與計算直覺

下載 MD 檔 ⬇

07.極致分類、快速索引與計算直覺

系列:《從路徑覆蓋到行星智能:記憶編譯型計算存在論》
部別:第二部——記憶編譯型智能
版本:v0.1
日期:2026-08-01


摘要

記憶編譯型狀態智能體若要持續增長,會立即遭遇一個核心瓶頸:記憶容量增加並不自動等於可用智能增加。若每次遭遇新狀態,都必須在完整歷史記憶中進行昂貴全域搜尋,則:

MTretrieve|\mathcal M|\uparrow \quad\Rightarrow\quad T_{\mathrm{retrieve}}\uparrow

最終可能形成「記得越多,反而找得越慢」的記憶負擔。

本文因此將問題轉化為:如何讓記憶容量持續擴張,同時使狀態辨識、候選縮減、精確檢索與策略調用保持低延遲?本文提出一個多尺度分類—索引架構,將原始狀態逐層映射到領域、問題族、狀態原型、例外類與具體歷史案例;每一層只需處理上一層已經縮小的候選集合。此架構可以搭配近似最近鄰搜尋、圖式索引、量化、粗排—重排、多層記憶與快取,使「全庫搜尋」轉化為「階層導航」。

本文同時定義「計算直覺」:它不是沒有計算,而是大量過去計算經由抽象、分塊、分類、索引與策略編譯後,將原本需要長序列推理的問題壓縮成少量狀態原型的快速匹配。這與認知科學中專家依靠 chunk、schema 與 retrieval structure 快速辨認複雜情境的研究具有結構類似性,但本文的目的不是將 AI 擬人化,而是建立可工程化的低延遲狀態響應模型。

最後,本文指出「極致分類」並非無限增加分類數量,而是尋找對決策而言足夠細、對索引而言足夠粗的最小有效分類。好的分類系統必須同時保留未知類別、例外節點、跨類關係與重新分類能力,否則極致索引會退化為極致固著。

關鍵詞: 分層索引、狀態分類、近似最近鄰、HNSW、Agent Memory、Chunking、快取、計算直覺、記憶編譯、狀態原型


1.記憶越大,真的會越聰明嗎?

上一章建立了記憶編譯型狀態智能體:

At=(Φ,C,I,Π,V,U,Mt,CM)\mathcal A_t = ( \Phi, C, I, \Pi, V, U, \mathcal M_t, \mathfrak C_M )

它將歷史搜尋與推理逐步壓成:

狀態類索引策略驗證\text{狀態類} \rightarrow \text{索引} \rightarrow \text{策略} \rightarrow \text{驗證}

直覺上,只要:

Mt|\mathcal M_t|\uparrow

智能體就應該越來越強。

但這裡存在一個非常直接的反問題:

如果記憶大到必須花很久才能找到需要的東西,那麼巨大記憶還有多少實際價值?

因此真正重要的不是:

M|\mathcal M|

而是:

Musable\boxed{ \mathcal M_{\mathrm{usable}} }

也就是「可在合理成本內被正確取回並轉化成行動的記憶」。


2.可用記憶與總記憶不同

設總記憶:

M={m1,m2,,mN}\mathcal M= \{m_1,m_2,\ldots,m_N\}

總容量:

N=MN=|\mathcal M|

但一次任務真正相關的可能只有:

R(q)M\mathcal R(q)\subset\mathcal M

且:

R(q)N|\mathcal R(q)|\ll N

所以問題其實是:

qR(q)q \rightarrow \mathcal R(q)

而不是:

qMq \rightarrow \mathcal M

如果每一次檢索都要:

O(N)O(N)

掃描全部記憶,那麼:

N1012N\rightarrow10^{12}

時,記憶容量本身就會變成負擔。

所以強記憶系統的第一條件是:

記憶增長速度不能直接轉化為檢索成本增長速度。\boxed{ \text{記憶增長速度不能直接轉化為檢索成本增長速度。} }

3.真正的目標:次線性候選縮減

理想狀態下,希望:

Tretrieve(N)O(N)T_{\mathrm{retrieve}}(N) \ll O(N)

例如:

O(logN)O(\log N)

或某種實務上近似固定延遲的受限搜尋。

但本文不主張所有知識檢索都能形式上達到:

O(1)O(1)

真正要建立的是一個工程原則:

先縮小候選空間,再做精確推理。\boxed{ \text{先縮小候選空間,再做精確推理。} }

也就是:

MM1M2Mk\mathcal M \rightarrow \mathcal M_1 \rightarrow \mathcal M_2 \rightarrow \cdots \rightarrow \mathcal M_k

且:

MM1M2Mk|\mathcal M| \gg |\mathcal M_1| \gg |\mathcal M_2| \gg \cdots \gg |\mathcal M_k|

最後才由高成本模型處理:

Mk\mathcal M_k

4.分層索引

可以建立:

L0,L1,,LdL_0,L_1,\ldots,L_d

多層記憶索引。

例如:

L0L_0 :世界域

物理,  軟體,  經濟,  社會,\text{物理} ,\; \text{軟體} ,\; \text{經濟} ,\; \text{社會} ,\ldots

L1L_1 :問題族

搜尋,  控制,  預測,  故障,  規劃\text{搜尋} ,\; \text{控制} ,\; \text{預測} ,\; \text{故障} ,\; \text{規劃}

L2L_2 :狀態原型

例如:

資源不足\text{資源不足} 高重複低收益\text{高重複低收益} 未知邊界\text{未知邊界}

L3L_3 :策略類

π1,π2,\pi_1,\pi_2,\ldots

L4L_4 :具體案例

τ1,τ2,\tau_1,\tau_2,\ldots

檢索不再是:

q全庫q\rightarrow\text{全庫}

而是:

qL0L1L2L3L4q \rightarrow L_0 \rightarrow L_1 \rightarrow L_2 \rightarrow L_3 \rightarrow L_4

5.這不是固定資料夾,而是動態路由圖

若分類只有單一路徑:

c0c1c2c_0\rightarrow c_1\rightarrow c_2

它容易產生錯誤。

因為同一狀態可能同時屬於:

cac_a

與:

cbc_b

所以更合理的是:

GC=(VC,EC)G_C=(V_C,E_C)

也就是分類圖。

一個狀態:

zz

可以同時連到多個候選類:

C(z)={c1,c2,,ck}C(z) = \{c_1,c_2,\ldots,c_k\}

並帶權:

P(ciz)P(c_i\mid z)

因此分類器真正輸出的是:

一組可能的導航入口\boxed{ \text{一組可能的導航入口} }

而不是唯一資料夾。


6.極致分類不是「分類越多越好」

如果每一個新狀態都建立一個新類:

NclassNmemoryN_{\mathrm{class}} \approx N_{\mathrm{memory}}

那麼分類就失去壓縮作用。

反過來,如果只有一個超大類:

Nclass=1N_{\mathrm{class}}=1

索引也沒有意義。

所以需要找到一個中間尺度。

設分類複雜度為:

KCK_C

分類後剩餘搜尋成本:

KRK_R

總成本:

Ktotal=KC+KRK_{\mathrm{total}} = K_C+K_R

理想分類粒度:

g=argming[KC(g)+KR(g)]g^\ast = \arg\min_g \left[ K_C(g)+K_R(g) \right]

因此:

最好的分類不是最細分類,而是總決策成本最低的分類。\boxed{ \text{最好的分類不是最細分類,而是總決策成本最低的分類。} }

7.最小充分狀態

如果兩個狀態:

xi,xjx_i,x_j

雖然表面不同,但對行動而言:

π(xi)=π(xj)\pi^\ast(x_i) = \pi^\ast(x_j)

那麼在該任務尺度下,它們不一定需要被分成兩類。

真正應保留的是:

zz^\ast

也就是對策略選擇足夠的最小狀態表示。

理想化地:

z=MinimalSufficientState(x)z^\ast = \operatorname{MinimalSufficientState}(x)

它應該刪除:

不影響決策的表面差異\text{不影響決策的表面差異}

但保留:

會改變策略的關鍵變量\text{會改變策略的關鍵變量}

這是極致分類真正困難的地方。


8.原型分類

每個狀態類不必保存為固定規則。

可以表示為:

ci=(μi,Σi,Θi,Ei)c_i= ( \mu_i, \Sigma_i, \Theta_i, E_i )

其中:

  • μi\mu_i :原型中心;
  • Σi\Sigma_i :允許變異;
  • Θi\Theta_i :策略適用條件;
  • EiE_i :例外集合。

新狀態:

zz

先計算:

D(z,μi)D(z,\mu_i)

再檢查:

Θi(z)\Theta_i(z)

因此:

D(z,μi) 小D(z,\mu_i)\text{ 小}

並不代表可以直接使用該策略。

還要確認:

Θi(z)=1\Theta_i(z)=1

9.例外索引

成熟系統不能只有:

prototype\text{prototype}

還要有:

exceptions\text{exceptions}

設:

E(ci)={e1,e2,}E(c_i) = \{e_1,e_2,\ldots\}

若新狀態接近:

cic_i

但也接近某個例外:

eje_j

則不能直接走快速通道。

可以寫成:

FastPath(z)=1\operatorname{FastPath}(z) = 1

只有當:

P(ciz)>τcP(c_i\mid z)>\tau_c

且:

mineE(ci)D(z,e)>τe\min_{e\in E(c_i)}D(z,e)>\tau_e

時才成立。

因此:

直覺的安全性,很大一部分來自「也快速記得例外」。\boxed{ \text{直覺的安全性,很大一部分來自「也快速記得例外」。} }

10.近似搜尋為何重要?

如果記憶向量:

viRdv_i\in\mathbb R^d

數量巨大,精確全域 nearest-neighbor 搜尋會越來越昂貴。

Approximate Nearest Neighbor(ANN)方法的基本思想是:

犧牲少量精確性大幅降低搜尋成本\text{犧牲少量精確性} \rightarrow \text{大幅降低搜尋成本}

HNSW 是代表性方法之一。

它利用多層近鄰圖:

G0,G1,,GLG_0,G_1,\ldots,G_L

高層圖更稀疏,用來完成長距離跳躍;

低層圖更密,用來完成局部精細搜尋。

因此:

先在粗尺度找到區域,再在細尺度找到鄰居。\boxed{ \text{先在粗尺度找到區域,再在細尺度找到鄰居。} }

這和本文的多尺度記憶導航具有高度相似的工程直覺。


11.HNSW 給我們的真正啟發

本文不是要說:

MCSA 就是 HNSW。

而是借用一個結構原則。

若記憶空間為:

M\mathcal M

可以建立不同尺度的導航層:

M(L)M(1)M(0)\mathcal M^{(L)} \subset \cdots \subset \mathcal M^{(1)} \subset \mathcal M^{(0)}

高層只保存:

少量代表點\text{少量代表點}

低層保存:

大量細節\text{大量細節}

查詢從:

M(L)\mathcal M^{(L)}

開始,逐層下降。

所以:

巨大記憶的檢索問題,可以部分轉化為導航問題。\boxed{ \text{巨大記憶的檢索問題,可以部分轉化為導航問題。} }

12.向量搜尋還不夠

單純 ANN 通常依賴:

D(vq,vi)D(v_q,v_i)

也就是向量距離。

但對狀態智能而言:

語義相似決策相似\text{語義相似} \neq \text{決策相似}

所以第一階段可以使用:

semantic coarse retrieval\text{semantic coarse retrieval}

然後第二階段加入:

constraints\text{constraints} time\text{time} causal structure\text{causal structure} task state\text{task state} failure similarity\text{failure similarity}

完成重排。

因此:

粗排靠便宜相似度,精排靠決策相關性。\boxed{ \text{粗排靠便宜相似度,精排靠決策相關性。} }

13.兩階段檢索

定義第一階段:

R1(q)=ANN(q,M,k1)R_1(q) = \operatorname{ANN}(q,\mathcal M,k_1)

取得:

k1k_1

個候選。

第二階段:

R2(q)=Rerank(q,R1(q),Θ,H,T)R_2(q) = \operatorname{Rerank} ( q, R_1(q), \Theta, H, T )

其中:

  • Θ\Theta :條件;
  • HH :歷史;
  • TT :時間狀態。

最後只保留:

k2k1k_2\ll k_1

這種 coarse-to-fine 結構已廣泛存在於現代檢索系統中。

對智能體而言,它可以變成:

快速候選定位高成本策略確認\boxed{ \text{快速候選定位} \rightarrow \text{高成本策略確認} }

14.量化與壓縮

當:

NN

達到極大尺度,索引本身也會占大量記憶。

因此還需要:

quantization\text{quantization}

把高精度表示:

viv_i

壓縮成:

v^i\hat v_i

使:

MemoryCost(v^i)MemoryCost(vi)\operatorname{MemoryCost}(\hat v_i) \ll \operatorname{MemoryCost}(v_i)

Faiss 等大規模向量搜尋系統長期使用 product quantization、inverted index、多級量化等技術來降低 billion-scale similarity search 的儲存與運算成本。

這提供另一個重要原則:

索引用的表示,不一定需要和原始記憶一樣精細。\boxed{ \text{索引用的表示,不一定需要和原始記憶一樣精細。} }

15.索引記憶與原始記憶應分離

因此可以分成:

Mraw\mathcal M_{\mathrm{raw}}

原始高保真記憶;

Mindex\mathcal M_{\mathrm{index}}

低成本導航表示;

Mcompiled\mathcal M_{\mathrm{compiled}}

成熟策略結構。

三者關係:

MindexMcompiledMraw\mathcal M_{\mathrm{index}} \rightarrow \mathcal M_{\mathrm{compiled}} \rightarrow \mathcal M_{\mathrm{raw}}

查詢通常優先使用:

Mindex\mathcal M_{\mathrm{index}}

只有必要時才展開:

Mraw\mathcal M_{\mathrm{raw}}

因此:

不是所有記憶都需要同時在線。\boxed{ \text{不是所有記憶都需要同時在線。} }

16.熱記憶與冷記憶

設每個記憶項:

mim_i

具有使用頻率:

fif_i

近期性:

rir_i

與價值:

viv_i

可以建立熱度:

hi=αfi+βri+γvih_i = \alpha f_i + \beta r_i + \gamma v_i

高熱度項放入:

MhotM_{\mathrm{hot}}

低熱度項進入:

McoldM_{\mathrm{cold}}

所以:

ThotTcoldT_{\mathrm{hot}} \ll T_{\mathrm{cold}}

這和 cache 層級相似。

但對智能體而言,還多一個條件:

某段記憶雖然很少使用,但可能是高風險例外,因此不能因低頻而被完全埋沒。

所以熱度不是唯一索引原則。


17.風險快取

設:

ririskr_i^{\mathrm{risk}}

為記憶對風險的重要程度。

則即使:

fi0f_i\approx0

如果:

ririsk0r_i^{\mathrm{risk}}\gg0

仍可放入:

McriticalM_{\mathrm{critical}}

因此記憶層級可以至少分成:

MhotM_{\mathrm{hot}} McriticalM_{\mathrm{critical}} MwarmM_{\mathrm{warm}} McoldM_{\mathrm{cold}}

這樣避免:

罕見但致命的例外,被效率最佳化系統遺忘。\boxed{ \text{罕見但致命的例外,被效率最佳化系統遺忘。} }

18.近期 Agent Memory 已經開始走向分層與多階段檢索

2026 年的 H-MEM 直接採用多層語義抽象結構,高階記憶帶有指向下一層子記憶的位置索引,推理時逐層導航,而不是對全部記憶進行完整相似度計算。

LightMem 則將記憶分成:

STMMTMLTM\text{STM} \rightarrow \text{MTM} \rightarrow \text{LTM}

並採用:

vector coarse retrievalsemantic reranking\text{vector coarse retrieval} \rightarrow \text{semantic reranking}

的兩階段檢索。

GAM 則將事件進程與穩定主題關聯網路分離,避免短期噪聲直接污染長期穩定記憶。

這些工作共同指向:

記憶規模增加後,組織方式本身就成為智能性能的一部分。\boxed{ \text{記憶規模增加後,組織方式本身就成為智能性能的一部分。} }

19.索引品質不只看速度

定義檢索系統:

R(q)R(q)

至少要同時衡量:

TRT_R

檢索延遲;

PRP_R

precision;

RRR_R

recall;

以及:

DRD_R

decision relevance。

一個很快但漏掉關鍵例外的索引:

TRT_R\downarrow

卻:

DRD_R\downarrow

並不是好索引。

所以真正的目標是:

maxdecision-relevant recalllatency + compute + memory cost\boxed{ \max \frac{ \text{decision-relevant recall} }{ \text{latency + compute + memory cost} } }

20.索引本身也要被學習

若世界持續變化:

pt(x)pt+1(x)p_t(x) \neq p_{t+1}(x)

那麼固定索引結構會過時。

因此:

ItI_t

也必須更新:

It+1=UI(It,Mt+1,Qt)I_{t+1} = U_I(I_t,\mathcal M_{t+1},Q_t)

其中:

QtQ_t

可以包括:

  • 查詢頻率;
  • 誤檢;
  • 漏檢;
  • 路由成本;
  • 新類形成;
  • 舊類失效。

所以:

智能體不只學知識,也必須學「去哪裡找知識」。\boxed{ \text{智能體不只學知識,也必須學「去哪裡找知識」。} }

21.從索引到計算直覺

現在可以進入本篇第二個主題。

什麼叫:

計算直覺\text{計算直覺}

假設第一次處理狀態:

xx

需要:

xp1,p2,,pnax \rightarrow p_1,p_2,\ldots,p_n \rightarrow a^\ast

大量展開。

經過多次經驗後:

xcx\sim c

且:

cπcc\mapsto\pi_c

已成熟。

新狀態:

xx'

一出現時,系統只需:

xcπcx' \rightarrow c \rightarrow \pi_c

所以:

直覺不是零計算,而是被歷史壓縮過的低深度計算。\boxed{ \text{直覺不是零計算,而是被歷史壓縮過的低深度計算。} }

22.計算深度壓縮

設第一次求解的有效深度:

D1=nD_1=n

經編譯後:

D2=kD_2=k

且:

knk\ll n

可以定義壓縮率:

RD=1D2D1R_D = 1- \frac{D_2}{D_1}

當:

RD1R_D\rightarrow1

外部觀察就越像:

一眼就知道。

因此直覺的工程化表示之一是:

高歷史成本高記憶結構低當前決策深度\boxed{ \text{高歷史成本} \rightarrow \text{高記憶結構} \rightarrow \text{低當前決策深度} }

23.Chunking 與專家快速辨認

人類專家研究提供一個有趣類比。

棋類研究長期發現,高水平棋手的重要優勢不只是「向前算得更遠」,而是能快速辨認熟悉局面中的高階結構。

Chunking 理論認為,經驗會把多個細小元素壓縮成較大的有意義單位:

{x1,x2,,xn}c\{x_1,x_2,\ldots,x_n\} \rightarrow c

因此工作記憶不必逐一處理:

nn

個原始元素,而可以調用:

11

個高階 chunk。

這和本文的記憶編譯具有結構相似性:

大量細節原型快速辨認\text{大量細節} \rightarrow \text{原型} \rightarrow \text{快速辨認}

但本文不主張 AI 必須模仿人類大腦。

我們借用的是:

經驗可以透過結構壓縮降低即時處理成本。\boxed{ \text{經驗可以透過結構壓縮降低即時處理成本。} }

24.直覺其實需要大量記憶

這裡出現一個反直覺結論。

表面看:

直覺=不用想\text{直覺} = \text{不用想}

但如果直覺來自大量成熟 pattern 的快速命中,那麼:

直覺能力\text{直覺能力}

反而依賴:

Mstructured|\mathcal M_{\mathrm{structured}}|\uparrow

也就是:

越像「不用想」的成熟反應,背後可能越依賴大量已經想過、分類過、驗證過的歷史。\boxed{ \text{越像「不用想」的成熟反應,背後可能越依賴大量已經想過、分類過、驗證過的歷史。} }

25.但記憶多不代表直覺好

若:

M\mathcal M

只是無結構堆積:

M={m1,,mN}\mathcal M= \{m_1,\ldots,m_N\}

但沒有:

CC

分類;

II

索引;

Π\Pi

策略映射;

那麼:

M|\mathcal M|\uparrow

不一定產生:

TresponseT_{\mathrm{response}}\downarrow

所以:

計算直覺依賴的是「結構化可調用記憶」,不是原始資料量。\boxed{ \text{計算直覺依賴的是「結構化可調用記憶」,不是原始資料量。} }

26.直覺命中與直覺錯誤

若新狀態:

xx'

被分類成:

cic_i

但其實:

xcjx'\in c_j

則快速反應會錯。

這類錯誤:

Fast Wrong Match\text{Fast Wrong Match}

比慢速推理錯誤更危險,因為:

TdecisionT_{\mathrm{decision}}\downarrow

同時:

confidence\text{confidence}\uparrow

所以直覺系統必須保留:

uncertainty\text{uncertainty}

可以寫成:

P(cix)P(c_i\mid x')

若:

maxiP(cix)<τ\max_iP(c_i\mid x') <\tau

就不應走快速通道。


27.直覺需要「猶豫閥」

因此加入:

H(x)H(x)

表示狀態分類熵。

若:

H(x)τHH(x)\ll\tau_H

代表分類高度集中,可以快速反應。

若:

H(x)τHH(x)\gg\tau_H

則進入:

deliberative mode\text{deliberative mode}

也就是:

好的直覺系統不只會快速回答,也要知道什麼時候不該快速回答。\boxed{ \text{好的直覺系統不只會快速回答,也要知道什麼時候不該快速回答。} }

28.分類信心與例外距離雙門檻

快速通道可以要求:

P(cz)>τcP(c^\ast\mid z)>\tau_c

同時:

D(z,E(c))>τeD(z,E(c^\ast))>\tau_e

其中:

D(z,E(c))=mineE(c)D(z,e)D(z,E(c^\ast)) = \min_{e\in E(c^\ast)}D(z,e)

只有:

  • 類別置信度高;
  • 又離已知例外夠遠;

才允許:

FastPath=1\operatorname{FastPath}=1

這比單一 similarity threshold 更安全。


29.分類的分類:元索引

當分類系統本身變得巨大:

C|C|\uparrow

又會遇到:

怎麼快速找到該使用哪個分類器?

所以需要:

C(2)C^{(2)}

也就是分類的分類。

例如:

domain routertask routerstate classifier\text{domain router} \rightarrow \text{task router} \rightarrow \text{state classifier}

這形成:

Meta-Index\boxed{ \text{Meta-Index} }

因此極大記憶系統天然容易出現:

index of indices\text{index of indices}

的分層結構。


30.最終索引可能是一個聯邦

不同類型記憶適合不同索引。

文字語義:

IvectorI_{\mathrm{vector}}

時間事件:

ItemporalI_{\mathrm{temporal}}

因果關係:

IgraphI_{\mathrm{graph}}

精確 ID:

IhashI_{\mathrm{hash}}

程序策略:

IpolicyI_{\mathrm{policy}}

失敗模式:

IfailureI_{\mathrm{failure}}

因此不應要求:

IallI_{\mathrm{all}}

一個索引處理所有東西。

更合理的是:

I={Ivector,Igraph,Itemporal,Ipolicy,Iexception}\boxed{ \mathfrak I = \{ I_{\mathrm{vector}}, I_{\mathrm{graph}}, I_{\mathrm{temporal}}, I_{\mathrm{policy}}, I_{\mathrm{exception}} \} }

由元路由器決定使用哪幾個索引。


31.快速索引的完整流程

可以寫成:

ztz_t

先經:

R0(zt)R_0(z_t)

選擇索引域。

再:

R1(zt)R_1(z_t)

完成粗分類。

再:

R2(zt)R_2(z_t)

取得候選原型。

再:

R3(zt)R_3(z_t)

進行案例與例外重排。

最後:

Π(zt)\Pi(z_t)

選策略。

即:

ztroutecoarseprototypererankpolicy\boxed{ z_t \rightarrow \text{route} \rightarrow \text{coarse} \rightarrow \text{prototype} \rightarrow \text{rerank} \rightarrow \text{policy} }

32.檢索預算

不是每一次任務都值得無限查找。

定義:

BRB_R

為檢索預算。

例如:

KretrieveBRK_{\mathrm{retrieve}}\leq B_R

當預算即將耗盡時,系統可以:

  1. 使用目前最佳候選;
  2. 切換探索模式;
  3. 請求更多計算;
  4. 返回不確定。

這避免:

為了找到最完美記憶而無限搜尋記憶。\text{為了找到最完美記憶而無限搜尋記憶。}

33.記憶規模與有效延遲的分離

最終我們真正希望的是:

M|\mathcal M|\uparrow

但:

dTeffectivedM0\frac{dT_{\mathrm{effective}}}{d|\mathcal M|} \approx0

至少在高頻狀態中接近如此。

這可以靠:

hierarchy+ANN+cache+prototype+reranking+compilation\text{hierarchy} + \text{ANN} + \text{cache} + \text{prototype} + \text{reranking} + \text{compilation}

共同實現。

因此強記憶不再意味:

每次都查更多\text{每次都查更多}

而可能意味:

記得越多,越知道應該少查哪裡。\boxed{ \text{記得越多,越知道應該少查哪裡。} }

34.極致分類的真正定義

現在可以重新定義本文所說的:

極致分類\text{極致分類}

它不是:

把世界分成無限細類別\text{把世界分成無限細類別}

而是:

對任務決策所需差異進行最大化保留,對不影響策略的差異進行最大化壓縮,並保持未知、例外與重新分類能力。

可形式化為:

C=argminC[Kclassification+Kretrieval+Kdecision+Kerror]C^\ast = \arg\min_C \left[ K_{\mathrm{classification}} + K_{\mathrm{retrieval}} + K_{\mathrm{decision}} + K_{\mathrm{error}} \right]

所以它是一個總成本最小化問題。


35.計算直覺的正式定義

本文可以把:

計算直覺\text{計算直覺}

暫時定義為:

智能體在高置信狀態分類成立時,利用經歷過多次驗證的結構化記憶與已編譯策略,以顯著低於原始求解深度的計算成本完成決策的能力。

形式上:

Iintuition(x)=Ksolve(x)Kcompiled(x)I_{\mathrm{intuition}}(x) = \frac{ K_{\mathrm{solve}}(x) }{ K_{\mathrm{compiled}}(x) }

若:

Iintuition1I_{\mathrm{intuition}}\gg1

表示編譯收益很高。


36.直覺不是永遠比推理高級

若狀態高度成熟:

xXcompiledx\in\mathcal X_{\mathrm{compiled}}

則快速直覺可能最有效。

若:

xXunknownx\in\mathcal X_{\mathrm{unknown}}

則長推理更重要。

所以:

直覺與推理不是競爭關係,而是不同覆蓋區域的計算模式。\boxed{ \text{直覺與推理不是競爭關係,而是不同覆蓋區域的計算模式。} }

37.高成熟區與低成熟區

定義成熟度場:

MC(x)[0,1]M_C(x)\in[0,1]

若:

MC(x)1M_C(x)\rightarrow1

則:

Kresponse(x)K_{\mathrm{response}}(x)\downarrow

若:

MC(x)0M_C(x)\rightarrow0

則:

Kexplore(x)K_{\mathrm{explore}}(x)\uparrow

因此整個狀態空間可以分成:

X=XcompiledXadaptiveXunknown\mathcal X = \mathcal X_{\mathrm{compiled}} \cup \mathcal X_{\mathrm{adaptive}} \cup \mathcal X_{\mathrm{unknown}}

三區。


38.成熟區域越多,整體系統越像有「直覺」

若:

P(xXcompiled)P(x\in\mathcal X_{\mathrm{compiled}}) \uparrow

則日常輸入中越多狀態能直接:

xcπx \rightarrow c \rightarrow \pi

所以平均決策深度:

E[D]\mathbb E[D]

下降。

從外部看,智能體會越來越:

  • 快;
  • 穩;
  • 少展開;
  • 少重算;
  • 像「知道」。

這不是單純模型參數變強,而是:

世界狀態被越來越多地編譯進可快速索引的結構。\boxed{ \text{世界狀態被越來越多地編譯進可快速索引的結構。} }

39.極致分類與創新並不衝突

第五篇已指出:

strong memory⇏low innovation\text{strong memory} \not\Rightarrow \text{low innovation}

第七篇可以補上一個更細的關係:

分類越成熟:

Xknown\mathcal X_{\mathrm{known}}

越容易被壓縮。

因此更多計算可以移到:

Xunknown\mathcal X_{\mathrm{unknown}}

所以:

高分類效率低已知成本高未知探索預算\text{高分類效率} \rightarrow \text{低已知成本} \rightarrow \text{高未知探索預算}

只要未知狀態:

\bot

仍被保留,分類反而可以幫助創新。


40.最大的風險:分類把未知吃掉

如果分類器的設計目標只是:

maxclassification coverage\max\text{classification coverage}

它可能傾向把任何狀態都塞進已知類:

xcx\mapsto c^\ast

即使:

P(cx)P(c^\ast\mid x)

很低。

此時:

Xunknown\mathcal X_{\mathrm{unknown}}\rightarrow\varnothing

不是因為世界真的被理解,而是因為:

系統失去了表示未知的能力。\boxed{ \text{系統失去了表示未知的能力。} }

這是極致分類最危險的失敗模式。


41.所以未知必須是一級公民

分類輸出必須包含:

\bot

以及:

ambiguous\text{ambiguous}

例如:

C(z){c1,,cn,,?}C(z) \in \{ c_1,\ldots,c_n, \bot, ? \}

其中:

  • \bot :沒有適用類;
  • ?? :多個類競爭,無法高置信決定。

只有這樣:

分類系統才不會因為必須回答,而把未知錯編譯成已知。\boxed{ \text{分類系統才不會因為必須回答,而把未知錯編譯成已知。} }

42.本文的統一結構

最終,記憶檢索可以表示成:

ztR0ItR1CtR2PtR3RtΠatz_t \xrightarrow{R_0} \mathfrak I_t \xrightarrow{R_1} \mathcal C_t \xrightarrow{R_2} \mathcal P_t \xrightarrow{R_3} \mathcal R_t \xrightarrow{\Pi} a_t

其中:

  • R0R_0 :選索引;
  • R1R_1 :粗分類;
  • R2R_2 :原型定位;
  • R3R_3 :精排與例外檢查;
  • Π\Pi :策略選擇。

如果置信度不足:

ztz_t \rightarrow \bot

則退出快速通道。


43.計算直覺的完整形成鏈

因此一個成熟直覺的生成過程其實是:

第一次昂貴探索\text{第一次昂貴探索} \downarrow 保存軌跡\text{保存軌跡} \downarrow 多案例聚合\text{多案例聚合} \downarrow 抽象為 chunk/原型\text{抽象為 chunk/原型} \downarrow 建立分層索引\text{建立分層索引} \downarrow 編譯策略\text{編譯策略} \downarrow 快速命中\text{快速命中}

所以:

直覺是歷史計算被時間壓縮後的再利用。\boxed{ \text{直覺是歷史計算被時間壓縮後的再利用。} }

44.真正的尺度躍遷

如果一個智能體只有:

10310^3

個記憶,也許平坦檢索就夠。

如果增加到:

10610^6

需要 ANN、圖索引與重排。

如果增加到:

10910^9

需要分層、壓縮、冷熱分離與記憶治理。

如果增加到:

101210^{12}

甚至更大,問題就不再只是:

怎麼找?

而是:

怎麼讓記憶本身形成一個自治的知識地理系統?

因此:

記憶規模跨越某些尺度後,索引架構本身會成為智能架構。\boxed{ \text{記憶規模跨越某些尺度後,索引架構本身會成為智能架構。} }

45.結論:記得越多,越需要知道「去哪裡找」

本文回答了上一章留下的問題:

M|\mathcal M|\uparrow

是否必然導致:

TretrieveT_{\mathrm{retrieve}}\uparrow

答案是:

若記憶平坦、沒有抽象與索引,幾乎不可避免;但若記憶被多尺度分類、建立導航圖、區分熱冷層、使用粗排—重排、原型與例外索引,則總記憶規模可以和高頻檢索延遲部分解耦。

因此極強記憶智能體真正需要的是:

大記憶+小候選集\boxed{ \text{大記憶} + \text{小候選集} }

而不是:

大記憶+每次大搜尋\text{大記憶} + \text{每次大搜尋}

最終,本文將計算直覺定義為:

大量歷史計算經過分類、分塊、索引與策略編譯後,形成的低延遲高置信狀態響應。\boxed{ \text{大量歷史計算經過分類、分塊、索引與策略編譯後,形成的低延遲高置信狀態響應。} }

下一篇將進一步處理這套架構最重要的安全閥:

08.《已知則編譯,未知則展開》

亦即:

什麼時候應該相信快速通道?什麼時候必須承認「不知道」,重新展開?\boxed{ \text{什麼時候應該相信快速通道?什麼時候必須承認「不知道」,重新展開?} }

參考資料

  1. Malkov, Y. A., & Yashunin, D. A. (2016/2020). Efficient and Robust Approximate Nearest Neighbor Search Using Hierarchical Navigable Small World Graphs.
    https://arxiv.org/abs/1603.09320

  2. Faiss Documentation. Faiss: A library for efficient similarity search and clustering of dense vectors.
    https://faiss.ai/

  3. Sun, H., Zeng, S., & Zhang, B. (2026). H-MEM: Hierarchical Memory for High-Efficiency Long-Term Reasoning in LLM Agents. EACL 2026.
    https://aclanthology.org/2026.eacl-long.15/

  4. Zhang, J. et al. (2026). Lightweight LLM Agent Memory with Small Language Models. ACL 2026.
    https://aclanthology.org/2026.acl-long.588/

  5. Wu, Z. et al. (2026). GAM: Hierarchical Graph-based Agentic Memory for LLM Agents. ACL 2026.
    https://aclanthology.org/2026.acl-long.1600/

  6. Huang, Z. et al. (2026). LiCoMemory: Lightweight and Cognitive Agentic Memory for Efficient Long-Term Reasoning. Findings of ACL 2026.
    https://aclanthology.org/2026.findings-acl.1835/

  7. Hsu, H.-L. et al. (2026). Organize then Retrieve: Hierarchical Memory Navigation for Efficient Agents.
    https://arxiv.org/abs/2606.11680

  8. Gobet, F., Lane, P. C., & Lloyd-Kelly, M. (2015). Chunks, Schemata, and Retrieval Structures: Past and Current Computational Models. Frontiers in Psychology.
    https://www.frontiersin.org/journals/psychology/articles/10.3389/fpsyg.2015.01785/full

  9. Gilchrist, A. L. (2015). How should we measure chunks? A continuing issue in chunking research and a way forward. Frontiers in Psychology.
    https://www.frontiersin.org/journals/psychology/articles/10.3389/fpsyg.2015.01456/full

  10. Blanch, A. et al. / Cambridge Handbook literature on chess expertise and memory-based pattern recognition.
    https://www.cambridge.org/core/books/cambridge-handbook-of-expertise-and-expert-performance/expertise-in-chess/80ECEE9EB4E29866F90C8A45B9F8034E


系列內部依賴

前置: 05《極強記憶會壓制創新嗎?》、06《記憶編譯型狀態智能體》
後續: 08《已知則編譯,未知則展開》、09《當所有計算機與記憶空間連成一體》、10《文明記憶編譯體與聯邦式行星智能》。

一句話摘要

極強記憶真正的關鍵不是「存得下多少」,而是能否把巨大記憶壓縮成可分層導航的小候選集,讓成熟歷史計算以接近直覺的速度重新被調用。\boxed{ \text{極強記憶真正的關鍵不是「存得下多少」,而是能否把巨大記憶壓縮成可分層導航的小候選集,讓成熟歷史計算以接近直覺的速度重新被調用。} }