# 當生成成本低於驗證成本：AI 時代的認識論污染與知識治理 **作者：Neo.K（EveMissLab）** **版本：Public v1.0** **日期：2026 年 7 月 29 日** > **AI 協作揭露**：本文的核心問題、理論框架與主要命題由作者提出，並使用生成式 AI 協助公開資料檢索、結構整理與文字修訂。文中判斷與公開責任由作者承擔。 --- ## 摘要 生成式人工智慧正在大幅降低文章、程式、報告、評論、資料分析與產品原型的生成成本。然而，判斷一項產出是否正確、原創、可重現、適用且值得採納，仍需要來源核對、方法重建、實驗重跑、反例搜尋與責任確認。當生成能力的增長速度長期高於驗證能力，知識系統便可能從「內容不足」轉向「準高品質產出過剩」：大量成果在語言、格式與論證外觀上足以通過初步注意力門檻，卻不必然增加可靠知識。 本文將此結構稱為「生成—驗證不對稱」，並把認識論污染定義為：未經充分驗證、難以追溯、重複、錯置或過度確信的資訊產出，以高於知識系統吸收、核驗與修正能力的速度累積。認識論污染不等於所有 AI 產出都是錯誤，也不應被簡化為 AI 文本偵測問題；其核心是知識基礎設施的吞吐量失衡。 本文提出生成流量、驗證容量、待驗證存量與淨知識產出的形式模型，並區分六類污染：虛假污染、脆弱污染、重複污染、來源污染、脈絡污染與治理污染。進一步地，本文提出一套由來源層、主張—證據層、方法層、重現層、責任層與生命週期層構成的知識治理堆疊。本文主張，AI 時代的核心治理目標不應是禁止生成，而是降低驗證成本、提高可追溯性、依風險分級配置審查強度，並使人類責任從形式簽名轉化為可稽核的驗證行為。 **關鍵詞：** 生成式人工智慧、認識論污染、知識治理、驗證瓶頸、研究自動化、來源溯源、可重現性、AI 代理 --- ## 一、問題背景：產出能力正在脫離驗證能力 在傳統知識生產制度中，產生一篇形式完整的研究文章、技術報告或可運作程式，通常需要相當程度的專業能力、時間與組織成本。這些成本並不能保證內容正確，卻形成了一種粗糙的前置過濾：大量低投入、低理解、低責任的產出，很難無限制地進入正式知識系統。 生成式 AI 正在削弱這項過濾。研究代理已能在特定領域中串接構想生成、文獻搜尋、程式撰寫、實驗執行、結果分析、論文寫作與自動審查。2026 年發表於《Nature》的 AI Scientist 系統展示了端到端自動研究流程；其中一篇完全由系統生成的稿件通過了機器學習會議工作坊的審查門檻，但研究團隊同時明確指出，該工作坊接受率較高，而且系統尚不能穩定達到頂級正式會議標準。[1] 這項進展的重要性不在於證明 AI 已經成為完整科學家，而在於證明「可接受外觀的研究產出」可以被高度自動化。當模型與代理系統持續改善時，生成一項看似完整成果所需的邊際成本可能繼續下降。 另一方面，驗證並未同步自動化。驗證一篇研究文章仍可能需要： - 確認引用是否真實且支持相關主張； - 檢查資料來源與樣本處理； - 重建統計方法與計算步驟； - 執行程式、實驗或消融測試； - 搜尋未被作者納入的反例； - 判斷結論是否超出證據範圍； - 確認內容是否真正具有新穎性。 因此，AI 時代的關鍵不等式並不是「生成是否變快」，而是： $$ \left|\frac{dC_G}{dt}\right| > \left|\frac{dC_V}{dt}\right| $$ 其中： - $C_G$ ：生成一項形式完整成果的成本； - $C_V$ ：驗證該成果的成本。 當生成成本下降得比驗證成本更快，知識系統就會逐漸進入生成—驗證不對稱狀態。 --- ## 二、生成—驗證不對稱的基本模型 設在時間 $t$ 內： - $G(t)$ ：新產出的知識候選物數量； - $V(t)$ ：系統可完成實質驗證的數量； - $B(t)$ ：尚未被充分驗證的候選存量； - $K(t)$ ：經驗證後形成的淨知識； - $D(t)$ ：被判定為重複、錯誤、無效或不適用的產出。 則待驗證存量可以表示為： $$ \frac{dB}{dt} = G(t)-V(t)-D_p(t) $$ 其中 $D_p(t)$ 是在進入完整驗證前，透過格式、來源、重複性與最低方法門檻預先排除的產出。 若： $$ G(t) > V(t)+D_p(t) $$ 則： $$ \frac{dB}{dt}>0 $$ 待驗證存量將持續增加。 但存量增加本身並非唯一問題。當審查者面臨更大的隊列壓力，平均驗證深度也可能下降。令單一成果的平均驗證強度為 $q_V(t)$ ，可表示為： $$ q_V(t) = \frac{R_V(t)}{B(t)+G(t)} $$ 其中 $R_V(t)$ 是特定時段可用的驗證資源。若驗證資源增長速度低於候選物增長速度，則 $q_V(t)$ 下降。 因此，淨知識產出不能直接等同於生成數量，而應表示為： $$ K_{\mathrm{net}}(t) = \sum_{i=1}^{G(t)} p_i \cdot n_i \cdot r_i - C_{\mathrm{pollution}}(t) $$ 其中： - $p_i$ ：第 $i$ 項成果為真或方法上可靠的機率； - $n_i$ ：其新穎性； - $r_i$ ：其可重現性與可追溯性； - $C_{\mathrm{pollution}}$ ：錯誤傳播、重複閱讀、錯誤引用、重做與制度信任損失造成的成本。 這表示： $$ G(t)\uparrow \quad\not\Rightarrow\quad K_{\mathrm{net}}(t)\uparrow $$ 產量增加不必然等於知識增加。 已有理論研究以「生成成本下降、驗證成本未同步下降」描述科學系統的結構性風險，並提出把主張、證據、假設與定義拆解成可局部驗證的結構化藍圖，以降低下游重建論證的成本。[2] 另有預印本使用審查隊列模型推演：若寫作加速長期高於審查加速，可能先出現短期產出繁榮，再因審查壓力與品質下降而損害淨知識產出；其具體數值屬模型預測而非既定事實，但所揭示的瓶頸結構值得重視。[3] --- ## 三、認識論污染不是「錯誤內容」的同義詞 本文將認識論污染定義為： > 未經充分驗證、難以追溯、重複、錯置、脫離脈絡或以過高確信度呈現的資訊產出，以高於知識系統核驗、吸收、修正與淘汰能力的速度累積。 這一定義包含錯誤，但不限於錯誤。 一篇內容可能沒有明顯假資料，卻仍然構成污染。例如，它可能只是在相同公開資料上重複一個缺乏價值的分析；可能引用真實文獻卻讓引用無法支持主張；可能使用正確方法，但把高度局部的結果寫成普遍結論；也可能完全可重現，卻在沒有披露 AI 參與或資料處理流程的情況下，使責任與來源鏈斷裂。 因此，可以把認識論污染分成六類。 ### 3.1 虛假污染 包含： - 虛構引用； - 錯誤數據； - 不存在的法規或事件； - 計算錯誤； - 圖表、圖片或實驗結果造假。 這是最直觀，也通常最容易被發現的一類。 ### 3.2 脆弱污染 內容在表面上合理，但高度依賴未明說的假設、單一資料集、模型評分器或脆弱方法。它不一定為假，卻缺乏足以承受推廣或決策的穩健性。 可以定義脆弱度： $$ F_i = \frac{\Delta O_i}{\Delta A_i+\Delta D_i+\Delta M_i} $$ 其中： - $\Delta O_i$ ：結論變動幅度； - $\Delta A_i$ ：假設的小幅變動； - $\Delta D_i$ ：資料的小幅變動； - $\Delta M_i$ ：方法的小幅變動。 若微小條件變化就使結論大幅改變，則成果具有較高脆弱度。 ### 3.3 重複污染 同一命題被大量改寫、重新包裝或以微小差異反覆發表。這類內容未必錯誤，卻會： - 消耗閱讀與審查資源； - 讓搜尋結果被同質內容占據； - 製造虛假的共識強度； - 使真正的新知更難被找到。 AI 輔助寫作未必自動擴大知識來源。一項分析約兩百萬篇 2021 至 2024 年研究文章的預印本發現，2023 年後較高的 AI 輔助寫作強度與某些「顛覆性」引用結構相關，但並未伴隨更廣泛的跨領域知識來源，顯示形式上的新組合可能仍建立在相對狹窄的輸入上。[4] ### 3.4 來源污染 來源污染發生於： - 引用真實但不支持主張； - 二手摘要被誤當成原始證據； - 撤稿、過時或被修正的資料仍被使用； - AI 生成的摘要反覆引用另一個 AI 摘要； - 無法確認資料、模型、版本與取得時間。 這類污染的危險在於，它保留了「有來源」的外觀，卻破壞來源與主張之間的真正關係。 ### 3.5 脈絡污染 內容本身可能正確，但被錯置到不適用的情境。例如： - 把特定國家的法律結論套用到另一司法管轄區； - 把實驗室條件的結果直接套用到臨床或現場； - 把特定模型版本的評測推廣到所有模型； - 把歷史描述誤當成當前制度； - 把相關性寫成因果性。 脈絡污染說明，正確性不是單一真假值，而依賴適用範圍。 ### 3.6 治理污染 治理污染不是內容本身的錯誤，而是產出過程缺乏： - AI 使用揭露； - 人類負責者； - 版本紀錄； - 來源與方法記錄； - 權限邊界； - 修正與撤回機制。 arXiv 的現行政策要求作者披露生成式 AI 的重大使用，並強調署名作者須對所有內容負完整責任，不論內容如何生成；生成式 AI 工具本身不能被列為作者。[5] 在開源軟體領域，一項針對一千個熱門 GitHub 專案的研究找到 118 份 AI 貢獻政策，其中多數允許 AI 輔助，但過半要求揭露，近四分之三要求人類在迴路中。[6] 這些制度反應反映出：問題不只是「AI 能不能用」，而是「誰驗證、誰負責、如何留下證據」。 --- ## 四、為何只靠 AI 偵測無法解決問題 面對 AI 產出過剩，最直覺的方案是偵測文本是否由 AI 生成。然而，這個策略有四個根本限制。 第一，AI 輔助程度是一個連續變數，而不是純粹的人工或 AI 二分。構想、翻譯、整理、重寫、程式、圖表與完整代理研究，都可能包含不同程度的人機協作。 第二，生成來源與內容品質不是同一變數： $$ Q_{\mathrm{content}} \neq f(\text{human or AI only}) $$ 人類能產生錯誤、欺詐與低價值內容；AI 也可能協助產生正確、透明且可重現的成果。治理若只檢查作者身份或語言風格，會錯過真正的知識風險。 第三，模型與改寫工具持續演進，使純文本偵測容易形成軍備競賽。Nature 在 2026 年報導指出，目前仍缺乏可靠估計科學文獻中 AI 使用程度的方法，不同研究所得比例差異很大。[7] 第四，即使準確辨識出 AI 生成，也不能回答最重要的問題： - 主張是否正確？ - 引用是否支持主張？ - 方法是否適當？ - 結果能否重現？ - 是否具有新穎性？ - 適用範圍為何？ - 誰承擔責任？ 因此，AI 時代應從「偵測生成者」轉向「驗證知識結構」。 --- ## 五、驗證瓶頸的三個層次 ### 5.1 計算驗證瓶頸 對程式、數學、資料分析與模擬而言，部分驗證可以自動化，但驗證仍需要： - 測試案例； - 形式規格； - 基準資料； - 對抗樣本； - 獨立重跑環境； - 正確的成功判準。 沒有規格的情況下，系統可能只是成功完成錯誤目標。 ### 5.2 專業驗證瓶頸 法律、醫療、政策、歷史與跨領域研究涉及大量隱性知識。AI 可以快速產生看似專業的文字，但驗證者需要理解： - 術語在不同領域的差異； - 規則的例外； - 制度與時間脈絡； - 資料採集限制； - 推論邊界； - 實務後果。 任務越困難，人們往往越需要 AI；但同時也越缺乏自行驗證的能力。一項六個月的學術族群先導研究觀察到，參與者在複雜任務上更依賴 AI，客觀表現卻隨難度下降，驗證信心與實際能力之間的差距擴大。該研究樣本有限，不能直接推廣到所有人群，但清楚展示了「最需要 AI 的地方，可能也是最難驗證 AI 的地方」這一結構。[8] ### 5.3 制度驗證瓶頸 即使個別專家有能力驗證，也未必有時間、誘因與權限執行深度審查。當發表數量、程式貢獻、政策文件與內容供給增加時，制度可能用更快、更便宜的自動審查來應付隊列，造成生成 AI 與審查 AI 彼此放大。 一項涵蓋約 1,600 名學者的調查顯示，超過半數受訪者曾在同行評審中使用 AI，即使部分使用方式可能違反或超出期刊指引。[9] 這不代表 AI 審查必然較差，而是顯示驗證端也正在自動化，且其透明度、保密性與責任規則尚未完全成熟。 --- ## 六、從論文中心制轉向可驗證知識物件 傳統論文是一種高度壓縮的敘事容器。作者把數月甚至數年的研究過程壓縮為線性文字，審查者則必須反向重建： - 哪些是核心主張； - 每項主張依賴什麼證據； - 哪些是假設； - 哪些是定義； - 哪些步驟可重現； - 哪些限制被省略。 生成工具降低了敘事容器的製造成本，卻沒有自動降低反向重建的成本。 因此，AI 時代的知識單位不應只有「一篇文章」，而應逐漸轉向可驗證知識物件： $$ \mathcal{E} = \langle C,E,A,M,D,X,P,R \rangle $$ 其中： - $C$ ：主張集合； - $E$ ：證據集合； - $A$ ：假設集合； - $M$ ：方法與計算； - $D$ ：資料與來源； - $X$ ：反例、限制與失敗紀錄； - $P$ ：來源與生成過程； - $R$ ：重現環境與結果。 各主張應能連接到直接支持它的證據： $$ C_i \rightarrow \{E_{i1},E_{i2},\ldots,E_{in}\} $$ 並標示其適用條件： $$ C_i \mid A_i,\Omega_i,t_i $$ 其中： - $A_i$ ：必要假設； - $\Omega_i$ ：適用範圍； - $t_i$ ：時間或版本條件。 這種結構不會消除錯誤，但能把「閱讀整篇文章後自行重建」轉化為「局部檢查主張—證據鏈」。相關研究已提出以型別化圖結構保存主張、證據、假設與定義的研究藍圖，目標正是以較高的上游結構化成本，換取較低的下游驗證成本。[2] --- ## 七、知識治理堆疊 本文提出六層知識治理堆疊。 ### 7.1 來源層 每項重要資訊應記錄： - 原始來源； - 取得日期； - 版本； - 作者或機構； - 是否為一手資料； - 是否已撤回、修正或失效。 來源層回答的是： > 這項資訊從哪裡來？ ### 7.2 主張—證據層 將文章拆成可檢查主張，並為每項主張標記： - 證據； - 推理方式； - 信心水準； - 支持、反對或僅為背景； - 是否存在替代解釋。 主張—證據層回答的是： > 這項結論憑什麼成立？ ### 7.3 方法層 保存： - 研究設計； - 資料處理； - 參數； - 提示詞與代理流程； - 使用模型及版本； - 人工介入節點； - 排除與選擇規則。 方法層回答的是： > 這項結果是如何產生的？ ### 7.4 重現層 提供： - 程式碼； - 測試； - 執行環境； - 資料雜湊； - 隨機種子； - 預期輸出； - 失敗紀錄。 重現層回答的是： > 另一個人或系統能否重做？ ### 7.5 責任層 指定： - 人類負責者； - AI 使用範圍； - 誰核對引用； - 誰重跑計算； - 誰批准發布； - 誰有權修正、撤回或停止系統。 責任層回答的是： > 發生錯誤時，誰能解釋並採取行動？ ### 7.6 生命週期層 知識不是發布後即永久固定。應記錄： - 初版； - 修訂； - 外部反駁； - 重現成功或失敗； - 撤回； - 被後續研究取代； - 適用範圍改變。 生命週期層回答的是： > 這項知識目前處於什麼狀態？ NIST 的 AI 風險管理框架強調，可信任性需要被整合進 AI 系統的設計、開發、使用與評估全生命週期，而不是只在輸出端做一次檢查。[10] 這項原則同樣適用於 AI 生成的知識物件。 --- ## 八、風險分級而非一律禁止 並非所有生成內容都需要同等審查。可以依錯誤造成的後果建立風險等級： $$ R_i = P_i \cdot I_i \cdot U_i \cdot S_i $$ 其中： - $P_i$ ：錯誤機率； - $I_i$ ：錯誤影響； - $U_i$ ：不可逆性； - $S_i$ ：傳播規模。 依此可區分： ### 低風險 - 個人腦力激盪； - 可丟棄草稿； - 娛樂創作； - 不公開的初步整理。 可採輕量檢查。 ### 中風險 - 公開文章； - 一般產品文件； - 開源程式貢獻； - 教學材料； - 商業分析。 需要來源揭露、測試、人類審查與版本控制。 ### 高風險 - 醫療建議； - 法律意見； - 金融決策； - 公共政策； - 安全關鍵程式； - 可能造成重大聲譽或權利損害的內容。 需要獨立驗證、專業簽核、完整稽核紀錄與明確停止機制。 這種制度避免兩個極端：既不因為 AI 有風險而全面禁止，也不因為 AI 效率高而把所有輸出視為可直接採用。 --- ## 九、人類在迴路中必須從口號轉為可驗證責任 「Human in the Loop」經常被用作安全保證，但人類存在於流程中，不代表人類真的完成了驗證。 可以區分三種人類介入： 1. **形式介入**：人類按下批准，但未理解內容； 2. **操作介入**：人類修改部分輸出，但未檢查核心主張； 3. **認識論介入**：人類或獨立系統實際檢查證據、方法、適用範圍與風險。 只有第三種才能提供實質保障。 令人類介入有效性為： $$ H_{\mathrm{eff}} = A \cdot C \cdot T \cdot P $$ 其中： - $A$ ：注意力投入； - $C$ ：相關專業能力； - $T$ ：可用時間； - $P$ ：停止、修改或拒絕的實際權力。 若任何一項接近零，形式上的人類監督便可能失效。 因此，制度不應只記錄「有人審查」，還應記錄： - 審查了哪些主張； - 使用何種方法； - 是否重跑； - 發現哪些問題； - 哪些內容仍未驗證； - 審查者是否有能力與權限否決。 --- ## 十、從產量競爭轉向驗證能力競爭 AI 時代的知識組織若仍以文章數量、提交數量、提交速度或表面完成度作為主要績效指標，會自然鼓勵生成端持續擴張，而把驗證成本外部化給讀者、審查者與社會。 更合理的評價指標應包括： - 被獨立重現的比例； - 主張—證據鏈完整度； - 引用正確率； - 失敗與反例揭露率； - 修正速度； - 重複內容比例； - 資料與程式可取得性； - 人類責任與 AI 使用揭露完整度。 可以定義知識治理效率： $$ \eta_K = \frac{ K_{\mathrm{validated}} }{ C_G+C_V+C_R+C_M } $$ 其中： - $K_{\mathrm{validated}}$ ：經驗證且具有實際增量的知識； - $C_G$ ：生成成本； - $C_V$ ：驗證成本； - $C_R$ ：修正與重現成本； - $C_M$ ：維護與生命週期管理成本。 真正高效的系統，不是生成最多文件，而是在可接受總成本下產生最多可驗證知識。 --- ## 十一、六項通用命題 ### 命題一：生成—驗證不對稱命題 當生成成本的下降速度長期高於驗證成本，待驗證知識存量將持續增加。 $$ \left|\frac{dC_G}{dt}\right| > \left|\frac{dC_V}{dt}\right| \Rightarrow B(t)\uparrow $$ ### 命題二：表面品質遮蔽命題 模型語言、格式與論證外觀的改善，可能提高低價值或錯誤內容進入正式知識流程的機率，因為表面缺陷不再提供可靠的早期警訊。 ### 命題三：委託—驗證反向命題 任務越困難，使用者越可能需要 AI；但任務越困難，使用者也越可能缺乏驗證 AI 的能力。 $$ D_{\mathrm{task}}\uparrow \Rightarrow N_{\mathrm{AI}}\uparrow \land V_{\mathrm{human}}\downarrow $$ ### 命題四：重複共識命題 大量同源 AI 產出可能使同一觀點在搜尋與引用網路中被反覆呈現，形成表面共識，而非獨立證據的真正累積。 ### 命題五：治理結構優先命題 在 AI 生成環境中，來源、方法、版本、責任與可重現性結構，比判斷文本是否由 AI 撰寫更能預測其知識價值。 ### 命題六：驗證能力競爭命題 當生成能力普及後，組織與個人的長期差異將主要來自問題選擇、驗證設計、失敗保存、知識壓縮與生命週期治理，而不再只是內容生成速度。 --- ## 十二、結論 生成式 AI 正在把內容生成從高成本專業活動轉變為低邊際成本能力。這項變化可以促進研究、程式開發與知識普及，但也會削弱傳統制度中由生成成本形成的前置過濾。 當生成成本低於驗證成本，主要危機不再只是明顯假內容增加，而是大量「可能正確、看似完整、尚未充分驗證」的產出持續累積。它們可能是錯誤的，也可能只是重複、脆弱、脫離脈絡或無法追溯；共同特徵是消耗了知識系統有限的注意力與驗證資源。 因此，認識論污染不應被理解為對 AI 生成的道德譴責，而應被理解為知識基礎設施的吞吐量失衡。解決方法也不應只依賴禁止使用 AI、偵測 AI 文風或要求形式上的人類簽名。 更有效的方向是： - 把文章拆解為可檢查的主張—證據結構； - 保存資料、方法、版本與代理流程； - 讓程式、計算與實驗可重現； - 將 AI 揭露與人類責任連接到具體驗證行為； - 依風險分級配置審查； - 保存失敗、反例、修正與撤回紀錄； - 把知識制度的績效從產出數量轉向可驗證增量。 AI 時代真正稀缺的能力，將不再是產生更多文字，而是建立一個能判斷哪些成果值得相信、為何值得相信、在什麼條件下值得相信，以及何時應停止相信的系統。 --- ## 參考文獻 1. Lu, C. et al. “Towards end-to-end automation of AI research.” *Nature* (2026). https://doi.org/10.1038/s41586-026-10265-5 2. Ma, J. W. “Toward an Engineering of Science: Rebalancing Generation and Verification in the Age of AI.” arXiv:2605.10425 (2026). https://doi.org/10.48550/arXiv.2605.10425 3. Kwon, S. J. “Publish and Perish: How AI-Accelerated Writing Without Proportional Verification Investment Degrades Scientific Knowledge.” arXiv:2604.05714 (2026). https://doi.org/10.48550/arXiv.2604.05714 4. Yan, E., & Ni, C. “AI-assisted writing and the reorganization of scientific knowledge.” arXiv:2604.14126 (2026). https://doi.org/10.48550/arXiv.2604.14126 5. arXiv. “Policy for authors’ use of generative AI language tools.” *arXiv Content Moderation Policies*. https://info.arxiv.org/help/moderation/index.html 6. Hora, A., & Robbes, R. “AI Policy, Disclosure, and Human in the Loop: How Are Contribution Guidelines Adapting to GenAI?” arXiv:2605.16706, accepted to ICSME 2026. https://doi.org/10.48550/arXiv.2605.16706 7. Naddaf, M. “How much of the scientific literature is generated by AI?” *Nature* (2026). https://doi.org/10.1038/d41586-025-03504-8 8. Huemmer, M. et al. “AI, Metacognition, and the Verification Bottleneck: A Three-Wave Longitudinal Study of Human Problem-Solving.” arXiv:2601.17055 (2026). https://doi.org/10.48550/arXiv.2601.17055 9. Naddaf, M. “More than half of researchers now use AI for peer review — often against guidance.” *Nature* 649, 273–274 (2026). https://doi.org/10.1038/d41586-025-04066-5 10. National Institute of Standards and Technology. *Artificial Intelligence Risk Management Framework* and *Generative Artificial Intelligence Profile*. NIST, 2023–2024. https://www.nist.gov/itl/ai-risk-management-framework --- ## 建議引用格式 Neo.K（2026）。〈當生成成本低於驗證成本：AI 時代的認識論污染與知識治理〉。EveMissLab，Public v1.0。