# 自適應微納智能系統的存在風險：非對稱控制、多方治理與可撤銷性
## Existential and Systemic Risks of Adaptive Micro/Nano Intelligent Systems

**作者：Neo.K**  
**機構：EveMissLab（一言諾科技有限公司）**  
**系列：資訊優先體內智能與自適應微納系統系列 — Paper 11**  
**版本：Version 1.0 — First Public Edition**  
**日期：2026 年 8 月**

## 摘要

本文重構舊「NAMIS 的存在論威脅與共享威懾理論」。新版不再假定 NAMIS 必然成為終極武器，也不宣稱單方控制必然造成文明滅絕，而提出 Layered Existential Risk Model（LERM）。

核心：

$$
\boxed{SmallScale\neq ExistentialRisk}
$$

$$
\boxed{Swarm\neq ExistentialRisk}
$$

真正高風險組合更接近：

$$
\boxed{
Replication+
Persistence+
ResourceAutonomy+
OpenEndedAdaptation+
BroadPhysicalAuthority+
LowRevocability
}
$$

## 1. 四級風險域

R0 Local Failure  
R1 Distributed Operational Failure  
R2 Systemic Failure  
R3 Catastrophic/Civilizational Risk  
R4 Existential Risk

NAMIS 不應預設為 R4。

## 2. Layered Existential Risk Model

$$
R_X=F(r,p,e,a,\phi,o,c,\rho)
$$

其中：
replication、persistence、resource autonomy、adaptation、physical authority、inverse observability、control asymmetry、inverse revocability。

高風險不是簡單線性加總，而有 Capability Coupling：

$$
R_X=
\sum_iw_ix_i+
\sum_{i<j}\gamma_{ij}x_ix_j+\dots
$$

## 3. Replication 改變治理類別

Self-assembly 使用既有 units；self-replication 使：

$$
\frac{dN}{dt}>0
$$

且不依賴外部受控製造。

因此治理從 action control 擴展到 population control。

## 4. Resource Autonomy

外部能源與材料依賴本身是 control point。若系統能自行取得資源：

$$
D_{external}\downarrow
$$

其持續 physical agency 上升。

## 5. Control Asymmetry

風險不在「集中控制」本身，而在：

$$
Centralization+
ExtremeCapability+
LowAccountability.
$$

概念上：

$$
Asymmetry=
\frac{Authority_A}
{Oversight+Revocation+Accountability}.
$$

## 6. Revocability

$$
\mathcal R=
P(\text{system can be safely stopped or withdrawn})
$$

不只 kill switch，而包括能源停止、授權停止、退役、降級、回收與降解。

真正撤銷還需要 verification。

## 7. Shared Deterrence → Shared Constraint

舊「大家共同擁有」改成：

$$
\boxed{NoSingleActorCanUnilaterallyCrossCriticalBoundaries}
$$

Shared Constraint 四原則：

1. No Unilateral Authority Expansion  
2. Independent Observability  
3. Verified Revocation  
4. Proportionate Access

## 8. Multi-Party Governance

不是 everyone controls，而是高風險權限不能被單一 actor 無條件解除。操作、修改、人口、退役與 governance authority 應分離。

## 9. Adaptive Governance

能力跨越 replication、persistence、resource autonomy、authority expansion、deployment expansion 等閾值時，應觸發 governance review。

## 10. Risk Thresholds

T0 Ordinary  
T1 Controlled Distributed System  
T2 Adaptive Physical System  
T3 Persistent Autonomous System  
T4 Self-Expanding System  
T5 Existential-Risk Candidate

T5 仍只是 candidate，不是「滅絕必然」。

## 11. Existential Safety by Construction

ESBC 五原則：

1. No default replication  
2. Bounded resources  
3. Bounded authority  
4. Observable population  
5. Verified retirement

最好的防禦不是讓無界系統永遠可以被停止，而是從架構上阻止其成為無界系統。

## 12. Fail Boundedly

安全目標不是 Prevent All Failure，而是：

$$
\boxed{PreventFailureFromBecomingUnbounded}
$$

因此：

$$
Failure\rightarrow LocalFailure
$$

優於：

$$
Failure\rightarrow SystemExpansion.
$$

## 結論

新版將 Shared Deterrence 改為 Shared Constraint，將 Certain Existential Threat 改為 Conditional Existential Risk，將 Universal Ownership 改為 Multi-Party Governance，將 Kill Switch 改為 Layered Revocability。

最終原則：

$$
\boxed{GovernCapability,\ notScale}
$$

$$
\boxed{GovernAuthority,\ notIntelligence}
$$

$$
\boxed{GovernExpansion,\ notSwarmSize}
$$

$$
\boxed{VerifyRevocation,\ notJustControl}
$$

以及：

$$
\boxed{PreventUnboundedFailure,\ notAllFailure}.
$$