第五编 翻译
给定：
训练过程会到达某个结果 R——模型的内部表征与外部能力的总和。
把所有可能的路径 P（种子、数据次序、课程等一切不改变 C、A、L 的变量）所能到达的结果的集合记作：
Reach(C, A, L) = { R : 存在路径 P 使训练到达 R }
这就是可达集。
四个符号里，只有 P 不出现在括号里。 这不是疏漏，是定义的要害：可达集是以材料、装置、判准为参数的对象，而路径被扫遍了。若路径不进入结果的规定，这个集合就退化成一个点（或一族彼此等价的点）；若路径进入规定，它就是一个有内部结构的集合。
整本书要判的，就是这个集合是不是一个点。
定义看起来简单，实际上藏了三处约定，每一处都可以被质疑。逐条写明。
约定一：“所有可能的路径”是什么范围。
严格说，路径变量的完备清单没有人有——第四十章第七节把这一点列为清单可能漏掉的东西之一。实践中，P 被理解为：随机初始化、数据呈现次序、批次构成、以及那些不改变 C、A、L 的训练配置。
若有一项路径变量未被识别，“扫遍所有路径”这句话就是假的，而可达集的抽样就是有偏的。首跑那处组内共享条件不齐（第六十六章第三节），正是这一处的实例。
约定二：R 是什么。
R 被定义为”内部表征与外部能力的总和”。这句话不是一个量，它是一个承诺——承诺 R 不被取成某个标量。第五十章第一处陷阱讲的就是若把 R 取成分数会发生什么。
约定三：“到达”要不要设一个终点。
训练可以在任何时刻停下。若在不同时刻停下算作不同的 R，那么可达集会被训练时长撑得很大，而那个大与路径无关。实践中的约定是取充分训练后的状态，而”充分”需要一个事先指定的收敛判据——第五十六章第五节那条实验规格的第三项就是为此。
三处约定都不是数学上的必然，它们是为了让这个对象可用而做的选择。 把它们写出来，是因为对手若要攻击本书的翻译，这三处是最省力的入口。
第一种误读把 Reach 读成一个能力空间：这个架构在这份语料上最多能学会什么。
这不是可达集。
能力空间问的是上界——在最好的情况下能走多远。可达集问的是分布——在固定的材料与判准下，不同的走法实际会落到哪些地方。
两者的区别可以用一句话分开：能力空间与路径无关（它是所有路径的并的上界），可达集恰恰是要看路径之间的差别。
这一误读之所以常见，是因为工程语境里人们关心的通常是上界——这个架构行不行、能不能做到某件事。而本案关心的是另一件事。
第二种误读更专业，也更危险，因为它看起来正确。
它说：Reach 就是那个损失函数的全部局部极小点。
这个读法把待判的命题塞进了定义。
理由有两层。
第一层：极小点集合是由 C 与 A 完全决定的——它不依赖路径。若把 Reach 定义成它，那么”Reach 由 C、A、L 决定”这句话就成了定义的后果，而不是一个待检验的命题。先在论不战而胜。
第二层，更实在：实际训练到达的状态未必是任何一个局部极小点。训练在有限步数后停止，落在哪里由停止条件决定；而且第七十六章第三节论证过，在实际系统中被下降的不是一个固定的函数，而是一族随路径变化的函数。
因此第七十六章那个”地址二”的检查，与这一误读是同一件事的两面：那里是对手把先在性安放在损失景观上，这里是把可达集定义成损失景观的产物。两处的回答也相同。
第三种误读最细，但它直接影响读数怎么算。
它把 Reach 的元素读成一个个训练好的模型——权重的具体取值。
问题在于：两个权重取值不同的模型，可以是同一个 R。
第五十五章第二条硬规定写过：神经元置换、正交变换、各向同性缩放都是标号，不是实质差别。两个在这些变换下等价的权重配置，对应同一个结果。
因此 Reach 的元素不是权重点，是权重点在某个变换群下的等价类。
而这里立刻接上第七十一章那条线：等价类由允许的变换群决定，而那个群的边界是一个约定。 于是可达集这个对象，其”元素有多少个”这个问题，本身依赖于一个未被自然给定的选择。
这不是可达集特有的缺陷，它是本案在工程层面的最终形式（第七十一章第四节）。但它必须在定义这一章就被写出来，而不是留到第七十一章才交代——一个定义若依赖一个约定，那个依赖属于定义的一部分。
可达集是一个抽象对象，而本书实际报告的是四个量。把对应关系列出来，因为这张表决定了每个量各自在测什么。
| 量 | 它是可达集的什么 | 先在论预测 | 造成论预测 |
|---|---|---|---|
| 路径散度 Δ(N) | 集合在规模 N 处的直径（以样本估计） | 随 N 衰减至噪声 | 衰减至正常数 |
| 不可消解度 κ | 直径的极限 | κ = 0 | κ > 0 |
| 可归约份额 ρ | 集合能被 C、A、L 的描述覆盖的比例 | ρ → 1 | 1 − ρ 稳定为正 |
| 标定不可达 | 集合是否”满” | 不存在 | 存在 |
四个量里，前两个是同一个对象在有限与极限两处的读数，后两个各自对应一条独立的性质。
这张表有三处要说明，因为它们各自在后面被用到。
其一，四个量都是集合的性质，没有一个是单个元素的性质。 这是可达集这个翻译的直接后果，也是为什么”看一个训练好的模型”永远判不了本案——第七章那道闸在这里的形式化表述就是：单个元素不携带集合的性质。
其二，直径这个说法依赖距离，而距离依赖变换群。 第五节已经写过，这里再记一次：可达集的”大小”不是一个自然给定的量。
其三，“满”这个说法最难操作化。 第五十七章第二节整节讲这件事——绝对不可达不可证，只能用带预算标定的相对陈述代替。于是第四个量与前三个不同：前三个是估计量，第四个是一个带条件的陈述。
这三处说明合起来，给出本书四个量的地位：它们不是四个平行的指标，而是同一个对象的三种性质在有限抽样上的四种读法。
本章最后处理一个针对这个翻译的根本质疑，它若成立，第五编全编作废。
质疑是：可达集是一个永远无法被完整确定的对象——路径无穷、抽样有限、边界依赖约定。用这样一个对象作翻译的落点，是不是在用一个空概念冒充一个可测对象？
这个质疑要被认真答，而且答案是有限度的。
第一步回答：它不需要被完整确定，只需要它的三个性质可被估计。 第六节那张对应表说的就是这件事——直径、覆盖、是否满，三者都能在抽样上估计。一个不能被枚举的集合，其性质仍然可以被测量，这在统计里是常态。
第二步回答，也是本节的要害：把这个质疑与它的替代品比较。
若不用可达集，还能用什么？
三个替代品各有一个致命毛病，而可达集的毛病是”难测”。 在”塞进结论”与”难测”之间，本书选后者。
第三步，承认它没有解决的那一半：可达集的边界依赖变换群的选择（第五节），而那个选择是一个约定。因此本书的翻译把一个不可测的问题变成了一个可测但带约定的问题，而不是变成了一个客观的问题。
第四十七章第七节那句话在这里兑现：翻译把问题变得可测，没有把它变得客观。
若有人认为”可测但带约定”仍然不够，那么本书的回答只能是第四十七章第七节的最后一句：翻译是把一场判不了的争论变成一场可以输的争论，仅此而已。一场带着约定的可输的争论，与一场没有约定的判不了的争论，本书认为前者更值得进行。这是一个立场，不是一个被证明的命题。
最后处理一个实际问题：Reach 是一个不可能被完整枚举的集合——路径的数量是天文数字。那么用它做翻译有什么用？
用处在于：本书要判的不是这个集合的全部内容，而是它的一个性质。
具体说，三条条款各自问它的一个性质：
三个问题都可以在抽样上回答，不需要枚举。 直径可以由样本间距离估计；覆盖可以由回归的可解释方差估计；不满可以由标定的不可达陈述给出（第五十七章第三节）。
这也解释了为什么本书的量是那四个而不是别的：它们是可达集的三个性质在有限抽样上的估计量。
下一章把两方的主张代入这个对象，得到分歧的最终形式。