一般中心对称凸外台球是否存在无界轨道？

Moser–Neumann 问题问的是什么

紧致严格凸体 K 的外（或对偶）台球映射把 K 外一点 x 映到它关于切点 p 的反射，p 是过 x 的 K 的支撑线与 K 的切点，切线按固定的定向约定选取。该映射是 K 外部到自身的保面积同胚。与经典内台球不同，它的相空间无界，因此自然会问是否每条轨道都保持有界。

Moser 把该问题表述为“判定是否每条轨道都有界”，并将其归功于 Neumann；Neumann 自己的表述则是问该映射是否存在不变曲线。两者密切相关，因为任意大的不变曲线会把所有轨道限制住，从而推出有界性。论文把问题表述为：是否存在一个凸台球桌，使其外台球具有无界轨道？

论文在一个特定的正则性类中正面回答了该问题：中心对称、严格凸、边界为正则 C1 曲线的紧致平面凸体。该结果强于 Schwartz 早先的问题，后者只要求存在一个严格凸区域或 C1 区域，使其外台球具有无界轨道。

为何光滑台球桌无法产生这种结果

对于足够光滑的台球桌，所有轨道都有界。若 K 的边界属于 C6 类且曲率为正，把 Moser 不变曲线定理应用于无穷远处的回归映射，可得到限制每条轨道的不变曲线；完整证明由 R. Douady 给出。Gutkin 与 Katok 研究了这一情形下外台球的焦散线，Boyland 则利用了无穷远处回归映射的扭转映射结构。

论文的主定理与此并不冲突。曲率为正的光滑台球桌在 H 中构成一个贫集，对它们而言曲率半径测度是绝对连续的，因此落在剩余集 R 之外。该结果因此位于两个极端之间：非常光滑的台球桌强制轨道受限，而多边形台球桌的动力学是分片等距。

在多边形这一极端，格多边形与准有理多边形以及梯形的轨道有界，而 Schwartz 证明 Penrose 风筝的外台球具有无界轨道，Dolgopyat 与 Fayad 对半圆得到了同样的结论。论文针对的是介于两者之间的情形：严格凸的 C1 台球桌，且没有进一步的正则性。

曲率半径测度是关键变量

论文在中心对称、严格凸、边界为正则 C1 曲线的紧致凸体的支撑函数空间 H 上工作，并赋予 C1 拓扑。对 R/πZ 上的 C1 函数 h，曲率半径测度定义为 ρh := h dθ + Dh′，其中 D 是分布导数。当 h 是凸体的支撑函数时，ρh 是正测度。

空间 H 被精确刻画为 C1(R/πZ) 中满足 h > 0、ρh ≥ 0 且 ρh 的支集等于整个 R/πZ 的函数 h 的集合。每个条件都有几何含义：ρh ≥ 0 使 h 成为凸体的支撑函数；π 周期性编码中心对称；h 属于 C1 意味着凸体严格凸，等价于 ρh 没有原子；ρh 的支集为全集意味着边界没有角点，是正则 C1 曲线。最后一个条件并非 h 属于 C1 的推论，因为带角点的严格凸体的支撑函数仍是 C1 的。

论文给出的直观解释是：纯奇异的曲率半径测度使 C1 严格凸区域在其外台球动力学方面尽可能接近多边形。对边为 e1 到 en 的凸多边形，曲率半径测度是原子之和 ℓk δθk，其中 ℓk 是边 ek 的长度，θk 是该边外法线方向。多边形既不是 C1 也不严格凸，因此为了在保持属于 H 的同时尽量接近多边形，论文考虑具有全支集的纯奇异 ρh。

驱动证明的刚性定理

关键要素是一条刚性定理。若 h 属于 H 且 ρh 是纯奇异的，则相应凸体外台球映射的每一条连续不变切图都完全由同一周期的周期点组成。证明依赖于映射在类边点和类顶点处刚性且互补的行为，这一机制迫使不变图成为周期的。

正是这一刚性使后续论证变得可处理。对于曲率半径测度为纯奇异的台球桌，排除不变图归结为排除完全由周期点组成的不变图，这是一个远为经典的问题。周期构型是某个显式作用泛函的临界点，论文证明对每个周期 q 和相空间的每个紧致区域，H 中存在一个开稠密子集，使得相应的外台球映射在该紧致区域内不存在周期为 q 的周期图。

把这些开稠密子集与曲率半径测度为纯奇异的台球桌的剩余集合并，就得到主定理中的剩余集 R。论文还直接处理了触及紧化环面边界圆的不变图，因为仅靠刚性定理无法涵盖它们。

主定理保证了什么

主定理指出，存在 H 的一个剩余（即 Gδ 稠密）子集 R，使得对每个 h 属于 R 有三件事成立。第一，曲率半径测度 ρh 关于 Lebesgue 测度是纯奇异的，即由 Lebesgue 零测集承载。第二，关于凸体 Kh 的外台球映射 T 在 Kh 外部没有以接触角为图的连续不变曲线。第三，存在 Kh 外的点 x，使得当 n 趋于无穷时 |T^n x| 趋于无穷。

特别地，存在 R 中的 h 与圆盘或椭圆的支撑函数任意 C1 接近。由于圆盘或椭圆的外台球映射是可积的，论文把主定理的第三部分解释为这些可积映射在 C1 通有扰动下 Arnold 扩散的一种表现。

定理的三个部分不可互换。纯奇异的曲率半径测度是台球桌的性质；连续不变图的不存在是关于映射不变集的陈述；逃逸轨道的存在是关于单条轨道的陈述。证明把它们串联起来，但它们回答的是不同的问题，不应相互替代。

逃逸轨道如何构造

从“没有不变曲线”到“轨道逃逸到无穷”的过渡使用了 Mather 在 Birkhoff 不稳定区域中扩散的机制。由于此处的 Sicher 外台球映射只是同胚，论文使用 Le Calvez 对该机制的拓扑表述，而非光滑变分版本。

Le Calvez 的两个结果处于核心地位。第一个说，对环面上非游荡且 V-单调的同胚，不变下环域或上环域的边界是横截于竖直叶状结构的本质简单闭曲线。第二个说，若两条边界圆是仅有的横截于该叶状结构的不变本质简单闭曲线，则存在一点，其向后轨道趋近一条边界圆，向前轨道趋近另一条。论文证明紧化后的回归映射是 V-单调的，其逆为 V-递减，映射本身为 V-递增。

一个技术障碍是：对紧致环面上的保面积同胚，非游荡性由 Poincaré 回归定理自动成立，但此处不成立，因为不变测度是欧氏面积，它在 K 的外部以及紧化的外边界圆附近都是无穷的。论文的处理方式是观察到游荡开集本身就是无界轨道的来源：若非空开集 W 满足对所有 n ≥ 1 有 T^n(W) ∩ W = ∅，则对 W 中 Lebesgue 几乎每一点 x 都有 |T^n x| 趋于无穷。因此，要么紧化映射是非游荡的，要么外台球已经具有一个正测度的向前逃逸轨道集。

结果适用于哪里，到哪里为止

该结果适用于中心对称、严格凸、边界为正则 C1 曲线的紧致平面凸体，且原点取在对称中心。它是关于 C1 拓扑下 H 的某个剩余子集的陈述，而非关于 H 中每个台球桌的陈述。该剩余集包含与圆盘或椭圆支撑函数任意 C1 接近的支撑函数，但接近可积台球桌本身并不保证某个具体台球桌具有逃逸轨道。

论文明确指出，主定理与曲率为正的 C6 台球桌的有界性并不冲突，因为这些台球桌在 H 中构成贫集，其曲率半径测度是绝对连续的，落在 R 之外。该结果也没有断言每个曲率半径测度为纯奇异的台球桌都有无界轨道。附录 B 构造了 C1、中心对称、严格凸且曲率半径测度为纯奇异的区域，它们具有一条由周期 4 的周期点组成的不变曲线，且这些台球桌可以构造得与圆盘或椭圆任意 C1 接近。论文指出，这本身并不排除这些台球桌存在无界轨道。

另一个适用范围条件是：定理排除的不变曲线是以接触角为图的不变曲线。论文还证明，触及外边界圆的不变图必须与该圆重合，而触及内边界圆的不变图必须位于一个与外圆一致远离的紧致区域中，因此这类图不会阻碍逃逸轨道。

从结果中应得到什么

论文的决定性一步是把两个容易混淆的问题分开：一个台球桌是否具有纯奇异的曲率半径测度，以及它的外台球映射是否具有无界轨道。前者是支撑函数的正则性条件，后者是动力学结论。刚性定理通过迫使不变切图成为周期的来连接两者，而周期不变图的通有缺失随后消除了逃逸轨道的障碍。

对把该结果与早期工作相比较的读者而言，相关的阈值是正则性。在曲率为正的 C6 情形，无穷远处的不变曲线限制每条轨道。在多边形极端，动力学是分片等距，有界性取决于多边形。论文的贡献在于中间的 C1 严格凸情形，它证明中心对称台球桌的一个剩余集具有逃逸到无穷的轨道，且该剩余集可以任意 C1 接近圆盘和椭圆。

最值得带走的一点是曲率半径测度作为判别变量的作用。具有全支集的纯奇异测度使 C1 严格凸台球桌在动力学上表现得像多边形，而正是在这类台球桌的剩余集上，论文证明了连续不变切图的不存在以及逃逸轨道的存在。附录 B 中的周期 4 例子最鲜明地提醒我们：仅凭纯奇异的曲率半径测度并不能决定单个台球桌的动力学问题；定理中 H 上的通有性起着实质作用。

本文引用的文献