Skip to content

数学分析 ​

线性代数处理有限维的运算,概率论处理随机的整体规律,最优化处理如何找最好的一点,它们背后有一个共同的工具:极限。求导数是差商的极限,算积分是求和的极限,迭代算法的收敛是数列的极限,概率论中的大数律是随机变量的极限。把极限这件事说清楚,需要先弄清它建立在什么数系之上,这就是数学分析这一章的内容。

本章的安排由浅入深。5.1 从有理数的缺口讲到实数系的完备性,给出极限的语言与完备性的六条等价定理,并把极限放进更一般的度量空间,得到压缩映射原理。5.2 与 5.3 处理数列、级数与函数的极限和连续。5.4 与 5.5 是一元微积分即微分与积分,包括中值定理、Taylor 展开、Riemann 积分与反常积分。5.6 与 5.7 讨论函数列的收敛与正交展开,分别是逼近理论与 Fourier 分析的基础。5.8 与 5.9 把微分与积分推广到多元,包含隐函数定理、Lagrange 乘子、多重积分与三大积分公式。5.10 到 5.12 是进阶专题:测度与 Lebesgue 积分、变分法与几何初步、渐近分析与特殊函数。5.13 作为选读,把常微分方程与动力系统的视角补齐。

结构 ​

节主题
5.1 实数、完备性与极限的语言有理数的缺口、确界原理、ε-N 语言、完备性六定理、拓扑初步、度量空间与压缩映射
5.2 数列、级数与无穷过程极限运算、渐近记号、级数判别法、条件收敛、求和加速、浮点求和误差
5.3 函数的极限、连续与初等函数ε-δ 语言、一致连续、间断点、连续函数性质、连续模与数值稳定性
5.4 一元微分学与局部近似导数与微分、中值定理、Taylor 公式、数值微分、迭代收敛阶、自动微分
5.5 一元积分学与微积分基本定理Riemann 可积性、微积分基本定理、反常积分、Gamma 与 Beta 函数、数值求积
5.6 函数列、函数项级数与一致收敛一致收敛、极限交换、Arzelà-Ascoli、多项式逼近与 Runge 现象
5.7 幂级数、Fourier 分析与正交展开收敛半径、Taylor 级数、Fourier 级数、Gibbs 现象、DFT 与 FFT、正交多项式
5.8 多元微分学与微分形式初步全微分与梯度、Hesse 矩阵、隐函数与反函数定理、Lagrange 乘子、外微分
5.9 重积分、曲线曲面积分与向量分析Fubini 与换元、曲线曲面积分、Green 与 Gauss 与 Stokes 公式、Monte Carlo 积分
5.10 测度与 Lebesgue 积分初步可测集与可测函数、三大收敛定理、Lp 空间、Radon-Nikodym 与绝对连续
5.11 曲线曲面几何与变分法初步曲率与测地线、Euler-Lagrange 方程、Sobolev 空间与弱解、有限元初步
5.12 渐近分析与特殊函数Laplace 方法与鞍点法、摄动与边界层、特殊函数、渐近在算法分析中的用法
5.13 选读:常微分方程与动力系统视角存在唯一性、相平面与稳定性、数值解法与刚性方程

学习路径 ​

5.1 与 5.2 是语言层,读完后应当能够用定义判断收敛、用判别法处理级数、用渐近记号估计误差量级。5.3 到 5.5 是一元分析的主干,微分与积分互为逆运算这条线索贯穿其中,代码实验集中在数值微分与数值求积这两类实际计算上。5.6 与 5.7 把收敛这件事从数推广到函数,这是理解逼近、插值、谱方法与神经网络逼近能力的关键。5.8 与 5.9 把维数从一提高到多,其中梯度、Hesse 矩阵、隐函数定理与 Lagrange 乘子在最优化一章中反复使用,重积分与 Monte Carlo 积分是概率与统计的计算基础。5.10 到 5.12 面向希望深入理论或进入研究方向的读者:测度论是概率论的严格底座,变分法是机器学习的隐式工具(变分推断、正则化、最优控制),渐近分析是算法复杂度与统计分析的基本手段。5.13 属于选读,与动力系统的内容衔接。

本章与前后章节的接口清楚:5.1 的完备性与 5.4 的 Taylor 公式是最优化一章收敛性分析的直接依据;5.5 的 Gamma 函数与 5.10 的积分理论支撑概率论一章的连续型分布与期望定义;5.7 的 Fourier 与正交展开是信息论一章中信号与编码讨论的工具;5.8 的矩阵求导与第一章的矩阵微积分一节内容对应,两者可对照阅读。