数值分析
Numerical Analysis
📖这门课到底讲什么
数值分析研究用计算机求解数学问题的近似方法与误差控制：包括误差与条件数分析、非线性方程求根、线性方程组与矩阵分解的数值解法、插值与拟合、数值积分与微分、常微分方程数值解。它回答的是数学公式在浮点数世界里为什么会失效、迭代多少次才够、误差如何传播这类工程问题。学完你应能独立实现二分法、牛顿法、LU 分解、最小二乘拟合、龙格库塔法等常用算法，并能分析其收敛阶与稳定性，理解为什么正规方程不推荐直接求逆、为什么矩阵条件数决定问题难度，为科学计算、图形仿真和机器学习优化打下基础。
🎯为什么必须学好
若走算法研究、仿真、量化、图形学、计算物理方向，这门课是硬通货；面试中为什么不要直接求矩阵逆、梯度下降与牛顿法的收敛速度差异、浮点误差如何累积这类问题，答案都在这里。对读研同学来说，做实验跑数值结果几乎是日常，本课决定你能不能判断实验结果是否被数值误差污染。考研初试一般不考，但保研复试与计算数学方向面试会问。
📌核心知识清单
- 误差分析基础：绝对误差与相对误差、有效数字、截断误差与舍入误差、问题的条件数与算法的数值稳定性
- 非线性方程求根：二分法、不动点迭代的收敛条件、牛顿迭代法与收敛阶、割线法
- 线性方程组的直接解法：高斯消元与列主元消去法、LU 分解、追赶法解三对角方程组、误差分析与病态问题
- 线性方程组迭代解法：雅可比、高斯-赛德尔、逐次超松弛迭代的收敛条件与谱半径判据
- 插值方法：拉格朗日插值与龙格现象、牛顿差商插值、埃尔米特插值、三次样条插值
- 函数逼近与拟合：最小二乘拟合、正交多项式、切比雪夫逼近、正规方程与 QR 分解的差别
- 数值积分与微分：梯形公式、辛普森公式、复化求积与误差阶、高斯求积、差商法求数值导数
- 常微分方程数值解：欧拉法、改进欧拉法、龙格库塔法、稳定性与刚性方程初步
✍️怎么学（可执行步骤）
- 以李庆扬《数值分析》或 Burden《数值分析》为主线，每学完一个算法立刻自己动手实现，不看参考代码，实现完再与 numpy/scipy 结果对照误差
- 为每个算法准备一张卡片：适用条件、收敛阶、计算量、失败场景（例如牛顿法初值选得不好会发散），期末复习只翻卡片即可
- 重点做数值实验报告：用不同步长与迭代次数绘制误差随步长变化的双对数图，观察斜率是否等于理论收敛阶，这是理解收敛阶最快的方式
- 结合机器学习回头验证：用自己实现的梯度下降与牛顿法解同一个最小化问题，比较迭代次数与稳定性，理解二阶方法的代价与优势
📚推荐教材与书籍
国内主流教材，考试向明确，重点第六章插值与第七章数值积分
国际经典教材，算法伪码完整、误差分析细致，适合作为主要参考与自学用书
工程实践向手册，覆盖几乎全部数值算法实现细节，做项目时查阅
矩阵数值计算圣经，读研做数值线性代数方向必备，本科可先看前三章
🎬视频课程 / 公开课
推荐南京大学或华中科技大学版本，误差分析与迭代法讲解清晰
有多个高校公开课搬运版本，适合对照补齐课堂没讲清的插值与积分部分
🌐网站与文档
对照 scipy.optimize/interpolate/integrate 的实现与参数，理解工业级数值库怎么做
伯克利数值方法课程在线教材，代码与公式并排，非常适合边读边练
🐙GitHub 开源资料
math 目录含牛顿法、辛普森积分、矩阵分解等实现，可与自己的版本对比
工业级科学计算库源码，想了解真实实现的健壮性设计可以阅读其优化与插值模块
🧪动手实践任务
实践 1
实现五种求根算法（二分、不动点、牛顿、割线、正割加速）并在一组测试函数上比较迭代次数与收敛阶，输出误差收敛图表
实践 2
手写 LU 分解与列主元消去法求解线性方程组，对希尔伯特矩阵测试条件数对结果精度的影响，并解释为什么它是病态矩阵
实践 3
用三次样条插值对一组真实采样数据（如气温序列）做平滑拟合，比较线性插值、三次多项式与样条的差异并画出曲线
🧾考试与面试
💼 面试会怎么考
常见追问：为什么不用公式直接求矩阵逆而是用分解或迭代（考条件数与计算复杂度 O(n^3) 与实际数值稳定性）；牛顿法在什么情况下会失败、如何用阻尼或混合策略修复；最小二乘用正规方程与用 QR 分解的区别；浮点数运算中为什么两个相近大数相减会损失精度。图形学与仿真岗位还会问数值积分在物理引擎中的作用。
📝 期末与考研怎么过
期末以计算与推导为主：给定方程组做一轮高斯消元、算拉格朗日插值多项式、推导梯形或辛普森公式的误差项、判断迭代法是否收敛。备考要点是把每个算法的推导过程自己写一遍（尤其是误差阶的推导），并背熟常用结论。目标八十分以上即可，除非要走数值计算方向才需要追求高分与更深理解。
⚠️ 常见坑
- 只背公式不看适用条件，例如对不满足对角占优的矩阵使用雅可比迭代导致发散
- 插值次数一味提高，忽略龙格现象，在高次多项式插值时得不到预期的精度反而震荡加剧
- 实现的程序里循环边界或步长写错，误差图像看起来能收敛却与理论阶数不符，缺少与理论交叉验证的习惯
- 忽略病态问题与浮点精度，用双精度直接求逆解大方程组还声称结果准确，工程上属于严重误判