不确定性与信息:误差条从哪里来
线性化协方差、Fisher 信息、置信区间和实验选择。
展开本章阅读路线(9 节)
一个最佳值只是答案的一部分
估计深度为 0.50 m,与估计为 0.50±0.30 m,传递的信息非常不同。误差范围取决于噪声、观测几何、参数耦合、模型假设和先验。优化器输出很多小数位,不代表同样高的物理精度。
在线性化、高斯噪声和局部可逆条件下,无先验近似参数协方差为:
若噪声方差由残差估计,还需相应尺度和有效自由度处理。存在不可辨识方向时,该逆可能不存在,不能用一个未经解释的伪逆假装所有方向都有有限不确定性。
相关性比单独误差条更能说明问题
协方差对角线给各参数方差,非对角线给关联。尺寸增大可由电导率减小补偿时,联合分布可能形成长而倾斜的带。分别报告两个均值和标准差,会隐藏这条重要结构。
例子:求和很准,单个参数不准
若数据只测 θ₁+θ₂,这个和可以在重复测量后估计得很精确,但 θ₁−θ₂ 完全不受约束。误差传播到一个派生量 q(θ) 时,要用 ,不能仅把各参数标准差相加。
什么样的新测量更有用?
独立观测的 Fisher 信息近似可相加。实验设计可考虑提升最小特征值、降低关心参数的方差,或提高信息矩阵行列式。不同准则服务于不同目标;若最关心深度,就不必盲目优化所有参数体积。
三种误差范围不能互相替代
条件协方差假定模型形式和辅助参数正确;联合协方差把标定、背景等不确定量一起估计;模型差异还包括球体代替真实外形等结构误差。只报告第一种通常最窄,却最容易被误读为全部误差。
在线性高斯且有高斯先验时,后验协方差为
若 θ 是非线性参数,这通常只是某工作点附近的 Laplace 近似。多峰、边界和强非线性会使椭圆描述失效,需要剖面或采样方法。
从参数不确定性传播到预测
某新位置预测为 q(θ),局部方差约为 ;若问“新测量会落在哪里”,还需加新测量噪声。这区分了均值预测区间与实际观测预测区间。参数不唯一时,已测区域的预测仍可能很准,而外推到未测区域可能差异很大。
加一个测点能增加多少信息
新观测灵敏度行为 aᵀ、噪声方差 σ²,在线性高斯近似下
若 a 对原本不确定的方向敏感,协方差下降明显;若只重复已有方向,收益较小。D 最优可最大化信息矩阵的 log det,A 最优可最小化协方差 trace,但都依赖选定的参数尺度和设计范围。
深入练习:神经网络多次预测几乎相同,能否证明其不确定性很小?
只能说明该重复机制下输出稳定。若所有模型共享错误的训练分布或正演近似,它们可以一致地偏离真实值。还需独立数据的覆盖率和分布外检验,见 S05。
研究拓展
非线性、多峰和边界问题中,线性化误差椭球可能误导。可用参数剖面、bootstrap 或采样检查。Bootstrap 应保留原数据相关结构,重复时间窗不能被随意当成独立样本。Bayesian 可信区间和频率学置信区间的解释也应区分。
练习与解析
1. 独立重复次数增加四倍,理想情况下标准误差怎样变?
约减半,但共同系统误差不会随重复平均消失。
2. 加入强先验后协方差变小,能否说新观测提供了更多信息?
不能。增加的是先验约束;应分别讨论来自数据与先验的信息。
参考文献与继续学习
- MIT 18.05 · Introduction to Probability and Statistics随机变量、条件概率、统计推断与区间估计;本科公开课。
- Boyd & Vandenberghe · Convex Optimization免费教材:最小二乘、正则化、约束与优化。非线性 UXO 反演并不因此自动成为凸问题。
- Wu, Sun & Chen (2025) · Variational inference for geophysical Bayesian inverse problems using normalizing flowsGJI同行评议论文,DOI 10.1093/gji/ggaf239;已核对出版页与本地摘要。通用电磁后验推断,不等于 UXO 专项验证。
外部链接需联网,部分论文全文需要机构访问。页面内容为原创教学解释;文献用于核对理论和进一步阅读。资源链接核对日期:2026-09-12。