SVD:把可见与不可见的参数组合分开
奇异向量、噪声放大、秩与缩放后的条件数。
展开本章阅读路线(10 节)
某些变化响亮,某些变化几乎无声
Jacobian 的列对应单个参数,但数据最敏感的方向常是参数组合。对经过数据白化和参数缩放的矩阵 Jw,做分解:
右奇异向量 vₖ 是参数组合,左奇异向量 uₖ 是其在数据中的变化形状,奇异值 sₖ 是放大倍数。零奇异值对应局部不可见方向;很小的奇异值对应容易被噪声淹没的方向。
反算为何会放大噪声?
在无约束线性问题中,某方向的估计系数含 。sₖ 很小时,即使该方向的数据误差很小,也会被除法放大。优化器并没有制造不确定性,它只是暴露了观测缺乏区分力。
条件数 κ=smax/smin 需要说明对哪些非零奇异值取比、使用了怎样的参数尺度。改变参数单位即可改变 κ,因此不应脱离缩放报告一个“绝对病态程度”。
一个能手算的退化例子
令 。第二列等于第一列,只能看到 θ₁+θ₂。沿 (1,−1) 改变参数,JΔθ=0,数据完全不变。它的非零奇异值为 √10,另一个为零。
加入第三条观测 [1,−1] 后,原先看不到的方向可见。单纯把前两行重复一百次,不能产生这个新方向。这解释了为什么实验多样性有时比重复次数更重要。
近退化与实际噪声
实际两列往往不是完全相同,而是几乎平行。在无噪声无限精度下也许可解,但在现实噪声下参数范围仍很宽。结构可辨识性与实际可辨识性需要分开讨论。局部 SVD 还不能排除远处存在另一组完全不同的等效解。
奇异值必须在有意义的尺度下比较
先白化数据,再将参数变化换成科学上有意义的尺度:。其分解为 。V 的列表示参数组合,U 的列表示对应数据形状,s_i 表示单位尺度参数组合能产生多少噪声单位的数据变化。直接混合“米、弧度、S/m”的原始列,条件数会主要反映单位选择。
从分解直接看到误差放大
对线性白化问题,最小二乘解含
s_i 很小的方向会放大噪声。若 s=(10,1,0.001),单位数据扰动在第三个方向可放大1000倍。把所有小奇异值截断会稳定解,同时放弃这些方向的恢复,因此必须报告丢掉了什么信息。
一个几乎退化的例子
取 。ε 趋零时,两列趋于相同,主要看见参数之和而看不见差值。两条观测仍然不同,但其区分力可能小于噪声。这就是结构上可辨识与实际可辨识的区别。
数据矩阵 SVD 与 Jacobian SVD 不要混淆
前者分离观测的时空模式,后者分离参数扰动的可见方向。数据矩阵的低秩可以用于降噪或子空间定位,但有效秩不能简单等同于目标个数。多个目标可能共享近似时间曲线,单个目标也可能贡献多个独立极化方向。见 S02 的 TOPI 讨论。
深入练习:把一个参数的单位从米换成毫米,物理可辨识性会改变吗?
不会,但未经尺度化的 Jacobian 和条件数会改变。比较算法或实验方案前,应固定参数尺度及噪声权重。
研究拓展
奇异向量会随当前 θ、时间窗和几何改变。应在代表性的参数区域分析,而不是只在一个“漂亮真值”上画奇异值。若关心某个具体派生量,其不确定性可能比所有原始参数都小,值得直接分析。
练习与解析
1. 上述退化 J 中,参数从 (1,2) 变成 (2,1),预测是否改变?
不改变,两者的参数和都为 3,预测均为 (3,6)。
2. 增加一个所有元素为零的观测行能改善秩吗?
不能。它对所有参数都没有局部灵敏度,不带来新的可辨识信息。
调整观测时间窗,比较单指数对 logA、logτ 的灵敏度和奇异值。
打开实验:Jacobian / SVD:时间窗的信息量 ↗参考文献与继续学习
- MIT 18.06SC · Linear Algebra基础课程:投影、特征值、最小二乘与 SVD。英文。
- Boyd & Vandenberghe · Convex Optimization免费教材:最小二乘、正则化、约束与优化。非线性 UXO 反演并不因此自动成为凸问题。
- Song et al. (2015) · Temporal Orthogonal Projection Inversion for EMI Sensing of UXO本地文件名2014,原文卷期为2015年2月;已读摘要与首页。用于时空子空间反演背景。
外部链接需联网,部分论文全文需要机构访问。页面内容为原创教学解释;文献用于核对理论和进一步阅读。资源链接核对日期:2026-09-12。