线性回归中的发散意味着什么？
直接回答
线性回归中的“发散”意味着由拟合回归线描述的关系开始偏离你观察到的数据点。简单来说，这条线不再跟踪它原本拟合的数据模式。
在实践中，“发散”并不是线性回归内置的单一功能。它是一种描述方式，用于说明当模型的预期线（基于其估计的斜率和截距）无法再代表新数据或后续观测值时所发生的情况。
机制与定义
标准的线性回归会拟合一个形式为 y = a + b·x 的直线，其中 x 是自变量，y 是因变量。拟合的直线代表了在模型假设下变量之间的平均关系。
“发散”通常表现为以下一种或多种情况：
- 残差增大：残差是观测点与拟合线之间的垂直距离。如果这些距离系统性地增大，说明该线正在偏离数据。
- 斜率或截距变化：如果基础关系随时间变化，一条固定的直线将无法同时很好地拟合早期和后期的数据。
- 非线性结构：即使早期数据大致呈线性，后期数据可能遵循曲线或不同阶段，导致直线出现偏离。
要正确解释发散，有必要将机制（如何拟合直线以及残差的行为）与变量条件（真实数据可能如何变化）区分开来。
证据或示例（含假设）
假设你使用历史数据对 (x, y) 拟合了一条直线。假设早期观测值接近该直线，因此残差较小。随后，随着 x 持续增加，数据点持续稳定地高于该直线。如果你重新检查后期数据段的残差，其平均幅度会上升。
这种模式可能由多种不互斥的原因引起：
- 模型假设不再成立（例如，x 与 y 之间的关系发生了变化）。
- 数据中存在结构性变化（进入新的“状态”或不同的关系），因此单一全局直线不再适用。
- 噪声占主导地位：即使假设稳定，随机波动也可能导致某些时期内直线看起来不准确。
重要限制：回归总会拟合出某条直线，因此只有在事先定义发散（例如，“残差超过选定阈值”或“样本外误差增加”）时，发散才具有实际意义，而不是在已知结果后才判断。
局限性与风险
当人们讨论发散时，有两个常见的风险需要注意：
-
确认限制 如果你仅使用拟合模型的数据来判断发散，可能会高估该直线“解释”模式的能力。正确的评估需要进行样本外检验：在一个数据集上拟合模型，然后在未见过的数据上测试，使用相同的发散定义。
-
事后偏见 一旦结果已知，很容易将任何早期偏离拟合线的情况重新解释为“有意义的发散”。这可能导致夸大结论，例如将发散视为方向性或可预测性的证据，即使它仅仅反映了简单线性模型是对现实的不完美概括。
其他实际局限性包括：
- 在真实世界数据背景下，尺度和成本的变化可能改变变量间关系，导致相同的回归设定表现不同。
- 执行时间和观测时间的不一致可能导致建模内容与后续比较内容之间出现错配。
- 司法管辖区特定规则和数据访问权限可能影响你能验证的观测内容；发散可能仅仅是因为对比的数据集不同。
关键一点：历史关系不能确立未来结果。发散描述的是某一时刻的不匹配；它并不自动意味着未来会有可靠的结果。
验证或下一个问题
为了独立验证“发散”是否真实而非巧合，需明确其定义：
- 使用残差或误差增长来定义发散，并设定阈值和时间划分。
- 在较早的时间窗口上重新拟合模型，并使用相同指标在后续窗口上进行评估。
- 检查发散是否在多个独立时间段内持续存在。
值得进一步探讨的问题：当关系可能变化时，应评估哪种回归设定（窗口长度、变量纳入或变换选择）？对于线性回归而言，这通常决定了在条件变化时发散出现的速度。