线性回归
什么是线性回归
线性回归是一种用于建模一个或多个输入（通常称为特征）与一个输出（目标变量）之间关系的统计技术。其核心思想是，模型将输出表示为输入的线性组合。
在最简单的情况下，当只有一个输入 x 和一个输出 y 时，模型通常写作：
- y ≈ b0 + b1·x
其中，b0 是截距，b1 是斜率。“线性”指的是参数进入方程的方式（如 b0、b1 等），而不一定指现实变量之间的关系形状。当有更多输入时，这一原则可扩展到多个特征。
在外汇研究中，线性回归常被用作描述性或分析性工具——例如，用于估计一组解释变量与某个测量结果之间的关联。当这些变量具有某种稳定的统计关系时，它也可用于构建一个“预期变化”的基准模型。
线性回归的工作原理
线性回归具有明确的工作流程：选择变量、拟合参数、评估拟合效果。
1) 选择输入和输出
你需要决定要解释的变量（输出）以及用作预测因子的变量（输入）。例如，你的输出可能是未来的收益率或其他衍生序列，而输入可能是市场观测值的过去值或其变换形式。
一个关键的实际问题是外汇数据处理的选择：使用收益率还是价格、输入回溯多远、以及如何对齐时间（以避免使用在预测时刻尚未可用的信息）。
2) 通过最小化预测误差来拟合参数
一种常见方法是普通最小二乘法（OLS）。OLS 选择参数（如 b0 和 b1），使得观测输出与模型预测值之间的平方差之和最小化。
- 每个数据点的预测误差是观测值减去预测值。
- 平方误差对较大错误的惩罚更重。
结果是一组定义拟合方程的系数。
3) 谨慎解释系数
在模型假设下，系数可以被解释为变量间的关联。在单输入情况下，斜率 b1 表示当模型结构固定时，x 每增加一个单位，预测输出平均变化多少。
在多个输入情况下，系数反映了模型在这些预测因子之间的线性调整。然而，在实际市场数据中，预测因子之间可能存在相关性，这可能导致单个系数的解释不够稳定。
4) 评估性能与泛化能力
在用于估计参数的相同数据上“拟合良好”并不能保证在新数据上的有效性。常见的评估方法包括：
- 检查模型对未用于拟合的数据（样本外测试）的预测效果。
- 使用适合目标尺度的误差度量。
由于市场关系可能发生变化，验证策略至关重要。否则，拟合方程可能反映的是噪声而非持续的模式。
在自适应市场环境中的局限性与风险
线性回归通常被视为简单直接，但在金融领域中，其多个局限性常常至关重要。
1) 线性假设与模型误设
线性回归假设输出期望值随输入线性变化（在选定的特征定义范围内）。如果真实关系是非线性的，线性模型可能会系统性地遗漏结构。
在实践中，这可能导致残差出现模式（误差并非随机分布），如果仅在样本内评估，可能产生过于乐观的拟合结果。
2) 对假设和数据条件的敏感性
OLS 拟合隐含依赖于统计条件（如稳定的方差模式和无系统性误差结构）。如果这些条件被违反，系数估计和不确定性可能会产生误导。
在市场数据中，波动性可能随时间变化，可能出现异常值，且关系可能漂移。这些影响即使在某一时期回归“有效”时，也可能降低其可靠性。
3) 过拟合与虚假相关
当使用大量特征或反复根据历史行为调整特征集时，模型可能捕捉到无法泛化的模式。即使特征较少，由于金融时间序列的噪声特性，仍可能出现虚假相关。
为降低此风险，需要严格的验证：保留测试、仔细的时间对齐，并避免未来信息的泄露。
4) 非平稳性与机制变化
外汇市场条件可能变化：流动性、波动性和行为驱动因素在不同时期可能不同。在某一时期估计的线性关系可能不再有效。
这并非线性回归独有的缺陷；它是将任何统计模型应用于非平稳系统的普遍风险。然而，线性回归可能“静默失败”：即使基础关系已减弱，它仍可能继续产生数值输出。
5) 将输出用于研究而非结果预测
回归提供的是在所选模型下关联关系的估计。它本身并不定义对未来市场走势的确定性。
如果你将回归输出视为确定或必然的，你就忽略了误差项所反映的不确定性以及数据生成过程的不稳定性。
如何验证线性回归是否适用于你的用途
采用实用的验证思维有助于判断回归是否描述了有用的信息。
首先，检查残差（观测值与预测值之间的差异）是否表现为噪声，而非包含一致的结构。其次，在未用于拟合的数据上测试性能，理想情况下应尊重时间顺序。
第三，进行稳健性检查：在合理范围内改变特征定义，确认结果不依赖于单一预处理选择，并观察在不同时间段内的稳定性。
最后，记录假设：目标是什么、预测因子如何构建、验证如何进行。这使得在相同设置下独立验证模型行为成为可能。
与相近线性方法的比较
线性回归与其他也建立输入与输出之间线性关系的线性模型密切相关。例如，包含正则化的线性模型仍依赖于线性参数结构，但会修改拟合目标以控制复杂度。
即使有这些变体，核心问题仍然相同：
- 所选表示是否适合该关系？
- 模型是否能泛化到新数据？
- 结果在不同时间段和预处理选择下是否稳定？
从外汇研究的角度看，方法的“输出”始终依赖于建模设置，不确定性不可避免。
可独立评估的限制
你通常可以在不依赖供应商声明或特定经纪商行为的情况下评估以下内容：
- 回归是否相对于简单基准减少了误差。
- 样本外表现是否显著优于随机预期水平。
- 关系是否在多个时间段内保持成立。