线性回归的实例演示是什么？
定义：什么是线性回归
线性回归是一种统计方法，用于通过一条直线方程建模因变量 (y) 与一个自变量 (x) 之间的关系：
[ \hat{y} = a + b x ]
- (\hat{y}) 是 (y) 的预测值。
- (a) 是截距。
- (b) 是斜率。
其核心思想是：选择一条拟合直线，使其在特定方式下使预测误差尽可能小——即在训练数据上最小化残差平方和 (\sum (y-\hat{y})^2)。残差是观测值 (y) 与预测值 (\hat{y}) 之间的差异。
机制：实例演示实际计算的内容
“实例演示”意味着你选择一个小数据集，明确所有假设（包括 (x) 和 (y) 的定义方式），计算出系数 (a) 和 (b)，然后使用拟合的直线生成拟合值，并至少进行一次新预测。
以下数值计算所基于的假设：
- 你拥有一组成对的观测值 ((x_i, y_i))。
- 模型形式在数据窗口内是正确的：(x) 与 (y) 之间存在线性关系。
- 系数使用普通最小二乘法（OLS）计算：最小化残差平方和。
- 我们将输入的 (x) 值视为已知（不对 (x) 建模额外的不确定性）。
- 本例仅为说明性示例，不使用实时市场数据。
实证：一个完整的数值实例演示
假设你观察到4个数据点：
- (x: 1, 2, 3, 4)
- (y: 2, 3, 5, 4)
第1步：计算均值。 [ \bar{x} = (1+2+3+4)/4 = 2.5 ] [ \bar{y} = (2+3+5+4)/4 = 3.5 ]
第2步：计算斜率 (b)。 [ b = \frac{\sum (x_i-\bar{x})(y_i-\bar{y})}{\sum (x_i-\bar{x})^2} ] 计算表格中的值：
- 当 (x=1)：(x-\bar{x}=-1.5)，(y-\bar{y}=-1.5)，乘积 = 2.25
- 当 (x=2)：(x-\bar{x}=-0.5)，(y-\bar{y}=-0.5)，乘积 = 0.25
- 当 (x=3)：(x-\bar{x}=0.5)，(y-\bar{y}=1.5)，乘积 = 0.75
- 当 (x=4)：(x-\bar{x}=1.5)，(y-\bar{y}=0.5)，乘积 = 0.75
乘积之和 = (2.25+0.25+0.75+0.75 = 4.0)。
分母 (\sum (x_i-\bar{x})^2)：
- ((-1.5)^2=2.25)，((-0.5)^2=0.25)，((0.5)^2=0.25)，((1.5)^2=2.25)
总和 = (2.25+0.25+0.25+2.25 = 5.0)。
因此： [ b = 4.0/5.0 = 0.8 ]
第3步：计算截距 (a)。 [ a = \bar{y} - b\bar{x} = 3.5 - 0.8\cdot 2.5 = 3.5 - 2.0 = 1.5 ]
第4步：写出拟合直线方程。 [ \hat{y} = 1.5 + 0.8x ]
第5步：计算观测 (x) 对应的拟合值。
- 若 (x=1)，(\hat{y}=2.3)
- 若 (x=2)，(\hat{y}=3.1)
- 若 (x=3)，(\hat{y}=3.9)
- 若 (x=4)，(\hat{y}=4.7)
第6步（一个简单预测）：对于新的 (x=5)， [ \hat{y}=1.5+0.8\cdot 5=5.5 ]
上述每一个数值都可以通过重新计算总和和OLS公式独立验证。
局限性与风险：可能导致线性回归失效的因素
线性回归并不能保证预测的准确性。主要局限性包括：
- 线性假设可能错误。如果 (x) 与 (y) 之间的实际关系是弯曲的，直线将系统性地偏离真实模式。
- 对异常值敏感。单个极端的 (y) 值（或远离均值的有影响力 (x) 值）可能显著拉偏斜率和截距。
- 历史关系可能不再成立。即使拟合直线与训练数据吻合，未来行为也可能不同，因为数据生成过程可能发生变化。
- 遗漏变量。如果 (y) 还依赖于 (x) 未体现的其他因素，误差将呈现结构性而非随机性。
- 数据噪声与模型误差。最小化残差平方和能改善某种意义上的拟合效果，但不能确保在不同条件下表现良好。
这些问题在统计建模中普遍存在：结果会随数据特性以及数据的收集和处理方式而变化。