线性回归在整个财务中广泛应用于众多应用程序中。

由Kaizong Ye，Sherry Deng撰写

在之前的教程中，我们使用普通最小二乘法（OLS）计算了公司的beta与相对索引的比较。现在，我们将使用线性回归来估计股票价格。

可下载资源

线性回归是一种用于模拟因变量（y）和自变量（x）之间关系的方法。通过简单的线性回归，只有一个自变量x。可能有许多独立变量属于多元线性回归的范畴。在这种情况下，我们只有一个自变量即日期。对于第一个日期上升到日期向量长度的整数，该日期将由1开始的整数表示，该日期可以根据时间序列数据而变化。当然，我们的因变量将是股票的价格。为了理解线性回归，您必须了解您可能在学校早期学到的相当基本的等式。

最小二乘法

1、什么是最小二乘思想？

简单地说，最小二乘的思想就是要使得观测点和估计点的距离的平方和达到最小.这里的“二乘”指的是用平方来度量观测点与估计点的远近（在古汉语中“平方”称为“二乘”），“最小”指的是参数的估计值要保证各个观测点与估计点的距离的平方和达到最小。从这个上也可以看出，最小二乘也可用于拟合数据模型。

2. 最小二乘法推导

我们以最简单的一元线性模型来解释最小二乘法。什么是一元线性模型呢？监督学习中，如果预测的变量是离散的，我们称其为分类（如决策树，支持向量机等），如果预测的变量是连续的，我们称其为回归。回归分析中，如果只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。如果回归分析中包括两个或两个以上的自变量，且因变量和自变量之间是线性关系，则称为多元线性回归分析。对于二维空间线性是一条直线；对于三维空间线性是一个平面，对于多维空间线性是一个超平面…

对于一元线性回归模型, 假设从总体中获取了 $n$ 组观察值 $（ X_{1} ， Y_{1} ）$ ， $（ X_{2} ， Y_{2} ）$ ，
…， $（ X_{n} ， Y_{n} ）$ 。对于平面中的这 $n$ 个点，可以使用无数条曲线来拟合。要求样本回归函数尽可能好地拟合这组值。综合起来看，这条直线处于样本数据的中心位置最合理。
选择最佳拟合曲线的标准可以确定为：使总的拟合误差（即总残差）达到最小。有以下三个标准可以选择：

（1）用“残差和最小”确定直线位置是一个途径。但很快发现计算“残差和”存在相互抵消的问题。

（2）用“残差绝对值和最小”确定直线位置也是一个途径。但绝对值的计算比较麻烦。

（3）最小二乘法的原则是以“残差平方和最小”确定直线位置。用最小二乘法除了计算比较方便外，得到的估计量还具有优良特性。这种方法对异常值非常敏感。

最常用的是普通最小二乘法（ Ordinary Least Square，OLS）：所选择的回归模型应该使所有观察值的残差平方和达到最小。

公式推导

1 拟合直线： $y = a + b x$

2 有任意观察点 $(x_{i}, y_{i})$

3 误差为 $d_{i} = y_{i} - (a + b x_{i})$

4 当 $D = \sum_{i = 1}^{n} d_{i}^{2} = 0$ 取值最小时，直线拟合度最高。

5 $D = \sum_{i = 1}^{n} d_{i}^{2} = \sum_{i = 1}^{n} (y_{i} - a - b x_{i})^{2}$ , 对 $a, b$ 分别求一阶偏导：

\frac{\partial D}{\partial a} = \sum_{i = 1}^{n} 2 (y_{i} - a - b x_{i}) * (- 1)

\partial D \partial b = 2 \sum i = 1 n (y i - a - b x i) (- x i) = - 2 (\sum i = 1 n x i y i - a \sum i = 1 n x i - b \sum i = 1 n x 2 i)

y = a + bx

Y =预测值或因变量
b =线的斜率
x =系数或自变量
a = y截距

从本质上讲，这将构成我们对数据的最佳拟合。在OLS过程中通过数据集绘制了大量线条。该过程的目标是找到最佳拟合线，最小化平方误差和（SSE）与股票价格（y）的实际值以及我们在数据集中所有点的预测股票价格。

课程

R语言数据分析挖掘必知必会

从数据获取和清理开始，有目的的进行探索性分析与可视化。让数据从生涩的资料，摇身成为有温度的故事。

立即参加 ➜

这由下图表示。对于绘制的每条线，数据集中的每个点与模型输出的相应预测值之间存在差异。将这些差异中的每一个加起来并平方以产生平方和。从列表中，我们采用最小值导致我们的最佳匹配线。考虑下图：

第一部分：获取数据：

from matplotlib import style

from sklearn.linear_model import LinearRegression

from sklearn.model_selection import train_test_split

import quandl

import datetime

style.use('ggplot')

#日期

start_date = datetime.date(2017,1,3)

t_date=start_date, end_date=end_date, collapse="daily")

df = df.reset_index()

prices = np.reshape(prices, (len(prices), 1))

第二部分：创建一个回归对象：

  linewidth=3, label = 'Predicted Price') #线性回归预测结果

plt.title('Linear Regression | Time vs. Price')

plt.legend()

predicted_price =regressor.predict(date)

输出：

最受欢迎的见解

1.R语言多元Logistic逻辑回归应用案例

2.面板平滑转移回归(PSTR)分析案例实现

3.matlab中的偏最小二乘回归（PLSR）和主成分回归（PCR）

4.R语言泊松Poisson回归模型分析案例

5.R语言回归中的Hosmer-Lemeshow拟合优度检验

6.r语言中对LASSO回归，Ridge岭回归和Elastic Net模型实现

7.在R语言中实现Logistic逻辑回归

8.python用线性回归预测股票价格

9.R语言如何在生存分析与Cox回归中计算IDI，NRI指标

预测日期输入价格：

创建训练/测试集

 xtrain, x , ytrain)

#训练集

plt.title('Linear Regression | Time vs. Price')

#测试集

plt.scatter(xtest, ytest, color='yellow', label= 'Actual Price') #绘制初始数据

plt.plot(xtest, regressor.predict(xtest), color='blue', linewidth=3, label = 'Predicted Price') #plotting

plt.show()