一、多項式回歸簡介
多項式回歸是一種基於最小二乘法的回歸分析方法,它是一種特殊的線性回歸,通過構造一個特定的多項式模型,並通過求解最小二乘法來擬合樣本的非線性關係,得到更精準的預測結果。
多項式回歸在實際應用中廣泛存在,例如:股票價格預測、房價預測等。下面將介紹如何使用Python實現多項式回歸。
二、python實現多項式回歸
1.導入必要的庫:
import numpy as np
import matplotlib.pyplot as plt
%matplotlib inline
2.準備數據:
# 生成隨機數據
np.random.seed(0)
x = np.linspace(0, 10, 100)
y = np.sin(x) + np.random.randn(100) / 5
plt.scatter(x, y);
這裡我們使用numpy庫生成了一些隨機數據,然後使用matplotlib庫將它們可視化。
3.進行多項式回歸:
# 使用最高次數為5的多項式進行回歸
p = np.polyfit(x, y, 5)
print(p)
這裡我們使用np.polyfit()函數進行多項式回歸,其中x和y是我們準備好的數據,5表示使用最高次數為5的多項式進行回歸。運行以上代碼可以輸出擬合後的係數。在這個例子中,我們使用最高次數為5的多項式進行回歸。如果你想要使用更高次數的多項式,只需要將5這個參數修改為相應的數值即可。
4.可視化多項式回歸結果:
# 將多項式擬合曲線可視化
x_plot = np.linspace(0, 10, 100)
y_plot = np.polyval(p, x_plot)
plt.scatter(x, y)
plt.plot(x_plot, y_plot, color='r');
以上代碼將多項式回歸結果可視化,其中使用了np.polyval()函數,它可以幫助我們使用回歸係數計算多項式擬合方程的值。最後使用plt.plot()函數將多項式擬合曲線可視化。
三、多項式回歸應用案例
下面舉個簡單的例子,展示多項式回歸在實際應用中的效果。
首先我們導入必要的庫,然後使用make_regression()函數創建一個隨機回歸模型。
from sklearn.linear_model import LinearRegression
from sklearn.preprocessing import PolynomialFeatures
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error
from sklearn.datasets import make_regression
# 創建一個隨機回歸模型
X, y = make_regression(n_samples=100, n_features=1, noise=20, random_state=42)
# 分割數據集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
接下來,我們創建一個多項式特徵轉換器,並訓練一個線性回歸模型。
# 創建多項式特徵轉換器,並訓練一個線性回歸模型
poly = PolynomialFeatures(degree=2)
X_poly_train = poly.fit_transform(X_train)
X_poly_test = poly.transform(X_test)
lin_reg = LinearRegression()
lin_reg.fit(X_poly_train, y_train)
然後我們可以使用均方誤差(MSE)來評價模型的性能。
# 評估模型性能
y_pred = lin_reg.predict(X_poly_test)
mse = mean_squared_error(y_test, y_pred)
print('MSE:', mse)
可視化多項式回歸結果:
# 可視化多項式回歸結果
X_plot = np.linspace(-3, 3, 100).reshape(-1, 1)
y_plot = lin_reg.predict(poly.transform(X_plot))
plt.scatter(X, y)
plt.plot(X_plot, y_plot, color='r');
四、總結
本文介紹了如何使用Python實現多項式回歸,並通過簡單的案例介紹了多項式回歸在實際應用中的效果。對於了解多項式回歸的讀者,希望本文可以為你提供一些幫助。
原創文章,作者:IRVW,如若轉載,請註明出處:https://www.506064.com/zh-hant/n/131433.html