Python Sklearn Preprocessing Scale-標準化數據,提高模型準確度

一、什麼是數據標準化?

在數據挖掘和機器學習的過程中,絕大多數模型都需要對數據進行預處理。由於不同的特徵之間很可能具有不同的尺度,這就容易對模型產生不良影響。

例如有兩個特徵 age 和 income,age 的值通常在 0-100 之間(無單位),而 income 值通常在 0-100000 之間(單位為美元)。如果不對數據進行標準化,income 的值就會有更大的影響力。

數據標準化即是對原始數據進行變換,使其變換為均值為0,標準差為1的數據分布。這也被成為歸一化處理。標準化可以減少數據之間的差異影響,提高建模精度。

二、如何使用 Python 中的 Sklearn 進行數據標準化?

Python 中的 Sklearn 庫提供了大量的數據預處理工具,其中標準化(scaling)也包含在內。使用 Sklearn 實現標準化也非常簡單,代碼如下所示:

from sklearn.preprocessing import StandardScaler

# 假設 data 是一個二維數組,共有 n 個樣本
scaler = StandardScaler().fit(data)
data_scaled = scaler.transform(data)

在代碼中,我們通過導入sklearn.preprocessing中的StandardScaler類進行數據標準化。首先,初始化實例化 StandardScaler 類,根據指定的特徵數據對其進行訓練,得到每一維特徵值的均值和標準差,然後調用 transform 方法將數據標準化。

三、數據標準化的效果驗證

為了驗證數據標準化的效果,我們可以使用著名的iris數據集進行測試。iris數據集是分類問題中非常常用的數據集之一。通過比較使用歸一化前後,iris數據集上分類模型的效果,來驗證數據標準化的效果。代碼如下:

import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
from sklearn.preprocessing import StandardScaler
from sklearn import datasets

iris = datasets.load_iris()
X = iris.data
y = iris.target

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 歸一化前
clf = LogisticRegression(random_state=42).fit(X_train, y_train)
print("Before Scaling - Training set score: {:.3f}".format(clf.score(X_train, y_train)))
print("Before Scaling - Test set score: {:.3f}".format(clf.score(X_test, y_test)))

# 歸一化後
scaler = StandardScaler().fit(X_train)
X_train_scaled = scaler.transform(X_train)
X_test_scaled = scaler.transform(X_test)

clf_scaled = LogisticRegression(random_state=42).fit(X_train_scaled, y_train)
print("After Scaling - Training set score: {:.3f}".format(clf_scaled.score(X_train_scaled, y_train)))
print("After Scaling - Test set score: {:.3f}".format(clf_scaled.score(X_test_scaled, y_test)))

從上述代碼的結果可以看出,經過歸一化後,分類模型在訓練集和測試集上的效果均有提升,證明了數據標準化對於提高模型的準確度的作用。

四、總結

本篇文章介紹了使用 Sklearn 對數據進行標準化的方法,並結合 iris 數據集實現了數據標準化的效果驗證。數據標準化是機器學習建模不可或缺的一步預處理操作,在大多數情況下,數據標準化可以幫助模型更好地學習特徵,提高模型的準確度。

原創文章,作者:MSUZ,如若轉載,請註明出處:https://www.506064.com/zh-tw/n/138290.html

(0)
打賞 微信掃一掃 微信掃一掃 支付寶掃一掃 支付寶掃一掃
MSUZ的頭像MSUZ
上一篇 2024-10-04 00:19
下一篇 2024-10-04 00:19

相關推薦

  • TensorFlow Serving Java:實現開發全功能的模型服務

    TensorFlow Serving Java是作為TensorFlow Serving的Java API,可以輕鬆地將基於TensorFlow模型的服務集成到Java應用程序中。…

    編程 2025-04-29
  • Python讀取CSV數據畫散點圖

    本文將從以下方面詳細闡述Python讀取CSV文件並畫出散點圖的方法: 一、CSV文件介紹 CSV(Comma-Separated Values)即逗號分隔值,是一種存儲表格數據的…

    編程 2025-04-29
  • Python中讀入csv文件數據的方法用法介紹

    csv是一種常見的數據格式,通常用於存儲小型數據集。Python作為一種廣泛流行的編程語言,內置了許多操作csv文件的庫。本文將從多個方面詳細介紹Python讀入csv文件的方法。…

    編程 2025-04-29
  • Python訓練模型後如何投入應用

    Python已成為機器學習和深度學習領域中熱門的編程語言之一,在訓練完模型後如何將其投入應用中,是一個重要問題。本文將從多個方面為大家詳細闡述。 一、模型持久化 在應用中使用訓練好…

    編程 2025-04-29
  • 如何用Python統計列表中各數據的方差和標準差

    本文將從多個方面闡述如何使用Python統計列表中各數據的方差和標準差, 並給出詳細的代碼示例。 一、什麼是方差和標準差 方差是衡量數據變異程度的統計指標,它是每個數據值和該數據值…

    編程 2025-04-29
  • Python多線程讀取數據

    本文將詳細介紹多線程讀取數據在Python中的實現方法以及相關知識點。 一、線程和多線程 線程是操作系統調度的最小單位。單線程程序只有一個線程,按照程序從上到下的順序逐行執行。而多…

    編程 2025-04-29
  • Python兩張表數據匹配

    本篇文章將詳細闡述如何使用Python將兩張表格中的數據匹配。以下是具體的解決方法。 一、數據匹配的概念 在生活和工作中,我們常常需要對多組數據進行比對和匹配。在數據量較小的情況下…

    編程 2025-04-29
  • Python爬取公交數據

    本文將從以下幾個方面詳細闡述python爬取公交數據的方法: 一、準備工作 1、安裝相關庫 import requests from bs4 import BeautifulSou…

    編程 2025-04-29
  • Python數據標準差標準化

    本文將為大家詳細講述Python中的數據標準差標準化,以及涉及到的相關知識。 一、什麼是數據標準差標準化 數據標準差標準化是數據處理中的一種方法,通過對數據進行標準差標準化可以將不…

    編程 2025-04-29
  • 如何使用Python讀取CSV數據

    在數據分析、數據挖掘和機器學習等領域,CSV文件是一種非常常見的文件格式。Python作為一種廣泛使用的編程語言,也提供了方便易用的CSV讀取庫。本文將介紹如何使用Python讀取…

    編程 2025-04-29

發表回復

登錄後才能評論