PyTorch二分類詳解

一、基本概念

PyTorch是一個使用動態計算圖的開源機器學習庫，而二分類問題是機器學習中最基本、最常見的問題。在PyTorch中，二分類問題最常用的算法是邏輯回歸(Logistic Regression)。

二、數據準備

在二分類問題中，我們通常需要準備好兩個類別的數據，同時將數據集分為訓練集和測試集。具體實現方式如下：

import torch
from torch.utils.data import Dataset, DataLoader

# 定義數據集
class MyDataset(Dataset):
    def __init__(self, data, labels):
        self.data = data.float()
        self.labels = labels
    
    def __len__(self):
        return len(self.data)
    
    def __getitem__(self, index):
        x = self.data[index]
        y = self.labels[index]
        return x, y

# 準備數據
train_data = torch.tensor([[0.12, 0.23], [0.03, 0.45], [0.67, 0.39], [0.13, 0.52], [0.55, 0.69]])
train_labels = torch.tensor([0, 1, 1, 0, 1])
train_dataset = MyDataset(train_data, train_labels)

test_data = torch.tensor([[0.19, 0.66], [0.44, 0.83], [0.87, 0.29], [0.76, 0.09]])
test_labels = torch.tensor([1, 0, 1, 0])
test_dataset = MyDataset(test_data, test_labels)

# 加載數據
train_loader = DataLoader(train_dataset, batch_size=2, shuffle=True)
test_loader = DataLoader(test_dataset, batch_size=2, shuffle=False)

三、模型構建

邏輯回歸模型可以通過定義一個類來實現。在類中，需要定義模型的結構以及前向傳播的過程。在二分類問題中，通常使用sigmoid函數作為輸出層的激活函數。

import torch.nn as nn

# 定義模型
class LogisticRegression(nn.Module):
    def __init__(self):
        super(LogisticRegression, self).__init__()
        self.linear = nn.Linear(2, 1)
        self.sigmoid = nn.Sigmoid()
    
    def forward(self, x):
        out = self.linear(x)
        out = self.sigmoid(out)
        return out

model = LogisticRegression()

四、損失函數和優化器

在二分類問題中，通常使用二元交叉熵損失函數(Binary Cross Entropy Loss)作為損失函數，使用隨機梯度下降(SGD)或Adam優化器。

criterion = nn.BCELoss()
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)

五、模型訓練

在進行模型訓練時，通常需要通過多次迭代訓練模型，並在每一次迭代後計算模型在驗證集上的準確率和損失值。

num_epochs = 100
for epoch in range(num_epochs):
    for i, (inputs, labels) in enumerate(train_loader):
        # 前向傳播
        outputs = model(inputs)
        loss = criterion(outputs, labels.float().view(-1, 1))
        
        # 後向傳播及優化
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()
        
        # 每100次迭代輸出一次信息
        if (i + 1) % 100 == 0:
            print('Epoch [{}/{}], Step [{}/{}], Loss: {:.4f}'.format(epoch+1, num_epochs, i+1, len(train_loader), loss.item()))

    # 計算在訓練集和驗證集上的準確率及損失值
    with torch.no_grad():
        train_correct = 0
        train_total = 0
        train_loss = 0.0
        for inputs, labels in train_loader:
            outputs = model(inputs)
            predicted = (outputs >= 0.5).float()
            train_correct += (predicted == labels.float().view(-1, 1)).sum().item()
            train_total += len(labels)
            train_loss += criterion(outputs, labels.float().view(-1, 1)).item() * len(labels)

        test_correct = 0
        test_total = 0
        test_loss = 0.0
        for inputs, labels in test_loader:
            outputs = model(inputs)
            predicted = (outputs >= 0.5).float()
            test_correct += (predicted == labels.float().view(-1, 1)).sum().item()
            test_total += len(labels)
            test_loss += criterion(outputs, labels.float().view(-1, 1)).item() * len(labels)

        train_acc = train_correct / train_total
        train_loss /= train_total
        test_acc = test_correct / test_total
        test_loss /= test_total

        print('Epoch [{}/{}], Train Loss: {:.4f}, Train Acc: {:.2f}%, Test Loss: {:.4f}, Test Acc: {:.2f}%'.format(epoch+1, num_epochs, train_loss, train_acc*100, test_loss, test_acc*100))

六、模型評估

在模型訓練完成後，可以使用測試集來評估模型的性能。

with torch.no_grad():
    correct = 0
    total = 0
    for inputs, labels in test_loader:
        outputs = model(inputs)
        predicted = (outputs >= 0.5).float()
        correct += (predicted == labels.float().view(-1, 1)).sum().item()
        total += len(labels)
    accuracy = correct / total
    print('Test Accuracy: {:.2f}%'.format(accuracy*100))

七、總結

通過本文，我們詳細介紹了使用PyTorch進行二分類的基本流程，包括數據準備、模型構建、損失函數和優化器的設置、模型訓練和模型評估。在實踐中，我們可以通過修改模型結構、損失函數和優化器的設置來進一步提高模型性能。