Torch Concat詳解

一、拼接張量

拼接（Concatenation）張量是將兩個張量沿着某個維度進行拼接，得到一個更大的張量。在PyTorch中，可以使用torch.cat來完成拼接張量的操作。

import torch

# 創建3 x 2的張量
x = torch.randn(3, 2)

# 創建3 x 3的張量
y = torch.randn(3, 3)

# 沿着第二個維度對兩個張量進行拼接
z = torch.cat([x, y], dim=1)

print(z)

在上面的例子中，我們先使用torch.randn創建了兩個不同的張量x和y，張量x的維度是3 x 2，張量y的維度是3 x 3。使用torch.cat將張量x和y沿着第二個維度（即列）拼接，得到了一個維度為3 x 5的新張量z。

二、注意事項

在使用torch.cat進行張量拼接時，需要注意以下幾點。

• 拼接的維度的大小必須相同，除拼接維度外，其他維度大小也必須相同。
• 拼接的維度的編號必須在0到張量維度數減1的範圍內。
• 拼接的維度大小可以根據需要設置為-1，此時大小將自動推斷。
• 如果兩個張量是CPU張量，則拼接後的張量也是CPU張量。如果兩個張量是CUDA張量，則拼接後的張量也是CUDA張量。

三、拼接多個張量

我們也可以使用torch.cat來拼接多個張量。下面的例子將展示如何同時拼接三個張量。

import torch

# 創建3 x 2的張量
x = torch.randn(3, 2)

# 創建3 x 3的張量
y = torch.randn(3, 3)

# 創建3 x 4的張量
z = torch.randn(3, 4)

# 沿着第二個維度對三個張量進行拼接
w = torch.cat([x, y, z], dim=1)

print(w)

在上面的例子中，我們分別創建了3個不同大小的張量，使用torch.cat將它們沿着第二個維度（即列）拼接成一個維度為3 x 9的張量w。

四、使用stack拼接張量

如果需要在新創建的維度上拼接張量，可以使用torch.stack。棧（Stack）張量是一個新的張量，它將輸入張量沿着新創建的維度進行堆疊。

import torch

# 創建3 x 2的張量
x = torch.randn(3, 2)

# 創建3 x 2的張量
y = torch.randn(3, 2)

# 沿着新維度將兩個張量進行堆疊
z = torch.stack([x, y], dim=0)

print(z)

在上面的例子中，我們先使用torch.randn創建了兩個不同的張量x和y，張量x和張量y的維度都是3 x 2。使用torch.stack將張量x和張量y沿着新維度（即第0個維度）堆疊，得到了一個維度為2 x 3 x 2的新張量z。

五、結論

在PyTorch中，torch.cat和torch.stack是非常有用的函數，它們可以方便地對多個張量進行拼接操作。在使用這兩個函數時需要注意維度的大小和編號，以及張量的類型。