pycuda安裝指南

一、安裝Python

在安裝pycuda前，需要先安裝Python環境，建議使用Python3以上的版本。

可以從Python官網（https://www.python.org/downloads/）下載對應版本的安裝包。

 #下載並安裝Python3.8
 wget https://www.python.org/ftp/python/3.8.0/Python-3.8.0.tgz
 tar -zxvf Python-3.8.0.tgz
 cd Python-3.8.0
 ./configure
 make
 make install

二、安裝CUDA Toolkit

pycuda需要CUDA Toolkit支持，因此需要先安裝CUDA Toolkit。

可以從NVIDIA官網（https://developer.nvidia.com/cuda-toolkit-archive）下載對應版本的安裝包。

#下載並安裝CUDA Toolkit 10.2
 wget https://developer.download.nvidia.com/compute/cuda/10.2/Prod/local_installers/cuda_10.2.89_440.33.01_linux.run
 chmod +x cuda_10.2.89_440.33.01_linux.run
 sudo ./cuda_10.2.89_440.33.01_linux.run

三、安裝pycuda

在安裝Python和CUDA Toolkit後，接下來就可以安裝pycuda了。

可以使用pip命令安裝pycuda。

 #使用pip安裝pycuda
 pip install pycuda

也可以從pycuda官網（https://pypi.org/project/pycuda/#files）下載對應版本的源代碼，進行編譯安裝。

 #從源代碼編譯安裝pycuda
 wget https://files.pythonhosted.org/packages/90/94/bd6f8f01f761cb7111670e7c1a35cddcaa0a0d6aa693a5c3f233d8c82c23/pycuda-2020.1.tar.gz
 tar -zxvf pycuda-2020.1.tar.gz
 cd pycuda-2020.1
 python setup.py build
 python setup.py install

四、使用pycuda

安裝好pycuda後，就可以使用它來進行CUDA加速了。

首先需要導入相應的模塊：

 #導入pycuda模塊
 import pycuda.driver as cuda
 import pycuda.autoinit
 from pycuda.compiler import SourceModule

然後，可以使用SourceModule來編譯CUDA代碼：

 #編譯CUDA代碼
 mod = SourceModule("""
         __global__ void add(float *a, float *b, float *c)
         {
           int idx = threadIdx.x + blockIdx.x * blockDim.x;
           c[idx] = a[idx] + b[idx];
         }
         """)

接着，可以定義變量並初始化：

 #定義變量並初始化
 import numpy as np
 a = np.random.randn(4, 4).astype(np.float32)
 b = np.random.randn(4, 4).astype(np.float32)
 c = np.zeros((4, 4)).astype(np.float32)

最後，可以通過調用編譯後的函數來進行CUDA加速：

 #CUDA加速
 func = mod.get_function("add")
 func(cuda.In(a), cuda.In(b), cuda.Out(c), block=(4, 4, 1))
 print(c)

五、常見問題

1、出現「Command ‘clang’ not found」錯誤

解決方法：安裝clang。

 sudo apt-get install clang

2、出現「nvcc fatal : Unsupported gpu architecture ‘compute_20’」錯誤

解決方法：在編譯CUDA代碼時，指定GPU的計算能力版本。

 mod = SourceModule("""
         #pragma gpu_target 2,0
         ...
         """)