高效利用Python的多線程技術進行並發操作

一、並發與多線程

在計算機領域中,我們會頻繁聽到並發和並行兩個概念。其中,並發是指同一時間段內處理多個任務,而並行則是指同一時刻執行多個任務。那麼多線程技術可以幫助實現並發操作。

在Python中,我們可以使用threading模塊來創建和操作線程對象。其中,threading模塊中最常用的是Thread類。下面是一個簡單的多線程的示例代碼:

import threading

def worker():
    """Thread worker function"""
    print('Worker')

threads = []
for i in range(5):
    t = threading.Thread(target=worker)
    threads.append(t)
    t.start()

通過上面的代碼可以看出,我們創建了5個線程,這5個線程共享同一個函數worker()。每個線程都會執行worker()函數中的操作。這就實現了並發操作,提高了程序的效率。

二、Python的全局解釋器鎖(GIL)

但是,需要注意的是,Python解釋器中的全局解釋器鎖(GIL)會限制Python線程的並行執行,因為在同一時間只能有一個線程在解釋器中運行Python字節碼。這也就是說,Python多線程是並發執行的,而不是並行執行的。

了解了GIL的限制,我們可以考慮使用線程池來提高並發操作的效率。線程池中維護着大量線程,在需要的時候分配給程序使用,從而避免了線程創建和銷毀所帶來的開銷。下面是一個使用Python中的ThreadPoolExecutor實現線程池的示例代碼:

from concurrent.futures import ThreadPoolExecutor
import concurrent.futures

def worker(count):
    """Thread worker function"""
    print(f'Thread-{count}')

with ThreadPoolExecutor(max_workers=5) as executor:
    future_to_count = {executor.submit(worker, count): count for count in range(5)}
    for future in concurrent.futures.as_completed(future_to_count):
        count = future_to_count[future]
        try:
            data = future.result()
        except Exception as exc:
            print(f'Thread-{count} generated an exception: {exc}')
        else:
            print(f'Thread-{count} done')

上面的代碼中,我們使用ThreadPoolExecutor創建了一個最大5個線程的線程池,接着使用submit方法向線程池中提交任務,最後通過as_completed()函數獲得每個線程的結果。這種方式可以大大提高並發操作的效率。

三、使用Python多線程進行IO密集型操作

除了使用線程池來提高並發操作的效率外,我們還可以使用多線程解決一些IO密集型操作。因為在這種情況下,線程的執行不會阻塞CPU,而是在等待IO操作完成時被阻塞,這就可以讓其他線程繼續執行,並提高效率。

下面是一個使用多線程處理IO密集型操作的示例代碼:

import threading
import requests

def download(url):
    """Thread worker function"""
    filename = url.split('/')[-1]
    with open(filename, 'wb') as f:
        response = requests.get(url)
        f.write(response.content)
        print(f'Downloaded {filename}')

urls = [
    'https://picsum.photos/200/300',
    'https://picsum.photos/250/350',
    'https://picsum.photos/300/400',
    'https://picsum.photos/350/450',
    'https://picsum.photos/400/500'
]

threads = []
for url in urls:
    t = threading.Thread(target=download, args=(url,))
    threads.append(t)
    t.start()

上面的代碼中,我們使用requests庫下載了一些圖片,並使用多線程的方式下載,加快了下載的速度。

四、使用Python多線程進行CPU密集型操作

在Python中,並發編程主要是通過多線程完成的,但是多線程對於CPU密集型操作並不友好。因為在同一時間只有一個線程可以在解釋器中運行Python字節碼,所以線程的數量也不會對程序的性能起到很大的作用。

在這種情況下,我們可以考慮使用多進程來實現並發操作。每個進程都維護着自己的解釋器和GIL,因此可以實現真正的並行操作。下面是一個使用Python多進程進行CPU密集型操作的示例代碼:

import multiprocessing

def fib(n):
    """Fibonacci function"""
    if n<=2:
        return 1
    return fib(n-1) + fib(n-2)

pool = multiprocessing.Pool(processes=4)

inputs = [10, 11, 12, 13]
outputs = pool.map(fib, inputs)

print(outputs)

上面的代碼中,我們使用Python的multiprocessing.Pool類實現多進程計算斐波那契數列。在這種情況下,每個進程維護着自己的解釋器和GIL,因此可以實現並行操作。

原創文章,作者:小藍,如若轉載,請註明出處:https://www.506064.com/zh-hant/n/305007.html

(0)
打賞 微信掃一掃 微信掃一掃 支付寶掃一掃 支付寶掃一掃
小藍的頭像小藍
上一篇 2025-01-01 11:06
下一篇 2025-01-01 11:06

相關推薦

  • Python棧操作用法介紹

    如果你是一位Python開發工程師,那麼你必須掌握Python中的棧操作。在Python中,棧是一個容器,提供後進先出(LIFO)的原則。這篇文章將通過多個方面詳細地闡述Pytho…

    編程 2025-04-29
  • Python多線程讀取數據

    本文將詳細介紹多線程讀取數據在Python中的實現方法以及相關知識點。 一、線程和多線程 線程是操作系統調度的最小單位。單線程程序只有一個線程,按照程序從上到下的順序逐行執行。而多…

    編程 2025-04-29
  • Python操作數組

    本文將從多個方面詳細介紹如何使用Python操作5個數組成的列表。 一、數組的定義 數組是一種用於存儲相同類型數據的數據結構。Python中的數組是通過列表來實現的,列表中可以存放…

    編程 2025-04-29
  • Python熱重載技術

    Python熱重載技術是現代編程的關鍵功能之一。它可以幫助我們在程序運行的過程中,更新代碼而無需重新啟動程序。本文將會全方位地介紹Python熱重載的實現方法和應用場景。 一、實現…

    編程 2025-04-29
  • Python操作MySQL

    本文將從以下幾個方面對Python操作MySQL進行詳細闡述: 一、連接MySQL數據庫 在使用Python操作MySQL之前,我們需要先連接MySQL數據庫。在Python中,我…

    編程 2025-04-29
  • Python代碼實現迴文數最少操作次數

    本文將介紹如何使用Python解決一道經典的迴文數問題:給定一個數n,按照一定規則對它進行若干次操作,使得n成為迴文數,求最少的操作次數。 一、問題分析 首先,我們需要了解迴文數的…

    編程 2025-04-29
  • Python磁盤操作全方位解析

    本篇文章將從多個方面對Python磁盤操作進行詳細闡述,包括文件讀寫、文件夾創建、刪除、文件搜索與遍歷、文件重命名、移動、複製、文件權限修改等常用操作。 一、文件讀寫操作 文件讀寫…

    編程 2025-04-29
  • Python元祖操作用法介紹

    本文將從多個方面對Python元祖的操作進行詳細闡述。包括:元祖定義及初始化、元祖遍歷、元祖切片、元祖合併及比較、元祖解包等內容。 一、元祖定義及初始化 元祖在Python中屬於序…

    編程 2025-04-29
  • 如何用Python對數據進行離散化操作

    數據離散化是指將連續的數據轉化為離散的數據,一般是用於數據挖掘和數據分析中,可以幫助我們更好的理解數據,從而更好地進行決策和分析。Python作為一種高效的編程語言,在數據處理和分…

    編程 2025-04-29
  • Python列表的讀寫操作

    本文將針對Python列表的讀取與寫入操作進行詳細的闡述,包括列表的基本操作、列表的增刪改查、列表切片、列表排序、列表反轉、列表拼接、列表複製等操作。 一、列表的基本操作 列表是P…

    編程 2025-04-29

發表回復

登錄後才能評論