用Python的tqdm模块和multiprocessing模块加速你的代码

一、tqdm模块的应用

tqdm是一个快速,可扩展的Python进度条,可以用于任何可迭代的对象,如列表,元组,字典等。使用tqdm模块可以方便地显示进度条,并且可以加快代码运行速度。

以计算10000个数字的和为例:

from tqdm import tqdm

sum = 0
for i in tqdm(range(10000)):
    sum += i
print(sum)

在代码中,通过循环遍历range(10000)的数字,每次加到变量sum中,并在tqdm()函数中使用range()函数来生成对应的进度条。执行代码后,控制台会一行一行地显示进度,并在最后输出结果。

此外,tqdm模块还支持多线程,可以同步地更新多个进度条。例如,计算10000个数字的和,同时对前100个数字进行乘法运算:

from tqdm import tqdm
import threading

class CalcThread(threading.Thread):
    def __init__(self, start, end):
        threading.Thread.__init__(self)
        self.start = start
        self.end = end
        
        def run(self):
            global sum
            
            for i in range(self.start, self.end):
                sum += i
        return sum
    
class MutiThreadCalc():
    def __init__(self, thread_num):
        self.thread_num = thread_num
        self.total_range = 10000
        
    def calc(self):
        global sum
        sum = 0
        
        threads = []
        step = self.total_range // self.thread_num
        
        for i in range(self.thread_num):
            thread = CalcThread(i * step, (i + 1) * step)
            threads.append(thread)
            
        for t in threads:
            t.start()
            
        pbar_process = tqdm(total=self.total_range)
        while True:
            counts = 0
            for t in threads:
                if not t.is_alive():
                    counts += 1
                    
            pbar_process.update(counts * step)
            
            if counts == len(threads):
                break
                
        pbar_process.close()
                
        return sum
    
if __name__ == '__main__':
    mtc = MutiThreadCalc(2)
    sum = mtc.calc()
    print('sum={}'.format(sum))

在代码中,通过继承Thread类创建一个线程类,然后按照分割的范围对计算任务进行拆分,每个线程计算一部分,最后汇总计算结果,更新进度条。执行结果如下:

sum=49995000

二、multiprocessing模块的应用

multiprocessing是Python中的进程模块,提供了创建和管理进程的方式,可以方便地进行并行处理。使用multiprocessing模块可以加快代码运行速度,提高程序的效率。

以简单的计算10000个数字的和为例:

from multiprocessing import Pool
from tqdm import tqdm

def calc(num):
    sum = 0
    for i in num:
        sum += i
    return sum

if __name__ == '__main__':
    range_num = 10000
    pool_num = 4
    pool = Pool(processes=pool_num)
    
    step = range_num // pool_num
    ranges = [(i * step, (i + 1) * step) for i in range(pool_num)]
    ranges[-1] = (ranges[-1][0], range_num)
    
    results = []
    for r in ranges:
        result = pool.apply_async(calc, args=(range(r[0], r[1]),))
        results.append(result)
        
    pool.close()
    
    pbar_process = tqdm(total=range_num)
    while True:
        counts = 0
        for r in results:
            if r.ready():
                counts += 1
                
        pbar_process.update(counts * step)
        
        if counts == len(results):
            break
            
    pbar_process.close()
    
    sum = 0
    for r in results:
        sum += r.get()
        
    print('sum={}'.format(sum))

在代码中,通过创建进程池,按照分割的范围对计算任务进行拆分,每个进程计算一部分,最后汇总计算结果,更新进度条。执行结果如下:

sum=49995000

三、总结

使用tqdm模块和multiprocessing模块可以大大提高程序的效率,加快代码的运行速度。使用tqdm模块可以方便地显示进度条,使用multiprocessing模块可以实现并行处理,提高计算速度。

原创文章,作者:MVQSW,如若转载,请注明出处:https://www.506064.com/n/316252.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
MVQSWMVQSW
上一篇 2025-01-09 12:14
下一篇 2025-01-09 12:14

相关推荐

  • Python中引入上一级目录中函数

    Python中经常需要调用其他文件夹中的模块或函数,其中一个常见的操作是引入上一级目录中的函数。在此,我们将从多个角度详细解释如何在Python中引入上一级目录的函数。 一、加入环…

    编程 2025-04-29
  • Python列表中负数的个数

    Python列表是一个有序的集合,可以存储多个不同类型的元素。而负数是指小于0的整数。在Python列表中,我们想要找到负数的个数,可以通过以下几个方面进行实现。 一、使用循环遍历…

    编程 2025-04-29
  • 如何查看Anaconda中Python路径

    对Anaconda中Python路径即conda环境的查看进行详细的阐述。 一、使用命令行查看 1、在Windows系统中,可以使用命令提示符(cmd)或者Anaconda Pro…

    编程 2025-04-29
  • Python官网中文版:解决你的编程问题

    Python是一种高级编程语言,它可以用于Web开发、科学计算、人工智能等领域。Python官网中文版提供了全面的资源和教程,可以帮助你入门学习和进一步提高编程技能。 一、Pyth…

    编程 2025-04-29
  • Python计算阳历日期对应周几

    本文介绍如何通过Python计算任意阳历日期对应周几。 一、获取日期 获取日期可以通过Python内置的模块datetime实现,示例代码如下: from datetime imp…

    编程 2025-04-29
  • Python周杰伦代码用法介绍

    本文将从多个方面对Python周杰伦代码进行详细的阐述。 一、代码介绍 from urllib.request import urlopen from bs4 import Bea…

    编程 2025-04-29
  • Python程序需要编译才能执行

    Python 被广泛应用于数据分析、人工智能、科学计算等领域,它的灵活性和简单易学的性质使得越来越多的人喜欢使用 Python 进行编程。然而,在 Python 中程序执行的方式不…

    编程 2025-04-29
  • 蝴蝶优化算法Python版

    蝴蝶优化算法是一种基于仿生学的优化算法,模仿自然界中的蝴蝶进行搜索。它可以应用于多个领域的优化问题,包括数学优化、工程问题、机器学习等。本文将从多个方面对蝴蝶优化算法Python版…

    编程 2025-04-29
  • python强行终止程序快捷键

    本文将从多个方面对python强行终止程序快捷键进行详细阐述,并提供相应代码示例。 一、Ctrl+C快捷键 Ctrl+C快捷键是在终端中经常用来强行终止运行的程序。当你在终端中运行…

    编程 2025-04-29
  • Python清华镜像下载

    Python清华镜像是一个高质量的Python开发资源镜像站,提供了Python及其相关的开发工具、框架和文档的下载服务。本文将从以下几个方面对Python清华镜像下载进行详细的阐…

    编程 2025-04-29

发表回复

登录后才能评论