Python中的pool问题

作者 : 开心源码 本文共919个字,预计阅读时间需要3分钟 发布时间: 2022-05-12 共175人阅读

今天在帮一个兄弟找bug的时候发现了一个与理论知识有点出入的地方,觉得还蛮有意思就分享一下。

这篇文章主要解释的是pool中map函数的运使用,函数的主题是一个爬虫,显示的结果就是爬取的页面提醒,一律代码会在最后给大家附上,可以自己尝试。

大家都知道map的函数原型为:

map(func, iterable[, chunksize=None]),其中iterable就是迭代器。

Pool类中的map方法,与内置的map函数使用法行为基本一致,它会使进程阻塞直到结果返回,这是大众对于map函数的了解,所以基本产生的结果就是顺序执行。但结果真是这样吗?

1.首先来看看在迭代次数很大时的效果:

1

可以看到因为池的数量和需要迭代的数量差距很大,所以存在资源的争夺,即便程序的执行速度很快,每个池的平均子进程数也是55,所以不会出现循序执行的结果。

2.迭代次数不变,进程池数量默认。

2

我们可以看到开始的时候也不是顺序执行的,这里就会引入少量假设:

1.第二个参数是一个迭代器,但在实际用中,必需在整个队列都就绪后,程序才会运行子进程

2.默认的进程池数量并不是1

要验证上面两种假设,就需要进行下面的步骤。.

3.限定进程池的数量

3

霍,果然就是这样,不过由于只有一个池,程序执行的速度大大减慢了。写到这里我们可以继续往下挖一挖,看看每个池平均有几个进程时不会严重影响到程序的执行顺序,换句话说资源的争夺在一个池的进程执行完后才开始。

4.比例为4的时候(5在最上面)。

4

5

当比例为4的时候,可以看到开始的时候基本会有一点小乱序,但后面基本就是顺序了,这个结果基本就很好了,再就是看看3的话是什么效果。

5.比例为3

6

果然,比例为三的时候基本就没有乱序了,同时速度也很快。但是其实用像Lock等进程锁的话基本就不会出现乱序的问题,但从这件事中,不能盲目相信官方的解释。哈哈哈

另外我也在ipython中看了Pool的相关解释,并没有发现默认进程池的数量,也许就是随机的吧,但很少会是1.

后续我会继续升级自己在程序设计中的少量心得,希望能够帮到大家,为大家处理疑惑。

源码下载地址: Wapiti08/spider-project/blob/master/qichacha.py

说明
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是摆设,本站源码仅提供给会员学习使用!
7. 如遇到加密压缩包,请使用360解压,如遇到无法解压的请联系管理员
开心源码网 » Python中的pool问题

发表回复