电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術文章
文章詳情頁

Python使用多進程運行含有任意個參數的函數

瀏覽:4日期:2022-07-26 16:07:44

1. 問題引出

許多時候,我們對程序的速度都是有要求的,速度自然是越快越好。對于Python的話,一般都是使用multiprocessing這個庫來實現程序的多進程化,例如:

我們有一個函數my_print,它的作用是打印我們的輸入:

def my_print(x):print(x)

但是我們嫌它的速度太慢了,因此我們要將這個程序多進程化:

from multiprocessing import Pool def my_print(x): print(x) if __name__ == '__main__': x = [1, 2, 3, 4, 5] pool = Pool() pool.map(my_print, x) pool.close() pool.join()

很好,現在速度與之前的單進程相比提升非常的快,但是問題來了,如果我們的參數不只有一個x,而是有多個,這樣能行嗎?比如現在my_print新增一個參數y:

def my_print(x, y):print(x + y)

查看pool.map的函數說明:

def map(self, func, iterable, chunksize=None): ’’’ Apply `func` to each element in `iterable`, collecting the results in a list that is returned. ’’’ return self._map_async(func, iterable, mapstar, chunksize).get()

發現函數的參數是作為iter傳進去的,但是我們現在有兩個參數,自然想到使用zip將參數進行打包:

if __name__ == '__main__': x = [1, 2, 3, 4, 5] y = [1, 1, 1, 1, 1] zip_args = list(zip(x, y)) pool = Pool() pool.map(my_print, zip_args) pool.close() pool.join()

可是執行后卻發現,y參數并沒有被傳進去:

Python使用多進程運行含有任意個參數的函數

那么如何傳入多個參數呢?這也就是本文的重點,接著往下看吧。

2. 解決方案

2.1 使用偏函數(partial)

偏函數有點像數學中的偏導數,可以讓我們只關注其中的某一個變量而不考慮其他變量的影響。上面的例子中,Y始終等于1,那么我們在傳入參數的時候,只需要考慮X的變化即可。

例如你有一個函數,該函數有兩個參數a,b,a是不同路徑的下的圖片的路徑,b是輸出的路徑。很明顯,a是一直在變化的,但是因為我們要將所有圖片保存在同一個文件夾下,那么b很可能一直都沒變。

具體如下:

if __name__ == ’__main__’:# 多線程,多參數,partial版本 x = [1, 2, 3, 4, 5] y = 1 partial_func = partial(my_print, y=y) pool = Pool() pool.map(partial_func, x) pool.close() pool.join()

2.2 使用可變參數

在Python函數中,函數可以定義可變參數。顧名思義,可變參數就是傳入的參數個數是可變的,可以是1個、2個到任意個,這就直接給我們提供了一種思路。具體如下:

def multi_wrapper(args): return my_print(*args) def my_print(x, y): print(x + y)if __name__ == '__main__': # 多線程,多參數,可變參數版本 x = [1, 2, 3, 4, 5] y = [1, 1, 1, 1, 1] zip_args = list(zip(x, y)) pool = Pool() pool.map(multi_wrapper, zip_args) pool.close() pool.join()

2.3 使用pathos提供的多進程庫

from pathos.multiprocessing import ProcessingPool as newPool if __name__ == ’__main__’:# 多線程,多參數,pathos版本 x = [1, 2, 3, 4, 5] y = [1, 1, 1, 1, 1] pool = newPool() pool.map(my_print, x, y) pool.close() pool.join()

在該庫的map函數下,可以看到,它允許多參數輸入,其實也就是使用了可變參數:

def map(self, f, *args, **kwds): AbstractWorkerPool._AbstractWorkerPool__map(self, f, *args, **kwds) _pool = self._serve() return _pool.map(star(f), zip(*args)) # chunksize

2.4 使用starmap函數

if __name__ == ’__main__’: # 多線程,多參數,starmap版本 x = [1, 2, 3, 4, 5] y = [1, 1, 1, 1, 1] zip_args = list(zip(x, y)) pool = Pool() pool.starmap(my_print, zip_args) pool.close() pool.join()

3. 總結

其實在以上4種實現方法中 ,第1種方法的限制較多,如果該函數的其它參數都在變化的話,那么它就不能很好地工作,而剩下的方法從體驗上來講是依次遞增的,它們都可以接受任意多參數的輸入,但是第2種需要額外寫一個函數,扣分;第3種方法需要額外安裝pathos包,扣分;而最后一種方法不需要任何額外不擇就可以完成,所以,推薦大家選擇第4種方法!

以上這篇Python使用多進程運行含有任意個參數的函數就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持好吧啦網。

標簽: Python 編程
相關文章:
主站蜘蛛池模板: China plate rolling machine manufacturer,cone rolling machine-Saint Fighter | Brotu | 关注AI,Web3.0,VR/AR,GPT,元宇宙区块链数字产业 | 【北京写字楼出租_写字楼租赁_办公室出租网/出售】-远行地产官网 | 粉末冶金注射成型厂家|MIM厂家|粉末冶金齿轮|MIM零件-深圳市新泰兴精密科技 | 粘度计NDJ-5S,粘度计NDJ-8S,越平水分测定仪-上海右一仪器有限公司 | 重庆LED显示屏_显示屏安装公司_重庆LED显示屏批发-彩光科技公司 重庆钣金加工厂家首页-专业定做监控电视墙_操作台 | 通辽信息港 - 免费发布房产、招聘、求职、二手、商铺等信息 www.tlxxg.net | 玻璃钢型材-玻璃钢风管-玻璃钢管道,生产厂家-[江苏欧升玻璃钢制造有限公司] | 深圳工程师职称评定条件及流程_深圳职称评审_职称评审-职称网 | 月嫂_保姆_育婴_催乳_母婴护理_产后康复_养老护理-吉祥到家家政 硫酸亚铁-聚合硫酸铁-除氟除磷剂-复合碳源-污水处理药剂厂家—长隆科技 | 真空吸污车_高压清洗车厂家-程力专用汽车股份有限公司官网 | 「钾冰晶石」氟铝酸钾_冰晶石_氟铝酸钠「价格用途」-亚铝氟化物厂家 | 医疗仪器模块 健康一体机 多参数监护仪 智慧医疗仪器方案定制 血氧监护 心电监护 -朗锐慧康 | 水厂污泥地磅|污泥处理地磅厂家|地磅无人值守称重系统升级改造|地磅自动称重系统维修-河南成辉电子科技有限公司 | 河南彩印编织袋,郑州饲料编织袋定制,肥料编织袋加工厂-盛军塑业 河南凯邦机械制造有限公司 | 深圳装修_店面装修设计_餐厅设计_装修全包价格-尚泰装饰设计 | 蜗轮丝杆升降机-螺旋升降机-丝杠升降机厂家-润驰传动 | 海南在线 海南一家| 氧化锆陶瓷_氧化锆陶瓷加工_氧化锆陶瓷生产厂家-康柏工业陶瓷有限公司 | 驾驶人在线_专业学车门户网站| 清管器,管道清管器,聚氨酯发泡球,清管球 - 承德嘉拓设备 | 净化车间_洁净厂房_净化公司_净化厂房_无尘室工程_洁净工程装修|改造|施工-深圳净化公司 | 点焊机-缝焊机-闪光对焊机-电阻焊设备生产厂家-上海骏腾发智能设备有限公司 | 齿式联轴器-弹性联轴器-联轴器厂家-江苏诺兴传动联轴器制造有限公司 | 吨袋包装机|吨包秤|吨包机|集装袋包装机-烟台华恩科技 | 2025世界机器人大会_IC China_半导体展_集成电路博览会_智能制造展览网 | 头条搜索极速版下载安装免费新版,头条搜索极速版邀请码怎么填写? - 欧远全 | 包塑软管|金属软管|包塑金属软管-闵彬管业 | 广州中央空调回收,二手中央空调回收,旧空调回收,制冷设备回收,冷气机组回收公司-广州益夫制冷设备回收公司 | 办公室装修_上海办公室设计装修_时尚办公新主张-后街印象 | 旋振筛_不锈钢旋振筛_气旋筛_旋振筛厂家—新乡市大汉振动机械有限公司 | 螺纹三通快插接头-弯通快插接头-宁波舜驰气动科技有限公司 | 菲希尔FISCHER测厚仪-铁素体检测仪-上海吉馨实业发展有限公司 | 喷砂机厂家_自动除锈抛丸机价格-成都泰盛吉自动化喷砂设备 | 电竞馆加盟,沈阳网吧加盟费用选择嘉棋电竞_售后服务一体化 | 宁夏活性炭_防护活性炭_催化剂载体炭-宁夏恒辉活性炭有限公司 | UV-1800紫外光度计-紫外可见光度计厂家-翱艺仪器(上海)有限公司 | 蓄电池在线监测系统|SF6在线监控泄露报警系统-武汉中电通电力设备有限公司 | 客服外包专业服务商_客服外包中心_网萌科技| 不锈钢法兰-碳钢法兰-法兰盘生产加工厂家-[鼎捷峰]-不锈钢法兰-碳钢法兰-法兰盘生产加工厂家-[鼎捷峰] | 电磁铁_小型推拉电磁铁_电磁阀厂家-深圳市宗泰电机有限公司 |