多进程知识点总结2

1.进程池

当我们需要的进程数量不多的时候,我们可以使用multiprocessing的Process类来创建进程。但是如果我们需要的进程特别多的时候,手动创建工作量太大了,所以Python也为我们提供了Pool(池)的方式来创建大量进程。
需要注意:主进程不能结束

from multiprocessing import Pool
import time
# 进程池为了解决高并发时进行不断地创建销毁而浪费资源而设计的


def download(path):
    print("一个独立的子进程", path)
    print("下载完成")
    time.sleep(1)
    return 1


def save(args):
    print(args)
    print("下载完成视频后保存视频")

# 回调函数
# def save():
#     print("下载完成,以保存")

# def run(path):
#     for x in range(10):
#         print("zi", x.os.getpid())
#         time.sleep(1)

if __name__ == '__main__':

    # 申请进程池,进程池开辟的进程是守护进程,依赖于主进程存活
    pool = Pool(6)
    for x in range(10):
        # pool.apply_async()  异步,相互抢占资源
        pool.apply_async(func=download, args=("www.xxx.com",), callback=save)
        # pool.apply() 同步,排队形式走,一个结束另一个才会执行
        # pool.apply()
    # 结束申请,需要放在join之前
    pool.close()
    # 进程对象的join方法,使主进程等待当前
    # 子进程运行结束后再进行运行
    pool.join()
    print("程序运行完成")

2.本地进程间的通讯方式

1.队列Queue

队列中的方法如下:

from multiprocessing import Pool,Queue

q = Queue(5)#可以推几个数据

q.empty()#是否空 布尔值
q.full()#是否满 布尔值
"""
如果超出3个,put会卡主,如果get了所有数据,get会卡主
"""
q.put(3)#推
q.get()#获得
q.qsize()#有几个数据

#没有数据不会卡主,不会等待,会抛出错误
q.get_nowait()
q.put_nowait()
"""
get,put中默认值,block为是否锁定,可改为false会没有值抛出错误
timeout 可设置等待时间,过时抛出错误
"""
q.get(block = True,timeout = None)
q.put(block = True,timeout = None)

实例

from multiprocessing import Process,Queue
import time

def send(q):
    while True:
        print("发送数据子进程开始运行了")
        q.put("你好吗?")
        time.sleep(1)

def revice(q):
    while True:
        print("接受数据的子进程开始运行了")
        data = q.get()
        print("数据是=====>",data)
        time.sleep(1)

if __name__ == "__main__":
    q = Queue()

    t1 = Process(target=send,args=[q],name="sendData")
    t1.start()

    t2 = Process(target=revice,args=[q],name="reviceData")
    t2.start()
2.管道Pipe
from multiprocessing import Process, Pipe


def send(p):
    msg = " 管道 "
    print("子程序", msg)
    p.send("k")
    print("数据发送成功")
    p.close()

def receive(p):
    print("接受管道", p)

if __name__ == "__main__":
    parent_conn,son_conn = Pipe()

    t1 = Process(target=send,args=(son_conn,),name="sendData")
    t1.start()
    print("接受到数据==>",parent_conn.recv())
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,607评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,047评论 2 379
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 149,496评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,405评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,400评论 5 364
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,479评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,883评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,535评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,743评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,544评论 2 319
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,612评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,309评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,881评论 3 306
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,891评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,136评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,783评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,316评论 2 342

推荐阅读更多精彩内容

  • 进程进程的概念是需要理解的,进程是操作系统中正在运行的一个程序实例,操作系统通过进程操作原语来对其进行调度。操作系...
    zhile_doing阅读 488评论 0 0
  • 必备的理论基础 1.操作系统作用: 隐藏丑陋复杂的硬件接口,提供良好的抽象接口。 管理调度进程,并将多个进程对硬件...
    drfung阅读 3,523评论 0 5
  • 这是一个被我中断了很久的系列:“《西游记》里的十二生肖”。当初写了猪(猪八戒)、鼠(金鼻白毛老鼠精)、牛(牛魔王)...
    聆雨子阅读 3,857评论 1 11
  • 不知道大家是否都有这样的体验:你不忙的时候,什么事都没有。但是不知道哪一件事情就成了后续一系列的导火索。随着这件事...
    儒媛阅读 197评论 0 0
  • 南京城飘着一股奇怪的臭咸鱼味道,不知道是城市臭了还是人臭了还是城市中的咸鱼臭了。 在我的印象中,在我十多年前的印象...
    牛头马蚁阅读 457评论 5 10