谈谈我所理解的进程和线程

一个最基本的问题,进程之间如何通信,如何同步?线程之间又是如何同步的?

我是这么理解的,进程之间的关系主要是通信,线程之间的关系主要是同步。

  1. 因为进程之间的内存模型是相互独立的,所以进程之间大多都不需要锁,需要锁的也是文件锁之类的大锁,并不需要条件变量,互斥锁这样的机制来同步。

  2. 而线程之间就不一样了,它们共享一个进程下面的所有资源,所以一个临时变量,两个线程是都可以访问和修改的。所以,线程需要来完成变量的同步。

进程的通信机制:(五种)
1.共享内存
2.socket
3.消息队列
4.信号
5.管道

进程之间对于某些问题,进程之间还是需要同步的(比如文件锁),那么进程之间要如何同步?

这里需要讲几个概念,操作系统里面把一次仅允许一个进程使用的资源叫做临界资源(Critical resource)。为了确保临界资源不会被两个进程同时占有,那么解决的办法是信号量的机制(semaphare),对信号量的两个操作就是P,V操作。所以,小结一下,进程间同步的方式就是信号量

同样,线程之间如何同步?

  1. 锁机制 :互斥锁,读写锁
  2. 条件变量

下面是用python是实现一下进程和线程同步的方法。
进程
demo1. 两个进程加锁的去读写一个文件。
demo2. 使用信号量(semaphore)来控制对共享资源的访问数量,例如池的最大连接数。
demo3. Event用来实现进程间同步通信。
demo4. python里面用Pipe类和Queue类,来实现进程通信。

线程
demo4. 线程之间的同步问题。


下面是python的关于进程同步的实现。
主要是基于下面的几个类:
1.multiprocessing.Lock() //锁的机制
2.multiprocessing.Semaphore() //信号量 ,类似于PV操作
3.multiprocessing.Event() //时间机制

用于通信的:
1.multiprocessing.Queue() //用于进程之间通信的队列,注意multiprocessing.Queue() 和Queue.Queue() 是完全不一样的。
2.mulitprocessing.Pipe() //管道也可以用于通信,通信的双方各在一端读写

demo1 其实是一个进程的同步问题,python下面的实现,我使用的是multiprocess库里面的lock类来解决的。

#encoding:utf-8
import multiprocessing
import sys

def worker_with(lock, f):
    #加锁
    lock.acquire()
    fs = open(f,"a+")
    fs.write('Lock acquired via with\n')
    fs.close()
    #解锁
    lock.release()

def worker_with_2(lock, f):
   #加锁的另外一种方式
    with lock:
        fs = open(f,"a+")
        fs.write('Lock acquired via with\n')
        fs.close()
        
def worker_no_with(lock, f):
    lock.acquire()
    try:
        fs = open(f,"a+")
        fs.write('Lock acquired directly\n')
        fs.close()
    finally:
        lock.release()

if __name__ == "__main__":
    f = "file1-1.txt"
    #创建一个锁
    lock = multiprocessing.Lock()
    w = multiprocessing.Process(target=worker_with_2, args=(lock, f))
    nw = multiprocessing.Process(target=worker_no_with, args=(lock, f))
    w.start()
    nw.start()
    w.join()
    nw.join()

这个是通过创建一个锁,lock = multiprocessing.Lock(),通过 lock.acquire()的方式来加锁, lock.release()的方式来释放锁。通过这样的机制来做到互斥的访问文件。

demo2使用信号量(semaphore)来控制对共享资源的访问数量,例如池的最大连接数。

#使用semaphore限制了最多有2个进程同时执行。
#encoding:utf-8
import multiprocessing
import time
import os

def worker(s,i):
   #相当于p操作,给信号量减1,当信号量为0的时候,进程被阻塞在这里面
    s.acquire()
    print (i,' > ',str(os.getpid()),str(time.ctime()))
    time.sleep(5)
    #相当于v操作,给信号量加1
    s.release()

if __name__=='__main__':
    pro=[]
   #创建一个信号量,他的值是2
    s=multiprocessing.Semaphore(2)
    for i in range(5):
        p=multiprocessing.Process(target=worker,args=(s,i))
        pro.append(p)
    
    for i in range(5):
        pro[i].start()
    
    for i in range(5):
        pro[i].join()

demo3 Event用来实现进程间同步通信。

#encoding:utf-8
import multiprocessing
import time

def wait_for_event(e):
    """Wait for the event to be set before doing anything"""
    print ('wait_for_event: starting')
    e.wait()
    print ('wait_for_event: e.is_set()->' + str(e.is_set()))

def wait_for_event_timeout(e):
    """Wait t seconds and then timeout"""
    t=2
    print ('wait_for_event_timeout: starting')
    e.wait(t)
    print ('wait_for_event_timeout: e.is_set()->' + str(e.is_set()))

"""
#使用event机制来实现进程间同步通信
if __name__ == '__main__':
    #等待时间event被设置,然后另外一个进程才会执行,要不然另外一个进程就一直阻塞在这里
    e = multiprocessing.Event()
    w1 = multiprocessing.Process(name='block',target=wait_for_event,args=(e,))
    w1.start()
    time.sleep(5)
    e.set()
    print ('main: event is set')

"""
if __name__ == '__main__':
    #设置一个等待的倒计时,如果超时了,就不等了,继续往下执行
    #在3s的时候,将时间event设置,然后另外一个进程就可以继续往下执行了,
    #但是如果没有设置set(),那么另外一个进程最后等5s,然后就继续往下执行
    e = multiprocessing.Event()
    w2 = multiprocessing.Process(name='non-block',target=wait_for_event_timeout,args=(e, ))
    
    time.sleep(3)
    e.set()

    w2.start()
    w2.join()

进程的通信:
管道和队列:http://www.jianshu.com/p/a4de38b8c68d


线程的同步

线程之间的同步的方法,主要是threading库里面的几个类(基本上是和线程库对应的)
threading.Lock()
threading.Semaphore()
threading.Event()
threading.Condition()

1. 线程加锁,解决同步问题
#encoding:utf-8
import time, threading

# 假定这是你的银行存款:
balance = 0

def change_it(n):
    # 先存后取,结果应该为0:
    global balance
    balance = balance + n
    balance = balance - n

def run_thread(n,lock):
    for i in range(100000):
        lock.acquire()
        try:
            change_it(n)
        finally:
            lock.release()

lock=threading.Lock()

t1 = threading.Thread(target=run_thread, args=(5,lock))
t2 = threading.Thread(target=run_thread, args=(8,lock))
t1.start()
t2.start()
t1.join()
t2.join()
print balance
2. 线程的信号量
#encoding:utf-8
import time, threading

# 假定这是你的银行存款:
balance = 0

def change_it(n):
    # 先存后取,结果应该为0:
    global balance
    balance = balance + n
    balance = balance - n

def run_thread(n,lock):
    for i in range(100000):
        lock.acquire()
        try:
            change_it(n)
        finally:
            lock.release()

lock=threading.Lock()

t1 = threading.Thread(target=run_thread, args=(5,lock))
t2 = threading.Thread(target=run_thread, args=(8,lock))
t1.start()
t2.start()
t1.join()
t2.join()
print balance
3. 线程的事件机制
#encoding:utf-8
import time, threading


def wait_for_event(e):
    print (time.ctime())
    e.wait()
    time.sleep(2)
    print (time.ctime())
    print ('wait_for_event: e.is_set()->' + str(e.is_set()))

def wait_for_event_timeout(e):
    t=5
    print ('wait_for_event_timeout: starting')
    e.wait(t)
    print ('wait_for_event_timeout: e.is_set()->' + str(e.is_set()))

"""
if __name__ == '__main__':
    event=threading.Event()
    th=threading.Thread(target=wait_for_event,args=(event,))
    th.start()

    time.sleep(3)
    event.set()
    print ('main: event is set')
    th.join()
"""

if __name__ == '__main__':
    event=threading.Event()
    th=threading.Thread(target=wait_for_event_timeout,args=(event,))
    th.start()
    th.join()
4.condition

to-do

附加题

多线程下有锁的数据结构
多线程无锁的数据结构(无锁的情况下,能不能实现同步?)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,902评论 5 468
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,037评论 2 377
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,978评论 0 332
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,867评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,763评论 5 360
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,104评论 1 277
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,565评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,236评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,379评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,313评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,363评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,034评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,637评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,719评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,952评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,371评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,948评论 2 341

推荐阅读更多精彩内容