“雙緩沖區”是一個應用很廣的手法。該手法用得最多的地方想必是屏幕繪制相關的領域(主要是為了減少屏幕閃爍)。另外,在設備驅動和工控方面,雙緩沖也經常被使用。不過今天要聊的,并不是針對上述的某個具體領域,而是側重于并發方面的同步/互斥開銷。另外提醒一下,雙緩沖方式和前面提到的隊列緩沖、環形緩沖是可以結合使用滴。
★
為啥要雙緩沖區 記得前幾天在
介紹隊列緩沖區時,提及了普通隊列緩沖區的兩個性能問題:“內存分配的開銷”和“同步/互斥的開銷”(健忘的同學,先回去看看
那個帖子復習一下)。“內存分配的開銷”已經在
介紹環形緩沖區的時候解決了,而今天要介紹的雙緩沖區,就是沖著同步/互斥的開銷來的。
為了防止有人給咱扣上“過度設計”的大帽子,又得來一個事先聲明:只有當同步或互斥的開銷非常明顯的時候,你才應該考慮雙緩沖區的使用。否則的話,大伙兒還是老老實實用最基本、最簡單的隊列緩沖區吧。
★
雙緩沖區的原理 前面說了一通廢話,現在開始切入正題,說說具體實現。
所謂“雙緩沖區”,故名思義就是要有倆緩沖區(簡稱A和B)。這倆緩沖區,總是一個用于生產者,另一個用于消費者。當倆緩沖區都操作完,再進行一次切換(先前被生產者寫入的轉為消費者讀出,先前消費者讀取的轉為生產者寫入)。由于生產者和消費者不會
同時操作
同一個緩沖區(不發生沖突),所以就不需要在讀寫
每一個數據單元的時候都進行同步/互斥操作。順便提一下,這又一次展現了
空間換時間的優化思路。
但是光有倆緩沖區還不夠。為了真正做到“不沖突”,還得再搞兩個互斥鎖(簡稱La和Lb),分別對應倆緩沖區。生產者或消費者如果要操作某個緩沖區,必須先擁有對應的互斥鎖。補充一句:要達到“不沖突”的效果,其實可以有多種搞法,今天只是挑一個簡單的來聊。
★
雙緩沖區的幾種狀態 為了加深某些同學的理解,再描述一下雙緩沖區的幾種狀態。
◇倆緩沖區都在使用的狀態(并發讀寫)
大多數情況下,生產者和消費者都處于并發讀寫狀態。不妨設生產者寫入A,消費者讀取B。在這種狀態下,生產者擁有鎖La;同樣的,消費者擁有鎖Lb。由于倆緩沖區都是處于獨占狀態,因此每次讀寫緩沖區中的元素(
數據單元)都
不需要再進行加鎖、解鎖操作。這是節約開銷的主要來源。
◇單個緩沖區空閑的狀態
由于兩個并發實體的速度會有差異,必然會出現一個緩沖區已經操作完,而另一個尚未操作完。不妨假設生產者快于消費者。
在這種情況下,當生產者把A寫滿的時候,生產者要先釋放La(表示它已經不再操作A),然后嘗試獲取Lb。由于B還沒有被讀空,Lb還被消費者持有,所以生產者進入發呆(Suspend)狀態。
◇緩沖區的切換
接著上面的話題。
過了若干時間,消費者終于把B讀完。這時候,消費者也要先釋放Lb,然后嘗試獲取La。由于La剛才已經被生產者釋放,所以消費者能立即擁有La并開始讀取A的數據。而由于Lb被消費者釋放,所以剛才發呆的生產者會緩過神來(Resume)并擁有Lb,然后生產者繼續往B寫入數據。
經過上述幾個步驟,倆緩沖區完成了對調,變為:生產者寫入B,消費者讀取A。
★
可能的并發問題 本來單個緩沖區的生產者/消費者問題就已經是教科書的經典問題了,現在搞出倆緩沖區,所以就更加耗費腦細胞了。一不小心,就會搞出些并發的Bug,而且并發的Bug還很難調試和測試(這也就是為啥不要輕易使用該玩意兒的原因)。
◇死鎖的問題
假如把前面介紹的操作步驟調換一下順序:生產者或消費者在操作完當前的緩沖區之后,先去獲取另一個緩沖區的鎖,再來釋放當前緩沖區的鎖。那會咋樣捏?
一旦兩個并發實體
同時處理完各自緩沖區,然后
同時去獲取對方擁有的鎖,那就會出現典型的死鎖(死鎖的詳細解釋參見“
這里”)場景。它倆從此陷入萬劫不復的境地。
★
應用場景 介紹完并發問題,按照
本系列的慣例,最后再來介紹一下雙緩沖區在某些場合的應用。
◇用于并發線程
在線程方式下,首先要考慮的是緩沖區的類型:到底用隊列方式還是環形方式。這方面的選擇依據在
介紹環形緩沖區的時候已經闡述過了,此處不再啰嗦(省去不少口水)。
另一個需要注意的是,某些編程語言或者程序庫提供了的線程安全的緩沖區(比如JDK 1.5引入的
ArrayBlockingQueue)。由于這種緩沖區會自動為每次的讀寫進行同步/互斥,所以就把雙緩沖的優勢抵消掉了。因此,大伙兒在進行緩沖區選型的時候要避開這類緩沖區。
◇用于并發進程
在進程間使用雙緩沖,先得考察不同IPC類型的特點。由于今天討論雙緩沖的目的是降低同步/互斥的開銷,對于那些已經封裝了同步/互斥的IPC類型,就沒太大必要再去搞雙緩沖了(單憑這條就足以讓好多種IPC出局)。剩下的IPC類型中,比較適合用雙緩沖的主要是:共享內存和文件。非常湊巧,這兩個玩意兒的特點和適用范圍在
環形緩沖區的帖子里面也已經介紹過了,俺又可以節省不少口水 :)
版權聲明
本博客所有的原創文章,作者皆保留版權。轉載必須包含本聲明,保持本文完整,并以超鏈接形式注明作者編程隨想和本文原始地址:
http://program-think.blogspot.com/2009/04/producer-consumer-pattern-4-double.html
posted on 2010-01-28 11:39
李陽 閱讀(2270)
評論(0) 編輯 收藏 引用