在網(wǎng)絡(luò)應(yīng)用服務(wù)器端, 為了性能和防止阻塞, 經(jīng)常會(huì)把邏輯處理和I/O處理分離:
I/O網(wǎng)絡(luò)線程處理I/O事件: 數(shù)據(jù)包的接收和發(fā)送, 連接的建立和維護(hù)等.
邏輯線程要對(duì)收到的數(shù)據(jù)包進(jìn)行邏輯處理.
通常網(wǎng)絡(luò)線程和邏輯線程之間是通過(guò)數(shù)據(jù)包隊(duì)列來(lái)交換信息, 簡(jiǎn)單來(lái)說(shuō)就是一個(gè)生產(chǎn)者-消費(fèi)者模式.
這個(gè)隊(duì)列是多個(gè)線程在共享訪問必須加鎖, 意味著每次訪問都要加鎖。如何更好的如何減少鎖競(jìng)爭(zhēng)次數(shù)呢 ?
方案一 雙緩沖消息隊(duì)列:
兩個(gè)隊(duì)列,一個(gè)給邏輯線程讀,一個(gè)給IO線程用來(lái)寫,當(dāng)邏輯線程讀完隊(duì)列后會(huì)將自己的隊(duì)列與IO線程的隊(duì)列相調(diào)換。
IO線程每次寫隊(duì)列時(shí)都要加鎖,邏輯線程在調(diào)換隊(duì)列時(shí)也需要加鎖,但邏輯線程在讀隊(duì)列時(shí)是不需要加鎖的.
隊(duì)列緩沖區(qū)的大小要根據(jù)數(shù)據(jù)量的大小進(jìn)行調(diào)整的,如果緩沖區(qū)很小,就能更及時(shí)的處理數(shù)據(jù),但吞吐量以及出現(xiàn)資源競(jìng)爭(zhēng)的幾率大多了。
可以給緩沖隊(duì)列設(shè)置最大上限,超過(guò)上限的數(shù)量之后,將包丟棄不插入隊(duì)列。
另外,雙緩沖的實(shí)現(xiàn)也有不同策略的,
一是讀操作優(yōu)先,就是生產(chǎn)者只要發(fā)現(xiàn)空閑緩沖,馬上swap,
二是寫線程只有在當(dāng)前的緩沖區(qū)寫滿了,才進(jìn)行swap操作。
三是上層邏輯按照幀率來(lái)處理,每一幀的時(shí)候?qū)㈦p層緩沖隊(duì)列調(diào)換一下,取一個(gè)隊(duì)列來(lái)處理即可
方案二 提供一個(gè)隊(duì)列容器:
提供一個(gè)隊(duì)列容器,里面有多個(gè)隊(duì)列,每個(gè)隊(duì)列都可固定存放一定數(shù)量的消息。網(wǎng)絡(luò)IO線程要給邏輯線程投遞消息時(shí),會(huì)從隊(duì)列容器中取一個(gè)空隊(duì)列來(lái)使用,直到將該隊(duì)列填滿后再放回容器中換另一個(gè)空隊(duì)列。而邏輯線程取消息時(shí)是從隊(duì)列容器中取一個(gè)有消息的隊(duì)列來(lái)讀取,處理完后清空隊(duì)列再放回到容器中。
這樣便使得只有在對(duì)隊(duì)列容器進(jìn)行操作時(shí)才需要加鎖,而IO線程和邏輯線程在操作自己當(dāng)前使用的隊(duì)列時(shí)都不需要加鎖,所以鎖競(jìng)爭(zhēng)的機(jī)會(huì)大大減少了。
這里為每個(gè)隊(duì)列設(shè)了個(gè)最大消息數(shù),看來(lái)好像是打算只有當(dāng)IO線程寫滿隊(duì)列時(shí)才會(huì)將其放回到容器中換另一個(gè)隊(duì)列。那這樣有時(shí)也會(huì)出現(xiàn)IO線程未寫滿一個(gè)隊(duì)列,而邏輯線程又沒有數(shù)據(jù)可處理的情況,特別是當(dāng)數(shù)據(jù)量很少時(shí)可能會(huì)很容易出現(xiàn)[這個(gè)可以通過(guò)設(shè)置超時(shí)來(lái)處理, 如果當(dāng)前時(shí)間-向隊(duì)列放入第一個(gè)包的時(shí)間 > 50 ms, 就將其放回到容器中換另一個(gè)隊(duì)列]。
通常我們邏輯服務(wù)器會(huì)以場(chǎng)景來(lái)劃分線程,不同線程執(zhí)行不同場(chǎng)景.一個(gè)線程可以執(zhí)行多個(gè)場(chǎng)景.因?yàn)橥婕覍儆趫?chǎng)景,我們會(huì)把玩家數(shù)據(jù),包括其緩沖池丟給場(chǎng)景 去處理.
posted on 2010-04-29 18:29
李陽(yáng) 閱讀(5790)
評(píng)論(1) 編輯 收藏 引用 所屬分類:
網(wǎng)絡(luò)編程