Author: Fox
在以前寫
MMORPG中游戲世界的構建
時,提到服務器架構的分類。大多數情況下,每一種不同的服務器只會與其對應的一個服務器和多個客戶端通信。比如,GameServer(GS)只會與WorldServer(WS)通信,也就是說GS只作為WS的客戶端。這次,由于項目需求,新增加了一個SomeServer(SS)作為GS的服務器。
一、SS網絡連接分析
由于需要和大量GS建立網絡連接,所以SS使用了IOCP模型。鑒于
上一次寫IOCP
時遭到
Kevin
TX的鄙視,所以決定今天多寫一點。SS的網絡模型大致如下:
0、服務器主線程啟動;
1、初始化Winsock,SDK func: WSAStartup ();
2、創建一個使用overlapped I/O的socket,SDK func: WSASocket();
3、綁定端口,將本地地址與創建的socket關聯起來,SDK func: bind();
4、創建IOCP對象,SDK func: CreateIoCompletionPort();
5、創建工作者線程,CreateWorkerThreads();
6、開始監聽,SDK func: listen();
7、接受客戶端連接,SDK func: WSAAccept();
8、當有新的連接請求到達時,將WSAAccept返回的對應的客戶端socket關聯到IOCP;
9、處理WSASend() or WSARecv()。
在實際處理時,可能會根據需要建立額外的線程處理socketopt命令,甚至建立專門處理WSAccept的線程。
關于工作者線程WorkerThread:
通過GetQueuedCompletionStatus(),獲取I/O類型和對應的socket,如果為接收則通知接收完成并繼續新的WSARecv(),如果為發送則通知發送完成。
二、GS網絡連接分析
GS上對于SS客戶端采用的是WSAEventSelect模型,通過網絡事件觸發相應操作。
0、服務器主線程啟動;
1、初始化Winsock,SDK func: WSAStartup ();
2、創建一個使用overlapped I/O的socket,SDK func: WSASocket();
4、綁定端口,將本地地址與創建的socket關聯起來,SDK func: bind();
5、創建網絡事件,SDK func: CreateEvent();
6、設置網絡事件的響應,SDK func: WSAEventSelect();
7、等待網絡事件,SDK func: WSAWaitForMultipleEvents();
8、分析網絡事件類型并處理,SDK func: WSAEnumNetworkEvents()。
這里之所以采用CreateEvent而不是WSACreateEvent,是因為由CreateEvent創建的事件允許為auto reset的,而WSACreateEvent創建的事件是manually reset的。
三、實現過程中的小插曲
在GS的客戶端實現中遇到幾個問題。
首先是在消息處理上,GS發到SS的消息,SS并沒有完全接受到,而SS發送到GS的消息一切正常。后來跟了一下SS消息隊列,發現SS居然可以收到GS發送到WS的消息!然后就在GS上找原因,原來是WS在和SS共用消息隊列,以前GS只對應一個服務器,無所謂共用。現在加了SS,自然要分開處理,否則WS和SS都可能收到發給對方的消息。
后面一個bug從周一開始已經強奸了我四天了。即使SS已經關閉,WSAEnumNetworkEvents返回的事件對應FD_CONNECT的iErrorCode值始終為0。因為中間涉及到多線程和多個服務器分別對應的客戶端,連接到WS的沒有問題,就是SS的客戶端有問題。到今天上午為止,我已經把GS的網絡處理邏輯全部靜態分析了一遍,沒有任何發現。臨近中午吃飯的時候,不得已只好用WS的客戶端socket去連接SS,居然出現同樣問題!而我的WS和SS都是放在我機器上的,這樣來看,就只有端口不同了!
果然,當我把SS的監聽端口修改之后,問題解決了。因為我是使用8088端口監聽GS連接的。當我把端口換成80,同樣問題再次出現,而且SS無法通過80端口監聽。
接下來提幾個問題:
1、
被卡巴斯基監控的端口8088和服務器開啟的監聽端口8088有什么聯系?為什么沒有沖突?卡巴僅僅只是從該端口獲取數據嗎?為什么網絡事件的FD_CONNECT的對應iErrorCode為0(表明連接成功)?
2、
80是常規http端口,它與8080、8088這些http端口的區別在哪兒?這些端口綁定成功與否的原則是什么?
?
PS:文中關于IOCP和WSAEventSelect模型更為詳細的實現,可以參考
Network Programming for Microsoft Windows 2nd
的第五章:Winsock I/O Methods。
最后寫完了,發覺自己寫的很垃圾,完全就是記流水帳。轉念一想,為什么呢?自己基礎不扎實嘛,第一次接觸IOCP和網絡模型,也就這樣了。
今天太晚了,要睡了,上面的問題明天再考慮吧
J
。