• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>

            那誰的技術(shù)博客

            感興趣領(lǐng)域:高性能服務(wù)器編程,存儲(chǔ),算法,Linux內(nèi)核
            隨筆 - 210, 文章 - 0, 評(píng)論 - 1183, 引用 - 0
            數(shù)據(jù)加載中……

            epoll學(xué)習(xí)筆記

            epoll有兩種模式,Edge Triggered(簡稱ET) 和 Level Triggered(簡稱LT).在采用這兩種模式時(shí)要注意的是,如果采用ET模式,那么僅當(dāng)狀態(tài)發(fā)生變化時(shí)才會(huì)通知,而采用LT模式類似于原來的select/poll操作,只要還有沒有處理的事件就會(huì)一直通知.

            以代碼來說明問題:
            首先給出server的代碼,需要說明的是每次accept的連接,加入可讀集的時(shí)候采用的都是ET模式,而且接收緩沖區(qū)是5字節(jié)的,也就是每次只接收5字節(jié)的數(shù)據(jù):
            #include <iostream>
            #include 
            <sys/socket.h>
            #include 
            <sys/epoll.h>
            #include 
            <netinet/in.h>
            #include 
            <arpa/inet.h>
            #include 
            <fcntl.h>
            #include 
            <unistd.h>
            #include 
            <stdio.h>
            #include 
            <errno.h>

            using namespace std;

            #define MAXLINE 
            5
            #define OPEN_MAX 
            100
            #define LISTENQ 
            20
            #define SERV_PORT 
            5000
            #define INFTIM 
            1000

            void setnonblocking(
            int sock)
            {
                
            int opts;
                opts
            =fcntl(sock,F_GETFL);
                
            if(opts<0)
                {
                    perror(
            "fcntl(sock,GETFL)");
                    
            exit(1);
                }
                opts 
            = opts|O_NONBLOCK;
                
            if(fcntl(sock,F_SETFL,opts)<0)
                {
                    perror(
            "fcntl(sock,SETFL,opts)");
                    
            exit(1);
                }   
            }

            int main()
            {
                
            int i, maxi, listenfd, connfd, sockfd,epfd,nfds;
                ssize_t n;
                char line[MAXLINE];
                socklen_t clilen;
                
            //聲明epoll_event結(jié)構(gòu)體的變量,ev用于注冊(cè)事件,數(shù)組用于回傳要處理的事件
                struct epoll_event ev,events[
            20];
                
            //生成用于處理accept的epoll專用的文件描述符
                epfd
            =epoll_create(256);
                struct sockaddr_in clientaddr;
                struct sockaddr_in serveraddr;
                listenfd 
            = socket(AF_INET, SOCK_STREAM, 0);
                
            //把socket設(shè)置為非阻塞方式
                
            //setnonblocking(listenfd);
                
            //設(shè)置與要處理的事件相關(guān)的文件描述符
                ev.data.fd
            =listenfd;
                
            //設(shè)置要處理的事件類型
                ev.events
            =EPOLLIN|EPOLLET;
                
            //ev.events=EPOLLIN;
                
            //注冊(cè)epoll事件
                epoll_ctl(epfd,EPOLL_CTL_ADD,listenfd,
            &ev);
                bzero(
            &serveraddr, sizeof(serveraddr));
                serveraddr.sin_family 
            = AF_INET;
                char 
            *local_addr="127.0.0.1";
                inet_aton(local_addr,
            &(serveraddr.sin_addr));//htons(SERV_PORT);
                serveraddr.sin_port
            =htons(SERV_PORT);
                bind(listenfd,(sockaddr 
            *)&serveraddr, sizeof(serveraddr));
                listen(listenfd, LISTENQ);
                maxi 
            = 0;
                
            for ( ; ; ) {
                    
            //等待epoll事件的發(fā)生
                    nfds
            =epoll_wait(epfd,events,20,500);
                    
            //處理所發(fā)生的所有事件     
                    
            for(i=0;i<nfds;++i)
                    {
                        
            if(events[i].data.fd==listenfd)
                        {
                            connfd 
            = accept(listenfd,(sockaddr *)&clientaddr, &clilen);
                            
            if(connfd<0){
                                perror(
            "connfd<0");
                                
            exit(1);
                            }
                            
            //setnonblocking(connfd);
                            char 
            *str = inet_ntoa(clientaddr.sin_addr);
                            cout 
            << "accapt a connection from " << str << endl;
                            
            //設(shè)置用于讀操作的文件描述符
                            ev.data.fd
            =connfd;
                            
            //設(shè)置用于注測(cè)的讀操作事件
                            ev.events
            =EPOLLIN|EPOLLET;
                            
            //ev.events=EPOLLIN;
                            
            //注冊(cè)ev
                            epoll_ctl(epfd,EPOLL_CTL_ADD,connfd,
            &ev);
                        }
                        
            else if(events[i].events&EPOLLIN)
                        {
                            cout 
            << "EPOLLIN" << endl;
                            
            if ( (sockfd = events[i].data.fd) < 0
                                continue;
                            
            if ( (n = read(sockfd, line, MAXLINE)) < 0) {
                                
            if (errno == ECONNRESET) {
                                    close(sockfd);
                                    events[i].data.fd 
            = -1;
                                } 
            else
                                    std::cout
            <<"readline error"<<std::endl;
                            } 
            else if (n == 0) {
                                close(sockfd);
                                events[i].data.fd 
            = -1;
                            }
                            line[n] 
            = '\0';
                            cout << "read " << line << endl;
                            
            //設(shè)置用于寫操作的文件描述符
                            ev.data.fd
            =sockfd;
                            
            //設(shè)置用于注測(cè)的寫操作事件
                            ev.events
            =EPOLLOUT|EPOLLET;
                            
            //修改sockfd上要處理的事件為EPOLLOUT
                            
            //epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,&ev);
                        }
                        
            else if(events[i].events&EPOLLOUT)
                        {   
                            sockfd 
            = events[i].data.fd;
                            write(sockfd, line, n);
                            
            //設(shè)置用于讀操作的文件描述符
                            ev.data.fd
            =sockfd;
                            
            //設(shè)置用于注測(cè)的讀操作事件
                            ev.events
            =EPOLLIN|EPOLLET;
                            
            //修改sockfd上要處理的事件為EPOLIN
                            epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,
            &ev);
                        }
                    }
                }
                return 
            0;
            }


            下面給出測(cè)試所用的Perl寫的client端,在client中發(fā)送10字節(jié)的數(shù)據(jù),同時(shí)讓client在發(fā)送完數(shù)據(jù)之后進(jìn)入死循環(huán), 也就是在發(fā)送完之后連接的狀態(tài)不發(fā)生改變--既不再發(fā)送數(shù)據(jù), 也不關(guān)閉連接,這樣才能觀察出server的狀態(tài):
            #!/usr/bin/perl

            use IO::Socket;

            my $host 
            = "127.0.0.1";
            my $port 
            = 5000;

            my $socket 
            = IO::Socket::INET->new("$host:$port"or die "create socket error $@";
            my $msg_out 
            = "1234567890";
            print $socket $msg_out;
            print 
            "now send over, go to sleep\n";

            while (1)
            {
                sleep(
            1);
            }
            運(yùn)行server和client發(fā)現(xiàn),server僅僅讀取了5字節(jié)的數(shù)據(jù),而client其實(shí)發(fā)送了10字節(jié)的數(shù)據(jù),也就是說,server僅當(dāng)?shù)谝淮伪O(jiān)聽到了EPOLLIN事件,由于沒有讀取完數(shù)據(jù),而且采用的是ET模式,狀態(tài)在此之后不發(fā)生變化,因此server再也接收不到EPOLLIN事件了.
            (友情提示:上面的這個(gè)測(cè)試客戶端,當(dāng)你關(guān)閉它的時(shí)候會(huì)再次出發(fā)IO可讀事件給server,此時(shí)server就會(huì)去讀取剩下的5字節(jié)數(shù)據(jù)了,但是這一事件與前面描述的ET性質(zhì)并不矛盾.)

            如果我們把client改為這樣:
            #!/usr/bin/perl

            use IO::Socket;

            my $host 
            = "127.0.0.1";
            my $port 
            = 5000;

            my $socket 
            = IO::Socket::INET->new("$host:$port"or die "create socket error $@";
            my $msg_out 
            = "1234567890";
            print $socket $msg_out;
            print 
            "now send over, go to sleep\n";
            sleep(
            5);
            print 
            "5 second gonesend another line\n";
            print $socket $msg_out;

            while (1)
            {
                sleep(
            1);
            }

            可以發(fā)現(xiàn),在server接收完5字節(jié)的數(shù)據(jù)之后一直監(jiān)聽不到client的事件,而當(dāng)client休眠5秒之后重新發(fā)送數(shù)據(jù),server再次監(jiān)聽到了變化,只不過因?yàn)橹皇亲x取了5個(gè)字節(jié),仍然有10個(gè)字節(jié)的數(shù)據(jù)(client第二次發(fā)送的數(shù)據(jù))沒有接收完.

            如果上面的實(shí)驗(yàn)中,對(duì)accept的socket都采用的是LT模式,那么只要還有數(shù)據(jù)留在buffer中,server就會(huì)繼續(xù)得到通知,讀者可以自行改動(dòng)代碼進(jìn)行實(shí)驗(yàn).

            基于這兩個(gè)實(shí)驗(yàn),可以得出這樣的結(jié)論:ET模式僅當(dāng)狀態(tài)發(fā)生變化的時(shí)候才獲得通知,這里所謂的狀態(tài)的變化并不包括緩沖區(qū)中還有未處理的數(shù)據(jù),也就是說,如果要采用ET模式,需要一直read/write直到出錯(cuò)為止,很多人反映為什么采用ET模式只接收了一部分?jǐn)?shù)據(jù)就再也得不到通知了,大多因?yàn)檫@樣;而LT模式是只要有數(shù)據(jù)沒有處理就會(huì)一直通知下去的.

            補(bǔ)充說明一下這里一直強(qiáng)調(diào)的"狀態(tài)變化"是什么:

            1)對(duì)于監(jiān)聽可讀事件時(shí),如果是socket是監(jiān)聽socket,那么當(dāng)有新的主動(dòng)連接到來為狀態(tài)發(fā)生變化;對(duì)一般的socket而言,協(xié)議棧中相應(yīng)的緩 沖區(qū)有新的數(shù)據(jù)為狀態(tài)發(fā)生變化.但是,如果在一個(gè)時(shí)間同時(shí)接收了N個(gè)連接(N>1),但是監(jiān)聽socket只accept了一個(gè)連接,那么其它未 accept的連接將不會(huì)在ET模式下給監(jiān)聽socket發(fā)出通知,此時(shí)狀態(tài)不發(fā)生變化;對(duì)于一般的socket,就如例子中而言,如果對(duì)應(yīng)的緩沖區(qū)本身 已經(jīng)有了N字節(jié)的數(shù)據(jù),而只取出了小于N字節(jié)的數(shù)據(jù),那么殘存的數(shù)據(jù)不會(huì)造成狀態(tài)發(fā)生變化.

            2)對(duì)于監(jiān)聽可寫事件時(shí),同理可推,不再詳述.

            而不論是監(jiān)聽可讀還是可寫,對(duì)方關(guān)閉socket連接都將造成狀態(tài)發(fā)生變化,比如在例子中,如果強(qiáng)行中斷client腳本,也就是主動(dòng)中斷了socket連接,那么都將造成server端發(fā)生狀態(tài)的變化,從而server得到通知,將已經(jīng)在本方緩沖區(qū)中的數(shù)據(jù)讀出.

            把前面的描述可以總結(jié)如下:僅當(dāng)對(duì)方的動(dòng)作(發(fā)出數(shù)據(jù),關(guān)閉連接等)造成的事件才能導(dǎo)致狀態(tài)發(fā)生變化,而本方協(xié)議棧中已經(jīng)處理的事件(包括接收了對(duì)方的數(shù) 據(jù),接收了對(duì)方的主動(dòng)連接請(qǐng)求)并不是造成狀態(tài)發(fā)生變化的必要條件,狀態(tài)變化一定是對(duì)方造成的.所以在ET模式下的,必須一直處理到出錯(cuò)或者完全處理完 畢,才能進(jìn)行下一個(gè)動(dòng)作,否則可能會(huì)發(fā)生錯(cuò)誤.

            另外,從這個(gè)例子中,也可以闡述一些基本的網(wǎng)絡(luò)編程概念.首先,連接的兩端中,一端發(fā)送成功并不代表著對(duì)方上層應(yīng)用程序接收成功, 就拿上面的client測(cè)試程序來說,10字節(jié)的數(shù)據(jù)已經(jīng)發(fā)送成功,但是上層的server并沒有調(diào)用read讀取數(shù)據(jù),因此發(fā)送成功僅僅說明了數(shù)據(jù)被對(duì)方的協(xié)議棧接收存放在了相應(yīng)的buffer中,而上層的應(yīng)用程序是否接收了這部分?jǐn)?shù)據(jù)不得而知;同樣的,讀取數(shù)據(jù)時(shí)也只代表著本方協(xié)議棧的對(duì)應(yīng)buffer中有數(shù)據(jù)可讀,而此時(shí)時(shí)候在對(duì)端是否在發(fā)送數(shù)據(jù)也不得而知.


            posted on 2008-04-29 20:06 那誰 閱讀(41161) 評(píng)論(28)  編輯 收藏 引用 所屬分類: 網(wǎng)絡(luò)編程 、服務(wù)器設(shè)計(jì) 、Linux/Unix

            評(píng)論

            # re: epoll學(xué)習(xí)筆記[未登錄]  回復(fù)  更多評(píng)論   

            而當(dāng)client休眠5秒之后重新發(fā)送數(shù)據(jù),server再次監(jiān)聽到了變化,
            為什么sleep 5s就能監(jiān)聽到變化?此時(shí)緩沖區(qū)中不是一直有數(shù)據(jù)嗎?再發(fā)送10字節(jié)的數(shù)據(jù),只是數(shù)據(jù)多了而已,ET的“狀態(tài)”發(fā)生變化了?
            2008-04-29 23:06 | true

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            你可以把這個(gè)改進(jìn)成一個(gè)epoll+線程池
            這樣子單線程效率...............
            2008-04-30 08:54 | 關(guān)中刀客

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            SERVER 只是最多只是接受5個(gè)字符 在MAXLINE = 5 限制了
            2008-07-31 15:04 | 白癡

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            connfd = accept(listenfd,(sockaddr *)&clientaddr, &clilen);
            這一句的最后一個(gè)參數(shù)錯(cuò)了, 導(dǎo)致每次新的連接的地址輸出錯(cuò)誤. 其他, 很好!
            2008-08-29 12:21 | QQ:147439772

            # re: epoll學(xué)習(xí)筆記[未登錄]  回復(fù)  更多評(píng)論   

            @關(guān)中刀客
            這個(gè)只是起演示作用的,謝謝.
            2008-10-16 20:41 | 創(chuàng)

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            listenfd 在accept一個(gè)clt后不用mod它的event嗎?
            2008-10-27 13:05 | coolll

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            但是,如果在一個(gè)時(shí)間同時(shí)接收了N個(gè)連接(N>1),但是監(jiān)聽socket只accept了一個(gè)連接,那么其它未 accept的連接將不會(huì)在ET模式下給監(jiān)聽socket發(fā)出通知,此時(shí)狀態(tài)不發(fā)生變化;

            ----------------
            那對(duì)于listenfd是不是應(yīng)該采用LT模式?
            2008-10-27 13:27 | sss

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            可以accept 出錯(cuò)為止嗎?
            2008-10-27 13:29 | sss

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            @true
            不是因?yàn)閟leep 5s后才能監(jiān)聽到變化
            而是sleep后又發(fā)了一次...
            2009-02-12 15:11 | sss

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            在accept中使用clilen之前要對(duì)clilen賦初值,否則第一次accept得到的IP地址不對(duì).
            2009-04-22 10:26 | xwpcom

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            哥們說的很好,其中的要點(diǎn),我大致領(lǐng)會(huì)了
            你的意思是說,是不是傾向于使用LT盡量不使用ET,這樣的話就可以避免繁雜的操作,
            但是我要是還想使用ET的話,在接收數(shù)據(jù)的時(shí)候我好處理,大不了我一直讀數(shù)據(jù)。知道所有的數(shù)據(jù)read完成,但是我發(fā)送數(shù)據(jù)的話該如何處理哪》
            一次沒有發(fā)送完成的就一直發(fā)送(有一旦必須說明ET只支持非堵塞的socket)
            這個(gè)該如何實(shí)現(xiàn)那????
            2009-05-06 11:00 | qq957863054

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            @qq957863054
            寫的處理跟讀應(yīng)該差不多吧,我想你只要理解了ET模式的要點(diǎn)就可以理解了--ET僅在所關(guān)注的事件狀態(tài)發(fā)生變化,也就是從無到有或者從有到無的時(shí)候才會(huì)有通知,而從多到少或者從少到多不會(huì)有通知.
            2009-05-06 11:07 | 那誰

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            我想問問,使用epoll維護(hù)的socket上如何實(shí)現(xiàn)TCP/IP的上行和下行同步的問題,
            因?yàn)閑poll的epoll_wait返回后是這樣處理的
            if(EPOLLIN)
            {
            recv(...)
            }
            else if(EPOLLOUT)
            {
            send(....)
            }
            這兩個(gè)事件是分別報(bào)告的,也就是說,同一個(gè)socket上只能是recv或者send,不可能實(shí)現(xiàn)在同一個(gè)socket上同時(shí)recv和send
            聽聽你 的高見
            2009-05-11 16:08 | qq957863054

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            @qq957863054
            實(shí)際上同一個(gè)socket上是可以既recv又send的,因?yàn)檫@是全雙工的服務(wù),只不過這樣的情況在邏輯上錯(cuò)誤.比如你可以想象兩個(gè)人對(duì)話,一個(gè)人一邊說話一邊聽別人說話嗎?
            2009-05-11 18:36 | 那誰

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            你大的比方非常不恰當(dāng),你的例子就否定的了你前面說的實(shí)際上是可以的
            退一步講,這個(gè)邏輯錯(cuò)誤是不是影響了實(shí)際的使用
            就是說,兩個(gè)socket建立連接后,在任意一端只能是在接收數(shù)據(jù)或者在發(fā)送數(shù)據(jù),而兩者不能同時(shí)進(jìn)行,這樣不但違背了你說的雙工服務(wù),還影響效率
            舉例來說,假若我倆建立連接后想互相發(fā)送5G的文件,作為你或者是我,只能是接收或者發(fā)送信息的話,要傳送完文件的話,實(shí)際上就是單向傳遞了10G的文件的時(shí)間,要是我們實(shí)行雙工的話,就是傳送5G文件時(shí)間或者多一點(diǎn),是不是應(yīng)該考慮這個(gè)問題
            還有一個(gè)問題就是在開始我注冊(cè)了EPOLLIN時(shí)間后,假若我epoll_wait后有EPOLLIN事件,我處理后,用不用再次將服對(duì)應(yīng)socket的EPOLLIN 事件重新注冊(cè)一把或者M(jìn)OD一下
            你用epoll嗎?薩用的
            2009-05-13 11:02 | qq957863054

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            按照代碼執(zhí)行,并不能得到想要的結(jié)果,LT和ET模式得到的都是同樣的結(jié)果為啥呢?
            2009-10-12 17:57 | lxjeanse

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            博主的代碼能運(yùn)行成功嗎?我用你的代碼跑了一下,在ET模式下,仍然會(huì)讀取后面的67890這是什么原因呢?我改用LT模式結(jié)果也是一樣的,而且你的第二個(gè)客戶端程序在睡眠5秒之后根本不會(huì)輸出"5 second gonesend another line"這句話,麻煩你告訴我怎么回事呢,謝謝了!
            2009-10-13 10:06 | lxjeanse

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            @lxjeanse
            LZ,你用ET寫的server在關(guān)閉客戶端的時(shí)候才收到的后面幾個(gè)數(shù)據(jù)吧?那是因?yàn)榭蛻舳岁P(guān)閉的時(shí)候,server也會(huì)收到io消息,這時(shí)就會(huì)去接收剩下的數(shù)據(jù)了.
            2009-10-13 21:04 | 那誰

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            @那誰
            不是的,我會(huì)收到兩次67890
            2009-10-13 23:16 | lxjeanse

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            樓主的這段代碼是水平模式的,呵呵,邊緣模式你還有幾句話沒補(bǔ)上!!
            2009-12-24 09:04 | stronger

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            server為什么設(shè)置成非阻塞的?設(shè)置成阻塞的對(duì)epoll有什么影響?
            2010-02-05 10:03 | coder`

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            qq:769155709
            寫的還可以,學(xué)習(xí),做個(gè)網(wǎng)友交流。
            2010-11-07 18:51 | 769155709

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            說白了就是水平觸發(fā)和邊沿觸發(fā),學(xué)過數(shù)字電子技術(shù)的人都很容易理解,就像那個(gè)觸發(fā)器波形。
            2010-12-10 16:50 | 加百

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            挺好的文章,不過代碼里頭好多錯(cuò)誤,anyway, 感謝樓主的帖子。更正些東西
            1.
            socklen_t len = sizeof(struct sockaddr);
            connfd = accept(listenfd, (struct sockaddr *)&caddr, &len);
            有時(shí)accept就會(huì)出現(xiàn)EINVAL的錯(cuò)誤,后來查找資料發(fā)現(xiàn),得在accept前將len賦值,即len = sizeof(struct sockaddr),然后再傳遞&len進(jìn)去即可。

            2. 樓主的代碼會(huì)受到2次”67890“。
            問題在EPOLLIN的處理代碼里,注釋上/刪除下面代碼就好了
            /* ev.data.fd = sockfd;
            ev.events = EPOLLOUT|EPOLLET;
            epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,&ev);*/

            2012-02-26 16:31 | Triage

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            還有,初學(xué)的人看看這個(gè)還成,要是寫服務(wù)器軟件的,就是要7X24跑的,千萬別用這些代碼,錯(cuò)誤處理和epoll的處理都有缺陷。

            建議看 https://banu.com/blog/2/how-to-use-epoll-a-complete-example-in-c/

            2012-02-26 16:33 | Triage

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            If you're in the corner and have no money to go out from that, you will need to take the <a href="http://goodfinance-blog.com/topics/home-loans">home loans</a>. Just because it should help you unquestionably. I get student loan every single year and feel myself fine because of this.
            2012-03-01 07:16 | MarisaSpence

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            受益匪淺
            2012-06-04 15:10 | 阿南

            # re: epoll學(xué)習(xí)筆記  回復(fù)  更多評(píng)論   

            有些錯(cuò)誤...
            https://banu.com/blog/2/how-to-use-epoll-a-complete-example-in-c/
            這里寫的不錯(cuò)
            2013-03-12 14:29 | cnbtmovie
            久久中文字幕人妻熟av女| 久久久久国产成人精品亚洲午夜| 亚洲国产另类久久久精品| 久久久久久午夜成人影院| 91麻精品国产91久久久久| 无码人妻少妇久久中文字幕| 久久久噜噜噜久久中文字幕色伊伊| 影音先锋女人AV鲁色资源网久久| 国产精品一区二区久久不卡| 久久精品免费网站网| 亚洲av日韩精品久久久久久a| 7国产欧美日韩综合天堂中文久久久久| 精品久久久久久久久久中文字幕 | 久久精品亚洲一区二区三区浴池 | 久久人人爽人人爽人人爽| 久久精品中文字幕无码绿巨人| 亚洲国产精品久久久久久| 伊人情人综合成人久久网小说 | 无码人妻久久一区二区三区 | 久久精品国产一区| 久久久久亚洲av成人网人人软件 | 久久亚洲AV成人无码软件| 99久久99久久精品国产片果冻| 久久精品国产精品亚洲精品 | 2021久久精品国产99国产精品| 亚洲欧洲久久久精品| 亚洲国产成人久久精品动漫| 欧美丰满熟妇BBB久久久| 国产日韩久久久精品影院首页| 国产∨亚洲V天堂无码久久久| 一本一本久久a久久综合精品蜜桃| 久久AAAA片一区二区| 国产亚洲美女精品久久久| 嫩草影院久久99| 91精品婷婷国产综合久久| 久久久久国产一级毛片高清版| 久久久无码精品亚洲日韩按摩| 久久精品免费一区二区| 久久香蕉国产线看观看精品yw | 欧美午夜A∨大片久久| 亚洲国产综合久久天堂|