久久久久波多野结衣高潮,久久久久亚洲AV无码去区首,久久久久亚洲AV无码专区网站

Nginx源码分析-Epoll模块(转蝲)

周强 — Sat, 09 Jul 2011 16:54:00 GMT

转蝲自：http://www.tbdata.org/archives/1296

Nginx源码分析-Epoll模块

3 comments 十二�?26th, 2010 | by yixiao in 高性能服务�?/a>

Linux�q�_��上，Nginx使用epoll完成事�g驱动�Q�实现高�q�发�Q�本文将不对epoll本��n�q�行介绍�Q�网上一堆一堆的文章介绍epoll的原理及使用�Ҏ��Q�甚��x��码分析等�Q�，仅看一下Nginx是如何��用epoll的�?/p>

Nginx在epoll模块中定义了好几个函敎ͼ��q�些函数基本都是作�ؓ回调注册��C��件抽象层的对应接口上�Q�从而实��C��事�g驱动的具体化�Q�我们看如下的一�D�代码：

ngx_event_module_t  ngx_epoll_module_ctx = {
    &epoll_name,
    ngx_epoll_create_conf,               /* create configuration */
    ngx_epoll_init_conf,                 /* init configuration */
    {
        ngx_epoll_add_event,             /* add an event */
        ngx_epoll_del_event,             /* delete an event */
        ngx_epoll_add_event,             /* enable an event */
        ngx_epoll_del_event,             /* disable an event */
        ngx_epoll_add_connection,        /* add an connection */
        ngx_epoll_del_connection,        /* delete an connection */
        NULL,                            /* process the changes */
        ngx_epoll_process_events,        /* process the events */
        ngx_epoll_init,                  /* init the events */
        ngx_epoll_done,                  /* done the events */
    }
};

�q�段代码��是epoll的相兛_��数注册到事�g抽象层，�q�里所谓的事�g抽象层在前面的博文中有提�q�，��是Nginx��Z��方便支持和开发具体的I/O模型�Q�从而实现的一层抽象。代码后面的注释��功能说明得很详�l�了�Q�本文就只重点关注ngx_epoll_init和ngx_epoll_process_events两个函数�Q�其他几个函数就暂且忽略了�?/p>

ngx_epoll_init主要是完成epoll的相兛_��始化工作�Q�代码分析如下：

static ngx_int_t
ngx_epoll_init(ngx_cycle_t *cycle, ngx_msec_t timer)
{
    ngx_epoll_conf_t  *epcf;
	/*取得epoll模块的配�|�结�?/
    epcf = ngx_event_get_conf(cycle->conf_ctx, ngx_epoll_module);
	/*ep是epoll模块定义的一个全局变量�Q�初始化�?1*/
    if (ep == -1) {
    	/*创一个epoll对象�Q�容量�ؓ总连接数的一�?/
        ep = epoll_create(cycle->connection_n / 2);
        if (ep == -1) {
            ngx_log_error(NGX_LOG_EMERG, cycle->log, ngx_errno,
                          "epoll_create() failed");
            return NGX_ERROR;
        }
    }
	/*nevents也是epoll模块定义的一个全局变量�Q�初始化�?*/
    if (nevents events) {
        if (event_list) {
            ngx_free(event_list);
        }

		/*event_list存储产生事�g的数�l?/
        event_list = ngx_alloc(sizeof(struct epoll_event) * epcf->events,
                               cycle->log);
        if (event_list == NULL) {
            return NGX_ERROR;
        }
    }
    nevents = epcf->events;
	/*初始化全局变量ngx_io, ngx_os_is定义为：
		ngx_os_io_t ngx_os_io = {
    		ngx_unix_recv,
    		ngx_readv_chain,
    		ngx_udp_unix_recv,
    		ngx_unix_send,
    		ngx_writev_chain,
    		0
		};�Q�位于src/os/unix/ngx_posix_init.c�Q?
	*/
    ngx_io = ngx_os_io;
	/*�q�里���是���epoll的具体接口函数注册到事�g抽象层接口ngx_event_actions上�?
	具体是上文提到的ngx_epoll_module_ctx中封装的如下几个函数
        ngx_epoll_add_event,
        ngx_epoll_del_event,
        ngx_epoll_add_event,
        ngx_epoll_del_event,
        ngx_epoll_add_connection,
        ngx_epoll_del_connection,
        ngx_epoll_process_events,
        ngx_epoll_init,
        ngx_epoll_done,
	*/
    ngx_event_actions = ngx_epoll_module_ctx.actions;
#if (NGX_HAVE_CLEAR_EVENT)
	/*epoll���添加这个标�?主要��Z��实现边缘触发*/
    ngx_event_flags = NGX_USE_CLEAR_EVENT
#else
	/*水��^触发*/
    ngx_event_flags = NGX_USE_LEVEL_EVENT
#endif
                      |NGX_USE_GREEDY_EVENT /*io的时候，直到EAGAIN为止*/
                      |NGX_USE_EPOLL_EVENT; /*epoll标志*/
    return NGX_OK;
}

epoll初始化工作没有想象中的复杂，和我们��^时��用epoll都一��P��下面看ngx_epoll_process_events�Q�这个函��C��要用来完成事件的�{�待�q�处理�?/p>

static ngx_int_t
ngx_epoll_process_events(ngx_cycle_t *cycle, ngx_msec_t timer, ngx_uint_t flags)
{
    int                events;
    uint32_t           revents;
    ngx_int_t          instance, i;
    ngx_uint_t         level;
    ngx_err_t          err;
    ngx_log_t         *log;
    ngx_event_t       *rev, *wev, **queue;
    ngx_connection_t  *c;
	/*一开始就是等待事�Ӟ��最长等待时间�ؓtimer�Q�nginx��Z���?
	专门用红黑树�l�护了一个计时器。后�l�对�q�个timer单独分析�?
	*/
    events = epoll_wait(ep, event_list, (int) nevents, timer);
    if (events == -1) {
        err = ngx_errno;
    } else {
        err = 0;
    }
    if (flags & NGX_UPDATE_TIME || ngx_event_timer_alarm) {
        /*执行一�ơ时间更�? nginx���时间缓存到了一�l�全局变量中，方便�E�序高效的获取事件�?/
        ngx_time_update();
    }
	/*处理wait错误*/
    if (err) {
        if (err == NGX_EINTR) {
            if (ngx_event_timer_alarm) {
                ngx_event_timer_alarm = 0;
                return NGX_OK;
            }
            level = NGX_LOG_INFO;
        } else {
            level = NGX_LOG_ALERT;
        }
        ngx_log_error(level, cycle->log, err, "epoll_wait() failed");
        return NGX_ERROR;
    }
	/*wait�q�回事�g�?�Q�可能是timeout�q�回�Q�也可能是非timeout�q�回�Q�非timeout�q�回则是error*/
    if (events == 0) {
        if (timer != NGX_TIMER_INFINITE) {
            return NGX_OK;
        }
        ngx_log_error(NGX_LOG_ALERT, cycle->log, 0,
                      "epoll_wait() returned no events without timeout");
        return NGX_ERROR;
    }
    log = cycle->log;
	/*for循环开始处理收到的所有事�?/
    for (i = 0; i read;
		。。。。。。。。。。。。�?

		/*取得发生一个事�?/
        revents = event_list[i].events;

		/*记录wait的错误返回状�?/
        if (revents & (EPOLLERR|EPOLLHUP)) {
            ngx_log_debug2(NGX_LOG_DEBUG_EVENT, log, 0,
                           "epoll_wait() error on fd:%d ev:%04XD",
                           c->fd, revents);
        }
        if ((revents & (EPOLLERR|EPOLLHUP))
             && (revents & (EPOLLIN|EPOLLOUT)) == 0)
        {
            /*
             * if the error events were returned without EPOLLIN or EPOLLOUT,
             * then add these flags to handle the events at least in one
             * active handler
             */
            revents |= EPOLLIN|EPOLLOUT;
        }
		/*该事件是一个读事�g�Q��ƈ该连接上注册的读事�g是active�?/
        if ((revents & EPOLLIN) && rev->active) {
            if ((flags & NGX_POST_THREAD_EVENTS) && !rev->accept) {
                rev->posted_ready = 1;
            } else {
                rev->ready = 1;
            }

			/*事�g攑օ�相应的队列中�Q�关于此处的先入队再处理�Q�在前面的文章中已经介绍�q�了�?/
            if (flags & NGX_POST_EVENTS) {
                queue = (ngx_event_t **) (rev->accept ?
                               &ngx_posted_accept_events : &ngx_posted_events);
                ngx_locked_post_event(rev, queue); /*入队*/
            } else {
                rev->handler(rev);
            }
        }
        wev = c->write;
		/*发生的是一个写事�g�Q�和��M��件完全一��L��逻辑�q�程*/
        if ((revents & EPOLLOUT) && wev->active) {
            if (flags & NGX_POST_THREAD_EVENTS) {
                wev->posted_ready = 1;
            } else {
                wev->ready = 1;
            }
			/*先入队再处理*/
            if (flags & NGX_POST_EVENTS) {
                ngx_locked_post_event(wev, &ngx_posted_events);
            } else {
                wev->handler(wev);
            }
        }
    }
    return NGX_OK;
}

本文��关注的两个epoll函数也就�q�么一点代码了�Q�但整个epoll�q�有��d��事�g和删除事件等的相兛_��敎ͼ�代码都很��单，本文��׃��做具体的分析了�?/p>

周强 2011-07-10 00:54 发表评论

Nginx的内存池实现�Q��{载）

周强 — Wed, 15 Jun 2011 08:27:00 GMT

来源�Q�http://www.tbdata.org/archives/1390#more-1390

Nginx的内存池实现得很�_��y�Q�代码也很简�z�。�ȝ��来说�Q�所有的内存池基本都一个宗旨：甌��大块内存�Q�避�?#8220;�l�水长流”�?/p>

一、创��Z��个内存池

nginx内存池主要有下面两个�l�构来维护，他们分别�l�护了内存池的头部和数据部。此处数据部��是供用户分配小块内存的地方�?/p>

//该结构用来维护内存池的数据块�Q�供用户分配之用�?br />typedef struct {
    u_char               *last; 	//当前内存分配�l�束位置�Q�即下一�D�可分配内存的�v始位�|?br />    u_char               *end;  	//内存池结束位�|?br />    ngx_pool_t           *next; 	//链接��C��一个内存池
    ngx_uint_t            failed; 	//�l�计该内存池不能满��分配��h��的次�?br />} ngx_pool_data_t;
//该结构维护整个内存池的头部信息�?br />struct ngx_pool_s {
    ngx_pool_data_t       d; 		//数据�?br />    size_t                max;		//数据块的大小�Q�即���块内存的最大�?br />    ngx_pool_t           *current;	//保存当前内存�?br />    ngx_chain_t          *chain;	//可以挂一个chain�l�构
    ngx_pool_large_t     *large;	//分配大块内存用，卌����q�max的内存请�?br />    ngx_pool_cleanup_t   *cleanup;	//挂蝲一些内存池释放的时候，同时释放的资源�?br />    ngx_log_t            *log;
};

有了上面的两个结构，��可以创��Z��个内存池了，nginx用来创徏一个内存池的接口是�Q�ngx_pool_t *ngx_create_pool(size_t size, ngx_log_t *log)�Q�位于src/core/ngx_palloc.c中）;调用�q�个函数��可以创��Z��个大��ؓsize的内存池了。这里，我用内存池的�l�构图来�?�C�，��׃��做具体的代码分析了�?br />
ngx_create_pool接口函数��是分配上图�q�样的一大块内存�Q�然后初始化好各个头部字�D�（上图中的彩色部分�Q�。红色表�C�的四个字段��是来自于上 �q�的�W�一个结构，�l�护数据部分�Q�由囑֏�知：last是用户从内存池分配新内存的开始位�|�，end是这块内存池的结束位�|�，所有分配的内存都不能超�q?end。蓝色表�C�的max字段的值等于整个数据部分的长度�Q�用戯��求的内存大于max�Ӟ��p��为用戯��求的是一个大内存�Q�此旉��要在紫色表示的large 字段下面单独分配�Q�用戯��求的内存不大于max的话�Q�就是小内存甌��Q�直接在数据部分分配�Q�此时将会移动last指针�?/p>

二、分配小块内�?size <= max)

上面创徏好了一个可用的内存池了�Q�也提到了小块内存的分配问题。nginx提供�l�用户��用的内存分配接口有：
void *ngx_palloc(ngx_pool_t *pool, size_t size);
void *ngx_pnalloc(ngx_pool_t *pool, size_t size);
void *ngx_pcalloc(ngx_pool_t *pool, size_t size);
void *ngx_pmemalign(ngx_pool_t *pool, size_t size, size_t alignment);

ngx_palloc和ngx_pnalloc都是从内存池里分配size大小内存�Q�至于分得的是小块内存还是大块内存，��取决于size的大��；他们的不同之处在于，palloc取得的内存是寚w��的，pnalloc则否。ngx_pcalloc是直接调用palloc分配好内存，然后�q�行一��?�?始化操作。ngx_pmemalign��在分配size大小的内存�ƈ按alignment寚w��Q�然后挂到large字段下，当做大块内存处理。下面用囑�Ş 展示一下分配小块内存的模型�Q?br />
上图�q�个内存池模型是�׃��3个小内存池构成的�Q�由于第一个内存池上剩余的内存不够分配了，于是��创��Z��W�二个新的内存池�Q�第三个内存池是�׃��前面两个内存池的剩余部分都不够分配，所以创��Z��W�三个内存池来满��用��L��需求。由囑֏�见：所有的��内存池是由一个单向链表维护在一��L��。这里还有两个字�D�需要关注，failed和current字段。failed表示的是当前�q�个内存池的剩余可用内存不能满��用户分配��h��的次敎ͼ��x��_��一个分配请求到来后�Q�在 �q�个内存池上分配不到惌��的内存，那么��failed��׃��增加1�Q�这个分配请求将会递交�l�下一个内存池��d��理，如果下一个内存池也不能满��I��那么它的 failed也会�?�Q�然后将��h��l�箋往下传递，直到满��h��为止�Q�如果没有现成的内存池来满��Q�会再创��Z��个新的内存池�Q�。current字段会随着 failed的增加而发生改变，如果current指向的内存池的failed辑ֈ��?的话�Q�current��指向下一个内存池了。猜��：4�q�个值应该是作者的�l�验��|��或者是一个统计倹{�?/p>

三、大块内存的分配(size > max)

大块内存的分配请求不会直接在内存池上分配内存来满��I��而是直接向操作系�l�申误��么一块内存（��像直接使用malloc分配内存一��P��Q�然后将�q�块内存挂到内存池头部的large字段下。内存池的作用在于解军_��块内存池的频�J�申请问题，对于�q�种大块内存�Q�是可以忍受直接甌��的。同��P��用图形展�C�大�?内存甌��模型�Q?br />
注意每块大内存都对应有一个头部结构（next&alloc�Q�，�q�个头部�l�构是用来将所有大内存串成一个链表用的。这个头部结构不是直接向操作�p?�l�申��L��Q�而是当做��块内存�Q�头部结构没几个字节�Q�直接在内存池里甌��的。这��L��大块内存在��用完后，可能需要第一旉��释放�Q�节省内存空��_��因此 nginx提供了接口函敎ͼ�ngx_int_t ngx_pfree(ngx_pool_t *pool, void *p)�Q�此函数专门用来释放某个内存池上的某个大块内存，p��是大内存的地址。ngx_pfree只会释放大内存，不会释放其对应的头部�l�构�Q�毕竟头部结构是当做��内存在内存池里甌��的；遗留下来的头部结构会作下一�ơ申请大内存之用�?/p>

四、cleanup资源

可以看到所有挂载在内存池上的资源将形成一个��@环链表，一路走来，发现链表�q�种看似��单的数据�l�构却被频繁使用。由囑֏�知，每个需要清理的资源都对应有一个头部结构，�q�个�l�构中有一个关键的字段handler�Q�handler是一个函数指针，在挂载一个资源到内存池上的时候，同时也会注册一个清理资源的�?数到�q�个handler上。即是说�Q�内存池在清理cleanup的时候，��是调用�q�个handler来清理对应的资源。比如：我们可以��一个开打的文�g�?�q�符作�ؓ资源挂蝲到内存池上，同时提供一个关闭文件描�q�的函数注册到handler上，那么内存池在释放的时候，��׃��调用我们提供的关闭文件函数来处理�?件描�q�符资源了�?/p>

五、内存的释放

nginx只提供给了用��L��请内存的接口�Q�却没有释放内存的接口，那么nginx是如何完成内存释攄��呢？��M��能一直申��P��用不释放啊。针对这个问题，nginx利用了web server应用的特�D�场景来完成�Q�一个web server��L��不停的接受connection和request�Q�所以nginx��将内存池分了不同的�{��Q�有�q�程�U�的内存池、connection�U?的内存池、request�U�的内存池。也��是��_��创徏好一个worker�q�程的时候，同时��个worker�q�程创徏一个内存池�Q�待有新的连接到来后�Q�就在worker�q�程的内存池上�ؓ该连接创��v一个内存池�Q�连接上到来一个request后，又在�q�接的内存池上�ؓrequest创徏起一个内存池。这��P�� 在request被处理完后，��׃��释放request的整个内存池�Q�连接断开后，��׃��释放�q�接的内存池。因而，��׃��证了内存有分配也有释放�?/p>

�ȝ��Q�通过内存的分配和释放可以看出�Q�nginx只是��小块内存的甌��聚集��C��L��P��然后一起释放。避免了频繁甌��内存，降低内存��片的��生等问题

周强 2011-06-15 16:27 发表评论

Web Bench

周强 — Tue, 26 Apr 2011 06:50:00 GMT

今天开始要看nginx 源码了，首先先看一个web服务器压力测试工具Web Bench �?br>
Web Bench is very simple tool for benchmarking WWW or proxy servers. Uses fork() for simulating multiple clients and can use HTTP/0.9-HTTP/1.1 requests. This benchmark is not very realistic, but it can test if your HTTPD can realy handle that many clients at once (try to run some CGIs) without taking your machine down. Displays pages/min and bytes/sec. Can be used in more aggressive mode with -f switch.

Web Bench 下蝲主页 http://home..cz/~cz210552/webbench.html

用Web Bench ��单测试下nginx服务器的性能。结果如�?br>��试参数 10000个用户�ƈ发请�?0�U?

周强 2011-04-26 14:50 发表评论