当前位置:首页 > 服务器资讯

Nginx服务器的高性能原理之IO复用

2019-01-10 21:09:56 作者: 来源: 阅读:173 评论:0

简介 【51CTO技术沙龙】10月27日,让我们共同探索AI场景化应用实现之道 --> 导入Nginx的处理IO的方式是异步非阻塞。Nginx之所以高性能除了异步非阻塞之外,还有一个核心的原因:IO复用。什么是IO复用?从最简单的例子说起,一个请求连接来了之后,一般情况下......

【51CTO技术沙龙】10月27日,让我们共同探索AI场景化应用实现之道 -->

导入

Nginx的处理IO的方式是异步非阻塞。Nginx之所以高性能除了异步非阻塞之外,还有一个核心的原因:IO复用。

什么是IO复用?

从最简单的例子说起,一个请求连接来了之后,一般情况下是怎么处理请求的呢? 如图1所示

浏览器的每次请求都会分配或者新启一个进程与之对应,去处理请求。进程上下文之间的切换和新启进程都会很浪费资源,怎么优化呢?(举手)把多进城变成多线程。 那么就有了如下图2的优化结果。

这么做有啥不好呢?在思考一下,线程是进程调度的最小单位,一个进程有多个线程在同时处理请求,那么如果这个进程因为异常情况意外终止了,那么它所拥有的所有的线程都将全部终止运行,换句话说,服务挂了。哈哈,好刺激。

那么IO复用派上用场了~~前面我们提到了异步非阻塞,那么我们这样来设计,我们设计一个进程池、事件响应守护进程、请求服务进程。那么,我们的服务器的进程架构如下图所示:

如上图,我们将服务器分成了三个模块:

  1. 进程池
  2. 事件响应
  3. 事件注册

当浏览器请求到达服务器之后,首先连接到(3)请求服务进程,并注册一个事件,当请求发送数据的时候,这个时候会产生一个读事件,这个时候会有(2)事件响应进程会响应,将事件交给(1)进程池处理,同时再注册一个写事件。当进程池将请求处理完成之后,会响应写事件将处理的结果返回给浏览器。

那么IO复用所复用的是什么呢?

IO复用就是用一个进程来响应真实的请求事件。本质上复用的是进程。

Select与Epoll

当有读写事件发生了,事件守护进程响应交给进程池处理,同时再注册一个写事件,但是进程池怎么知道是哪个socket有事件发生了呢?所以每次有事件发生的时候,事件响应进程就会遍历一下所有的socket连接句柄,判断一下是否有事件发生,这种响应事件的方式就被称为Select模型。

怎么去优化呢?如果每次有事件发生,如果能知道是确切的哪个socket连接的事件,效率就很高了,这样方式就是Epoll模型。 举个例子

  • 假如餐馆有人要结账,服务员就跟老板说一声:“有人要结账”,老板不知道是哪一桌要结账,就需要挨个问一遍,这样的方式就是select,时间复杂度O(n)。
  • 假如餐馆有人要结账,服务员就跟老板说一声:“5号桌要结账”,这样的方式就是epoll,时间复杂度O(1)。

从大的方面了解一个高性能的服务器演化的过程,总结一下:池的概念会很大的提高性能,本次说到的是进程池,改成线程池(其实是多进程多线程模式)也是一样。

扩展:引入池的优化手段,很常见。例如,数据库连接池等等。感兴趣的可以查一下。

下一篇会继续从细节上介绍,事件响应的两种方式:

  • Reactor模式
  • Proactor模式

标签:进程  事件  复用  一个  处理  

相关评论