← 返回目录

epoll

第 172 / 208 卷日期:

出到用户空间中。

select 使用固定长度的 BitsMap,表示文件描述符集合,而且所支持的文件描述符的个数是有限制的,在 Linux 系统中,由内核中的 FD_SETSIZE 限制,默认最大值为 1024,只能监听 0~1023 的文件描述符。

poll 不再用 BitsMap 来存储所关注的文件描述符,取而代之用动态数组,以链表形式来组织,突破了 select 的文件描述符个数限制,当然还会受到系统文件描述符限制。

但是 poll 和 select 并没有太大的本质区别,都是使用「线性结构」存储进程关注的 Socket 集合,因此都需要遍历文件描述符集合来找到可读或可写的 Socket,时间复杂度为 O(n),而且也需要在用户态与内核

态之间拷贝文件描述符集合,这种方式随着并发数上来,性能的损耗会呈指数级增长。

epoll

epoll 通过两个方面,很好解决了 select/poll 的问题。

第一点,epoll 在内核里使用红黑树来跟踪进程所有待检测的文件描述字,把需要监控的 socket 通过 epoll_ctl() 函数加入内核中的红黑树里,红黑树是个高效的数据结构,增删查一般时间复杂度是

O(logn),通过对这棵黑红树进行操作,这样就不需要像 select/poll 每次操作时都传入整个 socket 集合,只需要传入一个待检测的 socket,减少了内核和用户空间大量的数据拷贝和内存分配。

第二点, epoll 使用事件驱动的机制,内核里维护了一个链表来记录就绪事件,当某个 socket 有事件发生时,通过回调函数内核会将其加入到这个就绪事件列表中,当用户调用 epoll_wait() 函数时,只会返回有

事件发生的文件描述符的个数,不需要像 select/poll 那样轮询扫描整个 socket 集合,大大提高了检测的效率。

从下图你可以看到 epoll 相关的接口作用:

epoll 的方式即使监听的 Socket 数量越多的时候,效率不会大幅度降低,能够同时监听的 Socket 的数目也非常的多了,上限就为系统定义的进程打开的最大文件描述符个数。因而,epoll 被称为解决 C10K 问

题的利器。

插个题外话,网上文章不少说, epoll_wait 返回时,对于就绪的事件,epoll使用的是共享内存的方式,即用户态和内核态都指向了就绪链表,所以就避免了内存拷贝消耗。

这是错的!看过 epoll 内核源码的都知道,压根就没有使用共享内存这个玩意。你可以从下面这份代码看到, epoll_wait 实现的内核代码中调用了 __put_user 函数,这个函数就是将数据从内核拷贝到用户空

间。

epoll 支持两种事件触发模式,分别是边缘触发(edge-triggered,ET)和水平触发(level-triggered, LT)。

这两个术语还挺抽象的,其实它们的区别还是很好理解的。

使用边缘触发模式时,当被监控的 Socket 描述符上有可读事件发生时,服务器端只会从 epoll_wait 中苏醒一次,即使进程没有调用 read 函数从内核读取数据,也依然只苏醒一次,因此我们程序要保

证一次性将内核缓冲区的数据读取完;

使用水平触发模式时,当被监控的 Socket 上有可读事件发生时,服务器端不断地从 epoll_wait 中苏醒,直到内核缓冲区数据被 read 函数读完才结束,目的是告诉我们有数据需要读取;

举个例子,你的快递被放到了一个快递箱里,如果快递箱只会通过短信通知你一次,即使你一直没有去取,它也不会再发送第二条短信提醒你,这个方式就是边缘触发;如果快递箱发现你的快递没有被取出,

它就会不停地发短信通知你,直到你取出了快递,它才消停,这个就是水平触发的方式。

这就是两者的区别,水平触发的意思是只要满足事件的条件,比如内核中有数据需要读,就一直不断地把这个事件传递给用户;而边缘触发的意思是只有第一次满足条件的时候才触发,之后就不会再传递同样的

事件了。

如果使用水平触发模式,当内核通知文件描述符可读写时,接下来还可以继续去检测它的状态,看它是否依然可读或可写。所以在收到通知后,没必要一次执行尽可能多的读写操作。

如果使用边缘触发模式,I/O 事件发生时只会通知一次,而且我们不知道到底能读写多少数据,所以在收到通知后应尽可能地读写数据,以免错失读写的机会。因此,我们会循环从文件描述符读写数据,那么如果

文件描述符是阻塞的,没有数据可读写时,进程会阻塞在读写函数那里,程序就没办法继续往下执行。所以,边缘触发模式一般和非阻塞 I/O 搭配使用,程序会一直执行 I/O 操作,直到系统调用(如 read 和

write)返回错误,错误类型为 EAGAIN 或 EWOULDBLOCK。

一般来说,边缘触发的效率比水平触发的效率要高,因为边缘触发可以减少 epoll_wait 的系统调用次数,系统调用也是有一定的开销的的,毕竟也存在上下文的切换。

select/poll 只有水平触发模式,epoll 默认的触发模式是水平触发,但是可以根据应用场景设置为边缘触发模式。

另外,使用 I/O 多路复用时,最好搭配非阻塞 I/O 一起使用,Linux 手册关于 select 的内容中有如下说明:

Under Linux, select() may report a socket file descriptor as "ready for reading", while nevertheless a subsequent read blocks. This could for example happen when data has arrived but upon examination has

wrong checksum and is discarded. There may be other circumstances in which a file descriptor is spuriously reported as ready. Thus it may be safer to use O_NONBLOCK on sockets that should not block.

全站分卷索引 · 208 卷
  1. 1勘误事宜
  2. 2图灵机的工作方式
  3. 3冯诺依曼模型
  4. 4内存
  5. 5总线
  6. 6程序执行的基本过程
  7. 7a = 1 + 2 执行具体过程
  8. 8指令
  9. 9指令的类型
  10. 10指令的执行速度
  11. 11总结
  12. 12关注作者
  13. 13存储器的层次结构
  14. 14寄存器
  15. 15L1 高速缓存
  16. 16L2 高速缓存
  17. 17存储器的层次关系
  18. 18存储器之间的实际价格和性能差距
  19. 19总结
  20. 20关注作者
  21. 21CPU Cache 有多快?
  22. 22CPU Cache 的数据结构和读取过程是什么样的?
  23. 23如何写出让 CPU 跑得更快的代码?
  24. 24如何提升指令缓存的命中率?
  25. 25如果提升多核 CPU 的缓存命中率?
  26. 26总结
  27. 271.4 CPU 缓存一致性
  28. 28CPU Cache 的数据写入
  29. 29写直达
  30. 30写回
  31. 31缓存一致性问题
  32. 32总线嗅探
  33. 33总结
  34. 34关注作者
  35. 351.5 CPU 是如何执行任务的?
  36. 36CPU 如何读写数据的?
  37. 37分析伪共享的问题
  38. 38避免伪共享的方法
  39. 39CPU 如何选择线程的?
  40. 40调度类
  41. 41CPU 运行队列
  42. 42调整优先级
  43. 43总结
  44. 441.6 软中断
  45. 45中断是什么?
  46. 46系统里有哪些软中断?
  47. 47如何定位软中断 CPU 使用率过高的问题?
  48. 48总结
  49. 49关注作者
  50. 501.7 为什么 0.1 + 0.2 不等于 0.3 ?
  51. 51十进制小数与二进制的转换
  52. 52计算机是怎么存小数的?
  53. 530.1 + 0.2 == 0.3 ?
  54. 54总结
  55. 55二、操作系统结构
  56. 56Linux 的设计
  57. 57SMP
  58. 58Monolithic Kernel
  59. 59Windows 设计
  60. 60总结
  61. 61关注作者
  62. 62虚拟内存
  63. 63内存分段
  64. 64内存分页
  65. 65多级页表
  66. 66TLB
  67. 67段页式内存管理
  68. 68Linux 内存管理
  69. 69总总结结
  70. 70四、进程与线程
  71. 71进程
  72. 72进程的状态
  73. 73进程的控制结构
  74. 74进程的控制
  75. 75进程的上下文切换
  76. 76线程
  77. 77什么是线程?
  78. 78线程与进程的比较
  79. 79线程的实现
  80. 80调度
  81. 81调度原则
  82. 82调度算法
  83. 83关注作者
  84. 84管道
  85. 85消息队列
  86. 86信号量
  87. 87信号
  88. 88Socket
  89. 89总结
  90. 90关注作者
  91. 914.3 多线程同步
  92. 92竞争与协作
  93. 93互斥的概念
  94. 94同步的概念
  95. 95互斥与同步的实现和使用
  96. 96锁
  97. 97信号量
  98. 98生产者-消费者问题
  99. 99经典同步问题
  100. 100哲学家就餐问题
  101. 101读者-写者问题
  102. 102关注作者
  103. 1034.4 死锁
  104. 104持有并等待条件
  105. 105环路等待条件
  106. 106利用工具排查死锁问题
  107. 107避免死锁问题的发生
  108. 108总结
  109. 1094.5 悲观锁与乐观锁
  110. 110互斥锁与自旋锁:谁更轻松自如?
  111. 111读写锁:读和写还有优先级区分?
  112. 112乐观锁与悲观锁:做事的心态有何不同?
  113. 113总结
  114. 114五、调度算法
  115. 115进程调度算法
  116. 116先来先服务调度算法
  117. 117最短作业优先调度算法
  118. 118时间片轮转调度算法
  119. 119最高优先级调度算法
  120. 120内存页面置换算法
  121. 121最佳页面置换算法
  122. 122最近最久未使用的置换算法
  123. 123时钟页面置换算法
  124. 124最不常用算法
  125. 125先来先服务
  126. 126扫描算法
  127. 127循环扫描算法
  128. 128LOOK 与 C-LOOK算法
  129. 129关注作者
  130. 130六、 文件系统
  131. 131文件系统的基本组成
  132. 132虚拟文件系统
  133. 133文件的使用
  134. 134文件的存储
  135. 135非连续空间存放方式
  136. 136Unix 文件的实现方式
  137. 137空闲空间管理
  138. 138空闲链表法
  139. 139位图法
  140. 140目录的存储
  141. 141软链接和硬链接
  142. 142文件 I/O
  143. 143直接与非直接 I/O
  144. 144关注作者
  145. 1457.1 键盘敲入A 字母时,操作系统期间发生了什么?
  146. 146I/O 控制方式
  147. 147设备驱动程序
  148. 148通用块层
  149. 149存储系统 I/O 软件分层
  150. 150键盘敲入字母时,期间发生了什么?
  151. 151关注作者
  152. 152Linux 网络协议栈
  153. 153Linux 接收网络包的流程
  154. 154Linux 发送网络包的流程
  155. 1558.2 零拷贝
  156. 156为什么要有 DMA 技术?
  157. 157传统的文件传输有多糟糕?
  158. 158如何优化文件传输的性能?
  159. 159如何实现零拷贝?
  160. 160sendfile
  161. 161使用零拷贝技术的项目
  162. 162PageCache 有什么作用?
  163. 163大文件传输用什么方式实现?
  164. 164总结
  165. 1658.3 I/O 多路复用:select/poll/epoll
  166. 166最基本的 Socket 模型
  167. 167如何服务更多的用户?
  168. 168多进程模型
  169. 169多线程模型
  170. 170I/O 多路复用
  171. 171select/poll
  172. 172epoll
  173. 173总结
  174. 174关注作者
  175. 175演进
  176. 176Reactor
  177. 177单 Reactor 多线程 / 多进程
  178. 178多 Reactor 多进程 / 线程
  179. 179Proactor
  180. 180总结
  181. 181关注作者
  182. 182九、Linux 命令
  183. 183性能指标有哪些?
  184. 184网络配置如何看?
  185. 185socket 信息如何查看?
  186. 186网络吞吐率和 PPS 如何查看?
  187. 187连通性和延时如何查看?
  188. 188关注作者
  189. 189别急着开始
  190. 190慎用 cat
  191. 191PV 分析
  192. 192UV 分析
  193. 193UV 分组
  194. 194终端分析
  195. 195分析 TOP3 的请求
  196. 196关注作者
  197. 197十、学习心得
  198. 19810.1 计算机网络怎么学?
  199. 199入门系列
  200. 200深入学习系列
  201. 201实战系列
  202. 202最后
  203. 20310.2 操作系统怎么学?
  204. 204入门系列
  205. 205深入学习系列
  206. 206最后
  207. 207十一、画图经验
  208. 208赞赏支持