epoll
出到用户空间中。
select 使用固定长度的 BitsMap,表示文件描述符集合,而且所支持的文件描述符的个数是有限制的,在 Linux 系统中,由内核中的 FD_SETSIZE 限制,默认最大值为 1024,只能监听 0~1023 的文件描述符。
poll 不再用 BitsMap 来存储所关注的文件描述符,取而代之用动态数组,以链表形式来组织,突破了 select 的文件描述符个数限制,当然还会受到系统文件描述符限制。
但是 poll 和 select 并没有太大的本质区别,都是使用「线性结构」存储进程关注的 Socket 集合,因此都需要遍历文件描述符集合来找到可读或可写的 Socket,时间复杂度为 O(n),而且也需要在用户态与内核
态之间拷贝文件描述符集合,这种方式随着并发数上来,性能的损耗会呈指数级增长。
epoll
epoll 通过两个方面,很好解决了 select/poll 的问题。
第一点,epoll 在内核里使用红黑树来跟踪进程所有待检测的文件描述字,把需要监控的 socket 通过 epoll_ctl() 函数加入内核中的红黑树里,红黑树是个高效的数据结构,增删查一般时间复杂度是
O(logn),通过对这棵黑红树进行操作,这样就不需要像 select/poll 每次操作时都传入整个 socket 集合,只需要传入一个待检测的 socket,减少了内核和用户空间大量的数据拷贝和内存分配。
第二点, epoll 使用事件驱动的机制,内核里维护了一个链表来记录就绪事件,当某个 socket 有事件发生时,通过回调函数内核会将其加入到这个就绪事件列表中,当用户调用 epoll_wait() 函数时,只会返回有
事件发生的文件描述符的个数,不需要像 select/poll 那样轮询扫描整个 socket 集合,大大提高了检测的效率。
从下图你可以看到 epoll 相关的接口作用:
epoll 的方式即使监听的 Socket 数量越多的时候,效率不会大幅度降低,能够同时监听的 Socket 的数目也非常的多了,上限就为系统定义的进程打开的最大文件描述符个数。因而,epoll 被称为解决 C10K 问
题的利器。
插个题外话,网上文章不少说, epoll_wait 返回时,对于就绪的事件,epoll使用的是共享内存的方式,即用户态和内核态都指向了就绪链表,所以就避免了内存拷贝消耗。
这是错的!看过 epoll 内核源码的都知道,压根就没有使用共享内存这个玩意。你可以从下面这份代码看到, epoll_wait 实现的内核代码中调用了 __put_user 函数,这个函数就是将数据从内核拷贝到用户空
间。
epoll 支持两种事件触发模式,分别是边缘触发(edge-triggered,ET)和水平触发(level-triggered, LT)。
这两个术语还挺抽象的,其实它们的区别还是很好理解的。
使用边缘触发模式时,当被监控的 Socket 描述符上有可读事件发生时,服务器端只会从 epoll_wait 中苏醒一次,即使进程没有调用 read 函数从内核读取数据,也依然只苏醒一次,因此我们程序要保
证一次性将内核缓冲区的数据读取完;
使用水平触发模式时,当被监控的 Socket 上有可读事件发生时,服务器端不断地从 epoll_wait 中苏醒,直到内核缓冲区数据被 read 函数读完才结束,目的是告诉我们有数据需要读取;
举个例子,你的快递被放到了一个快递箱里,如果快递箱只会通过短信通知你一次,即使你一直没有去取,它也不会再发送第二条短信提醒你,这个方式就是边缘触发;如果快递箱发现你的快递没有被取出,
它就会不停地发短信通知你,直到你取出了快递,它才消停,这个就是水平触发的方式。
这就是两者的区别,水平触发的意思是只要满足事件的条件,比如内核中有数据需要读,就一直不断地把这个事件传递给用户;而边缘触发的意思是只有第一次满足条件的时候才触发,之后就不会再传递同样的
事件了。
如果使用水平触发模式,当内核通知文件描述符可读写时,接下来还可以继续去检测它的状态,看它是否依然可读或可写。所以在收到通知后,没必要一次执行尽可能多的读写操作。
如果使用边缘触发模式,I/O 事件发生时只会通知一次,而且我们不知道到底能读写多少数据,所以在收到通知后应尽可能地读写数据,以免错失读写的机会。因此,我们会循环从文件描述符读写数据,那么如果
文件描述符是阻塞的,没有数据可读写时,进程会阻塞在读写函数那里,程序就没办法继续往下执行。所以,边缘触发模式一般和非阻塞 I/O 搭配使用,程序会一直执行 I/O 操作,直到系统调用(如 read 和
write)返回错误,错误类型为 EAGAIN 或 EWOULDBLOCK。
一般来说,边缘触发的效率比水平触发的效率要高,因为边缘触发可以减少 epoll_wait 的系统调用次数,系统调用也是有一定的开销的的,毕竟也存在上下文的切换。
select/poll 只有水平触发模式,epoll 默认的触发模式是水平触发,但是可以根据应用场景设置为边缘触发模式。
另外,使用 I/O 多路复用时,最好搭配非阻塞 I/O 一起使用,Linux 手册关于 select 的内容中有如下说明:
Under Linux, select() may report a socket file descriptor as "ready for reading", while nevertheless a subsequent read blocks. This could for example happen when data has arrived but upon examination has
wrong checksum and is discarded. There may be other circumstances in which a file descriptor is spuriously reported as ready. Thus it may be safer to use O_NONBLOCK on sockets that should not block.
全站分卷索引 · 208 卷
- 1勘误事宜
- 2图灵机的工作方式
- 3冯诺依曼模型
- 4内存
- 5总线
- 6程序执行的基本过程
- 7a = 1 + 2 执行具体过程
- 8指令
- 9指令的类型
- 10指令的执行速度
- 11总结
- 12关注作者
- 13存储器的层次结构
- 14寄存器
- 15L1 高速缓存
- 16L2 高速缓存
- 17存储器的层次关系
- 18存储器之间的实际价格和性能差距
- 19总结
- 20关注作者
- 21CPU Cache 有多快?
- 22CPU Cache 的数据结构和读取过程是什么样的?
- 23如何写出让 CPU 跑得更快的代码?
- 24如何提升指令缓存的命中率?
- 25如果提升多核 CPU 的缓存命中率?
- 26总结
- 271.4 CPU 缓存一致性
- 28CPU Cache 的数据写入
- 29写直达
- 30写回
- 31缓存一致性问题
- 32总线嗅探
- 33总结
- 34关注作者
- 351.5 CPU 是如何执行任务的?
- 36CPU 如何读写数据的?
- 37分析伪共享的问题
- 38避免伪共享的方法
- 39CPU 如何选择线程的?
- 40调度类
- 41CPU 运行队列
- 42调整优先级
- 43总结
- 441.6 软中断
- 45中断是什么?
- 46系统里有哪些软中断?
- 47如何定位软中断 CPU 使用率过高的问题?
- 48总结
- 49关注作者
- 501.7 为什么 0.1 + 0.2 不等于 0.3 ?
- 51十进制小数与二进制的转换
- 52计算机是怎么存小数的?
- 530.1 + 0.2 == 0.3 ?
- 54总结
- 55二、操作系统结构
- 56Linux 的设计
- 57SMP
- 58Monolithic Kernel
- 59Windows 设计
- 60总结
- 61关注作者
- 62虚拟内存
- 63内存分段
- 64内存分页
- 65多级页表
- 66TLB
- 67段页式内存管理
- 68Linux 内存管理
- 69总总结结
- 70四、进程与线程
- 71进程
- 72进程的状态
- 73进程的控制结构
- 74进程的控制
- 75进程的上下文切换
- 76线程
- 77什么是线程?
- 78线程与进程的比较
- 79线程的实现
- 80调度
- 81调度原则
- 82调度算法
- 83关注作者
- 84管道
- 85消息队列
- 86信号量
- 87信号
- 88Socket
- 89总结
- 90关注作者
- 914.3 多线程同步
- 92竞争与协作
- 93互斥的概念
- 94同步的概念
- 95互斥与同步的实现和使用
- 96锁
- 97信号量
- 98生产者-消费者问题
- 99经典同步问题
- 100哲学家就餐问题
- 101读者-写者问题
- 102关注作者
- 1034.4 死锁
- 104持有并等待条件
- 105环路等待条件
- 106利用工具排查死锁问题
- 107避免死锁问题的发生
- 108总结
- 1094.5 悲观锁与乐观锁
- 110互斥锁与自旋锁:谁更轻松自如?
- 111读写锁:读和写还有优先级区分?
- 112乐观锁与悲观锁:做事的心态有何不同?
- 113总结
- 114五、调度算法
- 115进程调度算法
- 116先来先服务调度算法
- 117最短作业优先调度算法
- 118时间片轮转调度算法
- 119最高优先级调度算法
- 120内存页面置换算法
- 121最佳页面置换算法
- 122最近最久未使用的置换算法
- 123时钟页面置换算法
- 124最不常用算法
- 125先来先服务
- 126扫描算法
- 127循环扫描算法
- 128LOOK 与 C-LOOK算法
- 129关注作者
- 130六、 文件系统
- 131文件系统的基本组成
- 132虚拟文件系统
- 133文件的使用
- 134文件的存储
- 135非连续空间存放方式
- 136Unix 文件的实现方式
- 137空闲空间管理
- 138空闲链表法
- 139位图法
- 140目录的存储
- 141软链接和硬链接
- 142文件 I/O
- 143直接与非直接 I/O
- 144关注作者
- 1457.1 键盘敲入A 字母时,操作系统期间发生了什么?
- 146I/O 控制方式
- 147设备驱动程序
- 148通用块层
- 149存储系统 I/O 软件分层
- 150键盘敲入字母时,期间发生了什么?
- 151关注作者
- 152Linux 网络协议栈
- 153Linux 接收网络包的流程
- 154Linux 发送网络包的流程
- 1558.2 零拷贝
- 156为什么要有 DMA 技术?
- 157传统的文件传输有多糟糕?
- 158如何优化文件传输的性能?
- 159如何实现零拷贝?
- 160sendfile
- 161使用零拷贝技术的项目
- 162PageCache 有什么作用?
- 163大文件传输用什么方式实现?
- 164总结
- 1658.3 I/O 多路复用:select/poll/epoll
- 166最基本的 Socket 模型
- 167如何服务更多的用户?
- 168多进程模型
- 169多线程模型
- 170I/O 多路复用
- 171select/poll
- 172epoll
- 173总结
- 174关注作者
- 175演进
- 176Reactor
- 177单 Reactor 多线程 / 多进程
- 178多 Reactor 多进程 / 线程
- 179Proactor
- 180总结
- 181关注作者
- 182九、Linux 命令
- 183性能指标有哪些?
- 184网络配置如何看?
- 185socket 信息如何查看?
- 186网络吞吐率和 PPS 如何查看?
- 187连通性和延时如何查看?
- 188关注作者
- 189别急着开始
- 190慎用 cat
- 191PV 分析
- 192UV 分析
- 193UV 分组
- 194终端分析
- 195分析 TOP3 的请求
- 196关注作者
- 197十、学习心得
- 19810.1 计算机网络怎么学?
- 199入门系列
- 200深入学习系列
- 201实战系列
- 202最后
- 20310.2 操作系统怎么学?
- 204入门系列
- 205深入学习系列
- 206最后
- 207十一、画图经验
- 208赞赏支持