如何写出让 CPU 跑得更快的代码?
(Set Associative Cache)等,这几种策策略的数据结构都比较相似,我们理解了直接映射 Cache 的工作方式,其他的策略如果你有兴趣去看,相信很快就能理解的了。
如何写出让 CPU 跑得更快的代码?
我们知道 CPU 访问内存的速度,比访问 CPU Cache 的速度慢了 100 多倍,所以如果 CPU 所要操作的数据在 CPU Cache 中的话,这样将会带来很大的性能提升。访问的数据在 CPU Cache 中的话,意味着缓存
命中,缓存命中率越高的话,代码的性能就会越好,CPU 也就跑的越快。
于是,「如何写出让 CPU 跑得更快的代码?」这个问题,可以改成「如何写出 CPU 缓存命中率高的代码?」。
在前面我也提到, L1 Cache 通常分为「数据缓存」和「指令缓存」,这是因为 CPU 会别处理数据和指令,比如 1+1=2 这个运算, + 就是指令,会被放在「指令缓存」中,而输入数字 1 则会被放在「数
据缓存」里。
因此,我们要分开来看「数据缓存」和「指令缓存」的缓存命中率。
如何提升数据缓存的命中率?
假设要遍历二维数组,有以下两种形式,虽然代码执行结果是一样,但你觉得哪种形式效率最高呢?为什么高呢?
经过测试,形式一 array[i][j]执行时间比形式二 array[j][i] 快好几倍。
之所以有这么大的差距,是因为二维数组 array 所占用的内存是连续的,比如长度 N 的指是 2 的话,那么内存中的数组元素的布局顺序是这样的:
形式一用 array[i][j]访问数组元素的顺序,正是和内存中数组元素存放的顺序一致。当 CPU 访问 array[0][0] 时,由于该数据不在 Cache 中,于是会「顺序」把跟随其后的 3 个元素从内存中加载到 CPU
Cache,这样当 CPU 访问后面的 3 个数组元素时,就能在 CPU Cache 中成功地找到数据,这意味着缓存命中率很高,缓存命中的数据不需要访问内存,这便大大提高了代码的性能。
而如果用形式二的 array[j][i] 来访问,则访问的顺序就是:
你可以看到,访问的方式跳跃式的,而不是顺序的,那么如果 N 的数值很大,那么操作 array[j][i] 时,是没办法把 array[j+1][i] 也读入到 CPU Cache 中的,既然 array[j+1][i] 没有读取到 CPU Cache,那么就
需要从内存读取该数据元素了。很明显,这种不连续性、跳跃式访问数据元素的方式,可能不能充分利用到了 CPU Cache 的特性,从而代码的性能不高。
那访问 array[0][0] 元素时,CPU 具体会一次从内存中加载多少元素到 CPU Cache 呢?这个问题,在前面我们也提到过,这跟 CPU Cache Line 有关,它表示 CPU Cache 一次性能加载数据的大小,可以在
Linux 里通过 coherency_line_size 配置查看它的大小,通常是 64 个字节。
全站分卷索引 · 208 卷
- 1勘误事宜
- 2图灵机的工作方式
- 3冯诺依曼模型
- 4内存
- 5总线
- 6程序执行的基本过程
- 7a = 1 + 2 执行具体过程
- 8指令
- 9指令的类型
- 10指令的执行速度
- 11总结
- 12关注作者
- 13存储器的层次结构
- 14寄存器
- 15L1 高速缓存
- 16L2 高速缓存
- 17存储器的层次关系
- 18存储器之间的实际价格和性能差距
- 19总结
- 20关注作者
- 21CPU Cache 有多快?
- 22CPU Cache 的数据结构和读取过程是什么样的?
- 23如何写出让 CPU 跑得更快的代码?
- 24如何提升指令缓存的命中率?
- 25如果提升多核 CPU 的缓存命中率?
- 26总结
- 271.4 CPU 缓存一致性
- 28CPU Cache 的数据写入
- 29写直达
- 30写回
- 31缓存一致性问题
- 32总线嗅探
- 33总结
- 34关注作者
- 351.5 CPU 是如何执行任务的?
- 36CPU 如何读写数据的?
- 37分析伪共享的问题
- 38避免伪共享的方法
- 39CPU 如何选择线程的?
- 40调度类
- 41CPU 运行队列
- 42调整优先级
- 43总结
- 441.6 软中断
- 45中断是什么?
- 46系统里有哪些软中断?
- 47如何定位软中断 CPU 使用率过高的问题?
- 48总结
- 49关注作者
- 501.7 为什么 0.1 + 0.2 不等于 0.3 ?
- 51十进制小数与二进制的转换
- 52计算机是怎么存小数的?
- 530.1 + 0.2 == 0.3 ?
- 54总结
- 55二、操作系统结构
- 56Linux 的设计
- 57SMP
- 58Monolithic Kernel
- 59Windows 设计
- 60总结
- 61关注作者
- 62虚拟内存
- 63内存分段
- 64内存分页
- 65多级页表
- 66TLB
- 67段页式内存管理
- 68Linux 内存管理
- 69总总结结
- 70四、进程与线程
- 71进程
- 72进程的状态
- 73进程的控制结构
- 74进程的控制
- 75进程的上下文切换
- 76线程
- 77什么是线程?
- 78线程与进程的比较
- 79线程的实现
- 80调度
- 81调度原则
- 82调度算法
- 83关注作者
- 84管道
- 85消息队列
- 86信号量
- 87信号
- 88Socket
- 89总结
- 90关注作者
- 914.3 多线程同步
- 92竞争与协作
- 93互斥的概念
- 94同步的概念
- 95互斥与同步的实现和使用
- 96锁
- 97信号量
- 98生产者-消费者问题
- 99经典同步问题
- 100哲学家就餐问题
- 101读者-写者问题
- 102关注作者
- 1034.4 死锁
- 104持有并等待条件
- 105环路等待条件
- 106利用工具排查死锁问题
- 107避免死锁问题的发生
- 108总结
- 1094.5 悲观锁与乐观锁
- 110互斥锁与自旋锁:谁更轻松自如?
- 111读写锁:读和写还有优先级区分?
- 112乐观锁与悲观锁:做事的心态有何不同?
- 113总结
- 114五、调度算法
- 115进程调度算法
- 116先来先服务调度算法
- 117最短作业优先调度算法
- 118时间片轮转调度算法
- 119最高优先级调度算法
- 120内存页面置换算法
- 121最佳页面置换算法
- 122最近最久未使用的置换算法
- 123时钟页面置换算法
- 124最不常用算法
- 125先来先服务
- 126扫描算法
- 127循环扫描算法
- 128LOOK 与 C-LOOK算法
- 129关注作者
- 130六、 文件系统
- 131文件系统的基本组成
- 132虚拟文件系统
- 133文件的使用
- 134文件的存储
- 135非连续空间存放方式
- 136Unix 文件的实现方式
- 137空闲空间管理
- 138空闲链表法
- 139位图法
- 140目录的存储
- 141软链接和硬链接
- 142文件 I/O
- 143直接与非直接 I/O
- 144关注作者
- 1457.1 键盘敲入A 字母时,操作系统期间发生了什么?
- 146I/O 控制方式
- 147设备驱动程序
- 148通用块层
- 149存储系统 I/O 软件分层
- 150键盘敲入字母时,期间发生了什么?
- 151关注作者
- 152Linux 网络协议栈
- 153Linux 接收网络包的流程
- 154Linux 发送网络包的流程
- 1558.2 零拷贝
- 156为什么要有 DMA 技术?
- 157传统的文件传输有多糟糕?
- 158如何优化文件传输的性能?
- 159如何实现零拷贝?
- 160sendfile
- 161使用零拷贝技术的项目
- 162PageCache 有什么作用?
- 163大文件传输用什么方式实现?
- 164总结
- 1658.3 I/O 多路复用:select/poll/epoll
- 166最基本的 Socket 模型
- 167如何服务更多的用户?
- 168多进程模型
- 169多线程模型
- 170I/O 多路复用
- 171select/poll
- 172epoll
- 173总结
- 174关注作者
- 175演进
- 176Reactor
- 177单 Reactor 多线程 / 多进程
- 178多 Reactor 多进程 / 线程
- 179Proactor
- 180总结
- 181关注作者
- 182九、Linux 命令
- 183性能指标有哪些?
- 184网络配置如何看?
- 185socket 信息如何查看?
- 186网络吞吐率和 PPS 如何查看?
- 187连通性和延时如何查看?
- 188关注作者
- 189别急着开始
- 190慎用 cat
- 191PV 分析
- 192UV 分析
- 193UV 分组
- 194终端分析
- 195分析 TOP3 的请求
- 196关注作者
- 197十、学习心得
- 19810.1 计算机网络怎么学?
- 199入门系列
- 200深入学习系列
- 201实战系列
- 202最后
- 20310.2 操作系统怎么学?
- 204入门系列
- 205深入学习系列
- 206最后
- 207十一、画图经验
- 208赞赏支持