计算机是怎么存小数的?
由于计算机的资源是有限的,所以是没办法用二进制精确的表示 0.1,只能用「近似值」来表示,就是在有限的精度情况下,最大化接近 0.1 的二进制数,于是就会造成精度缺失的情况。
对于二进制小数转十进制时,需要注意一点,小数点后面的指数幂是负数。
比如,二进制 0.1 转成十进制就是 2^(-1),也就是十进制 0.5,二进制 0.01 转成十进制就是 2^-2,也就是十进制 0.25,以此类推。
举个例子,二进制 1010.101 转十进制的过程,如下图:
计算机是怎么存小数的?
1000.101 这种二进制小数是「定点数」形式,代表着小数点是定死的,不能移动,如果你移动了它的小数点,这个数就变了,就不再是它原来的值了。
然而,计算机并不是这样存储的小数的,计算机存储小数的采用的是浮点数,名字里的「浮点」表示小数点是可以浮动的。
比如 1000.101 这个二进制数,可以表示成 1.000101 x 2^3,类似于数学上的科学记数法。
既然提到了科学计数法,我再帮大家复习一下。
比如有个很大的十进制数 1230000,我们可以也可以表示成 1.23 x 10^6,这种方式就称为科学记数法。
该方法在小数点左边只有一个数字,而且把这种整数部分没有前导 0 的数字称为规格化,比如 1.0 x 10^(-9) 是规格化的科学记数法,而 0.1 x 10^(-9) 和 10.0 x 10^(-9) 就不是了。
所以通常将 1000.101 这种二进制数,规格化表示成 1.000101 x 2^3,其中,最为关键的是 000101 和 3 这两个东⻄,它就可以包含了这个二进制小数的所有信息:
000101 称为尾数,即小数点后面的数字;
3 称为指数,指定了小数点在数据中的位置;
现在绝大多数计算机使用的浮点数,一般采用的是 IEEE 制定的国际标准,这种标准形式如下图:
这三个重要部分的意义如下:
符号位:表示数字是正数还是负数,为 0 表示正数,为 1 表示负数;
指数位:指定了小数点在数据中的位置,指数可以是负数,也可以是正数,指数位的长度越长则数值的表达范围就越大;
尾数位:小数点右侧的数字,也就是小数部分,比如二进制 1.0011 x 2^(-2),尾数部分就是 0011,而且尾数的长度决定了这个数的精度,因此如果要表示精度更高的小数,则就要提高尾数位的长度;
用 32 位来表示的浮点数,则称为单精度浮点数,也就是我们编程语言中的 float 变量,而用 64 位来表示的浮点数,称为双精度浮点数,也就是 double变量,它们的结构如下:
可以看到:
double 的尾数部分是 52 位,float 的尾数部分是 23 位,由于同时都带有一个固定隐含位(这个后面会说),所以 double 有 53 个二进制有效位,float 有 24 个二进制有效位,所以所以它们的精度在十
进制中分别是 log10(2^53) 约等于 15.95 和 log10(2^24) 约等于 7.22位,因此 double 的有效数字是 15~16 位,float 的有效数字是 7~8 位,这些是有效位是包含整数部分和小数部分;
double 的指数部分是 11 位,而 float 的指数位是 8 位,意味着 double 相比 float 能表示更大的数值范围;
那二进制小数,是如何转换成二进制浮点数的呢?
我们就以 10.625 作为例子,看看这个数字在 float 里是如何存储的。
首先,我们计算出 10.625 的二进制小数为 1010.101。
然后把小数点,移动到第一个有效数字后面,即将 1010.101 右移 3 位成 1.010101,右移 3 位就代表 +3,左移 3 位就是 -3。
float 中的「指数位」就跟这里移动的位数有关系,把移动的位数再加上「偏移量」,float 的话偏移量是 127,相加后就是指数位的值了,即指数位这 8 位存的是 10000010(十进制 130),因此你可以认为
「指数位」相当于指明了小数点在数据中的位置。
1.010101 这个数的小数点右侧的数字就是 float 里的「尾数位」,由于尾数位是 23 位,则后面要补充 0,所以最终尾数位存储的数字是 01010100000000000000000。
在算指数的时候,你可能会有疑问为什么要加上偏移量呢?
前面也提到,指数可能是正数,也可能是负数,即指数是有符号的整数,而有符号整数的计算是比无符号整数麻烦的,所以为了减少不必要的麻烦,在实际存储指数的时候,需要把指数转换成无符号整数。
float 的指数部分是 8 位,IEEE 标准规定单精度浮点的指数取值范围是 -126 ~ +127,于是为了把指数转换成无符号整数,就要加个偏移量,比如 float 的指数偏移量是 127,这样指数就不会出现负数了。
比如,指数如果是 8,则实际存储的指数是 8 + 127(偏移量)= 135,即把 135 转换为二进制之后再存储,而当我们需要计算实际的十进制数的时候,再把指数减去「偏移量」即可。
细心的朋友肯定发现,移动后的小数点左侧的有效位(即 1)消失了,它并没有存储到 float 里。
这是因为 IEEE 标准规定,二进制浮点数的小数点左侧只能有 1 位,并且还只能是 1,既然这一位永远都是
全站分卷索引 · 208 卷
- 1勘误事宜
- 2图灵机的工作方式
- 3冯诺依曼模型
- 4内存
- 5总线
- 6程序执行的基本过程
- 7a = 1 + 2 执行具体过程
- 8指令
- 9指令的类型
- 10指令的执行速度
- 11总结
- 12关注作者
- 13存储器的层次结构
- 14寄存器
- 15L1 高速缓存
- 16L2 高速缓存
- 17存储器的层次关系
- 18存储器之间的实际价格和性能差距
- 19总结
- 20关注作者
- 21CPU Cache 有多快?
- 22CPU Cache 的数据结构和读取过程是什么样的?
- 23如何写出让 CPU 跑得更快的代码?
- 24如何提升指令缓存的命中率?
- 25如果提升多核 CPU 的缓存命中率?
- 26总结
- 271.4 CPU 缓存一致性
- 28CPU Cache 的数据写入
- 29写直达
- 30写回
- 31缓存一致性问题
- 32总线嗅探
- 33总结
- 34关注作者
- 351.5 CPU 是如何执行任务的?
- 36CPU 如何读写数据的?
- 37分析伪共享的问题
- 38避免伪共享的方法
- 39CPU 如何选择线程的?
- 40调度类
- 41CPU 运行队列
- 42调整优先级
- 43总结
- 441.6 软中断
- 45中断是什么?
- 46系统里有哪些软中断?
- 47如何定位软中断 CPU 使用率过高的问题?
- 48总结
- 49关注作者
- 501.7 为什么 0.1 + 0.2 不等于 0.3 ?
- 51十进制小数与二进制的转换
- 52计算机是怎么存小数的?
- 530.1 + 0.2 == 0.3 ?
- 54总结
- 55二、操作系统结构
- 56Linux 的设计
- 57SMP
- 58Monolithic Kernel
- 59Windows 设计
- 60总结
- 61关注作者
- 62虚拟内存
- 63内存分段
- 64内存分页
- 65多级页表
- 66TLB
- 67段页式内存管理
- 68Linux 内存管理
- 69总总结结
- 70四、进程与线程
- 71进程
- 72进程的状态
- 73进程的控制结构
- 74进程的控制
- 75进程的上下文切换
- 76线程
- 77什么是线程?
- 78线程与进程的比较
- 79线程的实现
- 80调度
- 81调度原则
- 82调度算法
- 83关注作者
- 84管道
- 85消息队列
- 86信号量
- 87信号
- 88Socket
- 89总结
- 90关注作者
- 914.3 多线程同步
- 92竞争与协作
- 93互斥的概念
- 94同步的概念
- 95互斥与同步的实现和使用
- 96锁
- 97信号量
- 98生产者-消费者问题
- 99经典同步问题
- 100哲学家就餐问题
- 101读者-写者问题
- 102关注作者
- 1034.4 死锁
- 104持有并等待条件
- 105环路等待条件
- 106利用工具排查死锁问题
- 107避免死锁问题的发生
- 108总结
- 1094.5 悲观锁与乐观锁
- 110互斥锁与自旋锁:谁更轻松自如?
- 111读写锁:读和写还有优先级区分?
- 112乐观锁与悲观锁:做事的心态有何不同?
- 113总结
- 114五、调度算法
- 115进程调度算法
- 116先来先服务调度算法
- 117最短作业优先调度算法
- 118时间片轮转调度算法
- 119最高优先级调度算法
- 120内存页面置换算法
- 121最佳页面置换算法
- 122最近最久未使用的置换算法
- 123时钟页面置换算法
- 124最不常用算法
- 125先来先服务
- 126扫描算法
- 127循环扫描算法
- 128LOOK 与 C-LOOK算法
- 129关注作者
- 130六、 文件系统
- 131文件系统的基本组成
- 132虚拟文件系统
- 133文件的使用
- 134文件的存储
- 135非连续空间存放方式
- 136Unix 文件的实现方式
- 137空闲空间管理
- 138空闲链表法
- 139位图法
- 140目录的存储
- 141软链接和硬链接
- 142文件 I/O
- 143直接与非直接 I/O
- 144关注作者
- 1457.1 键盘敲入A 字母时,操作系统期间发生了什么?
- 146I/O 控制方式
- 147设备驱动程序
- 148通用块层
- 149存储系统 I/O 软件分层
- 150键盘敲入字母时,期间发生了什么?
- 151关注作者
- 152Linux 网络协议栈
- 153Linux 接收网络包的流程
- 154Linux 发送网络包的流程
- 1558.2 零拷贝
- 156为什么要有 DMA 技术?
- 157传统的文件传输有多糟糕?
- 158如何优化文件传输的性能?
- 159如何实现零拷贝?
- 160sendfile
- 161使用零拷贝技术的项目
- 162PageCache 有什么作用?
- 163大文件传输用什么方式实现?
- 164总结
- 1658.3 I/O 多路复用:select/poll/epoll
- 166最基本的 Socket 模型
- 167如何服务更多的用户?
- 168多进程模型
- 169多线程模型
- 170I/O 多路复用
- 171select/poll
- 172epoll
- 173总结
- 174关注作者
- 175演进
- 176Reactor
- 177单 Reactor 多线程 / 多进程
- 178多 Reactor 多进程 / 线程
- 179Proactor
- 180总结
- 181关注作者
- 182九、Linux 命令
- 183性能指标有哪些?
- 184网络配置如何看?
- 185socket 信息如何查看?
- 186网络吞吐率和 PPS 如何查看?
- 187连通性和延时如何查看?
- 188关注作者
- 189别急着开始
- 190慎用 cat
- 191PV 分析
- 192UV 分析
- 193UV 分组
- 194终端分析
- 195分析 TOP3 的请求
- 196关注作者
- 197十、学习心得
- 19810.1 计算机网络怎么学?
- 199入门系列
- 200深入学习系列
- 201实战系列
- 202最后
- 20310.2 操作系统怎么学?
- 204入门系列
- 205深入学习系列
- 206最后
- 207十一、画图经验
- 208赞赏支持