音效素材网提供各类素材,打造精品素材网站!

站内导航 站长工具 投稿中心 手机访问

音效素材

聊聊Python中的浮点数运算不准确问题
日期:2021-09-08 13:46:55   来源:脚本之家

大家好,老 Amy 来了。之前就意识到一个问题,但是最近又有朋友提出来了,所以就想着干脆记录下来,分享给大家叭~

啥问题呢?请看题:

也就是说,需要大家计算1.1-1的值,很多朋友会说:“emmm…这还不简单,玩我呢?不就是0.1嘛”

但是如果你用 python 去执行一下,会发现结果跟你想的不太一样,如下图:

这样大家是不是发现了什么问题?是的,浮点数在运算过程中并没有保证完全精确,是什么原因导致了这种现象呢?很多朋友就会窃喜:“这不就是 Python 的 bug 嘛~”

但实际上,这并不是 Python 中的 bug ,它和计算机硬件中如何处理浮点数有关。浮点数在计算机硬件中以二进制的形式存在,但是我们现在看到的都是十进制,而十进制的浮点数不能都完全精确的表示为二进制小数。

就比如说我们在十进制数中无法用小数精确表示 1/3 一样,在二进制数中也无法用小数精确表示 1/10。显然这样子的说明并没有十进制中的 1/3 那么直观,接下来我们尝试去计算一下二进制中的 1/10 :

十进制的整数位是二进制的整数位,十进制的小数位是二进制数的小数位。那现在我们拿到0.1

整数部分为0

小数部分为0.1,并顺序取值

0.1*2=0.2<1取0
0.2*2=0.4<1取0
0.4*2=0.8<1取0
0.8*2=1.6>1取1
0.6*2=1.2>1取1
0.2*2=0.4<1取0
…

有没有发现?在二进制下,1/10 是一个无限循环小数:0.00011001100110011…,显然这样的表示形式无法精确的表示浮点数,最终的结果是近似 1/10 。在使用 IEEE-754 浮点运算标准的计算机硬件上,Python 的浮点数映射为 IEEE-754 双精度浮点数,共包含 53 位精度(这里指的是二进制),在这个范围下,这个最接近 1/10 的结果是:

3602879701896397/2∗∗55

这表示在计算机硬件中,1/10 的真实十进制数值为:

0.1000000000000000055511151231257827021181583404541015625

那如何进行精确的浮点数运算呢?有朋友提出四舍五入可以解决。那我们来仔细看一下四舍五入真的可以解决这个问题吗?

四舍五入进行解决

在 python 中,使用 round(number[, ndigits]) 来进行四舍五入,其中 ndigits 表示保留几位小数,默认为0。

我们来看代码如下:

In [10]: round(0.6)
Out[10]: 1
In [11]: round(0.65,1)
Out[11]: 0.7
In [12]: round(0.64,1)
Out[12]: 0.6

上面代码符合我们四舍五入的预期结果,但是不要着急,我们接着往下看:

In [13]: round(1.15,1)
Out[13]: 1.1
In [14]: round(0.5)
Out[14]: 0
In [15]: round(1.5)
Out[15]: 2

这样看是不是有些问题,什么问题呢?按照四舍五入的话,round(1.15)会直接进为1.2,但是此时并没有,而是变为了1.1。这是为什么呢?

如果没有上面对浮点数的了解,仅从表象上很难去解释。我们已经知道了在计算机内部,对于一些浮点数是无法精确表示的,比如上面代码中 1.15,我们可以通过 format() 来看看它在计算机内部更加具体的数值:

In [16]: format(1.15,".51f")
Out[16]: '1.149999999999999911182158029987476766109466552734375'

看到这个结果,我们就恍然大悟,为什么看到的结果会是1.1了。

但是接下来,可能会更加的困惑,因为对于 0.5 来说,是完全可以直接转为二进制表示的。但是round(0.5)结果却为0?这是因为 round() 的工作原理为:对于 round(number[, ndigits]),如果 number 可以被正常处理,则它的值会被舍入到最接近的 10 的负 ndigits 次幂的倍数上,对于与两个倍数的差值(差值的绝对值)均相等的情况,则会选择两个倍数中的偶数。

# 最接近的10的负0次幂的倍数为0、1,并与0、1差值的绝对值相同,选择偶数0
>>> round(0.5) 
0
# 最接近的10的负2次幂的倍数为0.12、0.13,并与0.12、0.13的差值的绝对值相同,选择偶数0.12
>>> round(0.125, 2) 
0.12
# 最接近的10的负2次幂的倍数为0.13
>>> round(0.12548828125, 2) 
0.13

这个规则,用我们熟悉的话来说即为“ 四舍六入五成双 ”。

使用decimal进行浮点数的精确计算

那我们在 Python 中怎么进行精确的浮点数计算呢,Python 标准库为我们提供了decimal 这个模块来解决这个问题,decimal 常用于需要精确处理浮点数的场合,比如银行账户金额、货币加减等。

In [17]: from decimal import Decimal
In [18]: 0.1-0.09
Out[18]: 0.010000000000000009
In [19]: Decimal('0.1')-Decimal('0.09')
Out[19]: Decimal('0.01')

同样,我们可以使用它来查看对于不能精确表示的浮点数在计算机内部的具体数值:

In [20]: Decimal.from_float(1.1)
Out[20]: Decimal('1.100000000000000088817841970012523233890533447265625')
In [21]: Decimal.from_float(0.1)
Out[21]: Decimal('0.1000000000000000055511151231257827021181583404541015625')

这样就可以解决我们的困惑与问题啦~

补充:python做浮点数运算时的坑记录

很显然,这个计算结果是不对的,而且偏离实际值十分远。。。。。。。。

太坑人了这。

本来想自动截取计算得到的图片尺寸,但是这计算结果,坑害了半天的查找错误过程!!!!

以上为个人经验,希望能给大家一个参考,也希望大家多多支持。如有错误或未考虑完全的地方,望不吝赐教。

    您感兴趣的教程

    在docker中安装mysql详解

    本篇文章主要介绍了在docker中安装mysql详解,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编...

    详解 安装 docker mysql

    win10中文输入法仅在桌面显示怎么办?

    win10中文输入法仅在桌面显示怎么办?

    win10系统使用搜狗,QQ输入法只有在显示桌面的时候才出来,在使用其他程序输入框里面却只能输入字母数字,win10中...

    win10 中文输入法

    一分钟掌握linux系统目录结构

    这篇文章主要介绍了linux系统目录结构,通过结构图和多张表格了解linux系统目录结构,感兴趣的小伙伴们可以参考一...

    结构 目录 系统 linux

    PHP程序员玩转Linux系列 Linux和Windows安装

    这篇文章主要为大家详细介绍了PHP程序员玩转Linux系列文章,Linux和Windows安装nginx教程,具有一定的参考价值,感兴趣...

    玩转 程序员 安装 系列 PHP

    win10怎么安装杜比音效Doby V4.1 win10安装杜

    第四代杜比®家庭影院®技术包含了一整套协同工作的技术,让PC 发出清晰的环绕声同时第四代杜比家庭影院技术...

    win10杜比音效

    纯CSS实现iOS风格打开关闭选择框功能

    这篇文章主要介绍了纯CSS实现iOS风格打开关闭选择框,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作...

    css ios c

    Win7如何给C盘扩容 Win7系统电脑C盘扩容的办法

    Win7如何给C盘扩容 Win7系统电脑C盘扩容的

    Win7给电脑C盘扩容的办法大家知道吗?当系统分区C盘空间不足时,就需要给它扩容了,如果不管,C盘没有足够的空间...

    Win7 C盘 扩容

    百度推广竞品词的投放策略

    SEM是基于关键词搜索的营销活动。作为推广人员,我们所做的工作,就是打理成千上万的关键词,关注它们的质量度...

    百度推广 竞品词

    Visual Studio Code(vscode) git的使用教程

    这篇文章主要介绍了详解Visual Studio Code(vscode) git的使用,小编觉得挺不错的,现在分享给大家,也给大家做个参考。...

    教程 Studio Visual Code git

    七牛云储存创始人分享七牛的创立故事与

    这篇文章主要介绍了七牛云储存创始人分享七牛的创立故事与对Go语言的应用,七牛选用Go语言这门新兴的编程语言进行...

    七牛 Go语言

    Win10预览版Mobile 10547即将发布 9月19日上午

    微软副总裁Gabriel Aul的Twitter透露了 Win10 Mobile预览版10536即将发布,他表示该版本已进入内部慢速版阶段,发布时间目...

    Win10 预览版

    HTML标签meta总结,HTML5 head meta 属性整理

    移动前端开发中添加一些webkit专属的HTML5头部标签,帮助浏览器更好解析HTML代码,更好地将移动web前端页面表现出来...

    移动端html5模拟长按事件的实现方法

    这篇文章主要介绍了移动端html5模拟长按事件的实现方法的相关资料,小编觉得挺不错的,现在分享给大家,也给大家...

    移动端 html5 长按

    HTML常用meta大全(推荐)

    这篇文章主要介绍了HTML常用meta大全(推荐),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参...

    cdr怎么把图片转换成位图? cdr图片转换为位图的教程

    cdr怎么把图片转换成位图? cdr图片转换为

    cdr怎么把图片转换成位图?cdr中插入的图片想要转换成位图,该怎么转换呢?下面我们就来看看cdr图片转换为位图的...

    cdr 图片 位图

    win10系统怎么录屏?win10系统自带录屏详细教程

    win10系统怎么录屏?win10系统自带录屏详细

    当我们是使用win10系统的时候,想要录制电脑上的画面,这时候有人会想到下个第三方软件,其实可以用电脑上的自带...

    win10 系统自带录屏 详细教程

    + 更多教程 +
    ASP编程JSP编程PHP编程.NET编程python编程