网站首页 > 技术文章 正文
本文主要分享基于python的数据分析三方库pandas,numpy的一次爬坑经历,发现并分析了python语言对于浮点数精度处理不准确的问题,并在最后给出合理的解决方案。如果你也在用python处理数据,建议看一下,毕竟0.1的误差都可能造成比较大的影响
问题出现
早上到了公司,领导发了几个文件过来,说这两天测试环境跑出来的数据,与实际情况有所出入,看看哪出的问题,尽快解决···
开始排查
- 先对比数据,发现并不是所有的数据都出现问题,只有10%左右的数据有这个问题,说明应该不是逻辑上的问题,初步判断可能为个别情况需要特殊处理,考虑不周导致
- 检查梳理各个运算模块,用debug断点调试一波,确定了数据出现偏差的模块
- 通过单独测试这个单元模块最终确定,涉及到两数相除结果为0.5(浮点数)的地方有问题
- 预期结果:np.round(0.5)=1,实际运算结果:np.round(0.5)=0,于是我做了如下的试验
# 基于python3.7版本
>>> import numpy as np
# 先看看 0 < x < 1 这个范围的结果,发现有问题
>>> np.round(0.50)
0.0
>>> np.round(0.51)
1.0
>>> np.round(0.49)
0.0
# 我担心是不是只有小数点为.5的都会呈现这种问题,所以测试了 x > 1的结果,发现还是有问题
>>> np.round(1.5)
2.0
>>> np.round(2.5)
2.0
>>> np.round(3.5)
4.0
>>> np.round(4.5)
4.0
通过对比,发现确实涉及到.5的值会有些和预想的不同,看看啥原因
分析问题
确实发现了关于浮点数(.5出现了理解上的偏差),看看官方文档怎么解释这个现象
numpy.around(a, decimals=0, out=None)[source]
Evenly round to the given number of decimals.
# 对于恰好介于四舍五入的十进制值之间的中间值(.5),NumPy会四舍五入为最接近的偶数值。
# 因此1.5和2.5四舍五入为2.0,-0.5和0.5四舍五入为0.0,依此类推。
For values exactly halfway between rounded decimal values,
NumPy rounds to the nearest even value.
Thus 1.5 and 2.5 round to 2.0, -0.5 and 0.5 round to 0.0, etc.
# np.around使用快速但有时不精确的算法来舍入浮点数据类型。
# 对于正小数,它等效于np.true_divide(np.rint(a * 10 **小数),10 **小数),
# 由于IEEE浮点标准[1]和 十次方缩放时引入的错误
np.around uses a fast but sometimes inexact algorithm to round floating-point datatypes.
For positive decimals it is equivalent to np.true_divide(np.rint(a * 10**decimals), 10**decimals),
which has error due to the inexact representation of decimal fractions in the IEEE floating point standard [1]
and errors introduced when scaling by powers of ten
其实也就是说:对于带有.5这种刚好介于中间的值,返回的是相邻的偶数值
- 白话解释:如果一个数字带有浮点数(.5),整数部分为偶数,则返回这个偶数;整数部分奇数,则返回这个奇数+1的偶数
- 规律解释:如果整数部分能够整除2,则返回整数部分;如果整数部分不能整除2,则返回整数部分 +1
解决问题
先不做任何改动,看下数据误差的情形
# 我们为了先看下现象,构造如下案例
import pandas as pd
import numpy as np
df = pd.DataFrame({"num1": [1, 1, 1.5, 5, 7.5], "num2": [2, 3, 1, 6, 3]})
df["真实值"] = df["num1"] / df["num2"]
# 看下round函数过后的结果
df["偏差值"] = np.round(df["num1"] / df["num2"])
原始结果图片如下
我的解决方案
- 我根据我的精度要求,构建精度范围所需要保留的小数点的最后一位,通过这个数字是否为5,判断是否需要向上取整
- 举例来说,本案例中我只需要保留整数部分的数据,那么我只需要确定小数点后第一位是否是数字5就可以了
上代码
import pandas as pd
import numpy as np
import math
df = pd.DataFrame({"除数": [1, 1, 1.5, 5, 7.5], "被除数": [2, 3, 1, 6, 3]})
# 记录真实值
df["真实值"] = df["除数"] / df["被除数"]
# 记录整数部分
df["辅助整数列"] = df["真实值"].apply(lambda x: math.modf(x)[1])
# 记录小数部分,因为我的最后结果精度为只保留整数部分,所以我只需要保留一个小数点位进行判断是否需要进位操作
df["辅助小数列"] = df["真实值"].apply(lambda x: str(math.modf(x)[0]).split(".")[1][0])
# 小数点后的第一位是为5,则向上取整,不是5则调用原np.round就行了
df["期望值修正"] = df.apply(lambda x: x.辅助整数列 + 1 if (x.辅助小数列 == "5") else np.round(x.真实值), axis=1)
结果如下所示
我是一名奋战在编程界的pythoner,工作中既要和数据打交道,也要和erp系统,web网站保持友好的沟通……,时不时的会分享一些提高效率的编程小技巧,在实际应用中遇到的问题以及解决方案,或者源码的阅读等等,欢迎大家一起来讨论!如果觉得写的还不错,欢迎点个关注点个赞,谢谢。
- 上一篇: 有没有通俗易懂的动态代理示例可供参考学习?
- 下一篇: 发那科机器人2DV码垛功能
猜你喜欢
- 2024-12-31 发那科机器人2DV码垛功能
- 2024-12-31 有没有通俗易懂的动态代理示例可供参考学习?
- 2024-12-31 运算符,i.MXRT,管理工具,嵌入式,XECC技术文章分享
- 2024-12-31 第十九天:EXCEL万能字符串转换函数TEXT那些普拉斯的神操作
- 2024-12-31 自动控制原理-滞后校正设计方法以及编程实现
- 2024-12-31 C语言 | 由小到大输出两个数
- 2024-12-31 C++笔记:函数
- 2024-12-31 十万个怎么办-不清楚机器人TEST指令怎么办?
- 2024-12-31 一个 print 函数,挺会玩啊?
- 2024-12-31 Excel公式计算
- 02-21走进git时代, 你该怎么玩?_gits
- 02-21GitHub是什么?它可不仅仅是云中的Git版本控制器
- 02-21Git常用操作总结_git基本用法
- 02-21为什么互联网巨头使用Git而放弃SVN?(含核心命令与原理)
- 02-21Git 高级用法,喜欢就拿去用_git基本用法
- 02-21Git常用命令和Git团队使用规范指南
- 02-21总结几个常用的Git命令的使用方法
- 02-21Git工作原理和常用指令_git原理详解
- 最近发表
- 标签列表
-
- cmd/c (57)
- c++中::是什么意思 (57)
- sqlset (59)
- ps可以打开pdf格式吗 (58)
- phprequire_once (61)
- localstorage.removeitem (74)
- routermode (59)
- vector线程安全吗 (70)
- & (66)
- java (73)
- org.redisson (64)
- log.warn (60)
- cannotinstantiatethetype (62)
- js数组插入 (83)
- resttemplateokhttp (59)
- gormwherein (64)
- linux删除一个文件夹 (65)
- mac安装java (72)
- reader.onload (61)
- outofmemoryerror是什么意思 (64)
- flask文件上传 (63)
- eacces (67)
- 查看mysql是否启动 (70)
- java是值传递还是引用传递 (58)
- 无效的列索引 (74)