您的当前位置:首页 --> MYSQL教程 --> mysql下float类型使用一些误差详解 |
MYSQL教程 mysql下float类型使用一些误差详解 |
浏览次数:384 关键词 ( ) |
查看使用该CPU的产品 查看CPU天梯 |
CPU型号:mysql下float类型使用一些误差详解 |
主频:Ghz |
睿频:Ghz |
核心数:个 |
不支持超核心 |
制作工艺: |
插槽类型: |
功耗:0W |
L3缓存:0MB |
支持最大内存: 0GB |
CPU详细参数 |
单精度浮点数用4字节(32bit)表示浮点数 1.float类型 复制代码 代码如下: num float(9,7), insert into table (num) values (0.12); select * from table where num=0.12的话会查到这条记录。 mysql> create table tt -> ( -> num float(9,3) -> ); Query OK, 0 rows affected (0.03 sec) mysql> insert into tt(num)values(1234567.8); ERROR 1264 (22003): Out of range value for column 'num' at row 1 注:超出字段范围,无法插入 代码如下 复制代码 注:小数位数不够,自动补齐,但是存在一个问题就是如上的近似值。 复制代码 代码如下: mysql> insert into tt(num)values(123456.867);
Query OK, 1 row affected (0.04 sec) mysql> select * from tt; +------------+ | num | +------------+ | 123456.797 | | 123456.797 | | 123456.867 | +------------+ 3 rows in set (0.00 sec) mysql> select * from tt where num=123456.867; +------------+ | num | +------------+ | 123456.867 | +------------+ 1 row in set (0.00 sec) mysql> insert into tt(num)values(2.8); Query OK, 1 row affected (0.04 sec) mysql> select * from tt; +------------+ | num | +------------+ | 123456.797 | | 123456.797 | | 123456.867 | | 2.800 | +------------+ 4 rows in set (0.00 sec) mysql> select * from tt where num=2.8; +-------+ | num | +-------+ | 2.800 | +-------+ 1 row in set (0.00 sec) mysql> insert into tt(num)values(2.888888); Query OK, 1 row affected (0.00 sec) mysql> select * from tt; +------------+ | num | +------------+ | 123456.797 | | 123456.797 | | 123456.867 | | 2.800 | | 2.889 | +------------+ 5 rows in set (0.00 sec) 注:小数位数超了,自动取近似值。 浮点数是用来表示实数的一种方法,它用 M(尾数) * B( 基数)的E(指数)次方来表示实数,相对于定点数来说,在长度一定的情况下,具有表示数据范围大的特点。但同时也存在误差问题,这就是著名的浮点数精度问题!浮点数有多种实现方法,计算机中浮点数的实现大都遵从 IEEE754 标准,IEEE754 规定了单精度浮点数和双精度浮点数两种规格,单精度浮点数用4字节(32bit)表示浮点数,格式是:1位符号位 8位表示指数 23位表示尾数 双精度浮点数8字节(64bit)表示实数,格式是:1位符号位 11位表示指数 52位表示尾数 同时,IEEE754标准还对尾数的格式做了规范:d.dddddd...,小数点左面只有1位且不能为零,计算机内部是二进制,因此,尾数小数点左面部分总是1。显然,这个1可以省去,以提高尾数的精度。由上可知,单精度浮点数的尾数是用24bit表示的,双精度浮点数的尾数是用53bit表示的,转换成十进制: 二、mysql 和 oracle中的数值类型 问题是不是只有 mysql 存在呢?显然不是,只要是符合IEEE754标准的浮点数实现,都存在相同的问题。 三、编程中也存在浮点数问题 不光数据库中存在浮点数问题,编程中也同样存在,甚至可以说更值得引起注意! 四、总结: 从上面的分析,我们可以得出以下结论: 1、浮点数存在误差问题; 注意事项 MYSQL 5.022中, 此时解决方法有2种: 但是,精度不能超过6.否则出错.因为float类型最多允许精确到小数点后6位. |
下一个产品 SQL计算timestamp的差值的方法 上一个产品 MySql状态查看方法 MySql如何查看连接数和状态? |