zhqyong 发表于 2022-8-11 13:57:51

sunye88888:不能用浮点型数据直接和0用>=,<=来比较

本帖最后由 zhqyong 于 2022-8-11 14:04 编辑

【sunye88888遇到问题】判断是否等于0,看可以看到调试输出 是0 但是判断却执行了不等于0
其次 右边大编辑框 Z 数值 那里 我用了数值到格式文本指令保留3位小数结果输出来个科学计数法?? 本来那个地方应该是0的
只要是整除就会这样 换别的数就没问题
数据格式都是小数
【回答】
由于浮点型数据在计算机中的表示方式与其余数据结构相差巨大,不能用浮点型数据直接和0用>=,<=来比较。

因为float的精度是6位,即精确到小数点后第五位,所以应该使用其精确位0.00001;同理双精度小数其精度为15位,精确到小数点后第14位。

所以float型数据与0的比较程序如下:

#defineACCU   0.00001

if((x >= -ACCU)&&(x <= ACCU)

此为判断的if语句。

或用浮点的绝对值比较if(abs(x)<=ACCU)
————————————————
版权声明:本文为CSDN博主「CrazyAsk」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/CrazyAsk/article/details/8232972


sunye88888 发表于 2022-8-11 15:01:23

抱歉 这个实在看不懂, 请问在火山pc中要怎么写代码呢?

创世魂 发表于 2022-8-11 16:22:40

sunye88888 发表于 2022-8-11 15:01
抱歉 这个实在看不懂, 请问在火山pc中要怎么写代码呢?

小数和0对比的时候,把小数强制转换为整数。

urenai 发表于 2022-8-11 18:53:56

创世魂 发表于 2022-8-11 16:22
小数和0对比的时候,把小数强制转换为整数。

小数和整数比较,不应当丢掉精度,而应当匹配精度。再比较。
页: [1]
查看完整版本: sunye88888:不能用浮点型数据直接和0用>=,<=来比较