zj4f 发表于 2021-5-15 13:18:14

除法小数问题,大家是否有同感

在火山PC语言有个小小问题就是除法, 4/5
得出来的数值为 0
除非你转换一下4 或 5为小数才能正确
得到数值.
这个问题有点搞啊!!!

正版商业用户 发表于 2021-5-15 15:57:24

你改为4*1.0/5试试

创世魂 发表于 2021-5-15 16:56:32

这是正常的，要声明一下小数，或者其中一个是小数。

4 / 5.0   

4 / (小数)5

hmyroot 发表于 2021-5-16 13:05:07

不知道C++语言是否也这样？

曼菲士 发表于 2024-6-26 11:20:29

刚好遇到这个问题，解决了。

accet 发表于 2024-6-30 11:09:58

正常..
大多数语言. 两个整数的话就是用整数进行计算.速度才快. 也不会出现精度问题
火山的就是VC编译的. 自然也继承下来了. 我们在C++写的时候需要用小数了.. 也是要写成 4/5.0

象易语言那样转 全转双精度小数. 计算才有问题.. 经常出现精度问题. 让很多人都头疼.. 算式不敢写一成一排..得一排计算一次存到变量一次.. 不然结果容易有问题的...
页: [1]
查看完整版本: 除法小数问题,大家是否有同感