emddid 发表于 2023-9-8 19:51:03

求助关于小数的问题


第一
调试输出(1.23+4.77)      这样直接相加为什么不行要怎么相加

第二点
a="1.23"
b="4.77"
文本到小数(a)+文本到小数(b)
调试输出等于 6    怎么保留精度   变成6.00


Xelloss0618 发表于 2023-9-8 20:38:21

原因就是火山翻译到 C++ 源码的时候,会直接计算出这些加减乘除的结果。
也就是你以为是 调试输出小数值 ( 1.23 + 4.77),实际上是调试输出小数值 (6)
这里又产生了一个bug,调试输出已经预定输出的类型是小数,但这里的 6 是整数,所以有时就显示错误,变成 0 了。
解决办法是定义一个小数变量 A = 1.23 + 4.77,然后 调试输出(A)
保留精度只是显示问题,显示是要转换到文本的,可以用
调试输出 (取格式文本 ("%.2f", A))

创世魂 发表于 2023-9-8 21:27:53

总结 用取格式文本方法
页: [1]
查看完整版本: 求助关于小数的问题