递归火山软件开发平台

标题: 求助关于小数的问题 [打印本页]

作者: emddid 时间: 2023-9-8 19:51
标题: 求助关于小数的问题

第一
调试输出(1.23+4.77) 这样直接相加为什么不行要怎么相加

第二点
a="1.23"
b="4.77"
文本到小数(a)+文本到小数(b)
调试输出等于 6 怎么保留精度变成6.00

作者: Xelloss0618 时间: 2023-9-8 20:38
原因就是火山翻译到 C++ 源码的时候，会直接计算出这些加减乘除的结果。
也就是你以为是调试输出小数值 ( 1.23 + 4.77)，实际上是调试输出小数值 (6)
这里又产生了一个bug，调试输出已经预定输出的类型是小数，但这里的 6 是整数，所以有时就显示错误，变成 0 了。
解决办法是定义一个小数变量 A = 1.23 + 4.77，然后调试输出(A)
保留精度只是显示问题，显示是要转换到文本的，可以用
调试输出 (取格式文本 ("%.2f", A))

作者: 创世魂 时间: 2023-9-8 21:27
总结用取格式文本方法

欢迎光临递归火山软件开发平台 (https://bbs.voldp.com/)