递归火山软件开发平台

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 火山 源码 类库
查看: 2914|回复: 2
打印 上一主题 下一主题

[视窗] 求助关于小数的问题

[复制链接]

7

主题

31

帖子

99

积分

注册会员

Rank: 2

积分
99
跳转到指定楼层
楼主
发表于 2023-9-8 19:51:03 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式

第一
调试输出(1.23+4.77)      这样直接相加为什么不行  要怎么相加

第二点
a="1.23"
b="4.77"
文本到小数(a)+文本到小数(b)
调试输出等于 6    怎么保留精度   变成6.00


回复

使用道具 举报

26

主题

1900

帖子

6926

积分

核心用户

Rank: 9Rank: 9Rank: 9

积分
6926
沙发
发表于 2023-9-8 20:38:21 来自手机 | 只看该作者
原因就是火山翻译到 C++ 源码的时候,会直接计算出这些加减乘除的结果。
也就是你以为是 调试输出小数值 ( 1.23 + 4.77),实际上是  调试输出小数值 (6)
这里又产生了一个bug,调试输出已经预定输出的类型是小数,但这里的 6 是整数,所以有时就显示错误,变成 0 了。
解决办法是定义一个小数变量 A = 1.23 + 4.77,然后 调试输出(A)
保留精度只是显示问题,显示是要转换到文本的,可以用
调试输出 (取格式文本 ("%.2f", A))
回复

使用道具 举报

444

主题

1万

帖子

4万

积分

超级版主

Rank: 8Rank: 8

积分
40529
板凳
发表于 2023-9-8 21:27:53 | 只看该作者
总结 用  取格式文本  方法
安卓无障碍实战课:点击查看
交流群:641526939
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|递归火山软件开发平台 ( 鄂ICP备18029190号 )

GMT+8, 2024-11-24 07:11 , Processed in 0.082960 second(s), 18 queries .

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表