递归火山软件开发平台

标题: 火山的数值计算是不是有问题? [打印本页]

作者: cdmmye    时间: 2024-7-11 17:13
标题: 火山的数值计算是不是有问题?
100000000 * 50 结果居然等于 705032704 求解

作者: hcwanz    时间: 2024-7-11 17:28
你用字节可以发现更神奇的事情, 100+100都会算错
作者: cdmmye    时间: 2024-7-11 17:36
hcwanz 发表于 2024-7-11 17:28
你用字节可以发现更神奇的事情, 100+100都会算错

嗯嗯火山真的很神奇,我用长正数变量,计算就正常了,真的很神奇
作者: tmf19901124    时间: 2024-7-11 18:14
你自己的问题,你乘出的结果已经超出了有符号整数的最大值21亿了,肯定会出错
作者: uuyyhhjj    时间: 2024-7-11 18:14
(, 下载次数: 15) 这东西多少要理解点内存基础的,一个字节8位,整数是4个字节,其中10进制最大4294967295,但火山没有无符号整数所以能计算的最大值是2147483647,减少了一半,另一半是给负数用的,长整数是8个字节的,能放的数值更大,你用打开计算器调到二进制试试多少就能理解了,

作者: xo37    时间: 2024-7-12 15:03
火山,沿袭易语言的这个没有无符号,是基于什么的考量,好奇……
作者: 山梦    时间: 2024-7-15 10:22
(这 锅 火山不背




欢迎光临 递归火山软件开发平台 (https://bbs.voldp.com/) Powered by Discuz! X3.4