递归火山软件开发平台

标题: 火山的数值计算是不是有问题？ [打印本页]

作者: cdmmye 时间: 2024-7-11 17:13
标题: 火山的数值计算是不是有问题？
100000000 * 50 结果居然等于 705032704 求解

作者: hcwanz 时间: 2024-7-11 17:28
你用字节可以发现更神奇的事情， 100+100都会算错

作者: cdmmye 时间: 2024-7-11 17:36

hcwanz 发表于 2024-7-11 17:28
你用字节可以发现更神奇的事情， 100+100都会算错

嗯嗯火山真的很神奇，我用长正数变量，计算就正常了，真的很神奇

作者: tmf19901124 时间: 2024-7-11 18:14
你自己的问题，你乘出的结果已经超出了有符号整数的最大值21亿了，肯定会出错

作者: uuyyhhjj 时间: 2024-7-11 18:14
(, 下载次数: 23) 这东西多少要理解点内存基础的，一个字节8位，整数是4个字节，其中10进制最大4294967295，但火山没有无符号整数所以能计算的最大值是2147483647，减少了一半，另一半是给负数用的，长整数是8个字节的，能放的数值更大，你用打开计算器调到二进制试试多少就能理解了，

作者: xo37 时间: 2024-7-12 15:03
火山，沿袭易语言的这个没有无符号，是基于什么的考量，好奇……

作者: 山梦 时间: 2024-7-15 10:22

(这锅火山不背

欢迎光临递归火山软件开发平台 (https://bbs.voldp.com/)