冰糖 发表于 2007-10-25 20:47:37

求助：关于用VB进行大数进制转换（如十进制转二进制）的问题

由于MOD不能支持大数，所以用x-（int(x/2)）*2的格式取余，但这样可能会有极小的误差，事实上我发现算出来的结果和WIN自带的计算器也有后几位的差别，不知道还有什么更好的方法

xingke 发表于 2007-10-25 21:12:03

这个主要是精度的问题造成的。没办法，计算机毕竟位数有限。

冰糖 发表于 2007-10-27 12:05:09

如果让十进制数在内存中不以 x E x或 x D x 表示,而是以一整串的字符串存在,除了用整型有什么好的方法,
页: [1]
查看完整版本: 求助：关于用VB进行大数进制转换（如十进制转二进制）的问题