飘云阁

 找回密码
 加入我们

QQ登录

只需一步,快速开始

查看: 3771|回复: 2

求助:关于用VB进行大数进制转换(如十进制转二进制)的问题

[复制链接]
  • TA的每日心情
    慵懒
    2018-2-11 09:23
  • 签到天数: 8 天

    [LV.3]偶尔看看II

    发表于 2007-10-25 20:47:37 | 显示全部楼层 |阅读模式
    由于MOD不能支持大数,所以用x-(int(x/2))*2的格式取余,但这样可能会有极小的误差,事实上我发现算出来的结果和WIN自带的计算器也有后几位的差别,不知道还有什么更好的方法
    PYG19周年生日快乐!
  • TA的每日心情
    开心
    2024-6-9 16:20
  • 签到天数: 24 天

    [LV.4]偶尔看看III

    发表于 2007-10-25 21:12:03 | 显示全部楼层
    这个主要是精度的问题造成的。没办法,计算机毕竟位数有限。
    PYG19周年生日快乐!
  • TA的每日心情
    慵懒
    2018-2-11 09:23
  • 签到天数: 8 天

    [LV.3]偶尔看看II

     楼主| 发表于 2007-10-27 12:05:09 | 显示全部楼层
    如果让十进制数在内存中不以 x E x或 x D x 表示,而是以一整串的字符串存在,除了用整型有什么好的方法,
    PYG19周年生日快乐!
    您需要登录后才可以回帖 登录 | 加入我们

    本版积分规则

    快速回复 返回顶部 返回列表