dbsx 发表于 2009-6-26 14:37:46

为什么浮点运算是十进制的运算

如果在OD中碰到诸如
00407647   .DC0D A0114000 fmul qword ptr ds:

消息窗口显示：st=51202914.000000000000
ds:=521725.0000000000


其中的运算是要用十进制的方法算的，可是OD中这些运算不是16进制的吗，消息窗口显示的也不是带引号的饿。。。。

[ 本帖最后由 dbsx 于 2009-6-28 14:44 编辑 ]

roking 发表于 2009-6-27 10:03:56

CPU的运算既不是10进制的，也不是十六进制的，而是2进制的，OD中消息窗口显示的只是10进制形式表示的浮点数的值，方便你阅读理解而已。

dbsx 发表于 2009-6-28 14:43:57

原来如此
页: [1]
查看完整版本: 为什么浮点运算是十进制的运算