szrunluo
級別: *
![]() |
使用除法運(yùn)算時,DIV, 10000 / 6=1666, 余數(shù)是0.666667. 但在PC運(yùn)行中計算出來的余數(shù)是4,我百思不解PC是怎樣轉(zhuǎn)換過來的結(jié)果, 請求高手指點. |
---|---|
|
zxdha
級別: 略有小成
![]() |
簡單點說,div或ddiv是整數(shù)運(yùn)算指令,在運(yùn)算時它不會去計算小數(shù)點后面的數(shù)據(jù),也就是說它只運(yùn)算到個位數(shù)為止,所以余數(shù)也一定是整數(shù)。如1000除以6等于166,余數(shù)肯定為4。 而使用浮點運(yùn)算從理論上來說是不存在余數(shù)的。!實際應(yīng)用中主要看你使用32位計算、還是使用64位計算、還是用128位計算,位數(shù)越高精確度也越高。如1000除以6等于166.66666666666.......7。請注意小數(shù)點后面的0.66666666666.......7它其實是商,而不是余數(shù)!! |
---|---|
本帖最近評分記錄: |