你真正理解AllowUnroundedFloatingPointOperations选项的含义吗
只要你有一台电脑或者手机,都能关注图老师为大家精心推荐的你真正理解AllowUnroundedFloatingPointOperations选项的含义吗,手机电脑控们准备好了吗?一起看过来吧!
DimxAsDouble,yAsDouble,iAsInteger
x=10^18
y=x 1'thiscan'tbeexpressedwith64bits
MsgBox(y=x)'显示"True"(不正确的结果)
严格地说,由于X和Y变量不包含相同的数值,MsgBox将显示False。可问题是,由于数值1E18与1E18+1都以相同的64位浮点Double类型来表示,它们最终包含了几乎相同的数值,最后的MsgBox结果将是True。
如果打开了"AllowUnroundedFloatingPointOperations"编译选项,VB就能重用已在数学协处理器堆栈中的数值,而不是内存中的数值(比如:变量)。因为FPU堆栈具备80位的精度,因此就可以区分出这2个数值的不同:
'iftheprogramiscompiledusingthe
'"AllowUnroundedFloatingPointOperations"compileroption
MsgBox(y=x)'显示"False"(正确的结果)
总结一下:当以解释模式、或者编译的p-code模式、或者编译的native代码模式但关掉"AllowUnroundedFloatingPointOperations"选项这3种方式运行一个程序时,所有浮点数字运算在内部都以80位的精度进行处理。但如果有一个数值是存储在64位Double变量中,结果就是接近的了,并且,随后使用那个变量的表达式也将产生近似的结果,而不是绝对正确的结果。
相反,如果打开"AllowUnroundedFloatingPointOperations"编译选项后运行一段native编译代码,在随后的表达式中VB就经常能重用内部的80位数值,而忽略存储在变量中的当前数值。注意:我们并不能完全控制这个功能,VB也许对此生效,也许就不生效,这要取决于表达式的复杂程度以及最初分配数值语句与随后产生结果的表达式语句的距离远近。->