.NET数值类型的精度

忘扬夕

忘扬夕

2016-01-29 13:24

.NET数值类型的精度,.NET数值类型的精度

float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.
展开更多 50%)
分享

猜你喜欢

.NET数值类型的精度

电脑网络
.NET数值类型的精度

修改自定义数据类型精度

SQLServer
修改自定义数据类型精度

s8lol主宰符文怎么配

英雄联盟 网络游戏
s8lol主宰符文怎么配

跟我学SQL:(八)数值数据类型

SQLServer
跟我学SQL:(八)数值数据类型

在.NET运行时了解类型信息(3)

电脑网络
在.NET运行时了解类型信息(3)

lol偷钱流符文搭配推荐

英雄联盟 网络游戏
lol偷钱流符文搭配推荐

在.NET运行时了解类型信息(2)

电脑网络
在.NET运行时了解类型信息(2)

vb实现高精度计时

编程语言 网络编程
vb实现高精度计时

lolAD刺客新符文搭配推荐

英雄联盟
lolAD刺客新符文搭配推荐

《天天炫斗》锻造必备条件解析

《天天炫斗》锻造必备条件解析

Flash MX2004入门与进阶实例——绘图基础(8)

Flash MX2004入门与进阶实例——绘图基础(8)
下拉加载更多内容 ↓