个人技术分享

float, double, decimal

decimal

• double 和 float 的采用base 2, 不能精确的表示浮点数, 进行加减乘除的操作的时候会出现精度丢失的问题
• decimal 采用base 10，可以精确的表示浮点数，加减乘除的时候不会出现精度丢失的问题

double x = 0.1;
double value = 0.0;
for (int i = 0; i < 1000; i++)
{
    value += x;
}
Console.WriteLine(value);
//output: 99.9999999999986

decimal x = 0.1M;
decimal value = 0.0M;
for (int i = 0; i < 1000; i++)
{
    value += x;
}
Console.WriteLine(value);
//output: 100.00

• decimal的缺点是内存占用大，处理速度慢(大概比double慢10倍)