Математические операции(не относится к S#)

Математические операции(не относится к S#)
Atom
4/14/2011
skuvv


В общем появилась проблема с обычными операциями сложение и вычитание - искажается результат.
Например:
Code

double va1 = 17.1;
double va2 = 17.2;
double re2 = va2 - va1;

на выходе получаю re2 = 0.099999999999997868
что это может быть?


anothar

Avatar
Date: 4/14/2011
Reply


Это проблема связанная с представлением double(короче это нормально). Чтобы от этого избавиться используйте округление Math.Round(re2,2), либо вместо double используйте decimal.
Thanks:

skuvv

Avatar
Date: 4/14/2011
Reply


Спасибо за наводку.
Странно что раньше не замечал такого.
Thanks:


Attach files by dragging & dropping, , or pasting from the clipboard.

loading
clippy