English
Register →
← Back

Математические операции(не относится к S#)

skuvv skuvv · 1 min read · 813 views
клуб алготрейдеров

В общем появилась проблема с обычными операциями сложение и вычитание - искажается результат. Например:


            double va1 = 17.1;
            double va2 = 17.2;
            double re2 = va2 - va1;

на выходе получаю re2 = 0.099999999999997868 что это может быть?

Comments (2)

Login or Create account, Log in or register to leave a comment

anothar
anothar

Это проблема связанная с представлением double(короче это нормально). Чтобы от этого избавиться используйте округление Math.Round(re2,2), либо вместо double используйте decimal.

skuvv
skuvv Author

Спасибо за наводку. Странно что раньше не замечал такого.