← 戻る

Математические операции(не относится к S#)

В общем появилась проблема с обычными операциями сложение и вычитание - искажается результат. Например:


            double va1 = 17.1;
            double va2 = 17.2;
            double re2 = va2 - va1;

на выходе получаю re2 = 0.099999999999997868 что это может быть?

このトピックは参考になりましたか?

トピックを共有

コメント (2)

ログイン または アカウントを作成, コメントを残すにはログインまたは新規登録してください

anothar
anothar

Это проблема связанная с представлением double(короче это нормально). Чтобы от этого избавиться используйте округление Math.Round(re2,2), либо вместо double используйте decimal.

skuvv
skuvv 著者

Спасибо за наводку. Странно что раньше не замечал такого.