Математические операции(не относится к S#). StockSharp

Математические операции(не относится к S#)

4/14/2011

skuvv

В общем появилась проблема с обычными операциями сложение и вычитание - искажается результат. Например:


            double va1 = 17.1;
            double va2 = 17.2;
            double re2 = va2 - va1;

на выходе получаю re2 = 0.099999999999997868 что это может быть?

Tags:

клуб алготрейдеров

Thanks:

anothar

Date: 4/14/2011

Это проблема связанная с представлением double(короче это нормально). Чтобы от этого избавиться используйте округление Math.Round(re2,2), либо вместо double используйте decimal.

Thanks:

skuvv

Date: 4/14/2011

Спасибо за наводку. Странно что раньше не замечал такого.

Thanks:

Attach files by dragging & dropping, , or pasting from the clipboard.