Как посчитать разницу в битках?

russya

Client
Регистрация
08.07.2014
Сообщения
743
Благодарностей
78
Баллы
28
Есть в переменной cena1 - 0,00022305
cena2 - 0,00022261
cena1-cena2 = 0,00000044 - это на калькуляторе

9393 - так выходит если в джава скрипте

Код:
double a = double.Parse(project.Variables["cena1"].Value);
   double b = double.Parse(project.Variables["cena2"].Value);
   // вычисление суммы и передача результата вычисления в переменную проекта
double aa = a - b;
return System.Math.Round(aa,7);
//return aa;
4E-07 - а вот такой ответ в c#. Как добиться чтобы было как в калькуляторе?
 

Bablozavr

Client
Регистрация
26.01.2018
Сообщения
310
Благодарностей
164
Баллы
43
Если мне не изменяет память, сталкивались с таким когда бота для биржи писали, на php и Openserver
Проблема была в разрядности, на x86 была такая беда, на x64 были полноценные значения.

Возможно тут тоже дело в разрядности или системы, или программы.

п.с. не кидайте помидорами, если я ерунду сказал, лучше в гугл отправьте по нужному запросу, по читаю :-)
 

russya

Client
Регистрация
08.07.2014
Сообщения
743
Благодарностей
78
Баллы
28
Вроде фаерфокс 64 и финда у меня 64
 

samsonnn

Client
Регистрация
02.06.2015
Сообщения
1 777
Благодарностей
1 448
Баллы
113
Есть в переменной cena1 - 0,00022305
cena2 - 0,00022261
cena1-cena2 = 0,00000044 - это на калькуляторе
9393 - так выходит если в джава скрипте
Как добиться чтобы было как в калькуляторе?

Правильно будет так:

C#:
decimal a = decimal.Parse(project.Variables["cena1"].Value.Replace(".",",").Trim()); //0.00022305;
decimal b = decimal.Parse(project.Variables["cena2"].Value.Replace(".",",").Trim()); //0.00022261;
return a-b; // Результат: 0,00000044

 
Последнее редактирование:
  • Спасибо
Реакции: russya

russya

Client
Регистрация
08.07.2014
Сообщения
743
Благодарностей
78
Баллы
28
Правильно будет так:

C#:
decimal a = decimal.Parse(project.Variables["cena1"].Value.Replace(".",",").Trim()); //0.00022305;
decimal b = decimal.Parse(project.Variables["cena2"].Value.Replace(".",",").Trim()); //0.00022261;
return a-b; // Результат: 0,00000044

Спасибо! выручили
 

Кто просматривает тему: (Всего: 1, Пользователи: 0, Гости: 1)