Как посчитать разницу в битках?

  • Автор темы Автор темы russya
  • Дата начала Дата начала

russya

Client
Регистрация
08.07.2014
Сообщения
757
Реакции
83
Баллы
28
Есть в переменной cena1 - 0,00022305
cena2 - 0,00022261
cena1-cena2 = 0,00000044 - это на калькуляторе

9393 - так выходит если в джава скрипте

Код:
Развернуть Свернуть Копировать
double a = double.Parse(project.Variables["cena1"].Value);
   double b = double.Parse(project.Variables["cena2"].Value);
   // вычисление суммы и передача результата вычисления в переменную проекта
double aa = a - b;
return System.Math.Round(aa,7);
//return aa;

4E-07 - а вот такой ответ в c#. Как добиться чтобы было как в калькуляторе?
 
Если мне не изменяет память, сталкивались с таким когда бота для биржи писали, на php и Openserver
Проблема была в разрядности, на x86 была такая беда, на x64 были полноценные значения.

Возможно тут тоже дело в разрядности или системы, или программы.

п.с. не кидайте помидорами, если я ерунду сказал, лучше в гугл отправьте по нужному запросу, по читаю :)
 
Вроде фаерфокс 64 и финда у меня 64
 
Есть в переменной cena1 - 0,00022305
cena2 - 0,00022261
cena1-cena2 = 0,00000044 - это на калькуляторе
9393 - так выходит если в джава скрипте
Как добиться чтобы было как в калькуляторе?


Правильно будет так:

C#:
Развернуть Свернуть Копировать
decimal a = decimal.Parse(project.Variables["cena1"].Value.Replace(".",",").Trim()); //0.00022305;
decimal b = decimal.Parse(project.Variables["cena2"].Value.Replace(".",",").Trim()); //0.00022261;
return a-b; // Результат: 0,00000044


3fPB5r0.jpg
 
Последнее редактирование:
  • Оценить
Реакции: russya
Правильно будет так:

C#:
Развернуть Свернуть Копировать
decimal a = decimal.Parse(project.Variables["cena1"].Value.Replace(".",",").Trim()); //0.00022305;
decimal b = decimal.Parse(project.Variables["cena2"].Value.Replace(".",",").Trim()); //0.00022261;
return a-b; // Результат: 0,00000044


3fPB5r0.jpg
Спасибо! выручили
 

Кто просматривает тему: (Всего: 0, Пользователи: 0, Гости: 0)