Разделите не возвращение десятичного значения, которое я ожидаю [копируют]
2 ответа
Судя по звуку, вы выполняете целочисленное деление. Попробуйте следующее:
decimal result = 2.0 / 3.0;
Или даже принудительно переведите его в десятичную систему счисления для всех операций:
decimal result = 2.0m / 3.0m;
Это должно дать результат, более похожий на ожидаемый.
47
ответ дан 29 November 2019 в 06:51
поделиться
Деление 2/3 - это целочисленное деление, которое не возвращает десятичный знак деления. Чтобы получить .666666667, вам нужно выполнить 2.0 / 3.0, которые оба являются удвоенными, чтобы получить ожидаемый ответ.
7
ответ дан 29 November 2019 в 06:51
поделиться
Другие вопросы по тегам: