Я знаю, что в float есть некоторые проблемы с усечением или вопросы округления. но усечение для любого значения должно быть одинаковым. но здесь может кто-нибудь объяснить. почему выходы для 4.2 5.2 и т. д. извлекают 19 как ...
Я делаю простую математическую операцию в java как 16.7-16, она дает 0.6999999999999993, а не 0.7, почему это так, и это фотография из моей общедоступной программы программы ZeroPositiveNegative {public static void ...
Из предложений @manix и @Matt Crandall я узнал, что .toFixed (2) решает мою проблему. Я буду копать глубже в том, почему позже. Дело закрыто. Я создаю базу данных для магазина и ошибаюсь ...
У меня есть следующий тестовый скрипт: function test () {var x = 0.1 * 0.2; document.write (х); } тестовое задание(); Это напечатает результат 0.020000000000000004, в то время как он должен просто напечатать ...
Почему C может представлять плавающие точки 1,75 и 1,05 точно, но не 2,45 и 0,7? В приведенном ниже коде я попытался продемонстрировать, что я имею в виду. 1,75 - 1,05 - 0,70 точно равна 0, но 1,75 - 2,45 - ...
открытый класс doublePrecision {открытый статический void main (String [] args) {double total = 0; всего + = 5,6; всего + = 5,8; System.out.println (всего); } } Вышесказанное ...
Было несколько вопросов, отправленных на ТАК о представлении с плавающей точкой. Например, десятичное число 0.1 не имеет точного двоичного представления, таким образом, опасно использовать ==...
У меня есть следующий код. Мне бы хотелось, чтобы оно было таким, чтобы если price_result равнялся целому числу, скажем, 10, то я хотел бы добавить два десятичных знака. Таким образом, 10 будет 10,00. Или, если он равен 10,6 ...
Мы делаем много с плавающей точкой к преобразованиям целого числа в нашем проекте. В основном, что-то вроде этого для (интервал i = 0; я <HUGE_NUMBER; я ++) int_array [я] = float_array [я];...
Привет, ребята, я пытаюсь проверить float с javascript. Мне хотелось бы что-то вроде этого 00.00 или 0.00 или 000.00, как будто это были деньги. Я не хочу, кроме каких-либо $ или, значение должно быть числом и ...
То, каков лучший метод для сравнения IEEE, плавает и удваивается для равенства? Я услышал о нескольких методах, но я хотел видеть то, что думало сообщество.
Привет, ребята, у меня проблема с умножением в java, мои коды выглядят так: double d = (1995/100); System.out.print (д); // результат: 19.0 вместо ответа 19.5 результат становится 19.0 ...
Какой самый эффективный способ сравнить два двойных или два значения с плавающей точкой? Просто делать это не правильно: bool CompareDoubles1 (double A, double B) {return A == B; } Но что-то вроде: ...
Я могу полагаться на sqrt ((плавание) a) *sqrt ((плавание) a) == a или (интервал) sqrt ((плавание) a) * (интервал) sqrt ((плавание) a) ==, чтобы проверить, является ли число полным квадратом? Почему или почему нет? интервал числа быть оцененным. Я'...
Я читал о разнице между двойной точностью и одинарной точностью. Однако в большинстве случаев float и double кажутся взаимозаменяемыми, то есть использование одного или другого, похоже, не влияет ...
У меня есть куча чисел с плавающей запятой меньше 1, которые я хотел бы распечатать на python без ведущего 0 слева от десятичной точки. например, если x = 34/57. Я могу сделать в [57]: x ...
То, что я имею в виду, следующее: двойной d1 =555; удвойте d2=55.343, я хочу быть в состоянии сказать, что d1 является целым числом, в то время как d2 не. Существует ли простой способ сделать это в c/c ++?
Документация для раунда () функция указывает о передаче его число и положения мимо десятичного числа к раунду. Таким образом это должно сделать это: n = 5,59 раундов (n, 1) № 5.6, Но, в действительности, хорошей...
В следуют до этого вопроса, кажется, что некоторые числа не могут быть представлены плавающей точкой вообще и вместо этого приближены. Как числа с плавающей точкой хранятся? Есть ли общее...
Кто-либо знает об удобном средстве определения, если строковое значение "квалифицирует" как число с плавающей запятой? bool IsFloat (представляют MyString в виде строки) {... и т.д.... возвращается...//верный если плавание;...
Что лучший способ состоит в том, чтобы проанализировать плавание в До-диезе? Я знаю о TryParse, но о чем я особенно задаюсь вопросом, точки, запятые и т.д. У меня есть проблемы с моим веб-сайтом. На моем dev сервере,''...
Может каждое возможное значение переменной плавающей может быть представлено точно в двойной переменной? Другими словами, для всех возможных значений X будет следующее быть успешным: пустите в ход f1 = X; удвойте d = f1;...
Этот код работы (C# 3) удваивает d; если (d == (двойной) (интервал) d)...; существует ли лучший способ сделать это? По посторонним причинам я хочу избежать двойного броска так; какие хорошие пути существуют кроме этого? (даже...
Я знаю, вопрос, кажется, является странным. Программисты иногда думают слишком много. Продолжайте читать... В C я использую целые числа со знаком и целые числа без знака много. Мне нравится то, что компилятор предупреждает меня, если я делаю...
Я пытаюсь распечатать каждый бит числа с плавающей точкой в C. Я могу сделать это для целых чисел с этим: интервал bit_return (интервал a, международное местоположение)//Бит, возвращенный в местоположении {интервал buf = a и 1 <и...
Возможный Дубликат: проблема в сравнении двойных значений в C#, я считал его в другом месте, но действительно забываю ответ, таким образом, я спрашиваю здесь снова. Этот цикл никогда кажется концом независимо, Вы кодируете его в любом...