5
ответов
Эмпирическое правило для тестирования равенства два удваивается в C#?
Скажем, у меня есть некоторый код, который делает некоторую арифметику с плавающей точкой и хранит значения в, удваивается. Поскольку некоторые значения не могут быть представлены отлично в двоичном файле, как я тестирую на равенство...
вопрос задан: 23 June 2010 17:47
5
ответов
Математика Delphi: Почему 0.7 <0.70?
Если у меня есть переменные a, b, c типа дважды, позвольте c: = a/b, и дают a и b значения 7 и 10, затем значение c 0,7 регистров, как являющихся меньше чем 0,70. С другой стороны, если переменные - все...
вопрос задан: 3 May 2010 08:25
5
ответов
Реальный пример fo ошибка С плавающей точкой
Есть ли какие-либо примеры компании, которая была записана данными с плавающей запятой, которые вызвали округляющуюся проблему? Мы реализуем новую систему, и вся денежная стоимость хранится в плаваниях. Я думаю если я...
вопрос задан: 28 April 2010 20:21
5
ответов
Почему мое число округляет неправильно?
Это чувствует себя подобно виду кода, который только перестал работать на месте, но я попытаюсь адаптировать его во фрагмент кода, который представляет то, что я вижу. пустите в ход f = myFloat * myConstInt;/*, Где myFloat == 13.45...
вопрос задан: 24 April 2010 22:33
5
ответов
Бесконечность в MSVC ++
Я использую MSVC ++, и я хочу использовать специальную БЕСКОНЕЧНОСТЬ значения в своем коде. Каков шаблон байта или постоянный для использования в MSVC ++ для бесконечности? Почему 1.0f/0.0f, кажется, имеет значение 0? #include...
вопрос задан: 13 April 2010 00:53
5
ответов
C: различие между (интервалом) x и полом (x)?
В C, каково различие между этими двумя? пустите в ход myF = 5.6; printf ("%i \n", (интервал) myF);//дает мне "5" printf ("%ld \n", пол (myF));//также "5"? Когда каждый предпочтителен по другому?
вопрос задан: 8 April 2010 23:57
5
ответов
Проблемы сравнения плавающей точки MySQL
Я столкнулся с проблемой путем представления столбцов с плавающей точкой в схеме базы данных MySQL, что сравнения на значениях с плавающей точкой всегда не возвращают корректные результаты. 1 - 50.12 2 - 34.57 3-...
вопрос задан: 2 April 2010 15:24
5
ответов
Точность с плавающей точкой в Visual C++
ПРИВЕТ, я пытаюсь использовать устойчивые предикаты для вычислительной геометрии от Jonathan Richard Shewchuk. Я не программист, таким образом, я даже не уверен в том, что я говорю, я могу делать некоторых основных...
вопрос задан: 2 April 2010 09:14
5
ответов
Почему там столько плаваний в API Android?
Тип с плавающей точкой по умолчанию в Java является двойным. При твердом кодировании константы как 2,5 в программу Java делает ее двойным автоматически. Когда Вы делаете операцию на плаваниях или ints это...
вопрос задан: 19 March 2010 06:56
5
ответов
Как решить эту проблему в PHP?
$onethird = 1.0/3; $fivethirds = 1.0/3+1.0/3+1.0/3+1.0/3+1.0/3; $half = 1.0/2; $threehalf = 1.0/2+1.0/2+1.0/2; var_dump ($onethird + $fivethirds == $half + $threehalf); какая выходная ложь, но как мы...
вопрос задан: 3 January 2010 15:25
5
ответов
Почему там различие между тем же значением, сохраненным как плавание и двойным в Java?
Я ожидал, что следующий код произведет: "Оба равны", но я добрался, "Оба не равны": плавание a=1.3f; двойной b=1.3; если (== b) {System.out.println ("Оба равны");} еще {System.out.println ("...
вопрос задан: 1 October 2009 17:03
5
ответов
Преобразование плавания для удвоения
Насколько дорогой преобразование плавания к двойному? Действительно ли это столь же тривиально как интервал к длинному преобразованию?Править: Я принимаю платформу где, где плавание составляет 4 байта и дважды составляет 8 байтов
вопрос задан: 14 September 2009 14:07
5
ответов
Выбор плавания в MySQL
Я пытаюсь сделать ИЗБРАННОЕ соответствие на таблице, основанной на идентификаторе и цене, такой как: ВЫБЕРИТЕ * ИЗ 'таблицы' ГДЕ 'ident' = 'ident23' И 'цена' = '101.31'; вышеупомянутые возвраты обнуляют строки, в то время как если...
вопрос задан: 19 August 2009 19:52
5
ответов
Как получить-0 результатов в вычислениях с плавающей точкой и отличить его от +0 в C#?
Документация MSDN упоминает, что двойной тип включает отрицательный нуль. Однако оба-1.0 / дважды. PositiveInfinity и - дважды. Эпсилон / 2, кажется, возвращает нормальный 0 (и выдерживает сравнение равный ему). Как...
вопрос задан: 25 June 2009 13:10
5
ответов
Преобразуйте плавание для удвоения, не теряя точность
У меня есть примитивное плавание, и мне нужно как примитив дважды. Просто кастинг плавания для удвоения дает мне странную дополнительную точность. Например: пустите в ход временный файл = 14009.35F; System.out.println (Float.toString (...
вопрос задан: 27 May 2009 14:40
5
ответов
Существует ли способ получить хэш-код плавания с эпсилоном?
Известно, что сравнение плаваний == обычно является ошибкой. В 3D векторном классе (с компонентами плавающими X, Y, Z) я записал, два вектора считают равными, если их расстояние считают нулем...
вопрос задан: 24 February 2009 09:01
5
ответов
Как иметь дело с избыточной точностью в вычислениях с плавающей точкой?
В моем численном моделировании у меня есть код, подобный двойному x следующего отрывка; сделайте {x =/* некоторое вычисление */;}, в то время как (x <= 0.0);/* некоторый алгоритм, который требует, чтобы x был (точно) больше...
вопрос задан: 3 February 2009 09:39
5
ответов
Использование NaN в C++?
Что лучший способ состоит в том, чтобы использовать NaNs в C++? Я нашел станд.:: numeric_limits <дважды>:: quiet_NaN () и станд.:: numeric_limits <дважды>:: signaling_NaN (). Я хотел бы использовать signaling_NaN для представления...
вопрос задан: 25 October 2008 21:43
5
ответов
Преобразование исключений в операции с плавающей запятой в исключения C++
Действительно ли возможно преобразовать исключения в операции с плавающей запятой (сигналы) в исключения C++ на x86 Linux? Это для отладки целей, таким образом, немобильность и недостаток хорошо (например, если это не 100%...
вопрос задан: 17 September 2008 17:40
4
ответа
Почему у нас в Ruby 0,0 и -0,0? [Дубликат]
В ruby, почему я могу присвоить отрицательный знак 0.0 float, полезна ли эта функция в любом случае? Может ли кто-нибудь объяснить это мне? -0,0 # => -0,0 -0,0 * -1 # => 0,0
вопрос задан: 4 November 2019 11:30
4
ответа
Получите и управляйте комбинацией двоичных разрядов плавания как целое число
В Python 2.5 у меня есть плавание, и я хотел бы получить и управлять его комбинацией двоичных разрядов как целым числом. Например, предположите, что у меня есть x = 173.3125 В формате IEEE 754, комбинация двоичных разрядов x в шестнадцатеричном...
вопрос задан: 5 October 2019 04:25
4
ответа
Как C# оценивает плавающую точку в парении и непосредственном окне по сравнению со скомпилированным?
Я вижу, что что-то нечетное с хранением удваивается в словаре и перепутано относительно почему. Вот код: Словарь <строка, дважды> = новый Словарь <строка, дважды> ();...
вопрос задан: 30 August 2019 18:14
4
ответа
php пускают в ход вычисление 2 десятичных точки
Получил проблему математического вычисления. $a = 34,56$b = 34,55$a делают некоторое вычисление для получения этого $b числа делает округление к ближайшим 0.05 для получения этого числа, что происходит, $c = $b - $a...
вопрос задан: 28 August 2019 11:15
4
ответа
Строка PHP для плавания
Я не знаком с PHP вообще и имел быстрый вопрос. У меня есть 2 переменные pricePerUnit и InvoicedUnits. Вот код, который устанавливает их на значения: $InvoicedUnits = ((строка) $...
вопрос задан: 28 June 2019 16:31
4
ответа
Является ли жесткое кодирование наименее значимого байта двойника хорошей стратегией округления?
У меня есть функция, выполняющая некоторые математические вычисления и возвращающая двойное число. Это приводит к разным результатам в Windows и Android из-за различий в реализации std :: exp (Почему я получаю ...
вопрос задан: 18 January 2019 20:37
4
ответа
Python JSON сериализирует Десятичный объект
Я имею Десятичное число ('3.9') как часть объекта и хочу закодировать это к строке JSON, которая должна быть похожей {'x': 3.9}. Я не забочусь о точности на стороне клиента, таким образом, плавание прекрасно. Есть ли...
вопрос задан: 6 November 2018 18:47
4
ответа
Как отформатировать поплавок в JavaScript?
В JavaScript, при преобразовании из числа с плавающей точкой в строку, как я могу получить только 2 цифры после десятичной точки? Например, 0,34 вместо 0,3445434.
вопрос задан: 9 October 2018 08:06
4
ответа
Как я могу заставить деление быть плавающей точкой? Деление продолжает округляться до 0?
У меня есть два целочисленных значения a и b, но мне нужно их соотношение в плавающей запятой. Я знаю, что < b и я хочу вычислить a / b, поэтому, если я использую целочисленное деление, я всегда получу 0 с остатком от a. ...
вопрос задан: 10 August 2018 07:48
4
ответа
ParseFloat функционируют в JavaScript
Когда я добавляю два значения текстового поля, которые являются 1.001 и 0.001, и затем я делаю parseFloat, который я получаю 1.0019999999. Я хочу это 1.002. Можно ли помочь мне?
вопрос задан: 25 April 2018 10:19
4
ответа
Преобразуйте плавание в строку
Как я могу преобразовать целое число с плавающей точкой в строку в C/C++ без библиотечной функции sprintf? Я ищу функцию, например, символ *ftoa (пустите в ход цифру), который преобразовывает цифру в строку и возвраты...
вопрос задан: 11 October 2017 02:47