0
ответов
Алгоритм определения отношения двух чисел с плавающей запятой?
Мне нужно найти отношение одного числа с плавающей запятой к другой, и соотношение должно быть двумя целыми числами. Например: input: 1.5, 3.25
output: "6:13" Кто-нибудь знает об одном? Ищу в Интернете ...
вопрос задан: 26 December 2014 19:29
0
ответов
странное поведение при сравнении чисел с плавающей запятой в rspec
, третий из следующих тестов не проходит: укажите {(0,6 * 2). Следует eql (1.2)} указать {(0,3 * 3) .should eql (0.3 * 3)} указывает {(0.3 * 3) .should eql (0.9)} # этот не работает Почему это? Это ...
вопрос задан: 22 December 2014 23:31
0
ответов
JSON.parse анализирует/преобразует большие номера неправильно
Моя проблема очень проста, но я не уверен, есть ли "родное" решение с использованием JSON.parse. Я получаю эту строку из API: { "key" : -922271061845347495 } Когда я использую JSON.parse для этого...
вопрос задан: 26 November 2014 07:26
0
ответов
Haskell колеблется и плавает
Почему поведение записи диапазона Haskell отличается для чисел с плавающей точкой от целых чисел и символов? Прелюдия > [1, 3 .. 10] :: [Int] [1,3,5,7,9] Prelude > [1, 3 .. 10] :: [Float] [1.0,3.0,5.0,7.0, ...
вопрос задан: 25 November 2014 09:04
0
ответов
Преобразовать центы в доллары в рубинах без использования BigDecimal
Я хочу правильно конвертировать из центов в доллары в рубинах. Мне никогда не придется работать с долей центов. Можно ли это сделать правильно (без ошибок с плавающей точкой), не прибегая к ...
вопрос задан: 6 November 2014 18:12
0
ответов
Остановка отладчика при получении числа с плавающей запятой NaN
У меня есть программа на C ++. Где-то в программе (трудно воспроизвести, но воспроизвести) вычисление приводит к тому, что значение с плавающей точкой устанавливается равным NaN. Поскольку операция с плавающей запятой с результатом NaN ...
вопрос задан: 2 November 2014 23:12
0
ответов
Как бесконечность представлена в C двойном?
Из книги «Компьютерные системы: перспектива программиста» я узнал, что стандарт IEEE требует представления числа с плавающей запятой двойной точности в следующем 64-битном двоичном формате: s: ...
вопрос задан: 1 November 2014 20:34
0
ответов
Как представить число FLOAT в памяти на языке C
Читая учебник, я натолкнулся на то, как представлять число Float в памяти. В учебнике был пример с числом с плавающей запятой. float a = 5.2 с приведенной ниже диаграммой Кто-нибудь, пожалуйста, скажите ...
вопрос задан: 21 October 2014 00:59
0
ответов
Представление чисел с плавающей запятой Java в виде шестнадцатеричные числа
Почему 0x1p3 равно 8,0? Почему 0x1e3 равно 483, а 0x1e3d равно 7741? Это сбивает с толку, поскольку 1e3d равно 1000.0.
вопрос задан: 7 September 2014 17:38
0
ответов
Является ли сложение с плавающей запятой и умножение ассоциативными?
У меня возникла проблема, когда я добавлял три значения с плавающей запятой и сравнивал их с 1. cout << ((0,7 + 0,2 + 0,1 )== 1 )<
вопрос задан: 22 June 2014 20:37
0
ответов
Безопасно ли reinterpret_cast целое число, чтобы плавать?
Примечание: я по ошибке спросил о static_cast изначально; Вот почему в верхнем ответе сначала упоминается static_cast. У меня есть несколько двоичных файлов с байтовыми значениями с прямым порядком байтов. Я хочу прочитать их в ...
вопрос задан: 14 June 2014 19:24
0
ответов
Зачем печатать круглые числа с плавающей точкой?
Я пытаюсь напечатать некоторые числа с плавающей запятой, используя printf. Например: int main () {printf ("%. 1f", 76,75); вернуть 0; } РЕЗУЛЬТАТ: 76,8 И у меня есть несколько вопросов о результате. ...
вопрос задан: 10 June 2014 00:07
0
ответов
Python преобразование float в int
По сути, я конвертирую float в int, но у меня не всегда есть ожидаемое значение. Вот код, который я выполняю: x = 2.51 print ("--------- 251.0")
у = 251,0
печать (у)
print (int (y)) print ("---...
вопрос задан: 31 May 2014 14:05
0
ответов
Должны ли мы обычно использовать литералы float для плавающих чисел вместо более простых литералов double?
В C++ (или, возможно, только в наших компиляторах VC8 и VC10) 3.14 - это литерал double, а 3.14f - литерал float. Сейчас у меня есть коллега, который сказал: Мы должны использовать float-литералы для float-вычислений ...
вопрос задан: 15 May 2014 12:45
0
ответов
Ruby: Почему 1.025.round(2) округляется до 1.02?
Насколько я понимаю, функция .round()в ruby округляет десятичные числа в большую сторону, где последнее значащее число равно 5? Например, 1.5.round(0) # => 2 (OK), но почему 1.025.round(2) # => ...
вопрос задан: 30 April 2014 19:51
0
ответов
В Python маленькие числа с плавающей запятой, стремящиеся к нулю
У меня есть байесовский классификатор, запрограммированный на Python, проблема в том, что когда я умножаю вероятности признаков, я получаю ОЧЕНЬ маленькие значения с плавающей запятой, такие как 2.5e-320 или что-то в этом роде, и внезапно это ...
вопрос задан: 21 April 2014 15:57
0
ответов
Суффикс «f» в значении float?
Мне интересно, в чем разница между этими двумя переменными в C: float price = 3,00; и цена float = 3.00f; Завершающая буква «f»?
вопрос задан: 8 April 2014 14:40
0
ответов
Числовое представление действительных чисел, альтернатива формату с плавающей запятой
Существуют ли какие-либо форматы для описания действительных чисел, кроме формата с плавающей запятой? В частности, я прошу форматы, которые по-прежнему обеспечивают приемлемую производительность вычислений (по сравнению с плавающей запятой), ...
вопрос задан: 2 April 2014 23:37
0
ответов
регулярное выражение для поиска десятичных/плавающих чисел?
Мне нужно регулярное выражение для десятичных/числа с плавающей запятой, например 12 12,2 1236,32 123,333 и +12,00 или -12,00 или... 123,123... для использования в javascript и jQuery. Спасибо.
вопрос задан: 23 March 2014 11:45
0
ответов
Как получить случайное число с плавающей запятой в Python
Все еще пытаетесь выяснить, есть ли в Python функция для получения случайного значения с плавающей запятой с помощью шага? Аналогично randrange (start, stop, step ), но для чисел с плавающей запятой.
вопрос задан: 12 March 2014 13:43
0
ответов
сравнение значений типа float / double с использованием оператора ==
Инструмент проверки кода, который я использую, жалуется на следующее, когда я начинаю сравнивать два значения float с помощью оператора равенства. Как правильно и как это делать? Есть ли вспомогательная функция (commons- *) ...
вопрос задан: 11 March 2014 14:55
0
ответов
точное представление чисел с плавающей запятой в c
void main ()
{float a = 0,7; если (a <0,7) printf ("c"); иначе printf ("c ++");
} В приведенном выше вопросе для 0.7 будет напечатано «c», а для 0.8 - «c ++». ...
вопрос задан: 19 February 2014 18:36
0
ответов
Четверная точность в C ++ (GCC)
Совсем недавно GCC 4.6.0 вышел вместе с libquadmath. К сожалению, GNU поддерживает Fortran, но не C или C ++ (все, что включено, - это .so). Я не нашел способа использовать эти новые ...
вопрос задан: 18 February 2014 08:31
0
ответов
math.Mod в Go возвращает целую часть вместо остатка с плавающей запятой -
Math.Mod Голанга (10, 4 )возвращает 2 --т.е. целая часть результата деления 2,5 --, но не должна ли она быть «остатком с плавающей запятой», то есть 0,5?
вопрос задан: 15 February 2014 12:41
0
ответов
Сжатие данных с плавающей запятой
Существуют ли какие-либо методы сжатия без потерь, которые можно применить к времени с плавающей запятой? последовательных данных, и значительно превзойдет, скажем, запись данных в виде двоичного файла и прогон его через ...
вопрос задан: 10 February 2014 19:24
0
ответов
Как напечатать форматированное число с плавающей запятой в obj-c?
Как напечатать число с плавающей запятой в Objective-C, например, 3,45 вместо 3,45555555555?
вопрос задан: 10 February 2014 16:30
0
ответов
Тип данных для хранения долготы/широты в Mysql
'43.005895','-71.013202' Попытка использовать: INSERT INTO table(fanDetLocZip, fanDetLocCity, fanDetLocState, fanDetLocLat, fanDetLocLong, fanDetLocTZ, fanDetLocDST) VALUES(00210, ', 'NH', '43....
вопрос задан: 10 February 2014 06:04
0
ответов
Как указать десятичную точность с плавающей запятой из переменной?
У меня повторяется следующий повторяющийся простой код несколько раз, когда я хотел бы создать функцию для: for i in range (10): id = "некоторая строка идентификатора искала в dict" val = 63 ....
вопрос задан: 8 February 2014 14:10
0
ответов
округление float до $.01 в python
Я работаю над программой, которая хранит числа как float, которые я в конечном итоге записываю в файл как валюту. В настоящее время я использую функцию round() для округления до 2 десятичных знаков, но бизнес-сфера ...
вопрос задан: 8 January 2014 12:46
0
ответов
Безопасна ли проверка двойника на равенство?
У меня есть следующий код: double x = 0; {... делать что-нибудь ...} if (x == 0) {} Меня всегда учили, что вы не должны проверять числа с плавающей запятой на равенство. Есть ли разница в проверке равенства нулю? ...
вопрос задан: 7 January 2014 18:09