0
ответов
Распаковка шестнадцатеричных чисел с плавающей запятой
Я пытаюсь перевести следующий код Python на C++: import struct
import binascii inputstring = ("0000003F" "0000803F" "AD10753F" "00000080")
num_vals = 4 for i in range(num_vals): ...
вопрос задан: 12 April 2012 11:21
0
ответов
Почему Math.round ()возвращает 0 для аргументов NaN?
Я думал, что результат любой математической операции над NaN должен вернуть мне NaN, но Math.round (Float.NaN )== 0 В чем причина такого поведения Math.round ()? Любопытно, что C #ведет себя...
вопрос задан: 12 April 2012 04:12
0
ответов
Double.POSITIVE_INFINITY == Float.POSITIVE_INFINITY
Я попробовал System.out.println(Double.isInfinite(Float.POSITIVE_INFINITY))
System.out.println(Double.isInfinite(Float.NEGATIVE_INFINITY)); и вывод был верным
true Итак, это означает, что «Бесконечность» — это ...
вопрос задан: 10 April 2012 05:10
0
ответов
Преобразование из числа double в число с плавающей запятой в Java
Если я работаю с числом типа double и преобразую его в число с плавающей запятой, как именно это работает? Усекается ли значение, чтобы оно помещалось в число с плавающей запятой? Или значение округляется по-другому? Извините, если это...
вопрос задан: 9 April 2012 14:53
0
ответов
Опасно ли преобразование из float в BigDecimal и обратно?
Я занимаюсь созданием программы, которая генерирует тестовые векторы для использования в испытательном стенде VHDL. Тестовый стенд, по сути, тестирует аппаратное обеспечение, которое действует как одинарная точность с плавающей запятой...
вопрос задан: 4 April 2012 22:15
0
ответов
Эффективный алгоритм для рационализации чисел с плавающей запятой
Имея число с плавающей запятой, я хочу получить строковое представление рационального числа, аппроксимирующего десятичное (с точностью до заданного допуска ε Это хорошо). Мой текущий подход заключается в следующем: ...
вопрос задан: 2 April 2012 17:13
0
ответов
Точность чисел с плавающей запятой с помощью printf
Как всем известно, у вас есть ограниченная точность, когда вы используете printf для вывода значения числа с плавающей запятой.
Однако есть прием, позволяющий повысить точность вывода, как показано в этом примере: #include &...
вопрос задан: 1 April 2012 08:51
0
ответов
Суммирование Кахана
Кто-нибудь использовал суммирование Кахана в приложении? Когда будет полезна дополнительная точность? Я слышал, что на некоторых платформах двойные операции выполняются быстрее, чем операции с плавающей запятой. Как я могу проверить это на ...
вопрос задан: 31 March 2012 14:17
0
ответов
Неожиданное поведение Math.Floor(double) и Math.Ceiling(double)
Этот вопрос касается порога, при котором Math.Floor(double) и Math.Ceiling (двойной) решает дать вам предыдущее или следующее целочисленное значение. Я был обеспокоен, обнаружив, что порог кажется...
вопрос задан: 28 March 2012 22:52
0
ответов
Python - количество цифр в показателе степени
Можно ли установить количество цифр, которое будет используется для печати показателя степени числа с плавающей запятой? Я хочу установить его равным 3. В настоящее время f = 0,0000870927939438012
>>> "%.14e"%f
'8....
вопрос задан: 28 March 2012 15:37
0
ответов
Программа на Python не принимает десятичный необработанный ввод
Я работаю над небольшим проектом по расчету заработной платы на Python, где вы вводите имя сотрудника, заработную плату и отработанные часы. Когда я ввожу десятичные дроби для ввода заработной платы, я получаю «недопустимую запись» из-за моего исключения.
вопрос задан: 28 March 2012 13:27
0
ответов
C# неправильное вычитание? 12,345 - 12 = 0,345000000000001 [закрыто]
Я новичок в C# и работаю с числами с плавающей запятой. Мне нужно сделать вычитание между этими двумя числами, но это не работает. Я знаю, что это вызвано числами с плавающей запятой, но как я могу...
вопрос задан: 27 March 2012 18:44
0
ответов
Как округлить до ближайшего кратного заданного множителя с числами с плавающей запятой?
Вопрос заключается в том, как округлить данное значение до ближайшего «почти точного» кратного данного фактора, f. Например: если f = 2,6, то каждый вызов "roundUp(x, 2,6)" будет возвращать число из ...
вопрос задан: 27 March 2012 14:45
0
ответов
Почему использование float вместо double не улучшает производительность Android?
Поскольку все смартфоны (по крайней мере, те, что я могу найти спецификации) имеют 32-битные процессоры, я могу представить, что использование значений с плавающей запятой одинарной точности в обширных вычислениях будет работать ...
вопрос задан: 25 March 2012 11:31
0
ответов
Сравнение присваивания констант с плавающей запятой
При сравнении двойных чисел на равенство нам необходимо указать уровень допуска, поскольку вычисления с плавающей запятой могут привести к ошибкам. Например: двойной х; двойной у; х = е();
у = г(); if (fabs(xy)&...
вопрос задан: 23 March 2012 04:53
0
ответов
Что происходит, когда вы логически не плаваете?
Я предполагаю, что это просто возвращает целое число. Есть ли что-то еще, о чем я должен знать? Отличия С/С++? поплавок а = 2,5;
!а; // Что это возвращает? Внутр.? Плавать?
вопрос задан: 23 March 2012 03:26
0
ответов
ОШИБКА «невозможно преобразовать 'float' в 'float…'…»
Возможно, здесь есть другие небольшие ошибки форматирования, которые мне нужно исправить, и т. д., но мне нужна помощь, что делать с следующее: Lab8pt1.cpp: В функции 'float Salary(float, ...
вопрос задан: 20 March 2012 08:32
0
ответов
Как «проверить контрольную сумму» массива зашумленных чисел с плавающей запятой?
Как быстро и просто вычислить контрольную сумму массива чисел с плавающей запятой, допуская при этом определенную небольшую погрешность? например У меня есть два алгоритма, которые должны (теоретически, с...
вопрос задан: 19 March 2012 03:25
0
ответов
Ищу библиотеку с половинной или четвертной плавающей точкой [закрыто]
Мне нужно хранить значения в диапазоне примерно От -10000 до 10000. На границах диапазона точность не очень высока (может быть, около 64, посмотрю, как она подходит), около нуля точность должна быть...
вопрос задан: 15 March 2012 13:37
0
ответов
Есть ли способ получить правильное округление с помощью инструкции i387 fsqrt?
Есть ли способ получить правильное округление с помощью инструкции i387 fsqrt?... ...кроме изменения prec ision в управляющем слове x87 - я знаю, что это возможно, но это неразумно...
вопрос задан: 13 March 2012 04:06
0
ответов
Lua: преобразование из float в int
Несмотря на то, что Lua не различает числа с плавающей запятой и целые числа, в некоторых случаях вы хотите использовать целые числа. Каков наилучший способ преобразовать число в целое, если вы...
вопрос задан: 11 March 2012 11:24
0
ответов
Какое сравнение с плавающей запятой более точное и почему?
Я экспериментирую с различными реализациями метода Ньютона для вычисления квадратных корней. Одно из важных решений - когда завершить алгоритм. Очевидно, что использовать ...
вопрос задан: 10 March 2012 04:19
0
ответов
Перехват тихого NaN
У меня есть приложение, в котором какой-то компонент время от времени вставляет qNaN в большой поток данных, что затем делает недействительной всю обработку (БПФ для вектора, содержащего один qNaN, приводит к все-...
вопрос задан: 8 March 2012 14:16
0
ответов
Как добиться согласованного поведения программы при использовании чисел с плавающей запятой?
Я пишу программу моделирования, которая работает дискретно. Моделирование состоит из множества узлов, каждый из которых имеет связанное с ним значение с плавающей запятой, которое пересчитывается каждый раз...
вопрос задан: 8 March 2012 06:07
0
ответов
равенство с плавающей запятой/двойное число с точным нулем
У меня есть алгоритм, который использует числа с плавающей запятой или двойные числа для выполнения некоторых вычислений. Пример: двойной а;
двойной б;
двойной с;
...
двойной результат = c / (b - a);
if ((result > 0) && (result < ...
вопрос задан: 7 March 2012 02:10
0
ответов
Числа с плавающей запятой в Python «float» и PostgreSQL «с двойной точностью»
Основаны ли типы Python «float» и PostgreSQL с «двойной точностью» на одной и той же реализации C? Возможно, это и не настоящая основная проблема, но в любом случае вот что я получаю, когда пытаюсь ...
вопрос задан: 4 March 2012 16:24
0
ответов
Низкая точность уменьшения диапазона для чисел с плавающей запятой одинарной точности
Я пытаюсь реализовать уменьшение диапазона в качестве первого шага при реализации синусоидальной функции. Я следую методу, описанному в статье K.C. Н.Г. Я ...
вопрос задан: 3 March 2012 19:55
0
ответов
Странный результат PHP умножения на -1
$res = 0.0 * -1.0; Я получаю float -0 Что это за странное поведение?
вопрос задан: 3 March 2012 12:33
0
ответов
Как убедиться, что разные результаты вызваны различиями в обработке чисел с плавающей запятой?
Я преобразовал относительно простой алгоритм, выполняющий большое количество вычислений над числами типа double, из C++ в Java, однако запустив алгоритм на двух платформах, но ...
вопрос задан: 1 March 2012 15:40
0
ответов
Вычислить единицу в последнем месте (ULP) для чисел типа double
Есть ли в .NET встроенный метод для вычисления ULP данного числа типа double или float? Если нет, то каков наиболее эффективный способ сделать это?
вопрос задан: 28 February 2012 16:39