0
ответов
Действительно ли индексирование Data.Vector.Unboxed.Mutable.MVector настолько медленное?
У меня есть приложение, которое тратит около 80% своего времени на вычисление центроида большого список (10 ^ 7) векторов большой размерности (dim = 100) с использованием алгоритма суммирования Кахана. Я старался изо всех сил ...
вопрос задан: 23 February 2012 23:50
0
ответов
Как бороться с недостаточным количеством ресурсов в научных вычислениях?
Я работаю над вероятностными моделями, и когда делаю вывод по этим моделям, предполагаемые вероятности могут стать очень маленькими. Чтобы избежать переполнения, я в настоящее время работаю в области журнала ...
вопрос задан: 23 February 2012 13:13
0
ответов
Как обрезать число с плавающей запятой до уровня чуть ниже предела?
Такие функции, как numpy.random.uniform (), возвращают значения с плавающей запятой между двумя границами, включая первая граница, но исключая верхнюю. То есть numpy.random.uniform (0,1) может дать 0, но будет ...
вопрос задан: 23 February 2012 02:12
0
ответов
Быстрое преобразование числа с плавающей запятой в int (усечение)
Я ищу способ обрезать число с плавающей запятой до int быстрым и переносимым (IEEE 754) способом. Причина в том, что в этой функции 50% времени тратится на приведение: float fm_sinf (float x) {...
вопрос задан: 18 February 2012 11:44
0
ответов
Как проверить, что битовый шаблон типа double равен 0x0 в constexpr C ++ 11?
Я хочу проверить, что данная переменная типа double / float имеет фактический битовый шаблон 0x0. Не спрашивайте, почему он используется в функции Qt (qIsNull ()), которую я хотел бы сделать constexpr. В исходном коде использовалась ...
вопрос задан: 17 February 2012 12:31
0
ответов
Округление до ближайшего целого числа с плавающей запятой
Как округлить число с плавающей запятой к ближайшему целому числу? Я ищу алгоритм с точки зрения двоичного кода, так как мне нужно реализовать код на сборке.
вопрос задан: 17 February 2012 01:21
0
ответов
Что более эффективно, atan2 или sqrt?
Бывают ситуации, когда существует несколько методов для вычисления одного и того же значения. Прямо сейчас я придумываю алгоритм "расширения" двумерного выпуклого многоугольника. Для этого я хочу найти ...
вопрос задан: 16 February 2012 18:45
0
ответов
Косинус с плавающей запятой
Я пытаюсь реализовать функции косинуса и синуса с плавающей запятой (но у меня нет оборудования с плавающей запятой). Поскольку в моем процессоре нет оборудования с плавающей запятой или инструкций, я уже ...
вопрос задан: 13 February 2012 18:43
0
ответов
Могу ли я использовать округление для обеспечения детерминизма атомарных операций с плавающей запятой?
Я разрабатываю приложение на C, которое требует детерминизм с плавающей запятой. Я также хотел бы, чтобы операции с плавающей запятой были достаточно быстрыми. Сюда входят стандартные трансцендентные функции, но не ...
вопрос задан: 10 February 2012 23:00
0
ответов
Почему плавающее вычисление и приведение типов показывают разные результаты в конфигурации отладки и выпуска?
Это действительно странная ошибка для меня, и мне потребовалось много времени, чтобы понять, что происходит. Чтобы упростить и воспроизвести, просто создайте пустое консольное приложение win32 с помощью VS2005 и используйте этот код ...
вопрос задан: 10 February 2012 18:55
0
ответов
Требования к точности математических функций GNU GCC?
Несколько дней я тщетно пытался найти точность математических функций (в файле math.h) компилятора GNU GCC. В стандарте C99 сказано, что требование к точности математических функций в math.h составляет ...
вопрос задан: 9 February 2012 18:49
0
ответов
Это допустимое сравнение чисел с плавающей запятой, учитывающее заданное количество десятичных знаков?
Я пишу метод расширения для сравнения двух чисел с плавающей запятой, используя установленное количество десятичных знаков (значащих цифр), чтобы определить, равны ли они, вместо допуска или процентной разницы. ...
вопрос задан: 7 February 2012 18:13
0
ответов
Python, хочу напечатать float в точном формате + -00.00
Мне нужно отформатировать float в формате + -00.00, попробовал базовое форматирование строки, но не могу получить начальный знак + или - или два ведущих 0, если значение дробное, какие-либо указатели?
вопрос задан: 31 January 2012 21:58
0
ответов
Печать числа с десятичной точкой
У меня проблемы с печатью чисел с десятичной точкой.
Когда я запускаю python и прошу его выполнить деление, результатом которого должно быть число с десятичной точкой, он не печатает десятичную точку ....
вопрос задан: 27 January 2012 22:42
0
ответов
Почему нет предупреждения вроде C4738 для double?
Visual C++ может выдавать предупреждение C4738: хранение 32-битного плавающего результата в памяти, возможная потеря производительности в случаях, когда 32-разрядная плавающая точка вот-вот будет храниться в памяти, а не в ...
вопрос задан: 26 January 2012 20:52
0
ответов
В чем разница между new Double (someString) и Double.parseDouble (someString)
Насколько я могу сказать new Double (someString) ) и Double.parseDouble (someString) дают мне точно такой же результат. Есть ли причина, по которой я хотел бы использовать одно вместо другого?
вопрос задан: 25 January 2012 14:32
0
ответов
Unittest (иногда) не работает из-за неточности с плавающей запятой
У меня есть класс Vector, который представляет точку в трехмерном пространстве. Этот вектор имеет метод normalize (self, length = 1), который масштабирует вектор вниз / вверх до length == vec.normalize (length) .length.
...
вопрос задан: 19 January 2012 15:49
0
ответов
Почему стандарт IEEE 754 использует смещение 127?
При работе с избыточным представлением целых чисел я использую смещение 2n-1. Однако в стандарте IEEE 754 вместо этого используется 2n-1 - 1. Единственное преимущество, о котором я могу думать, - это больший положительный диапазон. ...
вопрос задан: 18 January 2012 12:07
0
ответов
Арифметика с плавающей запятой: возможная небезопасная зависимость от конкретных сравнение?
Следующий код Python вычисляет количество итераций для выполнения каких-либо действий на основе некоторых переменных. # a - b - c всегда кратно d. i = (a - b - c) / d while i: # do stuff i - = 1
...
вопрос задан: 15 January 2012 13:53
0
ответов
Является ли катастрофическая отмена проблемой при вычислении скалярных произведений векторов с плавающей запятой? И если да, то как это обычно решается?
Я пишу симулятор физики на C ++ и беспокоюсь о надежности. Я читал, что катастрофическая отмена может произойти в арифметике с плавающей запятой, когда разница двух чисел почти ...
вопрос задан: 15 January 2012 11:22
0
ответов
Почему Double.NaN == Double.NaN возвращает false?
Я как раз изучал вопросы OCPJP и нашел этот странный код: public static void main (String a []) {System.out.println (Double .NaN == Double.NaN); System.out.println (Double.NaN! = Double.NaN); ...
вопрос задан: 13 January 2012 14:24
0
ответов
gcc округление разницы между версиями
Я изучаю, почему тестовый случай терпит неудачу Проблемный тест можно свести к выполнению (4.0/9.0) ** (1.0/2.6), округление до 6 цифр и проверка по известному значению (в виде строки): #include&...
вопрос задан: 10 January 2012 12:14
0
ответов
Как вычесть числа IEEE 754?
Как вычесть числа IEEE 754? Например: 0,546875 - 32.875... -> 0,546875 это 0 01111110 10001100000000000000000 в IEEE-754 -> -32.875 это 1 10000111 01000101111000000000000 в IEEE-754 Так ...
вопрос задан: 7 January 2012 00:47
0
ответов
округлить число с плавающей запятой до следующего целочисленного значения в java
как я могу округлить число с плавающей запятой до следующего целочисленного значения в Java? Предположим, 2.1 -> 3 3.001 -> 4 4.5 -> 5 7.9 -> 8
вопрос задан: 6 January 2012 05:52
0
ответов
Ошибка вычислений Python
Я использую API mpmath для вычисления следующей суммы. Давайте рассмотрим серию u0, u1, u2, определенную следующим образом: u0 = 3/2 = 1,5 u1 = 5/3 = 1,6666666… un + 1 = 2003 - 6002 / un + 4000 / un un-1 Серия ...
вопрос задан: 2 January 2012 09:55
0
ответов
Запуск триггера обновления при обновлении конкретного поля
Как запустить триггер обновления перед обновлением только одного или некоторых конкретных полей и не запускать его при обновлении других полей, так как это вызывает дублирование записей в другом объекте
вопрос задан: 29 December 2011 18:31
0
ответов
Двоичное представление числа в Matlab
Существует ли функция Matlab, которая возвращает двоичное представление числа с плавающей запятой?
вопрос задан: 20 December 2011 09:27
0
ответов
Используется ли приращение (оператор ++) для чисел с плавающей запятой?
Считается ли использование оператора приращения (++) для чисел с плавающей запятой "плохим стилем"? Он компилируется отлично, но я считаю его неприятным и неприятным. Вопрос: в каких случаях используется ++ для переменной с плавающей запятой ...
вопрос задан: 19 December 2011 12:54
0
ответов
Если все биты равны 0, каково значение плавающей точки IEEE?
Если все биты равны 0 (пример, я memset переменная с плавающей точкой все 0), каково значение плавающей точки IEEE, используемой в gcc? Оно гарантированно равно 0.0? Я предполагаю, что для других форматов плавающей точки ...
вопрос задан: 19 December 2011 08:38
0
ответов
сложение вместо вычитания в алгоритме Кахана
Это алгоритм суммирования Кахана из Википедии: функция KahanSum (input) var sum = 0.0 var c = 0.0 for i = 1 to input.length do y = input [i] - c // зачем вычитание? ...
вопрос задан: 9 December 2011 14:22