Для конкретики я говорю об архитектуре ПК x87 и компиляторе C. Я пишу свой собственный интерпретатор, и причина двойного типа данных меня смущает. Особенно там, где эффективность ...
У меня есть программа C99 среднего размера, которая использует длинный двойной тип (80 бит) для чисел с плавающей запятой вычисление. Я хочу повысить точность с помощью нового расширения GCC 4.6 __float128. Как я понял, это программное обеспечение ...
Я пытаюсь printf a __float128 с использованием libquadmath, например: quadmath_snprintf (s, sizeof (s), "%.30Qg ", f); Со следующими тремя константами: Вывод должен соответствовать следующему продукту: number = ...
Числам с плавающей запятой IEEE назначен бит для обозначения знака, что означает, что технически вы можете иметь различные двоичные представления нуля (+0 и -0). Есть ли арифметическая операция I ...
Есть случаи, когда вы знаете, что определенное выражение с плавающей точкой всегда будет неотрицательным. Например, при вычислении длины вектора выполняется sqrt (a [0] * a [0] + ... + a [N-1] * a [N-1]) (...
Мне нужен размер черной части этого изображения: Я провел небольшое исследование о том, как найти его с помощью обычных математических вычислений, и меня указали на этот веб-сайт: Веб-сайт Окончательный ответ при получении был (из ...
В приложении для фортепиано я назначаю координаты черных клавиш.
Вот строка кода, вызывающая ошибку. 'blackKey' и 'whiteKey' являются customViews blackKey.center.x = (whiteKey.frame.origin ....
Как часть проекта компилятора, я должен написать ассемблерный код GNU для x86 для сравнения значений с плавающей точкой. Я попытался найти ресурсы о том, как сделать это онлайн и от того, что я понимаю, что это работает...
Предположим, у меня есть 8,8333333333333339, и я хочу преобразовать его в 8,84. Как я могу сделать это на Python? round (8,8333333333333339, 2) дает 8,83, а не 8,84. Я новичок в Python или программировании на ...
Я попытался проверить, где float теряет способность точно представлять большие целые числа. Поэтому я написал этот небольшой фрагмент: int main () {for (int i = 0;; i ++) {if ((float) i! = I) {...
Когда число с плавающей запятой нужно усечь до определенной цифры после числа с плавающей запятой, оказывается, что это не просто сделать. Например, если нужно выполнить усечение до второй цифры после ...
Есть ли простой способ вывести число с плавающей запятой с определенным количеством цифр после запятой? Например: $sum = 3,1234566768; Я хотел бы повторить $sum и получить: 3.12.
Каков правильный спецификатор формата для double в printf? Это% f или% lf? Я верю, что это% f, но я не уверен. Пример кода #include int main () {double d = 1.4; ...
У меня есть следующий простой код: int speed1 = (int) (6.2f * 10);
float tmp = 6.2f * 10;
int speed2 = (int) tmp; speed1 и speed2 должны иметь одинаковое значение, но на самом деле у меня есть: speed1 = 61
...
Я обнаружил отрицательный ноль в выводе из python; он создается, например, следующим образом: k = 0,0
print (-k) Вывод будет -0.0. Однако, когда я сравниваю -k с 0.0 на равенство, получается True ....
Cos () в math.h работает быстрее, чем x86 asm fcos. Следующий код сравнивается между x86 fcos и cos () в math.h. В этом коде 1000000 раз asm fcos стоит 150 мс; 1000000 раз потому () ...
Я создал таблицу в MySQL со столбцом типа float(2,2) и вставил в него значение 10, но обнаружил, что сохраненное значение равно 0,99. С чем это связано? Если мы используем столбец ...
У меня есть определенный массив чисел с плавающей запятой (в Python), который может варьироваться от 0 до 100. Я хочу создать псевдоцветное изображение, чтобы цвета варьировались от зеленого (соответствующего 0) до красного (100). Это похоже на...
Например, у меня есть два числа, представленные в base-10 как n1 = 5.7818 x 10 ^ (- 4) = 0.00057818 и n2 = 5.6743 x 10 ^ (- 4) = 0.00056743 Первое число, n1, является результатом вычисления с поплавком ...
Мне было бы интересно увеличить предел с плавающей запятой при вычислении qnorm / pnorm от их текущего уровня, например: x <- pnorm (10) # 1
qnorm (x) # Inf
qnorm (.9999999999999999444) # ...
У меня есть шестнадцатеричная константа с плавающей запятой, которую я хотел бы объявить непосредственно в моей программе на C и избежать преобразования. Я считаю, что сначала нужно нормализовать, верно? Как мне нормализовать это и ...
Есть ли способ получить значение типа float для строки, например, такой: 75,25 €, кроме parsefloat (str_replace (',', '.', $ Var))? Я хочу, чтобы это зависело от текущего языка сайта, а иногда ...
У меня есть список цен с запятой для десятичной точки и точкой в качестве разделителя тысяч. Некоторые примеры: 12,30
116,10
1.563,14 Они поступают в этом формате от третьей стороны. Я хочу преобразовать ...
Я хотел бы узнать хороший способ проверки рациональности числа x (два целых числа n,m существуют так, что x=n/m) в python. В системе Mathematica для этого используется функция Rationalize[6.75] : 27/4 I ...
Я читал двоичный файл в python следующим образом: from struct import unpack ns = 1000
f = open ("binary_file", 'rb') while True: data = f.read (ns * 4) if data == '': break ...
Я хочу вычислить простейшую вещь: $ пример = 90000000000009132 - 1; echo sprintf ('%. 0f', $ пример); Удивительно, но я получаю: 90000000000009136 мой вопрос - как я могу получить правильный ...
Я пытаюсь создать некоторые фиктивные записи в MySQL, и мне нужно создать случайные значения широты и долготы с плавающей запятой в заданном диапазоне. Например, мне нужно сгенерировать широту между 52....
Мне нужно напечатать или преобразовать число float в строку с 15 десятичными знаками, даже если результат имеет много trailing 0s eg: 1.6 becomes 1.6000000000000000 I tried round(6.2,15) but it returns 6....
Справочная страница isnormal () сообщает: Определяет, является ли данное число с плавающей запятой arg нормальным, т. Е. Не является ни нулем, ни субнормальным, ни бесконечным, ни NaN. Число, равное нулю, бесконечности или NaN, является чистым ...