0
ответов
Как сделать так, чтобы функция php cos возвращала правильное значение?
Я пробовал $ x = cos (deg2rad ($ angle )); но он возвращает 6.12323399574E-17, когда угол равен 90 градусам вместо 0.
Я читал, что это проблема с плавающей запятой, но есть ли обходной путь?
вопрос задан: 5 June 2011 14:26
0
ответов
повышения сериализации и удвоения
Я пытаюсь сериализовать класс в строку, используя библиотеку ускоренной сериализации и включенную в моем классе есть несколько переменных с двойным членом. Ниже приведен код, который я использую для сериализации: #include & ...
вопрос задан: 4 June 2011 16:29
0
ответов
Преобразование массива байтов аудиоформата wav в формат с плавающей запятой
Я читаю аудиофайл .wav с помощью Java AudioInputStream. Аудиофайл подписан 16-битным PCM, с частотой дискретизации = 44100, размером кадра = 2, framelength = 114048. Мне удалось получить аудиоданные в форме ...
вопрос задан: 4 June 2011 05:46
0
ответов
በጃቫ ውስጥ ያለው የሂሳብ ችግር
በጃቫ ውስጥ ስሌት ለማድረግ ትንሽ ችግር አጋጥሞኛል። ለማድረግ እየሞከርኩ ያለሁት - - ((0.053800 * (500000/1000)) + 4) * 0.85 በጃቫ ማመልከቻዬ ውስጥ 26.264999999999997 ን ይመልሳል ፣ ይህም ...
вопрос задан: 3 June 2011 02:20
0
ответов
Константы с плавающей запятой в шаблонном коде
У меня есть шаблонная функция, работающая с плавающей запятой аргумент. Функция построена по шаблону, поэтому вызывающий может использовать либо float, либо double, либо любой другой тип данных с плавающей запятой. Однажды в моем ...
вопрос задан: 28 May 2011 14:38
0
ответов
Моделирование аппаратного обеспечения низкой точности на Java
Я пытаюсь написать симулятор аппаратного устройства с довольно низкой числовой точностью (предпочтительно на Java), и я ищу библиотека, реализующая элементарные математические операции. ...
вопрос задан: 24 May 2011 00:43
0
ответов
Как компьютер выполняет арифметику с плавающей запятой?
Я видел длинные статьи, объясняющие, как можно сохранять числа с плавающей запятой и как выполняется арифметика этих чисел, но, пожалуйста, кратко объясните, почему, когда Я пишу cout << 1.0 / 3 ....
вопрос задан: 17 May 2011 17:02
0
ответов
Деление и точность чисел с плавающей запятой в C ++
Я знаю, что 511, разделенное на 512, на самом деле равно 0,998046875. Я также знаю, что точность чисел с плавающей запятой составляет 7 цифр. У меня вопрос: когда я делаю эту математику на C ++ (GCC), я получаю 0,998047, что ...
вопрос задан: 14 May 2011 16:32
0
ответов
Существуют ли какие-нибудь хорошие валюты JavaScript или десятичные классы?
Я пытаюсь работать со значениями JavaScript, такими как 23,45, но я хочу иметь возможность выполнять математические операции с этими значениями (добавление , вычитание, умножение, деление), не сталкиваясь с ...
вопрос задан: 11 May 2011 16:23
0
ответов
Как правильно сравнивать десятичные значения в C #?
Я имею опыт работы в C ++ и знаю, что нельзя точно сравнивать числа с плавающей запятой на равенство. Для C # я просто предположил, что та же политика применяется к десятичным значениям или любому значению с плавающей запятой в ...
вопрос задан: 9 May 2011 06:13
0
ответов
Умножение с плавающей запятой выполняется медленнее в зависимости от операндов в C
Я выполняю вычисление трафарета для матрицы, которую я ранее считал из файла. Я использую два разных типа матриц (Ненулевой тип и Нулевой тип). Оба типа разделяют значение границ (1000 ...
вопрос задан: 5 May 2011 01:17
0
ответов
Почему выполняется приведение Double. NaN в int не генерирует исключение в Java?
Итак, я знаю, что IEEE 754 определяет некоторые специальные значения с плавающей запятой для значений, которые не являются действительными числами. В Java преобразование этих значений в примитивный тип int не вызывает исключения, как я бы…
вопрос задан: 3 May 2011 22:16
0
ответов
floating point numbers - closest number to 1.7
I'm preparing for some exams and one of the questions given in the past is to find the closest number to 1.7 given an imaginary floating point format that has a total of 8 bits (1 for sign, 3 for ...
вопрос задан: 3 May 2011 18:13
0
ответов
потеря точности преобразование из java BigDecimal в double
Я работаю с приложением, полностью основанным на двойниках, и у меня проблемы с одним служебным методом, который разбирает строку в двойную. Я' Мы нашли исправление, при котором использование BigDecimal для ...
вопрос задан: 27 April 2011 08:08
0
ответов
Есть ли у Python эквивалент java.lang.Math.nextUp? [дубликат]
У меня есть число с плавающей запятой в Python, и я хочу иметь числа с плавающей запятой на 1 ULP больше и меньше. В Java я бы сделал это с помощью Math.nextUp (x) и Math.nextAfter (x, Double.NEGATIVE_INFINITY). Есть ли способ ...
вопрос задан: 21 April 2011 20:01
0
ответов
Оптимизация производительности числовых массивов в Haskell
Я работаю над алгоритмом генерации ландшафта для мира, подобного MineCraft. В настоящее время я использую симплексный шум на основе реализации, описанной в статье 'Simplex Noise Demystified' [PDF], поскольку симплекс ...
вопрос задан: 20 April 2011 23:25
0
ответов
C ++, Как оптимизируются арифметические операции с плавающей запятой?
Я наблюдал удивительное поведение при тестировании простых арифметических операций в предельных случаях на архитектуре x86: const double max = 9.9e307; // Рядом с std :: numeric_limits :: max ()
const ...
вопрос задан: 19 April 2011 13:26
0
ответов
Что такое текстура с плавающей запятой?
Я пытаюсь осмыслить текстуры с плавающей запятой, но мне трудно найти какие-либо хорошие ресурсы, которые бы мне их объяснили .. Я попытался прочитать спецификацию OpenGL ARB_texture_float, но я ...
вопрос задан: 18 April 2011 21:16
0
ответов
Parallelism: Subtly different floating point results?
I'm trying to debug my parallelism library for the D programming language. A bug report was recently filed that indicates that the low-order bits of some floating point operations that are performed ...
вопрос задан: 16 April 2011 18:33
0
ответов
Почему [float.MaxValue == float.MaxValue + 1] возвращает истину?
Интересно, могли бы вы объяснить переполнение в типах с плавающей запятой. float.MaxValue == float.MaxValue + 1 // возвращает истину
вопрос задан: 12 April 2011 08:45
0
ответов
Извлечь дробную часть двойного * эффективно * в C
Я хочу взять IEEE double и удалить из него любую целую часть наиболее эффективным способом. Я хочу 1035 -> 0 Я хочу взять IEEE double и удалить любую его целую часть наиболее эффективным способом. Я хочу 1035 -> 0 Я хочу взять IEEE double и удалить любую
вопрос задан: 8 April 2011 01:10
0
ответов
Почему NAN в PHP не соответствует всему, кроме true?
В PHP NAN сравнивает false с 0, «0», false, array (), array (1), NAN , null и практически все остальные классы переменных, которые я мог различить. Но NAN == true возвращает true. Почему NAN == true возвращает true?
вопрос задан: 2 April 2011 19:00
0
ответов
Печать числа с плавающей запятой в C, избегая при этом повышения параметров с переменным числом аргументов до удвоения
Как я могу напечатать (то есть в стандартный вывод) число с плавающей запятой в C, не повышая его до числа с двойной точностью при передаче в printf? Проблема здесь в том, что вариативные функции в C продвигают все параметры с плавающей запятой в двойное
вопрос задан: 2 April 2011 08:15
0
ответов
Почему sys.maxint <(sys.maxint - 100 + 0.01) в Python?
Почему sys.maxint <(sys.maxint - 100 + 0,01) в Python?
вопрос задан: 25 March 2011 07:55
0
ответов
Найти уникальные элементы массива с плавающей запятой в numpy (со сравнением с использованием значения дельты)
У меня есть ndarray значений с плавающей запятой в numpy, и я хочу найти уникальные значения этого массива. Конечно, здесь есть проблемы из-за точности с плавающей запятой ... поэтому я хочу иметь возможность установить ...
вопрос задан: 24 March 2011 23:38
0
ответов
Это мой Visual Studio спроектирует веб-приложение или веб-сайт?
Прежде всего, когда что использовать, и общие различия между ними уже были даны ответы ранее. Но я не смог найти ответа на этот вопрос: где я могу проверить, что моя Visual Studio ...
вопрос задан: 23 March 2011 10:00
0
ответов
Python природа с плавающей запятой и преобразование в меньший тип
Я пытаюсь понять точную природу float, когда дело доходит до python. По-видимому, python хранит числа с плавающей запятой в типе PyFloatObject, который содержит double. Однако как я могу заставить его вести себя ...
вопрос задан: 18 March 2011 15:45
0
ответов
strictfp in Java
Я реализую некоторую библиотеку нейронных сетей на java, и есть интенсивные двойные (не двойные) матричные операции, матрицы большие и, конечно, требуется производительность. Итак, я пришел, чтобы прочитать о ...
вопрос задан: 4 March 2011 15:29
0
ответов
Что определяет точность с плавающей запятой в python?
Я узнал об операторе «точно равно» в Erlang, который сравнивает не только значения , но также и типы данных чисел, и мне было любопытно, как все работает в Python и его единственном "равно" ...
вопрос задан: 2 March 2011 08:05
0
ответов
Десятичные точки с std :: stringstream?
У меня есть набор целых чисел, которые я помещаю в строковые потоки. Теперь я хочу преобразовать потоки строк в строки, сохранив при этом постоянную точность строк. Как мне это сделать? Я знаю, что могу использовать ...
вопрос задан: 25 February 2011 03:39