0
ответов
Мое округление невозможно (Javascript и PHP)
Как я могу округлить до 2 десятичных знаков со следующей логикой? Javascript (или JQuery) и PHP. 50,01 = 50,00 49,99 = 50,00 50,04 = 50,00 49,96 = 50,00 50,05 = 50,05 49,95 = 49,95 50,06 = 50,10 ...
вопрос задан: 6 June 2014 19:59
0
ответов
Как сохранить точность для программы Fortran MPI портативным способом?
У меня есть программа на Фортране, в которой я указываю тип числовых типов данных, пытаясь сохранить минимальный уровень точности, независимо от того, какой компилятор используется для сборки программы. Например:...
вопрос задан: 1 November 2013 15:01
0
ответов
Точность автоматического интервала в диаграмме MS
В настоящее время я использую построение диаграмм в .NET с помощью System.Windows.Forms.DataVisualization. Диаграммы. Пока что это кажется очень мощным и отлично работает. Однако существует огромная проблема с точки зрения ...
вопрос задан: 7 October 2013 18:05
0
ответов
Точны ли арифметические операции с переменными типа double, содержащими целочисленные значения?
Допустим, у меня есть два целых значения, хранящиеся в переменных типа double, например: double x = 100.0;
двойной y = 7,0; Могу ли я с уверенностью предположить, что любая арифметическая операция с этими двумя переменными типа double, которая будет ...
вопрос задан: 9 September 2013 09:35
0
ответов
Преобразование float в double теряет точность, но не через ToString
У меня есть следующий код: float f = 0.3f;
двойной d1 = System.Convert.ToDouble (f);
двойной d2 = System.Convert.ToDouble (f.ToString ()); Результаты эквивалентны: d1 = 0,30000001192092896;
d2 = 0 ....
вопрос задан: 5 August 2013 11:51
0
ответов
ostream эквивалент% .2f или% .2lf
double d = 1/2.;
printf ("%. 2lf \ n", d); Это распечатает 0,50. Это то, что я хочу воспроизвести с помощью манипуляторов ostream. Однако ни один из очевидных манипуляторов иоманипов не позволил мне установить минимум ...
вопрос задан: 3 August 2013 06:58
0
ответов
Есть ли надежный способ в JavaScript получить количество десятичных разрядов произвольного числа?
Важно отметить, что я не ищу функцию округления. Я ищу функцию, которая возвращает количество десятичных знаков в упрощенном десятичном представлении произвольного числа. ...
вопрос задан: 10 March 2013 16:08
0
ответов
Вычитание без переполнения?
Предположим, что есть два целых числа (int x, y;).
x отрицательный, а y = 0x80000000. Почему (x - y) не переполняется, а x + (-y) переполняется?
Разве компьютер не выполняет вычитание путем сложения?
вопрос задан: 11 October 2012 00:33
0
ответов
неправильные числа с часами _gettime и CLOCK _PROCESS _CPUTIME _ID
Я использую 64-битную систему Ubuntu 12.04 и пробовал следующий код:#включить #включить #включить int основная (пустота ){ struct timepec user1,user2; структура...
вопрос задан: 10 August 2012 12:01
0
ответов
Как рассчитать количество значащих десятичных цифр двойного числа С++?
При работе со значениями с плавающей запятой в Java вызов метода toString ()дает напечатанное значение с правильным количеством значащих цифр с плавающей запятой. Однако в C++ печать...
вопрос задан: 27 July 2012 21:44
0
ответов
GNU Octave, округление числа до единиц
В GNU Octave версии 3.4.3 я хочу округлить матрицу до 2 единиц точности для содержимого такой матрицы. mymatrix=[1.1234567, 2.12345; 3,1234567891, 4,1234]; disp (mymatrix ); Это печатает :1....
вопрос задан: 8 July 2012 19:33
0
ответов
Scipy / Numpy / scikits - вычисление оценок точности / отзыва на основе двух массивов
Я подбираю модель логистической регрессии и обучаю модель на основе набора обучающих данных, используя следующие scikits импорта как sklearn
из sklearn.linear_model import LogisticRegression
lr = ...
вопрос задан: 24 June 2012 07:41
0
ответов
Различия в точности в Matlab и C++
Я пытаюсь провести тесты на эквивалентность алгоритма, написанного на C++ и в Matlab.
Алгоритм содержит некоторую петлю во времени и выполняется более 1000 раз. В нем есть арифметические операции и...
вопрос задан: 22 June 2012 08:17
0
ответов
SQL устанавливает точность с плавающей запятой
Для SQL int, который преобразуется в число с плавающей запятой, как установить точность числа с плавающей запятой? Это выбор, который я хотел бы обрезать до двух или трех знаков после запятой :AVG (Cast (e....
вопрос задан: 20 June 2012 19:19
0
ответов
Точность BigDecimal не сохраняется с аннотациями JPA
Я использую API javax.persistence и Hibernate для создания аннотаций и сохранения объектов и их атрибутов в базе данных Oracle 11g Express. У меня есть следующий атрибут в объекте: @...
вопрос задан: 11 June 2012 14:04
0
ответов
Matlab дает неправильный ответ
Если выполняется следующий код, MATLAB делает ошибку. Может ли кто-нибудь проверить это? floor([0.1:0.1:2]/0.01) Так что же здесь делает 129?? ans = 10 20 30 40 50 60 70 80 90 100 110 120 129 140 150 ...
вопрос задан: 7 June 2012 12:03
0
ответов
Отображение точности с плавающей запятой (Android)
Я пытаюсь создать программу, которая принимает некоторые данные пользователя, выполняет несколько вычислений и выводит ответ. Моя проблема в том, что этот ответ иногда состоит из многих десятичных знаков, что вызывает некоторые ...
вопрос задан: 31 May 2012 15:50
0
ответов
Двойная точность реализации хэш-кода
Я уже задавал вопрос об этом классе раньше, но вот еще один. Я создал сложный класс: открытый класс Complex {public double Real {get; установлен; } public double Imaginary ...
вопрос задан: 31 May 2012 15:49
0
ответов
Ошибка точности с числами с плавающей запятой в Java
Мне интересно, как лучше всего исправить ошибки точности в Java. Как вы можете видеть в следующем примере, есть ошибки точности: класс FloatTest
{public static void main (String [] args) {
...
вопрос задан: 31 May 2012 15:49
0
ответов
Нормализация переменных в C++ между (0,1) для повышения точности арифметики
Я вычислял проекции нормализованных 2D точек и случайно заметил, что они более точны, чем при проецировании точек без их нормализации. Мой код написан на c++, и я компилирую...
вопрос задан: 28 May 2012 10:58
0
ответов
Как вычислить десятичные цифры точности на основе количества бит?
Я изучаю форматы с плавающей запятой (IEEE ). В формате одинарной точности с плавающей запятой упоминается, что мантисса имеет 24 бита, поэтому она имеет точность 6 1/2 десятичных цифр (, поскольку...
вопрос задан: 24 May 2012 15:24
0
ответов
Почему -freciprocal-math небезопасен в GCC?
-freciprocal-math в GCC изменяет следующий код double a = b/c; удвоить tmp = 1/c; двойной a = b * tmp; В мануале GCC сказано, что такая оптимизация небезопасна и не залипает...
вопрос задан: 21 May 2012 03:21
0
ответов
Безопасно ли проверять число с плавающей запятой на равенство 0,0?
Я знаю, что проверять равенство с плавающей запятой на равенство опасно из-за ошибок точности, но безопасно ли тестировать на ноль? Я могу вспомнить некоторые случаи, например, при оптимизации особых случаев в алгоритмах, когда вы ...
вопрос задан: 16 May 2012 12:47
0
ответов
Точность в числах с плавающей запятой
Обычно мы говорим, что число с плавающей запятой имеет точность 6 знаков после запятой. Но если мы сохраним большое число порядка 10^30, мы не получим 6 цифр после запятой. Итак, правильно ли...
вопрос задан: 10 May 2012 18:46
0
ответов
C #потеря точности при делении двойных чисел
Я знаю, что это обсуждалось снова и снова, но я не могу найти даже самый простой пример одно -пошаговое деление двойных чисел, чтобы получить ожидаемый неокругленный результат в C #-, так что я...
вопрос задан: 4 May 2012 07:18
0
ответов
QString ::toDouble ()дает мне значение double с неправильной точностью
У меня есть QString myNumber, содержащий "09338.712001". Когда я делаю :myNumber.toDouble ();, он возвращает 9338,71, но я хочу, чтобы двойное число было исходным значением, то есть 09338,712001. Кто-нибудь знает, как...
вопрос задан: 24 April 2012 14:26
0
ответов
что такое точность?
Мне не удалось найти ответ на этот очень простой вопрос ни в Википедии (, ни в SO ), ни в документации. Как точность числа с плавающей запятой представлена целым числом? Я...
вопрос задан: 23 April 2012 18:41
0
ответов
Ошибка несовместимости типов Java между short и int. Не уверен в причине
В следующем коде у меня есть ошибка "возможна потеря точности
найдено: инт
требуется: короткий".
Я понимаю, что означает ошибка, но мне просто интересно, почему я ее получаю. Наверняка функция...
вопрос задан: 14 April 2012 22:09
0
ответов
Как сгенерировать последовательность n случайных положительных целых чисел, которые в сумме дают некоторое значение?
Я пытаюсь сгенерировать массив целых чисел, содержащий случайные числа, суммирующиеся с определенным значением. Вот мой код: private long[] getRandoms(long size , long sum) throws Exception { double iniSum = 0; ...
вопрос задан: 5 April 2012 02:12
0
ответов
вычисление функции в Matlab с очень малыми значениями
Я делаю функцию в Matlab для вычисления следующей функции :для этой функции у нас есть :Это моя реализация в Matlab функции :функция [b] = экспоненциальная (e )%б = ? b= (exp (e)-...
вопрос задан: 4 April 2012 02:24