0
ответов
Оператор равенства для нулей (BigDecimal / Double) в Java
Несколько интересных наблюдений относительно оператора равенства для 0 и 0.0 new Double(0.0).equals(0) возвращает false, а new Double(0.0).equals( 0.0) возвращает истину.
BigDecimal.ZERO.equals(BigDecimal.valueOf(0....
вопрос задан: 3 April 2012 11:06
0
ответов
Точность чисел с плавающей запятой с помощью printf
Как всем известно, у вас есть ограниченная точность, когда вы используете printf для вывода значения числа с плавающей запятой.
Однако есть прием, позволяющий повысить точность вывода, как показано в этом примере: #include &...
вопрос задан: 1 April 2012 08:51
0
ответов
Почему java.awt.Point предоставляет методы для установки и получения удвоений, но сохраняет x и y как int?
Как вы можете видеть в документации Oracle для java.awt .Point, x и y хранятся как int. Однако getX и getY возвращают двойное значение. Хотя существует метод setLocation, который принимает 2 типа double, там ...
вопрос задан: 5 March 2012 16:07
0
ответов
Изменение точности числового столбца в Oracle
В настоящее время у меня есть столбец, который объявлен как ЧИСЛО. Я хочу изменить точность столбца на ЧИСЛО (14,2). Итак, я выполнил команду alter table EVAPP_FEES modify AMOUNT NUMBER (14,2) 'для ...
вопрос задан: 10 February 2012 19:49
0
ответов
Расширенная двойная точность
Можно ли получить более 16 цифр с двойной точностью без использования четверной? Если возможно, это зависит от компилятора или чего-то еще? Поскольку я знаю, что кто-то сказал, что он работал ...
вопрос задан: 10 February 2012 05:00
0
ответов
Точность сброса из потока
Я использую c ++ для управления текстовыми файлами.
Мне нужно написать несколько чисел с определенной точностью, поэтому я делаю: ofstrem file; file.open (имя файла, ios :: app); file.precision (6); file.setf (...
вопрос задан: 8 February 2012 16:26
0
ответов
Использование '/' с long double?
Я пытаюсь понять, почему использование '/' с long double следующим образом приводит к значению 0,000000, в то время как тот же код с double не удваивает d = (double) total_results / (double) ...
вопрос задан: 6 February 2012 17:25
0
ответов
вывод в поток float чисел с точностью
У меня проблема с точностью float чисел: int main(void) { double b = 106.829599; float a = b; std::cerr << std::setprecision(6) << "a = " << a << "; b = " << ...".
вопрос задан: 27 January 2012 08:01
0
ответов
Определение максимального десятичного масштаба, используемого в столбце
В MS SQL мне нужен подход для определения самого большого масштаба, используемого строками для определенного десятичного столбца. Например, Col1 Decimal (19,8) имеет масштаб 8, но мне нужно знать, все ли 8 ...
вопрос задан: 23 January 2012 20:45
0
ответов
gcc округление разницы между версиями
Я изучаю, почему тестовый случай терпит неудачу Проблемный тест можно свести к выполнению (4.0/9.0) ** (1.0/2.6), округление до 6 цифр и проверка по известному значению (в виде строки): #include&...
вопрос задан: 10 January 2012 12:14
0
ответов
, генерируя число пи до n-й цифры java
. Я хотел знать, как я могу сгенерировать число пи до n-й цифры. У меня есть пара основных идей. Используйте Math.PI и увеличьте точность (если это возможно)
Используйте формулу Эйлера, чтобы сгенерировать пи, но даже здесь ...
вопрос задан: 3 December 2011 19:21
0
ответов
Java Mutable BigInteger Class
Я делаю вычисления с BigIntegers, которые используют цикл, вызывающий multiply() около 100 миллиардов раз, и создание нового объекта из BigInteger делает это очень медленно. Я надеялся, что кто-нибудь ...
вопрос задан: 22 October 2011 22:29
0
ответов
Исправление «сводки» в R с соответствующим количеством цифр точности
Простой вопрос о простой, казалось бы, невинной функции: сводка. Пока я не увидел результаты для Min и Max, которые выходили за пределы диапазона моих данных, я не знал, что в сводке есть числовой аргумент для ...
вопрос задан: 22 October 2011 04:00
0
ответов
Точность в Erlang
Следующий код дает мне 5,999999999999998 в Результате, но правильный ответ - 6. Alpha = math: acos ((4 * 4 + 5 * 5 - 3 * 3) / (2 * 4 * 5) )
Площадь = 1/2 * 4 * 5 * math: sin (Alpha) Можно ли получить 6?
вопрос задан: 5 October 2011 15:29
0
ответов
Точность MATLAB
Как Могу ли я реализовать четырехкратную точность (128-битную арифметику) в MATLAB при решении проблемы собственных значений матрицы? Я пытаюсь решить задачу анализа линейной устойчивости для несжимаемой плоскости ...
вопрос задан: 3 October 2011 23:44
0
ответов
Арифметическая точность с двойными числами в Matlab
У меня возникли некоторые проблемы с пониманием того, как точность этих удвоений влияет на результат арифметических операций в Matlab. Я подумал, что, поскольку оба a и b являются двойными, они смогут ...
вопрос задан: 3 October 2011 23:18
0
ответов
matlab и c отличаются функцией cos
I у меня есть программа, реализованная в Matlab, и та же программа в c, и результаты отличаются. Я немного озадачен тем, что функция cos не возвращает точно такой же результат. Я использую тот же компьютер, Intel ...
вопрос задан: 2 October 2011 17:48
0
ответов
Почему ограничения Min / Max проверки бинов не поддерживают тип double?
Может ли кто-нибудь объяснить мне, почему JPA поддерживает двойной тип как тип поля, но валидация компонента в javax.validation.constraints (т.е. @ Min / @ Max) не поддерживает его? Я знаю ...
вопрос задан: 14 September 2011 20:55
0
ответов
Сохранение прецизионного выхода с Django Denimalfield и PostgreSQL Числовое поле
Я сохраняю данные в Backend PostgreSQL через Django. Многие из полей в моих моделях - десятичные поля, установленные для произвольно высоких MAX_DIGITS и DECIMAL_PLACES, соответствующие числовым столбцам в ...
вопрос задан: 6 September 2011 22:51
0
ответов
Проблема OpenCL с типом double
Я пытаюсь использовать тип double в openCL, но все равно не работает, я хочу использовать double для большей точности, если есть другой тип, сделайте это, пожалуйста, скажите мне. если у вас нет времени читать мой код, ...
вопрос задан: 9 August 2011 19:12
0
ответов
Использование форматирования в стиле Java Double.toString () с большим количеством цифр (DecimalFormat не работает с числами с низкой точностью)
Основная проблема заключается в том, что у меня есть серия двойных чисел, которые мне нужно регистрировать, каждая с различным количеством значащие цифры. Числа сильно различаются по количеству значащих цифр. У некоторых есть ...
вопрос задан: 29 July 2011 05:48
0
ответов
C # Преобразование объекта в десятичное
Я пытаюсь преобразовать объект со значением 0,39999999999999997 в десятичную переменную без потери точности. объект d = 0,39999999999999997; Я пробовал следующие методы. десятичный ...
вопрос задан: 27 July 2011 07:12
0
ответов
Fi refox и Javascript Rounding Rules
Я не знаю, упускаю ли я здесь что-то очевидное, но ... В IE, Opera и Chrome я получаю то, что ожидаю, от округления чисел, заканчивающихся на 5: 125 toPrecision (2) => 130
11.5 toPrecision (2) => 12 ...
вопрос задан: 4 July 2011 05:56
0
ответов
Можно ли удалить ошибки с плавающей запятой, не прибегая к типам данных произвольной точности?
Мне было интересно, можно ли при определенных условиях удалить ошибки с плавающей запятой, не прибегая к произвольным -точность типов данных. Проблема обычная. Язык ...
вопрос задан: 27 June 2011 20:03
0
ответов
Как сделать предупреждения красивее без перезаписи большого количества строк
Я знаю, что есть много хороших плагинов для красивых окон предупреждений, но я уже сделал так много предупреждений, поэтому я хотел спросить, можно ли сделать эти предупреждения красивее, не переписывая все предупреждения ...
вопрос задан: 25 May 2011 13:03
0
ответов
Как я могу отображать числа с более высокой точностью в курсоре данных MATLAB?
У меня проблема с потерей точности. Я импортировал набор значений из файла CSV в MATLAB 7, используя следующий код: function importfile (fileToRead1)
% # IMPORTFILE (FILETOREAD1)
% # Импортирует данные ...
вопрос задан: 18 May 2011 05:25
0
ответов
Есть ли способ узнать текущее время в наносекундах с помощью JavaScript?
Итак, я знаю, что могу узнать текущее время в миллисекундах с использованием JavaScript. Но можно ли вместо этого получить текущее время в наносекундах?
вопрос задан: 14 May 2011 15:32
0
ответов
потеря точности преобразование из java BigDecimal в double
Я работаю с приложением, полностью основанным на двойниках, и у меня проблемы с одним служебным методом, который разбирает строку в двойную. Я' Мы нашли исправление, при котором использование BigDecimal для ...
вопрос задан: 27 April 2011 08:08
0
ответов
Есть ли способ получить «значащие цифры» десятичной дроби?
Обновите ОК, после некоторого расследования и в значительной степени благодаря полезным ответам, предоставленным Джоном и Ганс, это то, что мне удалось собрать. Пока я думаю, что это работает хорошо. Я бы не стал ...
вопрос задан: 22 April 2011 22:05
0
ответов
Как напечатать двойное число с полной точностью на iOS?
Тестовый пример: NSLog (@ "% f", M_PI);
NSLog (@ "% @", [NSString stringWithFormat: @ "% f", M_PI]);
NSLog (@ "% @", [NSNumber numberWithDouble: M_PI]); Результаты: 3,141593 3,141593 3,141592653589793 Выводы: ...
вопрос задан: 20 April 2011 10:43