11
ответов
Я должен использовать дважды или плавание?
Каковы преимущества и недостатки использования того вместо другого в C++?
вопрос задан: 9 May 2012 16:25
6
ответов
Лучший базовый тип для контакта с линейной алгеброй
Я пишу небольшую и несоответствующую библиотеку линейной алгебры в C++ для проекта (я сожалею). Я реализую матрицы и операции с помощью чисел двойной точности. Я делаю правильно? Если я реализую...
вопрос задан: 24 December 2008 03:30
3
ответа
Почему это переносит вычисление, таким образом неточное?
Это даже что неточно? Я re-implented все это с произвольной точностью Apfloat и это не имело никакого значения, которое я должен был знать для запуска с!! общедоступный статический двойной перенос (LatLng...
вопрос задан: 9 February 2010 22:16
2
ответа
странный вывод по сравнению с плаванием с литералом плавающим
пустите в ход f = 0.7; если (f == 0.7) printf ("равный"); еще printf ("не равняются"); Почему вывод не равен? Почему это происходит?
вопрос задан: 14 August 2012 16:48
2
ответа
Имеет ли JavaScript двойную точность чисел с плавающей запятой?
Я знаю, что это странный вопрос, но обладает ли JavaScript способностью работать с двойными, а не с одиночными числами? (64-разрядные числа с плавающей запятой против 32-разрядных.)
вопрос задан: 8 September 2010 15:51
0
ответов
C ++: двойники, точность, виртуальные машины и GCC
У меня есть следующий фрагмент кода: #include
int main ()
{если ((1.0 + 0.1)! = (1.0 + 0.1)) printf ("не равно \ n"); иначе printf ("равно \ п"); возврат 0;
} Когда ...
вопрос задан: 14 June 2015 09:46
0
ответов
когда использовать expm1 вместо exp в java
Я запутался в использовании функции expm1 в java В документации Oracle по Java для Math.expm1 указано :Возвращает exp (x ) -1. Обратите внимание, что для значений x, близких к 0, точная сумма expm1 (x ) + 1 равна гораздо ближе к...
вопрос задан: 17 August 2012 19:33
0
ответов
Как правильно и стандартно сравнивать числа с плавающей запятой?
Каждый раз, когда я начинаю новый проект и когда Мне нужно сравнить некоторые переменные типа float или double, я пишу такой код: if (fabs (prev.min [i] - cur-> min [i]) <0.000001 && fabs (...
вопрос задан: 11 May 2012 14:44
0
ответов
Проблемы с точностью BigDecimal в Java
Я знаю, что следующее поведение является старой проблемой, но до сих пор не понимаю. System.out.println(0,1 + 0,1 + 0,1); Или хотя я использую BigDecimal System.out.println(new BigDecimal(0.1)....
вопрос задан: 20 March 2012 21:42
0
ответов
Почему программа на С++, скомпилированная для платформы x64, работает медленнее, чем скомпилированная для x86?
Я писал программу и скомпилировал ее для платформы x64 и x86 в Visual Studio 2010 на Intel Core i5-2500. Версия x64 занимает около 19 секунд для выполнения, а версия x86 - около 17 секунд. Что может быть...
вопрос задан: 14 February 2012 21:27
0
ответов
Имитация разрыва двойника в C #
Я работаю на 32-битной машине и могу подтвердить, что длинные значения могут разорваться, используя следующий фрагмент кода, который бьет очень быстро. static void TestTearingLong () {...
вопрос задан: 29 January 2012 13:20
0
ответов
Точность умножения двойной точности в java?
Какова гарантированная точность оператора умножения для значений типа double в java? Например, 2,2 * 100 - это 220,00000000000003, но 220 - это двойное число. 220.00000000000003 - это следующее двойное ...
вопрос задан: 23 June 2011 19:06
0
ответов
Tiny числа вместо нуля?
Я создавал матричный класс (в качестве обучающего упражнения), и я столкнулся с проблемой, пока тестировал свою обратную функцию. Я ввожу произвольную матрицу как таковую: 2 1 1
1 2 1
1 1 2 И получил это ...
вопрос задан: 3 June 2011 18:18
0
ответов
Help in double precision addition
I was testing some of my code, in javascript I added .1+.2 and it gives me .30000000000000004 instead of .3 . I don't understand this.
Но когда я добавил .1 + .3, это дает мне .4. Я погуглил и нашел его ...
вопрос задан: 23 May 2011 06:22
0
ответов
хост к сети удваивается?
Я бы хотел для отправки по сети некоторых чисел с плавающей запятой двойной точности. (стандартный C, стандартные сокеты) Нет htond или ntohd для преобразования данных в сетевой порядок байтов и обратно. Что ...
вопрос задан: 21 May 2011 21:54
0
ответов
Программа двойной точности на Фортране с простой процедурой MKL BLAS
В попытке смешать точность в простой программе - используя как real, так и double - и используя подпрограмму ddot от BLAS, я придумываю неправильный вывод для части двойной точности. Вот код: ...
вопрос задан: 8 May 2011 15:55
0
ответов
Как я могу «обрезать» двойное значение C #, которое будет сохранено как в базе данных sqlite?
Я заметил, что когда я сохраняю двойное значение, например, x = 0,56657011973046234, в базе данных sqlite, а затем получаю его позже, я получаю y = 0,56657011973046201 . Согласно спецификации sqlite и ....
вопрос задан: 17 November 2010 01:34
0
ответов
присваивание с плавающей запятой на двойное
Рассмотрим следующий фрагмент кода float num = 281.583f;
int amount = (int) Math.round (число * 100f);
округленное значение с плавающей запятой = количество / 100.0f;
двойной dblPrecision = округлено;
двойной dblPrecision2 = число;
System.out ....
вопрос задан: 11 November 2010 12:36
0
ответов
C # Высокая двойная точность
Я пишу функцию, которая вычисляет значение PI и возвращает его как double. Все идет нормально. Но как только функция достигает 14 цифр после десятичной точки, она больше не может работать. Я ...
вопрос задан: 5 November 2010 14:54
0
ответов
Фортран имеет свойственные ограничения на числовую точность по сравнению с другими языками?
При работе над простым осуществлением программирования я произвел некоторое время цикл (цикл типа DO в Фортране), который был предназначен для выхода, когда реальная переменная достигла точного значения. Я заметил что из-за...
вопрос задан: 14 August 2010 00:26