0
ответов
Быстрое преобразование double в строку с заданной точностью
Мне нужно преобразовать double в строку с заданной точностью. String.format("%.3f", value) (или DecimalFormat) выполняет свою работу, но тесты показывают, что он медленный даже по сравнению с не очень быстрым Double....
вопрос задан: 29 July 2018 12:44
0
ответов
Как создать таймер с высоким разрешением в Linux для измерения производительности программы?
Я пытаюсь сравнить GPU и CPU спектакль. Для графического процессора NVIDIA я использовал типы cudaEvent_t, чтобы получить очень точное время. Для процессора я использовал следующий код: // Таймеры
clock_t ...
вопрос задан: 17 January 2018 12:21
0
ответов
Преобразование 8 байтов двоичного кода с прямым порядком байтов в число с плавающей точкой двойной точности
У меня есть двоичный файл, который я читаю побайтно. Я наткнулся на раздел длиной 8 байт, содержащий число с плавающей запятой двойной точности (little endian). Я не могу понять, как это прочитать и вычислить ...
вопрос задан: 17 November 2017 22:10
0
ответов
OpenCL Точность с плавающей запятой
Я обнаружил проблему со стандартом хост-клиент с плавающей запятой в OpenCL. Проблема заключалась в том, что числа с плавающей запятой, вычисляемые Opencl, не находятся в тех же пределах с плавающей запятой, что и мой компилятор Visual Studio 2010, ...
вопрос задан: 23 October 2017 18:43
0
ответов
Двойная точность - десятичные разряды
Из того, что я прочитал, значение типа данных double имеет приблизительную точность 15 знаков после запятой. Однако, когда я использую число, десятичное представление которого повторяется, например 1,0/7,0, я обнаруживаю, что...
вопрос задан: 20 October 2017 23:08
0
ответов
результат синуса зависит от используемого компилятора C ++
Я использую два следующих компилятора C ++: cl.exe: Microsoft (R) C / C ++ Оптимизирующая версия компилятора 19.00.24210 для x86 g ++: g ++ (Ubuntu 5.2.1-22ubuntu2) 5.2.1 20151010 При использовании встроенного синуса. ..
вопрос задан: 12 October 2017 16:39
0
ответов
Что означает «настоящее*8»?
В руководстве к программе, написанной на Фортране 90, говорится: «Все реальные переменные и параметры указаны с 64-битной точностью (т. е. real*8)». Согласно Википедии, одинарная точность соответствует 32-битной точности...
вопрос задан: 6 September 2017 21:17
0
ответов
C # double to decimal precision loss
У меня есть двойное «138630.78380386264», и я хочу его преобразовать до десятичной дроби, однако, когда я делаю это, я делаю это либо путем преобразования, либо с помощью Convert.ToDecimal (), и я теряю точность. Что происходит? Оба ...
вопрос задан: 17 August 2017 18:28
0
ответов
Усечение числа с плавающей запятой без округления
У меня есть число с плавающей запятой, которое я хочу усечь до трех разрядов, но не хочу округлять в большую сторону. Например, преобразовать 1.0155555555555555 в 1.015 (а не 1.016). Как бы я сделал это в ...
вопрос задан: 31 July 2017 11:28
0
ответов
Как использовать и проверять четырехкратную точность в gfortran?
Я пытаюсь использовать четырехкратную точность в gfortran, но похоже, что настоящая *16 не работает. После некоторого поиска я обнаружил, что это может быть реализовано как реальное *10. Действительно ли *10 на самом деле четырехъядерное...
вопрос задан: 25 July 2017 09:06
0
ответов
В каком порядке следует добавлять числа с плавающей запятой, чтобы получить наиболее точный результат?
Это был вопрос, который мне задали во время моего недавнего интервью, и я хочу знать (на самом деле я не помню теория численного анализа, поэтому, пожалуйста, помогите мне :) Если у нас есть какая-то функция, которая ...
вопрос задан: 27 May 2017 21:43
0
ответов
Как определить максимальную точность для двойной
Я пытаюсь определить, какова максимальная точность для двойника. В комментариях к принятому ответу по этой ссылке Сохраняйте точность с двойным в Java @PeterLawrey заявляет максимальную точность в 15. ...
вопрос задан: 23 May 2017 12:16
0
ответов
Форматирование чисел при записи в файлы в Mathematica
Это продолжение вопроса о форматировании чисел, связанного с моим предыдущим вопросом о получении очень специфической системы Mathematica вывод в текстовые файлы. Мне часто приходится использовать высокий ...
вопрос задан: 23 May 2017 11:55
0
ответов
Нестабильность в DeleteDuplicates и Tally
При подготовке ответа на подсчет количества различных значений, которые принимает список в Mathematica я столкнулся с нестабильностью (из-за отсутствия лучшего термина) как в DeleteDuplicates, так и в Tally, которую я не ...
вопрос задан: 23 May 2017 11:52
0
ответов
С плавающей точкой половинной точности в Java
Есть ли где-нибудь библиотека Java, которая может выполнять вычисления на числах половинной точности IEEE 754 или преобразовывать их в двойную точность и обратно? Любой из этих подходов подойдет: сохранить ...
вопрос задан: 23 May 2017 10:29
0
ответов
Согласована ли математика с плавающей запятой в C #? Может ли это быть?
Нет, это не еще один вопрос «Почему (1 / 3.0) * 3! = 1». В последнее время я много читал о плавающих точках; в частности, как один и тот же расчет может дать разные результаты для разных ...
вопрос задан: 13 April 2017 12:18
0
ответов
Как рассчитать точность и вспомнить в Керасе
Я строю мультиклассовый классификатор с Keras 2.02 (с бэкэндом Tensorflow) ，, и я не знаю, как рассчитать точность и вызвать в Keras. Пожалуйста, помогите мне.
вопрос задан: 28 March 2017 17:53
0
ответов
Плавающие значения двойной точности в Python?
Существуют ли типы данных с большей точностью, чем float?
вопрос задан: 12 March 2017 12:06
0
ответов
Экстремальные числовые значения в точности с плавающей точкой в R
Может кто-нибудь, пожалуйста, объясните мне следующий вывод. Я знаю, что это как-то связано с точностью с плавающей запятой, но порядок величины (разница 1e308) меня удивляет. 0: высокая точность и ...
вопрос задан: 2 February 2017 08:18
0
ответов
Эмуляция «double» с использованием 2 «float»
Я пишу программу для встроенного оборудования, которая поддерживает только 32-битную арифметику с плавающей запятой одинарной точности. Однако реализуемый мной алгоритм требует 64-битной двойной точности ...
вопрос задан: 1 December 2016 02:48
0
ответов
Странная ошибка в R при импорте (64 -бит )целое число с большим количеством цифр
Я импортирую csv, который имеет один столбец, содержащий очень длинные целые числа (, например :2121020101132507598 )a< -read.csv ('temp.csv',as.is=T )Когда я импортирую эти целые числа в виде строк, они...
вопрос задан: 30 September 2016 19:05
0
ответов
PHP - Точность плавающих чисел [дубликат]
$ a = '35';
$ b = '-34,99';
эхо ($ a + $ b); Результаты в 0.009999999999998 Что с этим делать? Я удивился, почему моя программа продолжала сообщать странные результаты. Почему PHP не возвращает ожидаемые 0,01?
вопрос задан: 30 July 2016 15:32
0
ответов
Почему я не могу получить значение p меньше, чем 2.2e-16?
Я нашел эту проблему с t-тестами и хи-квадрат в R, но я предполагаю, что эта проблема в целом относится к другим тестам. Если я сделаю: a < - 1:10 b < - 100: 110 t.test (a, b), я получу: t = -64,6472, df = 18,998, ...
вопрос задан: 9 July 2016 00:23
0
ответов
Почему добавление 0,1 несколько раз остается без потерь?
Я знаю, что десятичное число 0,1 не может быть точно представлено конечным двоичным числом (объяснение), поэтому double n = 0.1 потеряет некоторую точность и не будет точно 0,1. С другой стороны 0.5 может ...
вопрос задан: 16 April 2016 19:06
0
ответов
Как printf и scanf обрабатывают точность с плавающей запятой форматы?
Рассмотрим следующий фрагмент кода: float val1 = 214.20;
двойной val2 = 214,20; printf ("float:% f,% 4.6f,% 4.2f \ n", val1, val1, val1);
printf("double: %f, %4.6f, %4.2f \n", val2, val2, val2); ...
вопрос задан: 3 November 2015 21:13
0
ответов
Как выполнить юнит-тест для выходных данных с плавающей запятой? - питон
Допустим, я пишу модульный тест для функции, которая возвращает число с плавающей запятой, я могу сделать это с полной точностью, как на моей машине: >>> import unittest >>> def div (x, y): .. ,
вопрос задан: 18 October 2015 16:50
0
ответов
Числа меньше реальных минут
Сегодня я наткнулся на эту простую задачу в Matlab :>> 1/ (10^309 )ans = 0 и все в порядке.Теперь я набираю :>> 0.0001/ (10^308 )ans = 9.999999999984653e -313 и получаю очень...
вопрос задан: 8 October 2015 15:22
0
ответов
Как преобразовать в double с точностью 2 - строка за точкой?
Я хочу преобразовать эту строку: 0.55000000000000004 в эту double: 0.
Как это сделать?
вопрос задан: 18 May 2015 13:25
0
ответов
Как "отсечь" правильное количество десятичных разрядов в двойном значении?
Мне нужна помощь в сохранении точности двойного. Если я назначу литералу double, фактическое значение будет усечено. int main () {двойной x = 7,40200133400; std :: cout << x << "\ n"; 40200133400; std :: cout << x << "\ n"; 40200133400; std :: cout << x
вопрос задан: 8 May 2015 14:26
0
ответов
Math.log2 точность изменилась в Chrome
Я написал программу на JavaScript, которая рассчитывает глубину двоичного дерева на основе количества элементов. Моя программа работала в течение нескольких месяцев, но недавно я обнаружил разницу, когда ...
вопрос задан: 26 October 2014 08:36