5
ответов

Точность плавающей точки C++ [дубликат]

Возможный Дубликат: примеры погрешности С плавающей точкой удваиваются = 0.3; станд.:: cout.precision (20); станд.:: суд <<<<станд.:: endl; результат: 0,2999999999999999889 двойных a, b; = 0.3; b =...
вопрос задан: 23 May 2017 11:51
5
ответов

Предотвращение нестандартных значений в C++

После поиска долгого времени для ошибки производительности я читал о нестандартных значениях с плавающей точкой. По-видимому, денормализованные значения с плавающей точкой могут быть главной проблемой производительности, как проиллюстрирован в...
вопрос задан: 23 May 2017 10:30
5
ответов

Как использовать “%f” для заполнения двойного значения в строку с правильной точностью

Я пытаюсь заполнить строку с двойным значением с помощью sprintf как это: sprintf (S, "%f", val); Но точность отключается к шести десятичным разрядам. Мне нужны приблизительно 10 десятичных разрядов для...
вопрос задан: 22 May 2017 19:34
5
ответов

Представление целых чисел в удваивается

Может двойное (данного числа байтов, с разумным балансом мантиссы/экспоненты) всегда полностью точно содержат диапазон целого числа без знака половины того числа байтов? Например, могут восемь...
вопрос задан: 21 October 2016 22:04
5
ответов

Почему 24.0000 не равно 24,0000 в MATLAB?

Я пишу программу, где я должен удалить дублирующиеся точки, сохраненные в матрице. Проблема состоит в том, что когда дело доходит до проверки, являются ли те точки в матрице, MATLAB не может распознать их в...
вопрос задан: 18 August 2016 07:21
5
ответов

Алгоритм сжатия для данных IEEE 754

У кого-либо есть рекомендация на хорошем алгоритме сжатия, который работает хорошо со значениями с плавающей точкой двойной точности? Мы нашли, что двоичное представление значений с плавающей точкой заканчивается...
вопрос задан: 17 January 2016 19:36
5
ответов

Бросок к интервалу по сравнению с полом

Есть ли любое различие между ними: пустите в ход foo1 = (интервал) (панель / 3.0); пустите в ход foo2 = пол (панель / 3.0); Поскольку я понимаю, что оба случая имеют тот же результат. Есть ли какое-либо различие в скомпилированном коде?
вопрос задан: 30 December 2014 21:44
5
ответов

Как я могу получить/установить отдельные биты в плавании?

Я должен признать во всей своей работе с Java, я никогда не сталкивался с потребностью в объединении Java (как объединение C, не SQL один), и я не могу найти ответ здесь на ТАК. По общему признанию, большая часть моей работы в...
вопрос задан: 9 August 2014 18:31
5
ответов

Арифметика с плавающей точкой не создание точных результатов [дубликат]

Я должен сделать некоторую арифметику с плавающей точкой в Java как показано в коде ниже: общедоступный класс TestMain {частная статическая Карта <Целое число, дважды> ccc = новый HashMap <Целое число, дважды> () {...
вопрос задан: 27 March 2014 07:18
5
ответов

Как преобразовать строки в плавания с идеальной точностью?

Я пытаюсь записать функцию на языке программирования D для замены вызовов к C strtold. (Объяснение: Для использования strtold от D необходимо преобразовать струны ре в струны до, который неэффективен...
вопрос задан: 26 March 2014 03:20
5
ответов

в python, как разбить число по десятичной запятой

Итак, если я запускаю: a = b / c и получаю результат 1.2234 Как мне разделить его так, чтобы у меня было: a = 1 b = 0,2234
вопрос задан: 18 December 2013 09:36
5
ответов

Почему “dtoa.c” содержит так много кода?

Я буду первым, чтобы признать, что мое полное знание низкоуровневого программирования немного редко. Я понимаю многие базовые понятия, но я не использую их регулярно. Это сказанное я был...
вопрос задан: 15 October 2013 23:32
5
ответов

Случайное число плавающее

Я записал эту функцию для получения псевдослучайного плавания между 0.. 1 включительно: плавайте randomFloat () {пускают в ход r = рэнд (плавающий) () / RAND_MAX (плавающий); возвратите r;} Однако это всегда возвращается 0....
вопрос задан: 22 September 2013 20:03
5
ответов

Ограничить точность с плавающей точкой?

Существует ли путь к круглым плавающим точкам к 2 точкам? Например: 3576.7675745342556 становится 3576.76.
вопрос задан: 21 September 2013 15:51
5
ответов

Как Вы считали бы количество набора битов в числе с плавающей точкой?

Как Вы рассчитываете, число битов установило в числе с плавающей точкой с помощью C функции?
вопрос задан: 21 September 2013 15:14
5
ответов

Python 3 Float Десятичные точки / Точность

Я читаю текстовый файл с числами с плавающей запятой, все с 1 или 2 десятичными знаками. Я использую float () для преобразования строки в число с плавающей точкой и поднимаю ValueError, если это не удается. Я храню все ...
вопрос задан: 26 January 2013 18:31
5
ответов

Почему BigDecimal возвращает странное значение?

Я - написание кода, которое будет иметь дело с валютами, зарядами, и т.д. Я собираюсь использовать класс BigDecimal для математики и устройства хранения данных, но мы столкнулись с чем-то странным с ним. Этот оператор: 1876.8 ==...
вопрос задан: 25 December 2012 06:14
5
ответов

Числовое сравнение сложности в R

Я пытаюсь сравнить два числа в R как часть условия оператора if: (ab) > = 0.5 В данном конкретном случае a = 0.58 и b = 0.08 ... и все же (ab) > = 0,5 неверно. Я в курсе ...
вопрос задан: 28 November 2012 22:03
5
ответов

Java: дважды по сравнению с плаванием

В другом осуществлении Bruce Eckel код, который я написал, берет метод и изменяет значение в другом классе. Вот мой код: класс, Большой {пускает в ход b;} общедоступный класс PassObject {статическая пустота f (Буква...
вопрос задан: 12 October 2012 00:45
5
ответов

Преобразуйте плавание для строкового представления с вырезанием нулевых десятичных чисел afer точки в Python

Я испытываю затруднения при преобразовании плавания для строкового представления следующим образом: 20.02-> 20.02 20.016-> 20.02 20.0-> 20 кажется, что that%g формат является лучшим для этого, но я добираюсь...
вопрос задан: 15 June 2012 15:03
5
ответов

почему значения float получаются по-разному в mysql 5.1 и mysql 5.7 [duplicate]

'm inserting records в mysql 5.7, где один из типов столбцов - float. mysql 5.7 & gt; desc TEST_1; + ----------- + ---------- + ------ + ----- + --------- + --- ---- + | Поле | Тип | Null | Ключ | ...
вопрос задан: 5 June 2012 18:03
5
ответов

Поскольку, что цель Java имеет типом примитива плавающим?

Можно ли помочь мне разъяснить использования примитива плавающего в Java? Мое понимание - то, что преобразование значения плавающего для удвоения и наоборот может быть проблематичным. Я читал (скорее давным-давно и нет...
вопрос задан: 11 May 2012 15:02
5
ответов
5
ответов

Что хороший путь состоит в том, чтобы добавить большое количество маленьких плаваний вместе?

Скажите, что у Вас есть 100 000 000 32-разрядных значений с плавающей точкой в массиве, и каждое из этих плаваний имеет значение между 0,0 и 1.0. Если Вы пытались суммировать их всех как этот результат = 0.0; для (я = 0; я <...
вопрос задан: 9 May 2012 19:17
5
ответов

C# пускают в ход бесконечный цикл

Следующий код в C# (.Net 3.5 SP1) является бесконечным циклом на моей машине: для (плавают i = 0; я <плавание. MaxValue; я ++); Это достигло, номер 16777216.0 и 16777216.0 + 1, оценивает к...
вопрос задан: 9 May 2012 17:28
5
ответов

Я должен использовать десятичное число, плавание или дважды для этого простого математического результата?

Я делаю некоторую действительно простую математику и сохраняю результат к MS SQL2008 DB. Я составляю в среднем некоторые числа, которые являются значениями байта между 1 <-> 5. Я хочу записать, вероятно, 2 десятичных разряда только....
вопрос задан: 9 May 2012 17:13
5
ответов

Суд может изменить переменные так или иначе?

Таким образом, у меня есть функция, которая выглядит примерно так: плавайте функция () {пускают в ход x = SomeValue; возвратите x / SomeOtherValue;} В какой-то момент, эта функция переполняет и возвращает действительно большое...
вопрос задан: 9 May 2012 14:17
5
ответов

Почему значение этого пускает в ход изменение от того, на что оно было установлено?

Почему эта программа C дает "неправильный" вывод? #include <stdio.h> освобождают основной () {пускают в ход f = 12345.054321; printf (" %f", f); getch ();} Вывод: 12345.054688 Но вывод должен...
вопрос задан: 16 March 2012 18:07
5
ответов

Преобразование плавания Python в строку без потери точности

Я поддерживаю скрипт Python, который использует xlrd для извлечения значения из таблиц Excel, а затем делать различные вещи с ними. Некоторые из ячеек в электронной таблице являются точными числами, и ...
вопрос задан: 16 August 2010 22:20
5
ответов

Параметры компилятора C ++ с плавающей запятой | предотвращение a / b -> a * (1 / b)

Я пишу числовое программное обеспечение в реальном времени на C ++, в настоящее время компилирую его с помощью Visual-C ++ 2008. Теперь использую «быструю» модель с плавающей запятой (/ fp: fast), различные оптимизации, большинство из них полезно в мое
вопрос задан: 5 August 2010 10:54