13
ответов

Почему я вижу двойную переменную, инициализированную к некоторому значению как 21,4 как 21,399999618530273?

удвойте r = 11.631; двойная тета = 21.4; В отладчике они показываются 11,631000000000000 и 21.399999618530273. Как я могу избежать этого?
вопрос задан: 4 January 2014 19:11
11
ответов

В чем разница между float и double?

Я читал о разнице между двойной точностью и одинарной точностью. Однако в большинстве случаев float и double кажутся взаимозаменяемыми, то есть использование одного или другого, похоже, не влияет ...
вопрос задан: 10 March 2018 11:00
10
ответов

2.9999999999999999>>.5?

Я слышал, что Вы могли сдвиг вправо число.5 вместо того, чтобы использовать Math.floor (). Я решил проверить его пределы, чтобы удостовериться, что это была подходящая замена, таким образом, я проверил следующие значения и...
вопрос задан: 10 October 2008 08:08
9
ответов

java float double Почему точность не теряется [дублировать]

float f = 10.28f; System.out.println (е); // 10.28 Почему точность не теряется при использовании float.? double d = f; // 10.279999732971191 Я могу понять потерю точности здесь.
вопрос задан: 6 July 2013 18:15
9
ответов

Разделение 2 bigdecimals с точностью 0 и режимом округления HALF_UP [дубликат]

У меня есть следующие 2 больших числа. BigDecimal a = новый BigDecimal (123.45); BigDecimal b = новый BigDecimal (0,008); Если я просто разделим a на b, я получу 15 431,25. У меня также точность 0 и округление ...
вопрос задан: 9 March 2013 14:19
9
ответов

Как вручную разобрать число с плавающей запятой из строки

Конечно, большинство языков имеют библиотечные функции для этого, но предположим, что я хочу сделать это сам. Предположим, что float задан как в программе на C или Java (за исключением суффикса 'f' или 'd'), для ...
вопрос задан: 17 September 2008 16:48
8
ответов

Неожиданная потеря точности, когда деление удваивается

У меня есть функция getSlope, который берет в качестве параметров 4, удваивает и возвращает другое двойное расчетное использование данного параметры следующим образом: двойной QSweep:: getSlope (удваивают a, дважды b...
вопрос задан: 19 December 2013 14:53
7
ответов

Удваивается быстрее, чем плавания в C#?

Я пишу приложение, которое читает большие массивы плаваний и выполняет некоторые простые операции с ними. Я использую плавания, потому что я думал, что это будет быстрее, чем удваивается, но после выполнения некоторых...
вопрос задан: 18 November 2017 01:09
7
ответов

Какой диапазон чисел может быть представлен в 16-, 32-и 64-разрядных системах IEEE 754?

Я знаю немного о том, как числа с плавающей запятой представлены, но недостаточно, я боюсь. Общий вопрос: Для данной точности (в моих целях, количестве точного десятичного числа...
вопрос задан: 11 September 2016 13:34
7
ответов

Сохраняйте точность с двойным в Java

открытый класс doublePrecision {открытый статический void main (String [] args) {double total = 0; всего + = 5,6; всего + = 5,8; System.out.println (всего); } } Вышесказанное ...
вопрос задан: 28 October 2015 22:54
7
ответов

Лучшее приближение e с Java

Я хотел бы приблизить значение e к любой желаемой точности. Что лучший способ состоит в том, чтобы сделать это? Максимум, который я смог получить, является e = 2.7182818284590455. Любые примеры на модификации...
вопрос задан: 26 September 2009 18:06
7
ответов

ошибка точности gcc?

Я могу только предположить, что это - ошибка. Первые утверждают передачи в то время как вторые сбои: удвойте sum_1 = 4.0 + 6.3; утверждайте (sum_1 == 4.0 + 6.3); удвойте t1 = 4.0, t2 = 6.3; удвойте sum_2 = t1 + t2; утверждайте (...
вопрос задан: 26 August 2009 23:17
7
ответов

Десятичная разница в точности для операций типа (x * = val / b vs x = x * val / b) [duplicate]

Я столкнулся с немного странным поведением с C # и задавался вопросом, может ли кто-нибудь объяснить это. Рассмотрим следующий пример кода: decimal oldVal = 0.00081836M; decimal val = 0 ....
вопрос задан: 15 July 2009 18:24
7
ответов

Обеспечение C++ удваивается, 64 бита

В моей программе C++ я должен вытянуть плавание на 64 бита от внешней последовательности байта. Там некоторый путь состоит в том, чтобы удостовериться, во время компиляции, это удваивается, 64 бита? Есть ли некоторый другой тип, который я должен использов
вопрос задан: 15 April 2009 22:41
7
ответов

Почему порядок влияет на округление при добавлении, что несколько удваиваются в C#

Рассмотрите следующий код C#: удвойте result1 = 1.0 + 1.1 + 1.2; удвойте result2 = 1.2 + 1.0 + 1.1; если (result1 == result2) {...} result1 должен всегда равняться result2 праву? Вещь, это...
вопрос задан: 30 March 2009 12:44
6
ответов

Как я печатаю двойное значение с судом использования полной точности?

Таким образом, я получил ответ на свой последний вопрос (я не знаю, почему я не думал об этом). Я печатал двойной суд использования, который был округлен, когда я не ожидал это. Как я могу заставить суд распечатать...
вопрос задан: 16 October 2019 08:14
6
ответов

Каково различие между операцией плавающей точки одинарной точности и двойной точности?

Каково различие между операцией плавающей точки одинарной точности и двойной точностью плавающая операция? Мне особенно интересно на практике относительно игровых приставок...
вопрос задан: 17 November 2017 22:03
6
ответов

Действительно ли безопасно проверить значения с плавающей точкой на равенство 0?

Я знаю, что Вы не можете полагаться на равенство между двойными или десятичными значениями типа обычно, но я задаюсь вопросом, ли 0 особый случай. В то время как я могу понять неточности между 0,00000000000001 и 0....
вопрос задан: 21 February 2016 12:38
6
ответов

PHP: использовать float с заданной точностью в функции json_encode () [duplicate]

Мне нужно использовать PHP-поплавки в строке JSON. Код: $ obj ['val'] = '6.40'; json_encode ($ OBJ); преобразуется в: {"val": "6.40"} Все в порядке - у меня есть строковое значение «6.40» в PHP, и у меня есть строковое значение «6.40» ...
вопрос задан: 2 November 2015 04:27
6
ответов

Потеря точности - int - > плавать или двойной

У меня есть экзаменационный вопрос, для которого я пересматриваю, и вопрос для 4 баллов. Msgstr "В java мы можем присвоить int двойному или плавающему". Будет ли это когда-либо терять информацию и почему? Я положил это, потому что ...
вопрос задан: 15 May 2015 14:29
6
ответов

Почему Visual Studio 2008 говорит мне.9-.8999999999999995 = 0.00000000000000055511151231257827?

Когда я ввожу это в Visual Studio непосредственное окно 2008 года:?.9-.8999999999999995 Это дает мне это как ответ: 0.00000000000000055511151231257827 В документации говорится, что двойное имеет...
вопрос задан: 19 October 2012 17:28
6
ответов

почему результат boost :: math :: float_distance (1.0, 0.0) такой большой? [Дубликат]

Как упоминалось в названии, почему результат boost :: math :: float_distance (1.0, 0.0), который составляет -4.60718e + 18, такой большой? Согласно этому определению относительно ULP: В общем, если число с плавающей запятой d.d ....
вопрос задан: 5 June 2010 03:51
6
ответов

Разве Двойная точность Типа 15 цифр в C# не была?

Я тестировал этот код от Головоломок: удвойте d1 = 1.000001; удвойте d2 = 0.000001; Консоль. WriteLine ((d1 - d2) == 1.0); И результатом является "Ложь". Когда я изменяюсь...
вопрос задан: 8 September 2009 18:54
6
ответов

Корректируя десятичную точность, .NET

Эти строки в десятичном числе C# = 2 м; десятичное число b = 2.0 м; десятичное число c = 2.00000000 м; десятичное число d = 2.000000000000000000000000000 м; Консоль. WriteLine (a); Консоль. WriteLine (b); Консоль. WriteLine (c); Консоль....
вопрос задан: 15 July 2009 17:24
5
ответов

PI и точность числа с плавающей запятой

Единственная/двойная/расширенная точность представление с плавающей точкой Pi точно до сколько десятичных разрядов?
вопрос задан: 19 May 2019 00:16
5
ответов

Насколько точен грех numpy (x)? Как я узнаю? [нужно, чтобы численно решить x = a * sin (x)]

Я пытаюсь численно решить уравнение x = a * sin (x), где a - некоторая константа, в python. Я уже пытался сначала решить уравнение символически, но, похоже, это особая форма выражения ...
вопрос задан: 16 January 2019 10:28
5
ответов

Ограничение числа с плавающей запятой до двух десятичных знаков

Я хочу округлить до 13,95. > > > 13,949999999999999 > > > round (a, 2) 13.949999999999999 Функция округления работает не так, как я ожидал.
вопрос задан: 29 September 2017 04:42
5
ответов

Как использовать “%f” для заполнения двойного значения в строку с правильной точностью

Я пытаюсь заполнить строку с двойным значением с помощью sprintf как это: sprintf (S, "%f", val); Но точность отключается к шести десятичным разрядам. Мне нужны приблизительно 10 десятичных разрядов для...
вопрос задан: 22 May 2017 19:34
5
ответов

Представление целых чисел в удваивается

Может двойное (данного числа байтов, с разумным балансом мантиссы/экспоненты) всегда полностью точно содержат диапазон целого числа без знака половины того числа байтов? Например, могут восемь...
вопрос задан: 21 October 2016 22:04
5
ответов

Почему 24.0000 не равно 24,0000 в MATLAB?

Я пишу программу, где я должен удалить дублирующиеся точки, сохраненные в матрице. Проблема состоит в том, что когда дело доходит до проверки, являются ли те точки в матрице, MATLAB не может распознать их в...
вопрос задан: 18 August 2016 07:21