17
ответов
Сохраняйте точность с двойным в Java
открытый класс doublePrecision {открытый статический void main (String [] args) {double total = 0; всего + = 5,6; всего + = 5,8; System.out.println (всего); } } Вышесказанное ...
вопрос задан: 28 October 2015 22:54
13
ответов
Почему я вижу двойную переменную, инициализированную к некоторому значению как 21,4 как 21,399999618530273?
удвойте r = 11.631; двойная тета = 21.4; В отладчике они показываются 11,631000000000000 и 21.399999618530273. Как я могу избежать этого?
вопрос задан: 4 January 2014 19:11
11
ответов
В чем разница между float и double?
Я читал о разнице между двойной точностью и одинарной точностью. Однако в большинстве случаев float и double кажутся взаимозаменяемыми, то есть использование одного или другого, похоже, не влияет ...
вопрос задан: 10 March 2018 11:00
10
ответов
2.9999999999999999>>.5?
Я слышал, что Вы могли сдвиг вправо число.5 вместо того, чтобы использовать Math.floor (). Я решил проверить его пределы, чтобы удостовериться, что это была подходящая замена, таким образом, я проверил следующие значения и...
вопрос задан: 10 October 2008 08:08
9
ответов
java float double Почему точность не теряется [дублировать]
float f = 10.28f; System.out.println (е); // 10.28 Почему точность не теряется при использовании float.? double d = f; // 10.279999732971191 Я могу понять потерю точности здесь.
вопрос задан: 6 July 2013 18:15
9
ответов
Разделение 2 bigdecimals с точностью 0 и режимом округления HALF_UP [дубликат]
У меня есть следующие 2 больших числа. BigDecimal a = новый BigDecimal (123.45); BigDecimal b = новый BigDecimal (0,008); Если я просто разделим a на b, я получу 15 431,25. У меня также точность 0 и округление ...
вопрос задан: 9 March 2013 14:19
9
ответов
Как вручную разобрать число с плавающей запятой из строки
Конечно, большинство языков имеют библиотечные функции для этого, но предположим, что я хочу сделать это сам. Предположим, что float задан как в программе на C или Java (за исключением суффикса 'f' или 'd'), для ...
вопрос задан: 17 September 2008 16:48
8
ответов
Неожиданная потеря точности, когда деление удваивается
У меня есть функция getSlope, который берет в качестве параметров 4, удваивает и возвращает другое двойное расчетное использование данного параметры следующим образом: двойной QSweep:: getSlope (удваивают a, дважды b...
вопрос задан: 19 December 2013 14:53
8
ответов
Как вычислить время операции в микро второй точности
Я хочу вычислить производительность функции в микро второй точности на платформе Windows. Теперь сам Windows имеет миллисекунду granuality, поэтому как я могу достигнуть этого. Я попробовал после образца, но...
вопрос задан: 13 May 2010 17:38
8
ответов
ArithmeticException брошен во время BigDecimal.divide
Я думал java.math. BigDecimal, как предполагается, является Answer™ к потребности выполнения бесконечной арифметики точности с десятичными числами. Рассмотрите следующий отрывок: импорт java.math....
вопрос задан: 1 May 2010 09:03
7
ответов
Как я печатаю двойное значение с судом использования полной точности?
Таким образом, я получил ответ на свой последний вопрос (я не знаю, почему я не думал об этом). Я печатал двойной суд использования, который был округлен, когда я не ожидал это. Как я могу заставить суд распечатать...
вопрос задан: 16 October 2019 08:14
7
ответов
Удваивается быстрее, чем плавания в C#?
Я пишу приложение, которое читает большие массивы плаваний и выполняет некоторые простые операции с ними. Я использую плавания, потому что я думал, что это будет быстрее, чем удваивается, но после выполнения некоторых...
вопрос задан: 18 November 2017 01:09
7
ответов
Какой диапазон чисел может быть представлен в 16-, 32-и 64-разрядных системах IEEE 754?
Я знаю немного о том, как числа с плавающей запятой представлены, но недостаточно, я боюсь. Общий вопрос: Для данной точности (в моих целях, количестве точного десятичного числа...
вопрос задан: 11 September 2016 13:34
7
ответов
Определите десятичную точность входного числа
У нас есть интересная проблема, были, мы должны определить десятичную точность пользовательского входа (текстовое поле). По существу мы должны знать количество вводимых десятичных разрядов и затем возвратить точность...
вопрос задан: 18 April 2016 22:01
7
ответов
Потеря точности - int - > плавать или двойной
У меня есть экзаменационный вопрос, для которого я пересматриваю, и вопрос для 4 баллов. Msgstr "В java мы можем присвоить int двойному или плавающему". Будет ли это когда-либо терять информацию и почему? Я положил это, потому что ...
вопрос задан: 15 May 2015 14:29
7
ответов
Лучшее приближение e с Java
Я хотел бы приблизить значение e к любой желаемой точности. Что лучший способ состоит в том, чтобы сделать это? Максимум, который я смог получить, является e = 2.7182818284590455. Любые примеры на модификации...
вопрос задан: 26 September 2009 18:06
7
ответов
ошибка точности gcc?
Я могу только предположить, что это - ошибка. Первые утверждают передачи в то время как вторые сбои: удвойте sum_1 = 4.0 + 6.3; утверждайте (sum_1 == 4.0 + 6.3); удвойте t1 = 4.0, t2 = 6.3; удвойте sum_2 = t1 + t2; утверждайте (...
вопрос задан: 26 August 2009 23:17
7
ответов
Десятичная разница в точности для операций типа (x * = val / b vs x = x * val / b) [duplicate]
Я столкнулся с немного странным поведением с C # и задавался вопросом, может ли кто-нибудь объяснить это. Рассмотрим следующий пример кода: decimal oldVal = 0.00081836M; decimal val = 0 ....
вопрос задан: 15 July 2009 18:24
7
ответов
Обеспечение C++ удваивается, 64 бита
В моей программе C++ я должен вытянуть плавание на 64 бита от внешней последовательности байта. Там некоторый путь состоит в том, чтобы удостовериться, во время компиляции, это удваивается, 64 бита? Есть ли некоторый другой тип, который я должен использов
вопрос задан: 15 April 2009 22:41
7
ответов
Почему порядок влияет на округление при добавлении, что несколько удваиваются в C#
Рассмотрите следующий код C#: удвойте result1 = 1.0 + 1.1 + 1.2; удвойте result2 = 1.2 + 1.0 + 1.1; если (result1 == result2) {...} result1 должен всегда равняться result2 праву? Вещь, это...
вопрос задан: 30 March 2009 12:44
6
ответов
Каково различие между операцией плавающей точки одинарной точности и двойной точности?
Каково различие между операцией плавающей точки одинарной точности и двойной точностью плавающая операция? Мне особенно интересно на практике относительно игровых приставок...
вопрос задан: 17 November 2017 22:03
6
ответов
Действительно ли безопасно проверить значения с плавающей точкой на равенство 0?
Я знаю, что Вы не можете полагаться на равенство между двойными или десятичными значениями типа обычно, но я задаюсь вопросом, ли 0 особый случай. В то время как я могу понять неточности между 0,00000000000001 и 0....
вопрос задан: 21 February 2016 12:38
6
ответов
PHP: использовать float с заданной точностью в функции json_encode () [duplicate]
Мне нужно использовать PHP-поплавки в строке JSON. Код: $ obj ['val'] = '6.40'; json_encode ($ OBJ); преобразуется в: {"val": "6.40"} Все в порядке - у меня есть строковое значение «6.40» в PHP, и у меня есть строковое значение «6.40» ...
вопрос задан: 2 November 2015 04:27
6
ответов
десятичный против двойного! - Какой я должен использовать и когда? [Дубликат]
Я продолжаю видеть людей, использующих двойники в C #. Я знаю, что где-то читал, что двойники иногда теряют точность. Мой вопрос: когда следует использовать двойное и когда я должен использовать десятичный тип? Какой тип ...
вопрос задан: 14 March 2014 13:18
6
ответов
Почему Visual Studio 2008 говорит мне.9-.8999999999999995 = 0.00000000000000055511151231257827?
Когда я ввожу это в Visual Studio непосредственное окно 2008 года:?.9-.8999999999999995 Это дает мне это как ответ: 0.00000000000000055511151231257827 В документации говорится, что двойное имеет...
вопрос задан: 19 October 2012 17:28
6
ответов
Определите точность и масштаб конкретного числа в Python
У меня есть переменная в Python, содержащем число с плавающей точкой (например, цифра = 24654.123), и я хотел бы определить точность числа и значения масштаба (в смысле Oracle), таким образом, 123.45678 должен дать...
вопрос задан: 7 June 2012 13:51
6
ответов
почему результат boost :: math :: float_distance (1.0, 0.0) такой большой? [Дубликат]
Как упоминалось в названии, почему результат boost :: math :: float_distance (1.0, 0.0), который составляет -4.60718e + 18, такой большой? Согласно этому определению относительно ULP: В общем, если число с плавающей запятой d.d ....
вопрос задан: 5 June 2010 03:51
6
ответов
Сколько двойных чисел там между 0,0 и 1.0?
Это - что-то, чем это было на моем уме в течение многих лет, но я никогда не не торопился для выяснения прежде. Много (псевдо) генераторов случайных чисел генерируют случайное число между 0,0 и 1.0. Математически там...
вопрос задан: 5 June 2010 02:51
6
ответов
Эмулируйте поведение преобразования строк с плавающей точкой Linux в Windows
Я встретился с раздражающей проблемой в выводе числа с плавающей точкой. Когда я формат 11.545 с точностью 2 десятичных точек в Windows, который это производит "11.55", как я ожидал бы. Однако, когда я...
вопрос задан: 10 February 2010 07:32
6
ответов
Разве Двойная точность Типа 15 цифр в C# не была?
Я тестировал этот код от Головоломок: удвойте d1 = 1.000001; удвойте d2 = 0.000001; Консоль. WriteLine ((d1 - d2) == 1.0); И результатом является "Ложь". Когда я изменяюсь...
вопрос задан: 8 September 2009 18:54