0
ответов
Класс модульного тестирования с doubles
У меня есть класс, содержащий (один или несколько ...) double. Например: открытый класс TestFloatClass {public double Double1 {get; set;} public double Double2 {get; set;} public void SetDoubleByCalculation (...
вопрос задан: 23 May 2017 11:52
0
ответов
Нахождение наименьшего целого числа, которое не может быть представлено как 32-битное число с плавающей запятой IEEE-754 [дубликат]
Возможный дубликат: какое первое целое число с плавающей запятой IEEE 754 не может представить именно? Во-первых, это вопрос домашнего задания, просто чтобы сразу прояснить это. Я не ...
вопрос задан: 23 May 2017 11:44
0
ответов
Как избежать ошибок точности с плавающей запятой с числами с плавающей запятой или двойными числами в Java ?
У меня очень неприятная проблема с длинными суммами чисел с плавающей запятой или двойными числами в Java. По сути, идея состоит в том, что если я выполню: for (float value = 0.0f; value <1.0f; value + = 0.1f) System.out.println (...
вопрос задан: 13 December 2016 20:02
0
ответов
Описание ошибок представления с плавающей запятой; что не так с моим мышлением?
Мне трудно понять, почему некоторые цифры не могут быть представлены числами с плавающей запятой. Как мы знаем, у обычного числа с плавающей запятой будет бит знака, экспонента и мантисса. Почему нельзя, например, ...
вопрос задан: 1 October 2016 06:42
0
ответов
PHP - Точность плавающих чисел [дубликат]
$ a = '35';
$ b = '-34,99';
эхо ($ a + $ b); Результаты в 0.009999999999998 Что с этим делать? Я удивился, почему моя программа продолжала сообщать странные результаты. Почему PHP не возвращает ожидаемые 0,01?
вопрос задан: 30 July 2016 15:32
0
ответов
Насколько опасно сравнивать значения с плавающей запятой?
Я знаю, что UIKit использует CGFloat из-за независимой от разрешения системы координат. Но каждый раз, когда я хочу проверить, например, равен ли frame.origin.x 0, мне становится плохо: if (theView.frame.origin.x ...
вопрос задан: 17 December 2015 12:09
0
ответов
Почему плавают. Эпсилон, а не ноль?
В следующем коде, почему есть сравнение с float.Epsilon, а не 0? // Сопрограмма для перемещения защищенных элементов IEnumerator SmoothMovement (Vector3 end) {// Вычисление расстояния ...
вопрос задан: 13 May 2015 14:34
0
ответов
Math.Pow принимает целочисленное значение
Из http ://msdn.microsoft.com/en-us/library/system.math.pow.aspx целочисленное значение = 2;
for (int power = 0; power <= 32; power++) Console.WriteLine("{0}^{1} = {2:N0}", value, ...
вопрос задан: 8 March 2015 01:14
0
ответов
Можно ли получить 0, вычитая два неравных числа с плавающей точкой?
Можно ли получить деление на 0 (или бесконечность) в следующем примере? открытый двойной расчет (double a, double b) {if (a == b) {return 0; } еще {...
вопрос задан: 14 February 2015 12:03
0
ответов
Работа с точностью с плавающей запятой в Javascript [дубликат]
У меня есть большое количество числовых значений y в javascript. Я хочу сгруппировать их, округлив до ближайшего числа, кратного x, и преобразовать результат в строку. Как мне обойти надоедливую...
вопрос задан: 20 September 2013 02:11
0
ответов
Доступна ли Python произвольная точность с плавающей запятой?
Просто для удовольствия и потому, что это было действительно просто, я написал короткую программу для генерации чисел Grafting, но из-за проблем с точностью с плавающей запятой она не находит некоторые из более крупных примеров....
вопрос задан: 19 July 2013 21:41
0
ответов
Как безопасно преобразовать CGFloat в int?
Мне часто нужно преобразовать CGFloat в int для расчета индекса массива. Проблема, которую я постоянно вижу с floorf (theCGFloat )или ceilf (theCGFloat ), заключается в том, что могут быть проблемы с...
вопрос задан: 21 April 2013 22:35
0
ответов
Truncate (не округлять) десятичные числа в javascript
Я пытаюсь усечь десятичные числа до десятичных знаков. Примерно так: 5.467 -> 5.46 985.943 -> 985. 94 toFixed (2) делает примерно то же самое, но округляет значение. Я ...
вопрос задан: 1 March 2013 22:01
0
ответов
c++ :стратегии стабильности арифметики с плавающей запятой
Может ли кто-нибудь порекомендовать какие-либо библиотеки/подпрограммы/пакеты С++, содержащие стратегии для поддержания стабильности различных операций с плавающей запятой? Пример :предположим, что вы хотите суммировать по...
вопрос задан: 29 June 2012 15:56
0
ответов
В C и Objective C, должны ли мы почти никогда не преобразовывать число с плавающей запятой или двойное значение в целое число, просто используя (int)?
Я только что столкнулся с ситуацией в Objective-C, где: NSLog(@"%i", (int) (0.2 * 10)); // печатает 2
NSLog(@"%i", (int) ((1.2 - 1) * 10)); // печатает 1, поэтому мне интересно, является ли значение числом с плавающей запятой или ...
вопрос задан: 27 June 2012 14:55
0
ответов
Почему CLng дает разные результаты?
Вот небольшая жемчужина прямо из моего VBE (MS Excel 2007 VBA):? Clng (150 * 0,85) 127 х = 150 * 0,85
? clng (x) 128 Кто-нибудь может объяснить такое поведение? ИМХО первое выражение должно дать 128 (.5 ...
вопрос задан: 19 June 2012 21:45
0
ответов
Пытаясь написать код для поиска машинного эпсилон
Я пытаюсь узнать уровень точности для различных форматов с плавающей запятой в C (т.е. float, double и long double). Вот код, который я использую сейчас: #include
# define N ...
вопрос задан: 12 June 2012 12:40
0
ответов
печать с плавающей запятой, сохранение точности
Я пишу программу, которая печатает литералы с плавающей запятой для использования внутри другой программы Сколько цифр мне нужно напечатать, чтобы сохранить точность исходное число с плавающей запятой? Поскольку ...
вопрос задан: 5 June 2012 12:26
0
ответов
Java float неожиданно округляется
Я используя константу с плавающей запятой и устанавливая частную переменную с плавающей запятой объекта на константу с плавающей запятой ниже, но когда объект выводит значение, на которое он был установлен, он округляет последнюю цифру в поплавке в больш
вопрос задан: 15 May 2012 18:03
0
ответов
Как правильно и стандартно сравнивать числа с плавающей запятой?
Каждый раз, когда я начинаю новый проект и когда Мне нужно сравнить некоторые переменные типа float или double, я пишу такой код: if (fabs (prev.min [i] - cur-> min [i]) <0.000001 && fabs (...
вопрос задан: 11 May 2012 14:44
0
ответов
Деление с плавающей запятой — предвзятость, чтобы избежать результата, меньшего, чем «точное» значение
В настоящее время я ужесточаю числа с плавающей запятой для оценки значения. (Это: p(k,t) для тех, кому интересно.) По сути, утилита никогда не может дать заниженную оценку этого значения: ...
вопрос задан: 10 May 2012 10:00
0
ответов
Точность поплавка Ruby
Как я понимаю, точность поплавка Ruby (1.9.2) составляет 15 десятичных цифр. Поэтому я ожидаю, что округление поплавка x до 15 знаков после запятой будет равно x. Для такого вычисления это не так. ...
вопрос задан: 9 May 2012 19:19
0
ответов
Если работать с деньгами в плавающем состоянии - это плохо, то почему money_format () это делает?
Я долго размышлял, как работать с отображением валюты и математикой в PHP, и долгое время хранил его в MySQL, используя тип DECIMAL, и использовал money_format () для форматирования для отображения на ...
вопрос задан: 9 May 2012 19:15
0
ответов
Как проверить зависимости чисел с плавающей запятой
Я хочу определить (в C ++), является ли одно число с плавающей запятой мультипликативно обратным другому числу с плавающей запятой. Проблема в том, что для этого мне нужно использовать третью переменную. Например, этот код: float x = 5, ...
вопрос задан: 9 May 2012 19:05
0
ответов
Java и C с плавающей запятой :«x *x» отличается от «pow (x,2 )»?
Почему это так? Кажется, что Java дает результат с небольшим расхождением при умножении двух чисел с плавающей запятой по сравнению с C и даже с методом Java Math.pow. Java :float a = 0,88276923; double b = a *a;...
вопрос задан: 9 May 2012 16:27
0
ответов
Как правильно делить крошечные числа двойной точности без ошибок точности?
Я пытаюсь диагностировать и исправить ошибку, которая сводится к тому, что X/Y дает нестабильный результат, когда X и Y малы. :В этом случае и cx, и patharea плавно увеличиваются. Их соотношение является гладким...
вопрос задан: 9 May 2012 08:37
0
ответов
Вычисление среднего гармонического и точность с плавающей запятой
Я реализую пифагорейские средние в PHP, средние арифметические и геометрические — это проще простого, но мне очень трудно придумать надежную реализацию среднего гармонического. Это...
вопрос задан: 4 May 2012 04:04
0
ответов
Математический «pow» в Java и C# возвращает несколько разные результаты?
Я переношу программу с C# на java. Я столкнулся с тем, что Java Math.pow(0.392156862745098,1./3.) = 0.7319587495200227 C# Math.Pow( 0.392156862745098, 1.0 / 3.0) =0.73195874952002271 эту последнюю программу...
вопрос задан: 12 April 2012 20:18
0
ответов
Установить для всех операций BigDecimal определенную точность?
Моя программа на Java сосредоточена на высокоточных вычислениях, которые должны быть точными как минимум до 120 знаков после запятой.
Следовательно, все нецелые числа будут представлены BigDecimals в ...
вопрос задан: 8 April 2012 03:29
0
ответов
C# неправильное вычитание? 12,345 - 12 = 0,345000000000001 [закрыто]
Я новичок в C# и работаю с числами с плавающей запятой. Мне нужно сделать вычитание между этими двумя числами, но это не работает. Я знаю, что это вызвано числами с плавающей запятой, но как я могу...
вопрос задан: 27 March 2012 18:44