5
ответов
Суд может изменить переменные так или иначе?
Таким образом, у меня есть функция, которая выглядит примерно так: плавайте функция () {пускают в ход x = SomeValue; возвратите x / SomeOtherValue;} В какой-то момент, эта функция переполняет и возвращает действительно большое...
вопрос задан: 9 May 2012 14:17
4
ответа
Euler № 26, как преобразовать рациональное число для строкового представления с лучшей точностью?
Я хочу получить 1/7 с лучшей точностью, но это стало усеченным. Как я могу получить лучшую точность, когда я преобразовываю рациональное число?>>> ул. (1.0/7) [:50] '0.142857142857'
вопрос задан: 22 January 2015 07:06
4
ответа
затем более высокое/ниже число двойной точности IEEE
Я делаю научные расчеты высокой точности. В поиске лучшего представления различных эффектов я продолжаю придумывать причины хотеть получить следующее выше (или ниже) двойная точность...
вопрос задан: 10 May 2012 17:13
0
ответов
Как использовать Gcc 4.6.0 libquadmath и __float128 на x86 и x86_64
У меня есть программа C99 среднего размера, которая использует длинный двойной тип (80 бит) для чисел с плавающей запятой вычисление. Я хочу повысить точность с помощью нового расширения GCC 4.6 __float128. Как я понял, это программное обеспечение ...
вопрос задан: 12 November 2019 15:32
0
ответов
Точное двоичное представление двойного [дубликат]
Возможный дубликат: с плавающей точкой в двоичный в C ++ У меня очень маленький double var, и когда я его печатаю, я получаю -0. (с использованием C ++).
Теперь, чтобы добиться большей точности, я попробовал использовать cout.precision (18); \\ i ...
вопрос задан: 23 May 2017 12:22
0
ответов
Указывает ли точка в конце числа с плавающей запятой на недостаточную точность?
Когда я отлаживаю свое программное обеспечение в VS C ++ путем пошагового выполнения кода, я замечаю, что некоторые вычисления с плавающей запятой отображаются в виде числа с точкой в конце, например: 1232432. Одна операция, которая приводит к такому р
вопрос задан: 23 May 2017 12:20
0
ответов
Как преобразовать число с плавающей запятой в целое с точной точностью, например, от 123,3443 до 1233443?
Пример кода: int main() { float f = 123.542; целое я = (целое)f; printf("%d\n",я);
}
вопрос задан: 2 June 2015 16:34
0
ответов
Как конвертировать Double в Single, чтобы Single не был больше / меньше, чем Double
Какой самый лучший / самый быстрый способ конвертировать Double A в Single B, который гарантировал бы, что при приведении B обратно к Double всегда верно следующее (с минимальной потерей точности): A> = (Double) B ...
вопрос задан: 26 February 2015 10:31
0
ответов
Существует ли parseDouble в JavaScript?
В JavaScript у меня есть число, состоящее из 21 цифры, и я хочу его проанализировать. Существует ли метод parseDouble в JavaScript?
вопрос задан: 16 February 2014 00:24
0
ответов
Как указать десятичную точность с плавающей запятой из переменной?
У меня повторяется следующий повторяющийся простой код несколько раз, когда я хотел бы создать функцию для: for i in range (10): id = "некоторая строка идентификатора искала в dict" val = 63 ....
вопрос задан: 8 February 2014 14:10
0
ответов
Установить конкретную точность BigDecimal
У меня есть XSD, который требует, чтобы я использовал BigDecimal для широты и долготы. В настоящее время у меня есть широта и долгота как двойные, и я конвертирую их в BigDecimal, но мне нужно использовать только около 12 знаков точности. ...
вопрос задан: 4 December 2013 01:45
0
ответов
Почему переменная float сохраняет значение, вырезая цифры после точки странным образом?
У меня есть такая простая строка кода: float val = 123456.123456; когда я печатаю этот val или смотрю в область видимости, он сохраняет значение 123456.13 Хорошо, все в порядке, он не может сохранить все эти цифры после точки всего в 4 байта, ...
вопрос задан: 17 October 2013 19:31
0
ответов
Как безопасно преобразовать CGFloat в int?
Мне часто нужно преобразовать CGFloat в int для расчета индекса массива. Проблема, которую я постоянно вижу с floorf (theCGFloat )или ceilf (theCGFloat ), заключается в том, что могут быть проблемы с...
вопрос задан: 21 April 2013 22:35
0
ответов
Почему 0.06 + 0.01 = 0.07 в ColdFusion?
Почему на математические операции в ColdFusion, кажется, не влияют проблемы с плавающей точкой? Возьмем код: результат = 0.06 + 0.01; writedump(result);
writedump(result.getClass().getName()); Который ...
вопрос задан: 8 March 2013 14:35
0
ответов
Сравнение присваивания констант с плавающей запятой
При сравнении двойных чисел на равенство нам необходимо указать уровень допуска, поскольку вычисления с плавающей запятой могут привести к ошибкам. Например: двойной х; двойной у; х = е();
у = г(); if (fabs(xy)&...
вопрос задан: 23 March 2012 04:53
0
ответов
Это допустимое сравнение чисел с плавающей запятой, учитывающее заданное количество десятичных знаков?
Я пишу метод расширения для сравнения двух чисел с плавающей запятой, используя установленное количество десятичных знаков (значащих цифр), чтобы определить, равны ли они, вместо допуска или процентной разницы. ...
вопрос задан: 7 February 2012 18:13
0
ответов
Как java сохраняет float v double
Я понимаю, что десятичное число может быть только таким precision хранится как число с плавающей запятой в двоичной системе, но я не понимаю, что происходит с цифрой 7 после запятой в моем выводе 10/7. В моем первом выводе ...
вопрос задан: 30 January 2012 19:49
0
ответов
Как считать от 0,0001 до 1 в рубине?
Я хочу считать от 0,0001 до 1 с шагом 0,0001 в рубине.
Я написал этот код, но он заходит в бесконечный цикл. Почему-то интерпретатор делает неправильное суммирование. х = 0,0001
в то время как x! = 1.0 помещает x x ...
вопрос задан: 18 December 2011 21:45
0
ответов
Точность, почему Matlab и Python numpy дают такие разные результаты?
Я знаю об основных типах данных и о том, что типы с плавающей запятой (float, double) не могут точно содержать некоторые числа . Однако при переносе некоторого кода из Matlab в Python (Numpy) я обнаружил некоторые существенные различия в ...
вопрос задан: 20 September 2011 11:56
0
ответов
Какова взаимосвязь между значимыми цифрами и потерей точности в числах с плавающей запятой?
Итак, я пытался обернуть голову вокруг отношения между количеством значащих цифр в числе с плавающей запятой и относительной потерей точности точность, но я просто не могу понять ...
вопрос задан: 10 August 2011 04:17
0
ответов
основная структура данных для float в python
Возник вопрос относительно базовой структуры данных float (и точности) в Python: >>> b = 1.4 + 2.3
>>> б
3,6999999999999997 >>> c = 3,7
>>> c
3 ....
вопрос задан: 18 July 2011 23:00
0
ответов
Решение проблем округления с плавающей запятой C ++
Я разрабатываю научное приложение (моделирование движения хромосом в ядре клетки ). Хромосомы разделены на небольшие фрагменты, которые вращаются вокруг произвольной оси с использованием матриц вращения 4x4. ...
вопрос задан: 12 April 2011 10:34