0
ответов
Идет ли const до или после CGFloat?
Это вообще имеет значение? Константа до или константа после? Я предполагаю, что независимо от того, помещаю ли я const до или после CGFloat, значение CGFloat становится постоянным, но как насчет указателя? Это правильно для ...
вопрос задан: 23 May 2017 12:14
0
ответов
Каково общее количество уникальных значений для типа double в диапазоне [0.0, 1.0)?
Random.NextDouble () (Double из диапазона [0.0 , 1.0)) иногда умножается на большой Int64 (пусть Int64 big = 9000000000L), и результат сводится к получению случайного значения Int64, большего, чем то ...
вопрос задан: 23 May 2017 12:14
0
ответов
Существуют ли какие-либо ограничения при переходе от двоичного числа к десятичному (так же, как при переходе от десятичного к двоичному)?
Как мы все знаем, не все десятичные числа могут быть представлены в двоичном формате (с конечное количество цифр). Мне интересно, могут ли все (конечные) двоичные числа быть представлены с использованием (конечного числа) десятичных ...
вопрос задан: 23 May 2017 12:13
0
ответов
Круговая ошибка в методе .NET Double.ToString
Математически рассмотрим для этого вопроса рациональное число 8725724278030350 / 2**48, где ** в знаменателе означает возведение в степень, т.е. знаменатель равен 2 в 48-й степени. (Дробь ...
вопрос задан: 23 May 2017 12:12
0
ответов
Являются ли 3.5 и 3.5f одинаковыми в C++? [дубликат]
Возможный дубликат :странный результат при сравнении float с float literal Почему сравнение double и float приводит к неожиданному результату? В следующем коде я ожидал, что ответ будет "Не...
вопрос задан: 23 May 2017 12:11
0
ответов
Максимальное значение для Float в Java?
Следующий вопрос показывает, что минимальное значение Double - -Double.MAX_VALUE. Верно ли это также для Float (т.е. -Float.MAX_VALUE)?
вопрос задан: 23 May 2017 12:10
0
ответов
Сравнение числа с плавающей запятой - такое же число, но не равно? [дубликат]
Возможный дубликат: как мне проводить сравнение с плавающей запятой? Несоответствие сравнения целых чисел и чисел с плавающей запятой в php У меня есть две переменные, $ _REQUEST ['amount'] и $ carttotal, для электронной коммерции. Они ...
вопрос задан: 23 May 2017 12:10
0
ответов
В C и Objective -C, как правильно усекать число с плавающей запятой или удваивать его до целого числа?
Раньше я работал в основном с целыми числами, и в ситуациях, когда мне нужно усечь число с плавающей запятой или удвоить его до целого числа, я бы использовал следующее перед:(int )someValue кроме тех пор, пока я не узнал...
вопрос задан: 23 May 2017 12:09
0
ответов
Быстрое преобразование с плавающей запятой в int и точность с плавающей запятой на ARM (iPhone 3GS / 4)
Я прочитал (http://www.stereopsis.com/FPU.html), упомянутый в (Каков самый быстрый способ преобразования float в int на x86). Кто-нибудь знает, применимо ли медленное простое приведение (см. Фрагмент ниже) к ARM ...
вопрос задан: 23 May 2017 12:09
0
ответов
Почему C# допускает *неявное* преобразование из Long в Float, когда это может привести к потере точности?
Аналогичный вопрос Long in Float, почему?здесь не отвечает на то, что я ищу.Стандарт С# допускает неявное преобразование из long в float.
Но любое значение long больше 2^24, представленное в виде ...
вопрос задан: 23 May 2017 12:07
0
ответов
float <-> альтернатива преобразования std :: string?
есть ли альтернатива atof, strtod, lexical_cast, stringstream или sprintf? то есть: быстрый
способ C ++ (std :: string вместо char *)
безопасный (без риска переполнения буфера)
действительный (возврат NaN, если преобразование ...
вопрос задан: 23 May 2017 12:03
0
ответов
Увеличенные числа с плавающей запятой не равны друг другу [дубликаты]
Возможный дубликат :Почему десятичные числа не могут быть точно представлены в двоичном виде? Программа не входит в оператор if Итак, я пытаюсь запустить программу с двумя переменными, когда одна переменная...
вопрос задан: 23 May 2017 12:03
0
ответов
Какая польза от принятия неточности с плавающей запятой в C #
Я думал об этой проблеме последний раз несколько дней, и я изо всех сил пытаюсь сформулировать свой вопрос. Однако я думаю, что понял то, что хочу знать. Почему C # принимает неточность при использовании плавающих ...
вопрос задан: 23 May 2017 11:58
0
ответов
Как избежать печати научных обозначений в Python без добавления дополнительных цифр?
В этом вопросе задается вопрос, как подавить научную нотацию в python. У меня есть ряд чисел для отображения - малые степени 10 - и я хотел бы отображать их без завершающих нулей. То есть 0,1, 0,01, ...
вопрос задан: 23 May 2017 11:57
0
ответов
Сумма трех переменных: странное поведение [дубликат]
Возможный дубликат: не работает ли математика JavaScript? Почему десятичные числа не могут быть представлены точно в двоичном формате? Что будет в результате следующего кода: if (0.3 == (0.1 + 0.1 + 0.1))
{...
вопрос задан: 23 May 2017 11:55
0
ответов
Целочисленное деление всегда ноль [дубликат]
Возможный дубликат: разделение программирования на C, наверное, мой вопрос очень простой и глупый.
Я хотел бы сохранить значение деления, в частности 1 / x, где x - это
целочисленное значение. int x = ...
вопрос задан: 23 May 2017 11:54
0
ответов
Почему числа float и int имеют такие разные максимальные значения, даже если они имеют одинаковое количество бит? [дубликат]
Возможный дубликат: в чем разница между типом данных с плавающей запятой и целым числом, когда размер в java одинаков? Как вы, наверное, знаете, оба эти типа 32-битные.int может содержать только целое число...
вопрос задан: 23 May 2017 11:54
0
ответов
Android: открытие счетчика с помощью кнопки
Можно ли в приложении Android открыть всплывающее окно счетчика нажатием кнопки вместо нажатия фактического счетчика? Я пробовал следующее:
Моя цель, однако, не ограничиваться 2 м, поэтому я надеюсь на что-то, что можно было бы легко расширить ...
вопрос задан: 23 May 2017 11:54
0
ответов
80-битные числа с плавающей запятой и субнормальные числа
Я пытаюсь преобразовать 80-битное число с плавающей запятой расширенной точности (в буфере) удвоить.
Буфер в основном содержит содержимое регистра x87. Этот вопрос помог мне начать, так как ...
вопрос задан: 23 May 2017 11:52
0
ответов
Проблемы приведения NAN с плавающей запятой к int
Игнорируя, почему я хотел бы это сделать, стандарт 754 IEEE fp не определяет поведение для следующего :float h = NAN ; printf ("%x %d\n", (int )h, (int )h ); Дает :80000000 -2147483648...
вопрос задан: 23 May 2017 11:51
0
ответов
Можно ли безопасно использовать -ffast-math в типичном проекте?
Отвечая на вопрос, где я предложил -ffast-math, комментарий указал, что это опасно. Мое личное ощущение, что за пределами научных расчетов все в порядке. Я также считаю, что серьезно ...
вопрос задан: 23 May 2017 11:47
0
ответов
Мне нужно округлить число с плавающей запятой до двух знаков после запятой в Java [duplicate]
Возможный дубликат: Как округлить число до n знаков после запятой в Java У меня возникают трудности с округлением числа с плавающей запятой до двух знаков после запятой. Я попробовал несколько методов, которые я видел здесь, в том числе ...
вопрос задан: 23 May 2017 11:47
0
ответов
Может ли плавать (или двойной) быть установлен на NAN?
Примечание: аналогично может Целое число быть нан в C ++? Я понимаю, что это мало практического назначения, но может быть поплавок или двойной, чтобы быть установленным на нэн?
вопрос задан: 23 May 2017 11:46
0
ответов
Java: Неточность с использованием double [duplicate]
Possible Duplicate: Сохраняйте точность с помощью чисел Double в java. Странное поведение с плавающей запятой в программе Java. Я создаю класс гистограммы и сталкиваюсь со странной проблемой. Вот ...
вопрос задан: 23 May 2017 11:46
0
ответов
Денормализованная плавающая точка в Objective-C?
В чем важность вопроса / ответа StackOverflow Почему изменение 0,1f на 0 снижает производительность в 10 раз? для Objective-C? Если есть какое-то значение, как это должно изменить мою кодировку ...
вопрос задан: 23 May 2017 11:45
0
ответов
субнормальная поддержка чисел с плавающей запятой IEEE 754 на устройствах iOS ARM (iPhone 4)
При переносе приложения с Linux x86 на iOS ARM (iPhone 4) я обнаружил
различие в поведении арифметика с плавающей запятой и малые значения. 64-битные числа с плавающей запятой (двойные) ...
вопрос задан: 23 May 2017 11:45
0
ответов
Нахождение наименьшего целого числа, которое не может быть представлено как 32-битное число с плавающей запятой IEEE-754 [дубликат]
Возможный дубликат: какое первое целое число с плавающей запятой IEEE 754 не может представить именно? Во-первых, это вопрос домашнего задания, просто чтобы сразу прояснить это. Я не ...
вопрос задан: 23 May 2017 11:44
0
ответов
C++: Как округлить двойное число до целого? [дубликат]
Возможный дубликат: round() для числа с плавающей запятой в C++ У меня есть двойное число (назовем его x), которое должно быть равно 55, но на самом деле хранится как 54,999999999999943157, что я только что понял. Итак, когда я делаю double x = 54....
вопрос задан: 23 May 2017 10:31
0
ответов
Как сохранить число с плавающей запятой -в 2 байта?
Да, мне известно о стандарте точности IEEE -754 половинной -точности, и да, мне известно о работе, проделанной в этой области. Проще говоря, я пытаюсь сохранить простое число с плавающей запятой (, например 52,1 или 1,25 ), всего за...
вопрос задан: 23 May 2017 10:31
0
ответов
CORTEX A9 NEON VS VFP Использование Путаница
Я пытаюсь построить библиотеку для процессора ARM Cortex A9 (OMAP4, чтобы быть более конкретным), и я в небольшом количестве путаницы относительно которой \ когда Используйте Neon VS VFP в контексте плавающей точке ...
вопрос задан: 23 May 2017 10:30