9
ответов
Почему этот цикл никогда не заканчивается? [дубликат]
Возможный Дубликат: проблема в сравнении двойных значений в C#, я считал его в другом месте, но действительно забываю ответ, таким образом, я спрашиваю здесь снова. Этот цикл никогда кажется концом независимо, Вы кодируете его в любом...
вопрос задан: 23 May 2017 11:50
9
ответов
Python преобразует число с плавающей точкой в 32 бита ieee [duplicate]
Я использую этот код import bitstring f = 1.0e + 00 b = bitstring.pack ('& gt; d', f) b.bin Я получаю 64 бита 001111111111000000000000000000000000000000000000000000000000000000000000 Но мне нужно получить Float (...
вопрос задан: 27 November 2015 15:09
9
ответов
С плавающей запятой к двоичному значению (C ++)
Я хочу взять число с плавающей запятой в C ++, например 2.25125, и массив int, заполненный двоичным значением, которое используется для хранения числа с плавающей запятой в памяти (IEEE 754). Так что я могу взять номер и в итоге ...
вопрос задан: 23 January 2009 20:55
8
ответов
Каково объяснение для всех сравнений, возвращающих false для значений NaN IEEE754?
Почему сравнения значений NaN ведут себя по-другому по сравнению со всеми другими значениями? Таким образом, все сравнения с операторами ==, <=>, =, <> где одно или оба значения NaN, возвращают false, вопреки...
вопрос задан: 19 September 2014 05:13
8
ответов
Точная оценка 1/1 + 1/2 + … 1/n строка
Я должен оценить сумму строки: 1/1+1/2+1/3 +... +1/n. Полагая, которые в оценках C++ не завершены точный, порядок суммирования играет важную роль. 1/n+1 / (n-1) +... +1/2+1/1...
вопрос задан: 18 September 2012 17:04
8
ответов
Как реализовать Толпу? [закрытый]
Мы пытаемся переключиться на Толпу как наш процесс разработки, но мы не уверены, как реализовать его возможным лучшим способом. Мы также не хотим платить за дорогие программные инструменты, пока мы не получаем толпу...
вопрос задан: 10 February 2010 22:08
7
ответов
Форматирование удваивается для вывода в C#
Выполнение быстрого эксперимента, связанного с, Удваивает Умножение, Прерванное.NET? и читая несколько статей о строковом форматировании C#, я думал что это: {удваивают меня = 10 * 0.69; Консоль....
вопрос задан: 23 May 2017 12:10
7
ответов
Какой диапазон чисел может быть представлен в 16-, 32-и 64-разрядных системах IEEE 754?
Я знаю немного о том, как числа с плавающей запятой представлены, но недостаточно, я боюсь. Общий вопрос: Для данной точности (в моих целях, количестве точного десятичного числа...
вопрос задан: 11 September 2016 13:34
7
ответов
64-разрядные числа с плавающей точкой ведут себя тождественно на всех современных ПК?
Я хотел бы знать, могу ли я предположить, что те же самые операции на тех же 64-разрядных числах с плавающей точкой дают точно те же результаты на каком-либо современном ПК и на наиболее распространенных языках программирования? (C++...
вопрос задан: 9 May 2012 19:58
7
ответов
DOS и не Делает - s для арифметики с плавающей точкой?
Какова некоторая хорошая DOS и не делает - s для арифметики с плавающей точкой (IEEE754 в случае, если существует беспорядок) гарантировать хорошую числовую устойчивость и высокую точность в Ваших результатах? Я знаю, что некоторым нравится, не делают...
вопрос задан: 23 June 2010 14:46
7
ответов
Обеспечение C++ удваивается, 64 бита
В моей программе C++ я должен вытянуть плавание на 64 бита от внешней последовательности байта. Там некоторый путь состоит в том, чтобы удостовериться, во время компиляции, это удваивается, 64 бита? Есть ли некоторый другой тип, который я должен использов
вопрос задан: 15 April 2009 22:41
6
ответов
Большие количества ошибочно округлены в JavaScript
См. этот код: <HTML> <голова> <сценарий src = "http://www.json.org/json2.js" вводит = "текст/JavaScript"> </сценарий> <тип сценария = "текст/JavaScript"> var jsonString...
вопрос задан: 28 October 2018 13:26
6
ответов
самое большое целое число, которое может быть сохранено в двойном
Каково самое большое целое число "без плавания", которое может быть сохранено в IEEE 754 двойной тип, не теряя точность?
вопрос задан: 19 June 2014 00:40
6
ответов
Арифметика в рубине
Почему этот код 7.30 - 7.20 в рубиновых возвратах 0.0999999999999996, не 0.10? Но если я запишу 7.30 - 7.16, например, все будет в порядке, я доберусь 0.14. Что проблема, и как я могу решить его?
вопрос задан: 10 May 2012 17:17
6
ответов
Существует ли значение с плавающей точкой x, для которого x-x == 0 является ложью?
В большинстве случаев я понимаю, что сравнительное испытание с плавающей точкой должно быть реализовано с помощью по диапазону значений (брюшной пресс (x-y) <эпсилон), но делает сам, вычитание подразумевает, что результат будет...
вопрос задан: 9 May 2012 16:27
5
ответов
Представление целых чисел в удваивается
Может двойное (данного числа байтов, с разумным балансом мантиссы/экспоненты) всегда полностью точно содержат диапазон целого числа без знака половины того числа байтов? Например, могут восемь...
вопрос задан: 21 October 2016 22:04
5
ответов
Алгоритм сжатия для данных IEEE 754
У кого-либо есть рекомендация на хорошем алгоритме сжатия, который работает хорошо со значениями с плавающей точкой двойной точности? Мы нашли, что двоичное представление значений с плавающей точкой заканчивается...
вопрос задан: 17 January 2016 19:36
5
ответов
Значение подписанного нуля [дубликат]
Следующий код C ++ выводит отрицательный ноль вместо положительного. double a = 0, b = -1; double c = a / b; std :: cout & lt; c & lt; станд :: епсИ; Поскольку оба нуля (+0 и -0) будут сравниваться равными, ...
вопрос задан: 30 October 2011 20:38
4
ответа
C ++ - Безопасно ли писать и читать float как двоичные файлы на x86 и IEEE-754 [duplicate]
Могу ли я написать float как двоичный файл в файл и прочитать его на другом компьютере, если обе машины являются x86 и используют IEEE-754? Будет ли это точно такой же результат, включая знак, NAN, INF? Я могу это сделать ...
вопрос задан: 30 August 2014 22:10
4
ответа
затем более высокое/ниже число двойной точности IEEE
Я делаю научные расчеты высокой точности. В поиске лучшего представления различных эффектов я продолжаю придумывать причины хотеть получить следующее выше (или ниже) двойная точность...
вопрос задан: 10 May 2012 17:13
4
ответа
Foreignkeyfield - подробное имя не отображается в форме
мое verbose_name поля Foreignkey не напечатано в моих формах. (Я создаю форму модели через класс модели modelformset_factory MOrders (models.Model): amount = models.IntegerField ('Bestellmenge', ...
вопрос задан: 10 May 2012 17:12
4
ответа
CLR оптимизация JIT нарушает причинную связь?
Я писал поучительный пример для коллеги, чтобы показать ему, почему тестирование плаваний для равенства часто является плохой идеей. Пример, с которым я пошел, добавлял.1 десять раз и выдерживал сравнение с 1,0 (...
вопрос задан: 10 May 2012 14:11
4
ответа
как работают числа с плавающей точкой IEEE 754
Скажем, у меня есть это: плавайте i = 1.5 в двоичном файле, это плавание представлено как: 0 01111111 10000000000000000000000 я разбил двоичный файл для представления 'со знаком', 'экспоненты' и 'дробных' блоков...
вопрос задан: 25 April 2010 02:35
4
ответа
Точное текстовое представление IEEE “дважды”
Я должен представить IEEE 754-1985 дважды (64-разрядное) число с плавающей точкой в человекочитаемой текстовой форме с условием, что текстовая форма может быть проанализирована назад в точно то же (поразрядно)...
вопрос задан: 19 March 2010 21:48
4
ответа
Каково состояние tcl_precision?
Я не использую Tcl в своей ежедневной работе. Однако у меня есть коллега, который иногда взаимодействует с клиентом, которому жаль, что дополнительный язык нашего инструмента не работал больше как Tcl (!). Одна тема, которую он поднял, была...
вопрос задан: 18 February 2010 04:37
4
ответа
32-разрядный к 16-разрядному преобразованию с плавающей точкой
Мне нужна межплатформенная библиотека/алгоритм, которая преобразует между 32-разрядными и 16-разрядными числами с плавающей точкой. Я не должен выполнять математику с 16-разрядными числами; я просто должен уменьшить размер...
вопрос задан: 2 November 2009 04:42
4
ответа
Каковы приложения/преимущества 80-разрядного типа данных расширенной точности?
Да, я означал говорить 80-разрядный. Это не опечатка... Мой опыт с переменными с плавающей точкой всегда включал 4-байтовые кратные числа, как одиночные игры (32 бита), удваивается (64 бита) и долго удваивается (который я'...
вопрос задан: 4 March 2009 21:25
3
ответа
Какие-нибудь реальные процессоры не используют IEEE 754?
Я оптимизирую функцию сортировки для библиотеки числовых данных / статистики, исходя из предположения, что после фильтрации любых NaN и выполнения небольшого переворота числа с плавающей точкой можно сравнивать как 32-разрядные целые числа ...
вопрос задан: 29 October 2018 19:40
3
ответа
Плавание Python - ул. - пускает в ход странность
>>> плавание (ул. (0.65000000000000002)) 0.65000000000000002>>> плавание (ул. (0.47000000000000003)) 0.46999999999999997??? Что продолжается здесь? Как я преобразовываю 0....
вопрос задан: 3 August 2017 00:54
3
ответа
memset (ary, 0, длина) портативный способ ввести нуль в двойном массиве [дубликат]
Возможный Дубликат: То, что является более быстрым/предпочтенным memset или чтобы цикл обнулил массив, удваивает следующее использование кода memset для установки всех битов для обнуления международной длины = 5; удвойтесь *массив = (дважды *...
вопрос задан: 23 May 2017 12:14