0
ответов
python: распаковать 32-разрядную точку с плавающей запятой IBM
Я читал двоичный файл в python следующим образом: from struct import unpack ns = 1000
f = open ("binary_file", 'rb') while True: data = f.read (ns * 4) if data == '': break ...
вопрос задан: 8 December 2018 15:46
0
ответов
Что такое субнормальное число с плавающей запятой?
Справочная страница isnormal () сообщает: Определяет, является ли данное число с плавающей запятой arg нормальным, т. Е. Не является ни нулем, ни субнормальным, ни бесконечным, ни NaN. Число, равное нулю, бесконечности или NaN, является чистым ...
вопрос задан: 8 November 2018 09:23
0
ответов
Диапазоны типов данных с плавающей запятой в C?
Я читаю книгу на языке C, где говорится о диапазонах значений с плавающей запятой, автор дал таблицу :Тип Наименьшее положительное значение Максимальное значение Точность ==== ====================== ==============...
вопрос задан: 8 November 2018 09:17
0
ответов
Преобразовать с плавающей запятой IBM в стандарт с плавающей запятой IEEE и наоборот. На C #?
Искал способ преобразования чисел с плавающей запятой IEEE в формат с плавающей запятой IBM для старая система, которую мы используем. Есть ли общая формула, которую мы можем использовать в C # для этой цели.
вопрос задан: 9 August 2018 23:20
0
ответов
Исходное исключение python FP
Есть ли способ уловить неточное исключение в поплавках, которое определено в стандарте IEEE 754 в разделе 7? Я нашел только FloatingPointError, который сейчас не используется. (Https: //docs.python ....
вопрос задан: 13 July 2018 07:04
0
ответов
определить двойную константу как шестнадцатеричную?
Я хотел бы, чтобы ближайшее число меньше 1.0 было с плавающей запятой. Прочитав статью в Википедии о IEEE-754, я обнаружил, что двоичное представление 1.0 - 3FF0000000000000, ...
вопрос задан: 9 May 2018 17:19
0
ответов
Почему NaN не равен NaN? [дубликат]
Соответствующий стандарт IEEE определяет числовую константу NaN (не число) и предписывает, что NaN должен сравниваться как не равный самому себе. Это почему? Все языки, с которыми я знаком, реализуют это...
вопрос задан: 8 February 2018 01:22
0
ответов
Двойная точность - десятичные разряды
Из того, что я прочитал, значение типа данных double имеет приблизительную точность 15 знаков после запятой. Однако, когда я использую число, десятичное представление которого повторяется, например 1,0/7,0, я обнаруживаю, что...
вопрос задан: 20 October 2017 23:08
0
ответов
Принуждение с плавающей точкой быть детерминированным в .NET?
Я много читал о детерминизме с плавающей точкой в .NET, то есть о том, что один и тот же код с одинаковыми входными данными будет давать одинаковые результаты на разных машинах. Так как .NET не хватает вариантов ...
вопрос задан: 23 May 2017 12:33
0
ответов
Что такое IEEE-754? [закрыто]
MDN помещает функцию isNaN () в двух словах: «Является ли это значение, когда приведено к числовому значению, значением IEEE-754« Not A Number »?» Что такое IEEE-754? Постскриптум Я прочитал и исследовал совсем немного ...
вопрос задан: 23 May 2017 12:29
0
ответов
Преобразование с плавающей запятой IEEE 754 в Haskell Word32 / 64 в Haskell Float / Double и обратно
Вопрос В Haskell базовые библиотеки и пакеты Hackage предоставляют несколько средств преобразования двоичных данных с плавающей запятой IEEE-754 в и из поднятых Типы Float и Double. Однако ...
вопрос задан: 23 May 2017 12:18
0
ответов
Состояние __STDC_IEC_559__ с современными компиляторами Си
C99 добавил макрос __STDC_IEC_559__, который можно использовать для проверки соответствия компилятора и стандартной библиотеки стандарту ISO / IEC / IEEE 60559 (или IEEE 754). Согласно ответам на этот вопрос ...
вопрос задан: 23 May 2017 12:16
0
ответов
IEEE-754 Double (64-битная с плавающей запятой) против Long (64-битное целое) Revisited
I ' m повторное обращение к вопросу (как проверить, изменит ли числовое преобразование значение?), который, насколько мне известно, был полностью решен. Проблема заключалась в том, чтобы определить, когда конкретное числовое значение ...
вопрос задан: 23 May 2017 12:08
0
ответов
Обнаружение отрицательного 0, сохраненного как double в C ++
Я делаю некоторые математические вычисления (пытаюсь преобразовать код Matlab в C ++, используя VS2010), и мне нужно быть в состоянии определить, получу ли я в какой-то момент отрицательный 0. Согласно стандарту IEEE -0 / + ...
вопрос задан: 23 May 2017 11:58
0
ответов
80-битные числа с плавающей запятой и субнормальные числа
Я пытаюсь преобразовать 80-битное число с плавающей запятой расширенной точности (в буфере) удвоить.
Буфер в основном содержит содержимое регистра x87. Этот вопрос помог мне начать, так как ...
вопрос задан: 23 May 2017 11:52
0
ответов
Можно ли безопасно использовать -ffast-math в типичном проекте?
Отвечая на вопрос, где я предложил -ffast-math, комментарий указал, что это опасно. Мое личное ощущение, что за пределами научных расчетов все в порядке. Я также считаю, что серьезно ...
вопрос задан: 23 May 2017 11:47
0
ответов
субнормальная поддержка чисел с плавающей запятой IEEE 754 на устройствах iOS ARM (iPhone 4)
При переносе приложения с Linux x86 на iOS ARM (iPhone 4) я обнаружил
различие в поведении арифметика с плавающей запятой и малые значения. 64-битные числа с плавающей запятой (двойные) ...
вопрос задан: 23 May 2017 11:45
0
ответов
Как сохранить число с плавающей запятой -в 2 байта?
Да, мне известно о стандарте точности IEEE -754 половинной -точности, и да, мне известно о работе, проделанной в этой области. Проще говоря, я пытаюсь сохранить простое число с плавающей запятой (, например 52,1 или 1,25 ), всего за...
вопрос задан: 23 May 2017 10:31
0
ответов
С плавающей точкой половинной точности в Java
Есть ли где-нибудь библиотека Java, которая может выполнять вычисления на числах половинной точности IEEE 754 или преобразовывать их в двойную точность и обратно? Любой из этих подходов подойдет: сохранить ...
вопрос задан: 23 May 2017 10:29
0
ответов
Согласована ли математика с плавающей запятой в C #? Может ли это быть?
Нет, это не еще один вопрос «Почему (1 / 3.0) * 3! = 1». В последнее время я много читал о плавающих точках; в частности, как один и тот же расчет может дать разные результаты для разных ...
вопрос задан: 13 April 2017 12:18
0
ответов
Экстремальные числовые значения в точности с плавающей точкой в R
Может кто-нибудь, пожалуйста, объясните мне следующий вывод. Я знаю, что это как-то связано с точностью с плавающей запятой, но порядок величины (разница 1e308) меня удивляет. 0: высокая точность и ...
вопрос задан: 2 February 2017 08:18
0
ответов
Какое первое целое число, которое с плавающей точкой IEEE 754 не в состоянии точно представить?
Для ясности, если я использую язык, который реализует плавающие элементы IEE 754, и я объявляю: float f0 = 0.f; float f1 = 1.f; ... а затем распечатать их обратно, я получу 0,0000 и 1,0000 - точно. Но IEEE ...
вопрос задан: 26 December 2016 23:38
0
ответов
Преобразование IBM в IEEE с плавающей запятой
Есть ли какой-либо стандартный метод в java для преобразования IBM 370 (в виде байтов) в формат IEEE? Любой алгоритм преобразования может помочь. . Я попытался написать код java .. Но я не понимаю, где ...
вопрос задан: 2 January 2016 13:22
0
ответов
Реализация 32-битных чисел с плавающей запятой или 64- bit longs в JavaScript?
Кто-нибудь знает библиотеку JavaScript, которая точно реализует спецификацию IEEE 754 для 32-битных значений с плавающей запятой? Я спрашиваю, потому что пытаюсь написать кросс-компилятор на JavaScript, ...
вопрос задан: 7 August 2015 14:21
0
ответов
Случайная генерация C-программ с плавающей точкой
Кто-нибудь знает случайный генератор C-программ, которые включают вычисления с плавающей точкой? Я ищу что-то, что было бы немного похоже на Csmith, за исключением того, что Csmith не генерирует ...
вопрос задан: 4 August 2015 16:48
0
ответов
Можно ли получить 0, вычитая два неравных числа с плавающей точкой?
Можно ли получить деление на 0 (или бесконечность) в следующем примере? открытый двойной расчет (double a, double b) {if (a == b) {return 0; } еще {...
вопрос задан: 14 February 2015 12:03
0
ответов
Почему переменная float сохраняет значение, вырезая цифры после точки странным образом?
У меня есть такая простая строка кода: float val = 123456.123456; когда я печатаю этот val или смотрю в область видимости, он сохраняет значение 123456.13 Хорошо, все в порядке, он не может сохранить все эти цифры после точки всего в 4 байта, ...
вопрос задан: 17 October 2013 19:31
0
ответов
Алгоритм преобразования двойников IEEE 754 в строку?
Многие языки программирования, которые используют двойники IEEE 754, предоставляют библиотечную функцию для преобразования этих двойников в строки. Например, в C есть sprintf, в C ++ есть строковый поток, в Java есть Double.toString и т. Д. ...
вопрос задан: 30 April 2013 17:22
0
ответов
Math.pow с отрицательными числами и нецелыми степенями
Спецификация ECMAScript для Math.pow имеет следующее своеобразное правило: Если x <0 и x конечно, а y конечно, а y не является целым числом, результат равен NaN. (HTTP: //es5.github.com/#x15 ....
вопрос задан: 29 January 2013 05:03
0
ответов
Почему последний бинарный бинарный дол 0,1F округляется до 1?
Я следую за курсом операционной системы в колледже, и мы недавно узнали, как номера с плавающей запятой представлены в памяти. Наша домашняя работа состоит в том, чтобы преобразовать плавающие числа (поплавков) в их ...
вопрос задан: 15 December 2012 16:32