0
ответов
Преобразование мантиссы и экспоненты в двойную
В очень высокопроизводительном приложении мы обнаруживаем, что ЦП может вычислять длинные арифметические операции значительно быстрее, чем с двойными числами. Однако в нашей системе было определено, что нам никогда не нужно больше 9 десятичных знаков ...
вопрос задан: 10 June 2016 08:33
0
ответов
Почему старший бит нормализованного числа всегда равен 1?
Из статьи о мантиссанде в Википедии :При работе с двоичным кодом мантиссан характеризуется своей шириной в двоичных цифрах (бит ). Поскольку старший бит всегда равен 1 для...
вопрос задан: 20 August 2012 13:57
0
ответов
GCC по-разному обрабатывает сравнение с плавающей запятой на разных уровнях оптимизации
У меня есть простой код, который сравнивает два значения с плавающей запятой, чтобы проиллюстрировать проблему, которую я вижу с оптимизацией GCC, и надеюсь, что кто-то сможет помогите мне выяснить, почему результат, который он производит, отличается ...
вопрос задан: 11 May 2012 14:44
0
ответов
Fractional Part of NSDecimalNumber
Я использую NSDecimalNumber для хранения значения валюты. Я пытаюсь написать метод под названием "cents", который возвращает десятичную часть числа в виде NSString с ведущим 0, если число &...
вопрос задан: 18 March 2011 17:34