Я знаю, что размер различных типов данных может изменяться в зависимости от того, какая система Я на Я использую XP 32bit, и с помощью оператора sizeof () в C ++ кажется, что long double - это 12 байт, а double - 8. ...
Как я пошел бы о ручном изменении десятичного числа (базируйтесь 10), число в IEEE 754 формат с плавающей точкой с одинарной точностью? Я понимаю, что существует три части к нему, знак, экспонента, и...
В изучении, как числа с плавающей точкой представлены в компьютерах, я столкнулся с термином "предвзятость значения", которую я действительно не совсем понимаю. Значение предвзятости в числах с плавающей точкой имеет отношение...
Почему следующая программа печатает то, что она печатает? класс Программа {статическая Основная пустота (строка [] args) {пускает в ход f1 = 0.09f*100f; пустите в ход f2 = 0.09f*99.999999f; Консоль....
Мне недавно дали этот вопрос об интервью: Учитывая 12-часовые аналоговые часы, вычислите в градусе меньший угол между часом и минутными стрелками. Будьте так точны, как Вы можете. Я задаюсь вопросом, что...
Я просто читал, оператор о Значениях с плавающей точкой сравнения значения с плавающей точкой не должен быть сравнен с помощью или == или! = операторы. Большинство значений с плавающей точкой имеет не точный...
Я живу в Бельгии. И обычно в математике мы пишем десятичные дроби через запятую, например: 3,141592
И это тоже результат, когда я форматирую float. System.out.println (String.format ("% f", 3 ....
Я смотрел стандарт IEEE-754 с плавающей запятой. Есть ли простой способ получить двоичное представление числа с плавающей запятой в Ruby? Например, делать (1.5) .to_b или что-то ...
Я делаю некоторую работу, включающую блок MIPS, и я продолжаю сталкиваться с этими четырьмя псевдоинструкциями по загрузке и хранению с плавающей точкой: l.s, l.d, s.s, s.d. Я нашел некоторую документацию онлайн и выяснил...
Кто-то может объяснить мне, как я преобразовываю 32-разрядное значение с плавающей точкой в 16-разрядное значение с плавающей точкой? (s = знак e = экспонента и m = мантисса), Если 32-разрядное плавание - 1s7e24 м И 16-разрядное плавание...
Как я могу проверить, содержит ли число с плавающей запятой десятичные дроби, такие как 2,10, 2,45, 12382,66, а не 2,00, 12382,00. Я хочу знать, круглая цифра или нет. Как я могу сделать это программно?
Я разрабатываю программу, которая делает некоторые вычисления плавающих точек. Там какой-либо путь состоит в том, чтобы протестировать мои функции (которые поставляют плавания) с doctests?
Что могло возможно вызвать это странное поведение Python? Python 2.6.2 (r262:71600, 31 мая 2009, 3:55:41) [GCC 3.3.4] на Типе linux2 "справка", "авторское право", "кредиты" или "лицензия" для получения дополнительно
Комитет мог бы выбрать стандартизацию базового типа float по-разному, но они выбрали это распределение. Я ищу запись процесса, по которому они решили выделить бит пространства ...
Я хотел бы смочь записать строку времени, которая похожа на это: 1:04:02.1 часов с помощью printf. Когда я пытаюсь записать что-то вроде этого: printf (" %d: % 02d: % 02.1f hours\n", 1, 4, 2.123456); я добираюсь: 1:...
Моя существенная проблема состоит в том, как заставить арифметику с плаваниями на x86 вести себя как PowerPC, идущий из Классической MacOS (CodeWarrior) к Windows (VS 2008). Рассматриваемый код, которого существует много...
Я нуждаюсь в функции абсолютного значения для плаваний в OCaml, и базовый язык, кажется, не обладает один, таким образом, я записал следующее: еще позвольте absF (f:float) = если f> 0.0 затем f (f *.-1.0);;...
Я пытаюсь добавить немного пространства между строками к моему TextViews с помощью android:lineSpacingMultiplier из документации: Дополнительный интервал между строками текста, как множитель. Должен быть...
I'trying для преобразования плавания в международное значение в php: var_dump ((интервал) (39.3 * 100.0));//Возвраты 3929, но должен быть 3930! var_dump ((интервал) (39.2 * 100.0));//Возвраты 3920, который я могу использовать, перекрывают, чтобы заставить
Таким образом, у меня есть один лайнер: десятичное число импорта; h = десятичное число. Десятичное число ('100.0'); (h>.01, h <.01, h. __ gt __ (.01), h. __ лейтенант __ (.01)) Все, что это делает, делают Десятичный объект, содержащий 100.0, и сравн
limits.h указывает пределы для типов нематематических операций с плавающей точкой, например, INT_MIN и INT_MAX. Эти значения являются самыми отрицательными и большинство положительных значений, что можно представить использование интервала. В float.h...
Я хочу заполнить некоторые значения процента так, чтобы всегда было 3 единицы перед десятичным разрядом. С ints я мог использовать '%03d' - там эквивалент для плаваний? '%.3f' работает на после десятичного числа...
Делает любой имеет удобный, отрывки кода для преобразования IEEE 754 удваиваются до сразу нижний (resp. выше) плавание, не изменяясь или принимая что-либо о текущем округлении FPU...
Как я могу гарантировать, что вычисления с плавающей точкой в приложении.NET (говорят в C#) всегда приводят к тому же разрядно-точному результату? Особенно при использовании различных версий.NET и работы...
Я пытаюсь вычислить (360 / 24) / 60, я продолжаю получать ответ 0.0, когда я должен добраться 0.25 В словах: Я хочу разделить 360 на 24 и затем разделить результат на 60 общедоступного классового расслоения {общественность...
Я хочу сравнить два плавания в PHP, как в этом примере кода: $a = 0.17; $b = 1 - 0.83;//0.17, если ($a == $b) {эхо 'a и b является тем же';} еще {эхо 'a и b не является тем же';} В этом коде это...