0
ответов

Диапазоны типов данных с плавающей запятой в C?

Я читаю книгу на языке C, где говорится о диапазонах значений с плавающей запятой, автор дал таблицу :Тип Наименьшее положительное значение Максимальное значение Точность ==== ====================== ==============...
вопрос задан: 8 November 2018 09:17
0
ответов

Как преобразовать отрицательный нуль в положительный нуль в C?

Здравствуйте, я изучаю Objective C и делаю классический пример с калькулятором. Проблема в том, что я получаю отрицательный ноль, когда я умножаю ноль на любое отрицательное число, и я помещаю результат в (...
вопрос задан: 8 November 2018 08:33
0
ответов

Как получить десятичные разряды числа с плавающей запятой в Javascript?

То, что я хотел бы иметь, почти противоположно Number.prototype.toPrecision(), что означает, что когда у меня есть число, сколько десятичных знаков оно имеет? Например. (12.3456).getDecimals() // 4
вопрос задан: 22 October 2018 09:01
0
ответов

Как вывести с 3-мя цифрами после десятичной точки с потоком C ++?

Учитывая переменную типа float, как вывести ее с 3-мя цифрами после десятичной точки, используя iostream в C ++?
вопрос задан: 25 September 2018 14:30
0
ответов

Современная x86 модель стоимости

Я пишу JIT-компилятор с бэкэндом x86 и изучаю ассемблер x86 и машинный код на ходу. Я использовал ARM ассемблер около 20 лет назад, и меня удивляет разница в стоимости моделей между ...
вопрос задан: 24 September 2018 07:13
0
ответов

std :: is_floating_point в некоторых случаях возвращает false для float

В некоторых случаях, см. Один пример ниже, std :: is_floating_point возвращает false для float. #include #include #include int main () {:: std :: cout ...
вопрос задан: 12 September 2018 09:03
0
ответов

Float vs Decimal в ActiveRecord

Иногда типы данных Activerecord меня сбивают с толку. Эээ, часто. Один из моих вечных вопросов в данном случае: следует ли использовать: decimal или: float? Я часто сталкивался с этой ссылкой ActiveRecord:: ...
вопрос задан: 27 August 2018 20:15
0
ответов

В MATLAB переменные ДЕЙСТВИТЕЛЬНО имеют двойную точность по умолчанию?

Этот вопрос возник из-за чего-то странного, что я заметил после дальнейшего изучения этого вопроса. .. Я всегда понимал, что переменные MATLAB по умолчанию имеют двойную точность. Итак, если бы я сделал ...
вопрос задан: 21 August 2018 15:06
0
ответов

Получить десятичную часть из числа с плавающей запятой

Мне нужно получить десятичную часть из числа с плавающей запятой, например: float x = 18,30, мне нужен способ получить «.30» в другое число с плавающей запятой.. поэтому у меня будет число с плавающей запятой, равное 18,30, а другое равно ....
вопрос задан: 21 August 2018 00:26
0
ответов

Dlaczego 0,1 + 0,2 == 0,3 w D?

assert (0,1 + 0,2! = 0,3); // powinno być prawdziwe to moje ulubione sprawdzenie, czy język używa natywnej arytmetyki zmiennoprzecinkowej. C ++ #include int main () {printf ("% d \ n", (0,1 + 0,2! = 0,3)) ...
вопрос задан: 20 August 2018 17:53
0
ответов

Как установить точность числа с плавающей запятой

Может кто-нибудь объяснить мне, как выбрать точность числа с плавающей запятой с помощью функции C? Примеры : theFatFunction (0,666666666, 3) возвращает 0,667 theFatFunction (0,111111111, 3) возвращает 0,111
вопрос задан: 20 August 2018 03:46
0
ответов

Преобразовать с плавающей запятой IBM в стандарт с плавающей запятой IEEE и наоборот. На C #?

Искал способ преобразования чисел с плавающей запятой IEEE в формат с плавающей запятой IBM для старая система, которую мы используем. Есть ли общая формула, которую мы можем использовать в C # для этой цели.
вопрос задан: 9 August 2018 23:20
0
ответов

Построение 32-битного числа с плавающей запятой из 4 составных байтов

Я пытаюсь построить 32-битное число с плавающей запятой из его 4 составных байтов. Есть ли лучший (или более переносимый) способ сделать это, чем следующий метод? #include typedef unsigned char ...
вопрос задан: 3 August 2018 02:20
0
ответов

Поведение деления с плавающей точкой на ноль

Рассмотрим #include < iostream > int main () {double a = 1.0 / 0; двойной b = -1,0 / 0; двойной с = 0,0 / 0; std :: cout < < < < b < < с; // чтобы остановить компиляторы от ...
вопрос задан: 24 July 2018 07:00
0
ответов

Преобразование номеров экспоненциальной нотации в строки - объяснение

У меня есть DataFrame из этого вопроса: temp = u "" "Total, Price, test_num 0,71.7,2.04256e + 14 1,39.5,2.04254e + 14 2,82.2,2.04188e + 14 3,42.9,2.04171e + 14 "" "df = pd.read_csv (pd.compat.StringIO (temp)) print (df) ...
вопрос задан: 13 July 2018 12:24
0
ответов

Проблемы с округлыми поплавками в Python

У меня проблема с NP.RUND, NP. Waround, где он не округляется должным образом. Я не могу включить код, потому что когда я делаю это вручную, установив значение (в отличие от использования моих данных), возврат работы, ...
вопрос задан: 12 July 2018 22:47
0
ответов

Как использовать десятичные числа (с плавающей запятой) в C ++?

Согласно IEEE 754-2008 существует три основных двоичных формата с плавающей запятой (которые могут быть закодированы с использованием 32, 64 или 128 бит) и два десятичных базовые форматы с плавающей запятой (которые могут быть ...
вопрос задан: 3 July 2018 06:06
0
ответов

Плавающий- point == когда-нибудь ОК?

Только сегодня я наткнулся на стороннее программное обеспечение, которое мы используем, и в их образце кода было что-то вроде этих строк: // Определено вwhere.h static const double BAR = 3,14; // Код в другом месте ....
вопрос задан: 2 July 2018 08:13
0
ответов

Как преобразовать строку в число с плавающей запятой?

#include # include int main () {char s [100] = "4.0800"; printf ("значение с плавающей запятой:% 4.8f \ n", (с плавающей точкой) атолл (ы)); возврат 0; } Я ожидаю, что на выходе должно быть 4 ....
вопрос задан: 12 June 2018 15:54
0
ответов

Есть ли в HTML5 тип ввода с плавающей точкой?

Согласно html5.org, атрибут «value» входного типа «number», если он указан и не пустой, должен иметь значение, которое является допустимым числом с плавающей запятой ». Все же это просто (в последней версии ...
вопрос задан: 8 June 2018 12:38
0
ответов

разделение числа на целую и десятичную части

Есть ли питонический способ разделение числа, например, 1234,5678, на две части (1234, 0,5678), т.е. целую часть и десятичную часть?
вопрос задан: 3 June 2018 17:17
0
ответов

Почему эти числа не равны?

Следующий код явно неверен. В чем проблема? я <- 0,1 я <- я + 0,05 я ## [1] 0,15 if (i == 0,15) cat («i равно 0,15») else cat («i не равно 0,15») ## i не равно 0,15
вопрос задан: 30 May 2018 09:56
0
ответов

Преобразовать число с плавающей запятой с определенной точностью, а затем скопировать в строку

У меня есть число с плавающей запятой, скажем, 135.12345678910. Я хочу объединить это значение в строку, но хочу только 135.123456789. С помощью print я могу легко сделать это, выполнив что-то вроде: print "% .9f"% ...
вопрос задан: 25 May 2018 22:44
0
ответов

определить двойную константу как шестнадцатеричную?

Я хотел бы, чтобы ближайшее число меньше 1.0 было с плавающей запятой. Прочитав статью в Википедии о IEEE-754, я обнаружил, что двоичное представление 1.0 - 3FF0000000000000, ...
вопрос задан: 9 May 2018 17:19
0
ответов

Самый эффективный способ преобразовать вектор uint32 в вектор с плавающей запятой?

x86 не имеет инструкции SSE для преобразования беззнакового int32 в плавающую точку. Какая последовательность инструкций была бы наиболее эффективной для этого? РЕДАКТИРОВАТЬ: Чтобы уточнить, я хочу сделать ...
вопрос задан: 14 March 2018 22:29
0
ответов

Как читать и записывать числа с плавающей запятой из и в двоичные файлы? [дубликат]

Как программе следует читать и записывать числа с плавающей запятой из и в двоичные файлы на языке C или Vala? Общие API-интерфейсы для записи и чтения обычно предназначены для записи в байтовом формате. Я имею в виду ...
вопрос задан: 13 March 2018 04:25
0
ответов

Как Excel успешно округляет числа с плавающей запятой, даже если они неточные?

Например, в этом блоге говорится, что 0,005 - это не совсем 0,005, но округление этого числа дает правильный результат. Я пробовал все виды округления в C ++, но при округлении чисел до определенного значения не удается ...
вопрос задан: 22 February 2018 02:45
0
ответов

Что означают F и D в конце числовых литералов?

Я видел некоторые из этих символов, но не могу найти в них ничего странного, поплавок f = 3.0F; Что в точности означают D и F за 5?
вопрос задан: 17 February 2018 17:39
0
ответов

Почему NaN не равен NaN? [дубликат]

Соответствующий стандарт IEEE определяет числовую константу NaN (не число) и предписывает, что NaN должен сравниваться как не равный самому себе. Это почему? Все языки, с которыми я знаком, реализуют это...
вопрос задан: 8 February 2018 01:22
0
ответов

Приведение результата к типу float в методе, возвращающем float, изменяет результат

Почему этот код печатает False в .NET 4? Похоже, явное приведение приводит к неожиданному поведению. Я бы хотел получить ответ, кроме «числа с плавающей запятой неточно» или «не делайте этого». float ...
вопрос задан: 19 January 2018 05:32