У меня есть два целых числа x и y. Мне нужно вычислить x / y, и в результате я хотел бы получить float. Например, в результате 3/2 я хотел бы получить 1,5. Я подумал, что самый простой (или единственный) способ сделать ...

for (float i = -1; i <= 1; i + = 0.1f) {Console.WriteLine (i); } Это результаты -1 -0,9 -0,8 -0,6999999 -0,5999999 -0,4999999 -0,3999999 -0,2999999 -0,1999999 -0,09999993 7.450581E-08 0 ....

Я пытаюсь получить поплавки из строки. Я имею в виду чтение строки за строкой из текстового файла и получение поплавков из строки. Я нашел, как читать строку за строкой, но не смог разбить строку на...

Обычно мы говорим, что число с плавающей запятой имеет точность 6 знаков после запятой. Но если мы сохраним большое число порядка 10^30, мы не получим 6 цифр после запятой. Итак, правильно ли...

Сегодня я отслеживал, почему моя программа получает некоторые неожиданные ошибки несоответствия контрольной суммы в написанном мною коде, сериализующем и десериализующем значения с плавающей запятой IEEE-754 в формате ...

Я не понимаю вывод следующей программы: int main () {float x = 14,567729f; float sqr = x * x; float diff1 = sqr - x * x; double diff2 = double (sqr) - double (...

Я сконфигурировал Visual Studio для выдачи исключений с плавающей запятой через функцию _controlfp. Это работает для NAN и INF, но не для QNAN. Т.е. тихие NaN не вызывают исключения. Это ...

Мне нужно преобразовать DateTime в Метка времени Unix. Поэтому я погуглил в поисках примера кода. Практически во всех результатах, которые я вижу, они используют double в качестве возврата для такой функции, даже когда ...

, в мой самый первый день работы с Python. Мне нравится фильтровать файл трассировки, созданный C. Каждый дубль из C форматируется в файле с помощью две шестнадцатеричные строки, представляющие 32 бита из 64 двойных. например 1234567890.3 ...

Я работаю в небольшом интернет-магазине и пытаюсь получить самую низкую цену за продукт ( фото). Поэтому я проверяю минимальную добавленную цену (фотографии можно заказать в разных размерах): ВЫБРАТЬ ...

В JBox2d существует следующий код для Vec2.equals (): @Override public boolean equals (Object obj) {// автоматически генерируется Eclipse if (this == obj) return true; if (obj = ...

I ' m просматривая часть кода из библиотеки Google Closure Library, я нашел эту строку: var isNegative = number <0.0 || число == 0,0 && 1 / число <0,0; Я решил, что ...

У меня есть целое число (например, 12), и я хочу преобразовать его в число с плавающей запятой с указанным количество знаков после запятой. Черновик функции intToFloat (num, decimal) {[код здесь]} и я хочу преобразовать его в число с плавающей запятой с

Обычно я хочу найти наименьшее (положительное) значение из набора значений и требуется значение по умолчанию для сравнения с первым. Наивное предположение было бы таким: они всегда сравнивают «меньше чем» ...

Я хочу преобразовать 8 цифр с плавающей запятой после плавающей запятой в 2 цифры после плавающей запятой.. Например. $a = 2.200000 ==> 2.20 Я использую раундовую функцию php. Проблема с округлением заключается в том, что если мой...

Как преобразовать "32-битное знаковое число с фиксированной точкой (16.16)" в float? Является ли (fixed >> 16) + (fixed & 0xffff) / 65536.0 нормальным? А как насчет -2.5? И -0.5? Или фиксированное / 65536.0 - это правильный путь? (...

Мне нужны функции логита и обратного логита, чтобы logit (inv_logit (n)) == n. Я использую numpy, и вот что у меня есть: импортировать numpy как np def logit (p): return np.log (p) - np.log (1 - p) def inv_logit (p): ...

Например, у меня есть эта строка кода: echo 10359023529 + 0.2137582935; Почему это возвращает: 10359023529.2 вместо: 10359023529.2137582935

В настоящее время я ужесточаю числа с плавающей запятой для оценки значения. (Это: p(k,t) для тех, кому интересно.) По сути, утилита никогда не может дать заниженную оценку этого значения: ...

Как я могу проверить, содержит ли переменная float целочисленное значение? До сих пор я использовал: float f = 4.5886; если (f- (int) f == 0) printf ("да \ п"); иначе printf ("нет \ п"); Но мне интересно, есть ли ...

В Ruby 0,0 * -1 == -0,0. У меня есть приложение, в котором я умножаю кучу объектов Float на -1, но мне не нравится -0.0 в выводе, потому что это сбивает с толку. Есть ли умный способ сделать ...

Да, вопрос века для новичков ... Но если серьезно, я на самом деле понятия не имею, что такое число с плавающей запятой ... И, что более важно, разница между числом с плавающей запятой и целым числом. ...

В Python 3 я проверяю, является ли данное значение треугольным, то есть оно может быть представлено как n (n + 1) / 2 для некоторого натурального числа n Могу я просто написать: import math def is_triangular1 (x): num = (1 / ...

Я работаю в Matlab, используя факторизацию неотрицательной матрицы, чтобы разложить матрицу на два фактора. Используя это, я получаю от A две матрицы с плавающей запятой двойной точности, B и C. Примеры результатов ...

Как я понимаю, точность поплавка Ruby (1.9.2) составляет 15 десятичных цифр. Поэтому я ожидаю, что округление поплавка x до 15 знаков после запятой будет равно x. Для такого вычисления это не так. ...

If you put the following code in your compiler the result is a bit bizar: decimal x = (276/304)*304; double y = (276/304)*304; Console.WriteLine("decimal x = " + x); Console.WriteLine("double y = " +...