2
ответа
Реализации Java с плавающей точкой все еще определял проблемы Kahan?
Я прочитал несколько газет от Kahan сегодня вечером и его известную напыщенную речь против Java. Прежде чем я погружусь в спецификацию JVM, что-нибудь изменялось начиная с начальной напыщенной речи на этой передней стороне? Например: установка округления.
вопрос задан: 30 March 2009 03:03
2
ответа
извлечение мантиссы и экспоненты от дважды в c#
Там какой-либо простой путь состоит в том, чтобы получить мантиссу и экспоненту от двойного в c# (или.NET в целом)? Я нашел это использование в качестве примера Google, но я не уверен, насколько устойчивый это было бы. Мог...
вопрос задан: 24 December 2008 07:19
2
ответа
Как делают Вас вокруг числа с плавающей точкой в Perl?
Как может я вокруг десятичного числа (плавающая точка) к ближайшему целому числу? например, 1.2 = 1 1.7 = 2
вопрос задан: 8 October 2008 06:27
2
ответа
SQL-сервер 2005 числовая потеря точности
Отладка некоторого связанного с финансами кода SQL нашла странную проблему с числовым (24,8) точность математики. При выполнении следующего запроса на MSSQL Вы заставили бы + B * C результат выражения быть 0....
вопрос задан: 4 October 2008 00:37
2
ответа
Конвертировать из научной нотации строки для плавания в C #
Как правильно преобразовать строку научной нотации, такой как «1.234567E-06», в переменную с плавающей запятой, используя C #?
вопрос задан: 15 September 2008 16:52
1
ответ
ValueError: не удалось преобразовать строку в float: id
Я запускаю следующий скрипт Python : #! / usr / bin / python import os, sys
из статистики импорта scipy
импортировать numpy как np f = open ('data2.txt', 'r'). readlines ()
N = len (f) -1
for i in range (0, N): w = f [i] ....
вопрос задан: 2 October 2019 15:36
1
ответ
гарантировано ли присвоение двух двойных одинаковых битовых комбинаций?
Здесь есть несколько постов о числах с плавающей запятой и их природе. Понятно, что сравнивать поплавки и двойники всегда следует осторожно. Просьба о равенстве также обсуждалась ...
вопрос задан: 17 April 2019 12:31
1
ответ
24-разрядное двоичное число с плавающей запятой одинарной точности
У меня есть следующий 24-разрядный двоичный код: 0101 0011 1111 1101 0111 1101 И мне нужно выяснить: какую пару чисел с плавающей запятой одинарной точности (действительных) можно представить этими 24-разрядными? ...
вопрос задан: 8 April 2019 06:47
1
ответ
Как оценить, достаточно ли близки два числа в Python?
У меня есть два числа - 3.125000 МБ и 2.954880 МБ. Я хочу сравнить их, и он должен вернуть True, поскольку они почти 3 Мбайт. Как я могу сделать это в Python3. Я пытался делать математику. (3 ....
вопрос задан: 27 March 2019 20:28
1
ответ
Когда использовать% d и% f в C?
Я новичок в программировании на C, но приличный в Java, мой вопрос: когда мы используем% d и% f? В какой ситуации? Например, основываясь на приведенном ниже блоке кода, если меня попросят взять (int) a * (float) y, могу ли я ...
вопрос задан: 24 March 2019 12:10
1
ответ
как проверить, что плавающее число не равно & ldquo; 0 & rdquo;
У меня есть < Entry > контроль, где пользователю разрешено вводить десятичные числа, например ... 0,2 0,02 5,405 Но я не хочу вводить "0" (как десятичное число), как следует 0,0 ...
вопрос задан: 20 March 2019 13:07
1
ответ
Какая максимальная разница должна быть между вычислением с плавающей запятой и 16-разрядным вычислением? [закрыто]
Допустим, у меня есть формула, которая вычисляет значение. Я могу вычислить значение либо с помощью арифметики с плавающей запятой, либо с помощью арифметики с фиксированной запятой (используя 16-битные целые числа) Какой должен быть максимум ...
вопрос задан: 19 March 2019 08:37
1
ответ
Арифметика с плавающей точкой - биты показателя степени
У меня есть общий вопрос об арифметике с плавающей точкой. В последнее время я довольно заинтересовался пониманием компьютерных программ, поэтому начал заниматься упражнениями. Я бы хотел, чтобы вы ...
вопрос задан: 3 March 2019 19:49
1
ответ
Сохранить строку как массив с плавающей точкой C ++
Я получаю от терминала следующую строку: «4 4 0,2 0,5 0,3 0,0 0,1 0,4 0,4 0,1 0,2 0,0 0,4 0,4 0,2 0,3 0,0 0,5» Моя цель - сохранить эту строку в виде массива с плавающей точкой, например arr = [4,4,0.2 ...] ...
вопрос задан: 19 January 2019 15:18
1
ответ
Python3.7.1: `10 ** 3.5`: не удалось преобразовать строку в число с плавающей точкой: 3.5
Я действительно не понимаю, почему это происходит со мной: Python 3.7.1 (по умолчанию, 5 ноября 2018, 14:07:04). Для получения дополнительной информации введите «copyright», «credits» или «license». - Улучшенный ...
вопрос задан: 18 January 2019 19:33
1
ответ
Как вы правильно & ldquo; оснастка & rdquo; к стоимости?
Допустим, я установил шаг 0,1 в моем приложении. Итак, какое бы значение fp я ни получал, мне просто нужна 1 цифра после запятой. Таким образом, 47,93434 должно быть 47,9 (или, по крайней мере, ближайшее представимое значение fp). Если я ...
вопрос задан: 18 January 2019 14:57
1
ответ
Сравнение Поплавков в векторе
Я пишу программу, которая создает два вектора для практики сравнения элементов в векторе. Первый вектор представляет собой список всех чисел, которые не являются простыми числами от 1 до 100 (не простые числа), ...
вопрос задан: 16 January 2019 23:02
1
ответ
Завершите eval_strfrac (s, base), чтобы он возвращал свое значение с плавающей точкой
что-то не так с моим циклом while внутри моей функции eval_strfrac (s, base = 2). для 3.14 базы 10 это очень близко, для 100.101 базы 2 это далеко. Спасибо! # ТЕСТ для проверки правильности is_valid_strfrac (s, ...
вопрос задан: 15 January 2019 19:34
1
ответ
Проверка, является ли число целым числом в C / C ++ (без scanf / gets / etc)
То, что я пытаюсь сделать, будет выглядеть так в Python (где n - float / double): def check_int (n): if not isinstance (n, numbers.Integral): raise TypeError () Так как C / C ++ являются типичными, ...
вопрос задан: 13 July 2018 21:02
1
ответ
Получение максимального значения плавания в SQL программно
Существует ли метод для программно (в T-SQL) получение максимума (и минимум) значение типа данных? То, что это действовало бы как плавание. MaxValue в C#. Я хотел бы использовать его в некотором выборе когда...
вопрос задан: 11 October 2017 03:00
1
ответ
Как проверить, использует ли компилятор C ++ стандарт с плавающей запятой IEEE 754
Я хотел бы задать вопрос, следующий за этим на который довольно хорошо отвечает проверка определения, использует ли компилятор стандарт. Однако это работает только для C. Есть ли способ сделать то же самое в ...
вопрос задан: 23 May 2017 12:32
1
ответ
Как сравнить значения с плавающей точкой в Scala?
Насколько я знаю, точное сравнение не имеет особого смысла для значений с плавающей точкой, поскольку то, что должно быть 0.0001, на самом деле может быть чем-то вроде 0.0001000...0001.... Должен ли я реализовать свой собственный ...
вопрос задан: 23 May 2017 12:26
1
ответ
Гарантируется ли для любого конечного значения с плавающей запятой, что x - x == 0?
Значения с плавающей запятой неточны, поэтому мы редко должны использовать строгие численное равенство в сравнениях. Например, в Java это печатает false (как показано на ideone.com): System.out.println (.1 + ....
вопрос задан: 23 May 2017 12:10
1
ответ
Что могло заставить детерминированный процесс генерировать ошибки с плавающей точкой
Уже считав этот вопрос, я довольно уверен, что данный процесс с помощью арифметики с плавающей точкой с тем же входом (на тех же аппаратных средствах, скомпилированных с тем же компилятором), должен быть...
вопрос задан: 23 May 2017 10:29
1
ответ
Я могу заставить gcc сказать мне, когда вычисление приводит к NaN или inf во времени выполнения?
Существует ли способ сказать gcc бросать SIGFPE или что-то подобное в ответ на вычисление, которое приводит к NaN или (-) inf во времени выполнения, как он был бы для деления на нуль? Я попробовал-fsignaling-...
вопрос задан: 12 April 2017 20:42
1
ответ
Можете ли вы безопасно сравнивать поплавки с целым числом, когда оно равно нулю? [Дубликат]
Я знаю, что вы не можете безопасно сравнивать что-то вроде 1.0 == 1. Но вы могли бы сравнить что-то вроде 0.0 == 0? Поскольку плавающие точки могут отлично представлять идею нуля, это не должно быть проблемой ...
вопрос задан: 14 January 2017 19:41
1
ответ
Как я могу убедиться, что число с плавающей запятой всегда будет округляться с помощью PHP?
Я хочу убедиться, что число с плавающей точкой в PHP округляется вверх, если присутствует десятичный разделитель, не беспокоясь о правилах математического округления. Эта функция будет работать следующим образом: от 1.1 до 2
1,2 к 2
1,9 к 2
От 2.3 до .
вопрос задан: 16 December 2015 20:32
1
ответ
Значение эпсилон в Python
Есть ли стандартное значение эпсилон (или метод его получения) в Python? Мне нужно сравнить значения с плавающей запятой и я хочу сравнить с наименьшей возможной разницей. В C++ есть...
вопрос задан: 17 April 2015 11:28
1
ответ
Проверка работоспособности Ruby BigDecimal (плавающая точка newb)
Мое понимание корректно, который с типами Ruby BigDecimal (даже с переменной точностью и длинами шкалы) должен вычислить точно, или я должен ожидать интриги с плавающей точкой? Все мой...
вопрос задан: 25 March 2015 08:32
1
ответ
C #: конвертировать байтовый массив в число с плавающей точкой
У меня есть байтовый массив размером 4 байта [] source = new byte [4]; Теперь я хотел преобразовать этот источник в 4-байтовое значение с плавающей запятой ... Может кто-нибудь сказать мне, как это сделать ...
вопрос задан: 9 January 2015 17:51