6
ответов
Какой диапазон значений может иметь float в Python?
Каковы его самые маленькие и самые большие значения в Python?
вопрос задан: 11 May 2012 15:02
6
ответов
Преобразуйте буфер БАЙТА (0-255) для плавания буфера (0.0-1.0)
Как я могу преобразовать буфер БАЙТА (от 0 до 255) к буферу плавающему (от 0,0 до 1,0)? Конечно, должно быть отношение между двумя значениями, например: 0 в буфере байта будет.0.f в буфере плавающем, 128...
вопрос задан: 10 May 2012 18:51
6
ответов
Арифметика в рубине
Почему этот код 7.30 - 7.20 в рубиновых возвратах 0.0999999999999996, не 0.10? Но если я запишу 7.30 - 7.16, например, все будет в порядке, я доберусь 0.14. Что проблема, и как я могу решить его?
вопрос задан: 10 May 2012 17:17
6
ответов
Числа с плавающей запятой фиксированной ширины в C/C++
интервал обычно - 32 бита, но в стандарте, интервал, как гарантируют, не будет иметь постоянную ширину. Таким образом, если мы хотим интервал на 32 бита, мы включаем stdint.h и используем int32_t. Есть ли эквивалент для этого для...
вопрос задан: 10 May 2012 12:36
6
ответов
Поплавок в БД? в .NET
Если у вас есть плавающий в MSSQLServer, что вы отображаете это в .NET? Можете ли вы преобразовать его в Double или вы потеряете числа?
вопрос задан: 9 May 2012 19:59
6
ответов
Преобразование задач из интервала для плавания
Существует странное поведение, которое я не могу понять. Согласованный, что число с плавающей точкой является приближениями, поэтому даже операции, которые, очевидно, возвращают число без десятичных чисел, могут быть приближены...
вопрос задан: 9 May 2012 19:56
6
ответов
равенство с плавающей точкой в Python и в целом
У меня есть часть кода, который ведет себя по-другому в зависимости от того, прохожу ли я словарь для получения коэффициентов преобразования или использую ли я их непосредственно. Следующая часть кода распечатает 1.0 ==...
вопрос задан: 9 May 2012 19:17
6
ответов
хранение денег составляет в mysql
Я хочу сохранить 3.50 в mysql таблицу. У меня есть плавание, в котором я храню его, но это хранит как 3,5, не 3.50. Как я могу заставить это иметь конечный нуль?
вопрос задан: 9 May 2012 16:33
6
ответов
Существует ли значение с плавающей точкой x, для которого x-x == 0 является ложью?
В большинстве случаев я понимаю, что сравнительное испытание с плавающей точкой должно быть реализовано с помощью по диапазону значений (брюшной пресс (x-y) <эпсилон), но делает сам, вычитание подразумевает, что результат будет...
вопрос задан: 9 May 2012 16:27
6
ответов
Почему языки программирования округляют в меньшую сторону до.6?
При помещении десятичного числа в формат, где должен быть округлен к ближайшему 10-му, и это: 1.55, это будет вокруг к 1,5. 1.56 будет затем вокруг к 1,6. В школе я вспоминаю изучение, что Вы окружаете когда Вы...
вопрос задан: 5 June 2011 22:54
6
ответов
Java двойной эпсилон сравнения
Я записал класс, который тестирует на равенство, меньше, чем, и больше, чем с два удваивается в Java. Мой общий случай сравнивает цену, которая может иметь точность половины цента. 59.005 по сравнению с 59,395...
вопрос задан: 22 January 2011 18:21
6
ответов
Сколько двойных чисел там между 0,0 и 1.0?
Это - что-то, чем это было на моем уме в течение многих лет, но я никогда не не торопился для выяснения прежде. Много (псевдо) генераторов случайных чисел генерируют случайное число между 0,0 и 1.0. Математически там...
вопрос задан: 5 June 2010 02:51
6
ответов
math.h перекрывают не работу как ожидалось в C
То, каким образом перекрывают () окружает ровное плавание без дробных частей? Когда я пытаюсь сделать это: удвойте x = 2.22; x * = 100;//, который становится 222.00... printf (" %lf", перекрывают (x));//печатает 223.00... (?)...
вопрос задан: 22 February 2010 13:55
6
ответов
Эмулируйте поведение преобразования строк с плавающей точкой Linux в Windows
Я встретился с раздражающей проблемой в выводе числа с плавающей точкой. Когда я формат 11.545 с точностью 2 десятичных точек в Windows, который это производит "11.55", как я ожидал бы. Однако, когда я...
вопрос задан: 10 February 2010 07:32
6
ответов
Контакт с Исключениями в операции с плавающей запятой
Я не уверен, как иметь дело с исключениями в операции с плавающей запятой или в C или в C++. От Wiki, там следуют за типами исключений в операции с плавающей запятой: IEEE 754 определяет пять арифметических ошибок, которые являются к...
вопрос задан: 8 February 2010 02:24
6
ответов
Единственный по сравнению с Двойными типами данных
Есть ли какие-либо ситуации, где имело бы больше смысла использовать единственный тип данных вместо двойного? От моего поиска недостаток к двойному - то, что требуется больше пространства, которое не является...
вопрос задан: 8 December 2009 18:24
6
ответов
То, какова максимальная длина в символах, должно было представить какое-либо двойное значение?
Когда я преобразовываю неподписанный 8-разрядный интервал для строкового представления тогда, я знаю, что результатом всегда будут самое большее 3 символа (для 255), и для 8-разрядного интервала со знаком нам нужны 4 символа для, например, "-128"
вопрос задан: 9 November 2009 05:52
6
ответов
Какова относительная скорость плавающей точки, добавляют по сравнению с плавающей точкой, умножаются
Десятилетие или два назад, стоило написать цифровой код для избегания использования, умножается и делится, и используйте дополнение и вычитание вместо этого. Хороший пример использует правые разности для оценки...
вопрос задан: 18 July 2009 06:40
6
ответов
Хороший способ хэшировать вектор с плавающей точкой?
Мне хорошо известны все проблемы, связанные со сравнением поплавков. Это как раз причина этого вопроса. Я хочу создать быструю хэш-таблицу для значений, которые являются трехмерными векторами (3 числа с плавающей точкой - x, y, z) ...
вопрос задан: 17 March 2009 22:51
6
ответов
Как я отображаю двоичное представление плавания или дважды?
Я хотел бы отобразить двоичный файл (или шестнадцатеричный) представление числа с плавающей точкой. Я знаю, как преобразовать вручную (использующий метод здесь), но я интересуюсь наблюдением примеров кода, которые делают...
вопрос задан: 16 January 2009 19:05
6
ответов
Когда использовать Фиксированную точку в эти дни
Для интенсивного перемалывания чисел я рассматриваю использование фиксированной точки вместо плавающей точки. Конечно, будет иметь значение, сколько байтов тип фиксированной точки находится в размере, на том, на каком ЦП это будет работать, если я...
вопрос задан: 12 November 2008 03:51
6
ответов
Как проверить, имеет ли двойное в большинстве n десятичных разрядов?
В настоящее время у меня есть этот метод: статическая булевская переменная checkDecimalPlaces (удваивают d, интервал decimalPlaces) {если (d == 0) возвращают true; двойной множитель = Math.pow (10, decimalPlaces); проверьте дважды = d *...
вопрос задан: 7 November 2008 08:06
6
ответов
Как я могу записать функции C++ возвращение true, если вещественное число является точно представимым с двойным?
Как я могу записать функции C++ возвращение true, если вещественное число является точно представимым с двойным? bool isRepresentable (символ константы* вещественное число) {bool отвечает = ложь;//, что идет сюда?...
вопрос задан: 4 November 2008 15:50
6
ответов
Как Вы генерируете случайное число в C#?
Я хотел бы генерировать случайное число с плавающей точкой между 2 значениями. Что лучший способ состоит в том, чтобы сделать это в C#?
вопрос задан: 5 October 2008 06:05
6
ответов
Значащие цифры в десятичном модуле
Таким образом, я решил попытаться решить свою домашнюю работу физики путем записи некоторых сценариев Python для решения проблем для меня. Одна проблема, с которой я сталкиваюсь, состоит в том, что значащие цифры, не всегда кажется, прибывают...
вопрос задан: 29 September 2008 00:05
5
ответов
Как я могу преобразовать строку в число в Perl?
У меня есть строка, которая содержит десятичное значение в нем, и я должен преобразовать ту строку в переменную с плавающей точкой. Таким образом, пример строки, которую я имею, "5.45", и я хочу эквивалент с плавающей точкой...
вопрос задан: 26 October 2019 10:20
5
ответов
Арифметические выражения в Bash?
Я использовал несколько способов сделать некоторую простую целочисленную арифметику в Bash (3.2). Но я не могу выяснить лучший (предпочтительный) способ сделать это. ='expr 1 результата + 2' result= $ ((1 + 2)) позволил "результату = 1 + 2"...
вопрос задан: 29 September 2019 20:50
5
ответов
PI и точность числа с плавающей запятой
Единственная/двойная/расширенная точность представление с плавающей точкой Pi точно до сколько десятичных разрядов?
вопрос задан: 19 May 2019 00:16
5
ответов
Почему добавление двух десятичных знаков в Javascript дает неправильный результат? [дубликат]
Возможный дубликат: нарушена ли математика JavaScript? Почему JS испортил эту простую математику? console.log (.1 + .2) // 0.3000000000000004 console.log (.3 + .6) // 0.8999999999999999 ...
вопрос задан: 14 May 2019 15:04
5
ответов
Ограничение числа с плавающей запятой до двух десятичных знаков
Я хочу округлить до 13,95. > > > 13,949999999999999 > > > round (a, 2) 13.949999999999999 Функция округления работает не так, как я ожидал.
вопрос задан: 29 September 2017 04:42