3
ответа
Плавание Python - ул. - пускает в ход странность
>>> плавание (ул. (0.65000000000000002)) 0.65000000000000002>>> плавание (ул. (0.47000000000000003)) 0.46999999999999997??? Что продолжается здесь? Как я преобразовываю 0....
вопрос задан: 3 August 2017 00:54
3
ответа
Python плавающее число [дубликат]
я отчасти смущен, почему Python добавляет некоторое дополнительное десятичное число в этом случае, помогите объяснить>>> mylist = ["элемент списка 1", 2, 3.14]>>> печатают mylist ['элемент списка 1', 2, 3....
вопрос задан: 6 June 2010 23:08
3
ответа
Вычисление плавающей точки может разойтись в различных процессорах? (+passing удваивается между C# и C),
Мне записали приложение в C#, который вызывает некоторый код C также. Код C# добирается, некоторые удваиваются как вход, выполняет некоторые вычисления на нем, передайте его исходному слою, которые выполняют его собственное...
вопрос задан: 25 February 2010 17:45
3
ответа
Есть ли компиляторы, которые оптимизируют операции с плавающей точкой для точности (в противоположность скорости)?
Мы знаем, что компиляторы являются улучшением и лучше при оптимизации нашего кода и заставляют его работать быстрее, но моим вопросом являются там компиляторы, которые могут оптимизировать операции с плавающей точкой для обеспечения больше...
вопрос задан: 14 January 2010 00:46
3
ответа
php intval () и пол () возвращаемое значение, которое слишком низко?
Поскольку тип данных float в PHP неточен, и ПЛАВАНИЕ в MySQL занимает больше места, чем INT (и неточно), я всегда храню цены как INTs, multipling 100 прежде, чем сохранить для обеспечения нас...
вопрос задан: 1 May 2009 19:12
3
ответа
Ограничения с плавающей точкой
Мой код: = '2.3' я хотел отобразиться как значение с плавающей точкой. Начиная со строки я попробовал: плавание (a) результат, который я получил, было: 2.2999999999999998 я хочу решение для этой проблемы...
вопрос задан: 2 January 2009 09:42
3
ответа
Что такое простой пример плавающей точки / погрешность округления?
Я услышал об "ошибке" при использовании переменных с плавающей точкой. Теперь я пытаюсь решить эту загадку, и я думаю, что получаю некоторую ошибку округления/плавающей точки. Таким образом, я наконец собираюсь выяснить...
вопрос задан: 30 October 2008 07:21
2
ответа
Каково различие между этими двумя сравнениями? [дубликат]
Возможный Дубликат: Почему эти количества не равны? 0.9 == 1-0.1>>> TRUE 0.9 == 1.1-0.2>>> ЛОЖЬ
вопрос задан: 31 May 2018 08:00
2
ответа
Как я устанавливаю точность с плавающей точкой в Perl?
Существует ли способ установить точность сценария Perl с плавающей точкой (на 3 цифры), не имея необходимость изменять его специально для каждой переменной? Что-то подобное TCL's: глобальный tcl_precision установлен...
вопрос задан: 17 November 2017 22:13
2
ответа
“Эпсилон” действительно гарантирует что-нибудь в вычислениях с плавающей точкой?
Для создания проблемы короткой скажем, я хочу вычислить выражение a / (b - c) на плаваниях. Для проверки результат значим, я могу проверить, находятся ли b и c в равном: пустите в ход EPS = станд.::...
вопрос задан: 2 November 2016 11:32
2
ответа
PHP/MySQL: Лучшие денежные методы операций/хранения?
Так, я планирую подать заявку (PHP/MySQL), который имеет дело много с деньгами, и я думаю о том, как сохранить и действовать с деньгами, обращаясь к типу данных float PHP и десятичному числу MySQL...
вопрос задан: 9 December 2014 17:48
2
ответа
Perl вопрос об операторе по модулю
Почему первый пример печатает неправильный результат? жемчуг - le 'печатает $x = 100*1.15% 5' 4 жемчуга - le '$x печати = 1000*1.15% 5' 0
вопрос задан: 16 September 2010 14:07
2
ответа
jQuery и идентификаторы длинного целого
Я имею сталкивающийся со следующей проблемой: В нашей базе данных у нас есть объекты с идентификаторами, как 4040956363970588323. Я пишу некоторый клиентский мастер на jQuery для взаимодействия с такими объектами. Клиент получает основу...
вопрос задан: 28 February 2010 10:39
2
ответа
SQL-сервер 2005 числовая потеря точности
Отладка некоторого связанного с финансами кода SQL нашла странную проблему с числовым (24,8) точность математики. При выполнении следующего запроса на MSSQL Вы заставили бы + B * C результат выражения быть 0....
вопрос задан: 4 October 2008 00:37
1
ответ
Проблемы с плавающей запятой при использовании loc
Это может быть легко для пользователей Pandas, которые привыкли использовать числа, но, если честно, я буду признателен за ваши советы. Я не могу получить значение, которое я сохранил в кадре данных, когда ...
вопрос задан: 1 March 2019 14:28
1
ответ
Как вы правильно & ldquo; оснастка & rdquo; к стоимости?
Допустим, я установил шаг 0,1 в моем приложении. Итак, какое бы значение fp я ни получал, мне просто нужна 1 цифра после запятой. Таким образом, 47,93434 должно быть 47,9 (или, по крайней мере, ближайшее представимое значение fp). Если я ...
вопрос задан: 18 January 2019 14:57
1
ответ
Каково стандартное решение в JavaScript для обработки больших чисел (Сверхбольшое число)? [закрытый]
Существует ли библиотека сверхбольшого числа для JavaScript или встроена, который я могу включать как <тип сценария = "текст/JavaScript" src = "the_bignum_library.js"> </сценарий>? Я думаю, что мои пользователи предпочли бы
вопрос задан: 6 October 2017 11:43
1
ответ
Как к Java String.format с переменной точностью?
Я хотел бы варьироваться точность двойного представления в строке, которую я форматирую на основе ввода данных пользователем. Прямо сейчас я пробую что-то как: Строковое нечто = String.format (" %.*f\n", точность...
вопрос задан: 26 September 2017 16:09
1
ответ
Точность с плавающей точкой может быть зависимой от потока?
У меня есть маленький 3D векторный класс в C# 3.0 на основе структуры, которая использует дважды в качестве основной единицы. Пример: y-значение Одного вектора является-20.0 подряд, я вычитаю вектор с y-значением 10....
вопрос задан: 17 May 2010 09:28
0
ответов
Обрезка чисел с плавающей запятой с помощью PHP
Когда число с плавающей запятой нужно усечь до определенной цифры после числа с плавающей запятой, оказывается, что это не просто сделать. Например, если нужно выполнить усечение до второй цифры после ...
вопрос задан: 9 July 2019 16:48
0
ответов
отрицательный ноль в python
Я обнаружил отрицательный ноль в выводе из python; он создается, например, следующим образом: k = 0,0
print (-k) Вывод будет -0.0. Однако, когда я сравниваю -k с 0.0 на равенство, получается True ....
вопрос задан: 18 April 2019 03:29
0
ответов
Сравните десятичные значения с оценкой
Мой вопрос очень прост. Следующий код должен возвращать true для всех вопросов. Но вопрос 4 и выше возвращает false, мой вопрос почему? 1. < cfif #Evaluate ("2 - 1.52") # eq "0.48" ...
вопрос задан: 24 March 2019 17:41
0
ответов
Проверка рациональности числа в Python, для заданной точности fp
Я хотел бы узнать хороший способ проверки рациональности числа x (два целых числа n,m существуют так, что x=n/m) в python. В системе Mathematica для этого используется функция Rationalize[6.75] : 27/4 I ...
вопрос задан: 9 December 2018 23:22
0
ответов
Dlaczego 0,1 + 0,2 == 0,3 w D?
assert (0,1 + 0,2! = 0,3); // powinno być prawdziwe to moje ulubione sprawdzenie, czy język używa natywnej arytmetyki zmiennoprzecinkowej. C ++ #include int main ()
{printf ("% d \ n", (0,1 + 0,2! = 0,3)) ...
вопрос задан: 20 August 2018 17:53
0
ответов
Почему эти числа не равны?
Следующий код явно неверен. В чем проблема? я <- 0,1
я <- я + 0,05
я
## [1] 0,15
if (i == 0,15) cat («i равно 0,15») else cat («i не равно 0,15»)
## i не равно 0,15
вопрос задан: 30 May 2018 09:56
0
ответов
определить двойную константу как шестнадцатеричную?
Я хотел бы, чтобы ближайшее число меньше 1.0 было с плавающей запятой. Прочитав статью в Википедии о IEEE-754, я обнаружил, что двоичное представление 1.0 - 3FF0000000000000, ...
вопрос задан: 9 May 2018 17:19
0
ответов
Почему мне нужно 17 значащих цифр (а не 16) для представления числа типа double?
Кто-нибудь может дать мне пример числа с плавающей запятой (двойная точность), что для его представления требуется более 16 значащих десятичных цифр? В этой беседе я обнаружил, что иногда вам нужно ...
вопрос задан: 23 May 2017 12:16
0
ответов
Расчет Fast Exp: можно ли повысить точность без потери производительности?
Я пробую быструю функцию Exp(x), которая ранее была описана в этом ответе на вопрос SO о повышении скорости вычислений в C#: public static double Exp(double x)
{ var tmp = (long)(...
вопрос задан: 23 May 2017 12:10
0
ответов
В C и Objective -C, как правильно усекать число с плавающей запятой или удваивать его до целого числа?
Раньше я работал в основном с целыми числами, и в ситуациях, когда мне нужно усечь число с плавающей запятой или удвоить его до целого числа, я бы использовал следующее перед:(int )someValue кроме тех пор, пока я не узнал...
вопрос задан: 23 May 2017 12:09
0
ответов
Какая польза от принятия неточности с плавающей запятой в C #
Я думал об этой проблеме последний раз несколько дней, и я изо всех сил пытаюсь сформулировать свой вопрос. Однако я думаю, что понял то, что хочу знать. Почему C # принимает неточность при использовании плавающих ...
вопрос задан: 23 May 2017 11:58