Я хочу использовать lua (который внутренне использует, только удваивается) представить целое число, которое не может иметь погрешностей округления между 0 и 2^64-1, или ужасные вещи произойдут. Действительно ли возможно сделать так?
Я кодирую несколько ссылочных алгоритмов и в Java и в C/C++. Некоторые из этих алгоритмов используют π. Я хотел бы за две реализации каждого алгоритма привести к идентичным результатам, без...
У меня есть переменная с плавающей точкой, и я хотел бы получить только часть после запятой, поэтому, если у меня есть 3.14. Я хотел бы получить 14 как целое число. Как я могу это сделать?
Я задавался вопросом, существует ли способ преодолеть проблему точности, которая, кажется, результат внутреннего представления моей машины чисел с плавающей запятой: Ради ясности проблема...
Таким образом, я получил ответ на свой последний вопрос (я не знаю, почему я не думал об этом). Я печатал двойной суд использования, который был округлен, когда я не ожидал это. Как я могу заставить суд распечатать...
Как я генерирую случайные плавания в C++? Я думал, что мог взять целочисленный рэнд и разделить его на что-то, которое будет соответствовать достаточно?
Я пишу приложение, которое читает большие массивы плаваний и выполняет некоторые простые операции с ними. Я использую плавания, потому что я думал, что это будет быстрее, чем удваивается, но после выполнения некоторых...
Я делаю некоторые вычисления тригонометрии в C/C++ и сталкиваюсь с проблемами с погрешностями округления. Например, в моей системе Linux: #include <stdio.h> #include <math.h> международное основное (интервал...
Каков наилучший способ проверить, может ли строка представляться как число в Python? У меня сейчас есть функция: def is_number (s): try: float (s) return ...
Выполнение быстрого эксперимента, связанного с, Удваивает Умножение, Прерванное.NET? и читая несколько статей о строковом форматировании C#, я думал что это: {удваивают меня = 10 * 0.69; Консоль....
Так, мы знаем, что части такой как 0,1, не может быть точно представлен в двоичном основании, которые вызывают точные проблемы (такой, как упомянуто здесь: Форматирование удваивается для вывода в C#). И мы знаем нас...
Возможный Дубликат: c# - Как делают меня вокруг десятичного значения к 2 десятичным разрядам (для вывода на странице) я хочу усечь десятичные числа как ниже т.е. 2.22939393-> 2.229 2.22977777-> 2.229
Мне нужна простая функция округления плавающей точки, таким образом: удвойтесь вокруг (удваиваются); раунд (0.1) = 0 раундов (-0.1) = 0 раундов (-0.9) =-1 я могу найти, перекрывают () и пол () в math.h - но не вокруг (). Это...
Есть ли способ перейти от 0 до 1 на 0,1? Я думал, что смогу сделать это следующим образом, но это не удалось: для i в диапазоне (0, 1, 0,1): print i Вместо этого он говорит, что аргумент шага не может быть ...
Я знаю немного о том, как числа с плавающей запятой представлены, но недостаточно, я боюсь. Общий вопрос: Для данной точности (в моих целях, количестве точного десятичного числа...
Я хочу удалить цифры из плавания, чтобы иметь постоянное число цифр после точки, как: 1.923328437452-> 1.923 я должен произвести как строка к другой функции, не распечатать. Также я хочу...
В Java арифметика с плавающей точкой не представлена точно. Например, этот код Java: плавайте = 1.2; пустите в ход b = 3.0; пустите в ход c = * b; если (c == 3.6) {System.out.println ("c 3.6");}...
У меня есть экзаменационный вопрос, для которого я пересматриваю, и вопрос для 4 баллов. Msgstr "В java мы можем присвоить int двойному или плавающему". Будет ли это когда-либо терять информацию и почему? Я положил это, потому что ...
Я могу назвать три преимущества для использования дважды (или плавание) вместо десятичного числа: Использование меньше памяти. Быстрее, потому что операции математических операций с плавающей точкой исходно поддерживаются процессорами. Может представить б
То, как делают я автоматически установил динамично выделенный массив плаваний к нулю (0.0) во время выделения, Является этим плаванием OK* delay_line = новое плавание [filter_len];//ЭТОТ memset (delay_line, 0.0, filter_len);//...
Я хотел бы знать, могу ли я предположить, что те же самые операции на тех же 64-разрядных числах с плавающей точкой дают точно те же результаты на каком-либо современном ПК и на наиболее распространенных языках программирования? (C++...
У меня был маленький момент WTF этим утром. Тыс WTF может быть получена в итоге с этим: пустите в ход x = 0.2f; пустите в ход y = 0.1f; пустите в ход z = x + y; утверждайте (z == x + y);//Это утверждает, инициирован! (По крайней мере с визуальным...
Несколько лет назад я научился на горьком опыте о проблемах точности с плаваниями, таким образом, я вышел из использования их. Однако я все еще сталкиваюсь с кодом с помощью плаваний, и он заставляет меня съежиться, потому что я знаю некоторые вычисления.
Я не могу найти это в документах Apple так: что делает "f" после того, как числа здесь укажут? Это от C или Objective C? Есть ли какое-либо различие в не добавлении этого к постоянному числу? CGRect...
Какова некоторая хорошая DOS и не делает - s для арифметики с плавающей точкой (IEEE754 в случае, если существует беспорядок) гарантировать хорошую числовую устойчивость и высокую точность в Ваших результатах? Я знаю, что некоторым нравится, не делают...
Я знаю, что мы не можем сравнить 2 использования значений с плавающей точкой ==. Мы можем только выдержать сравнение, они в некотором интервале друг друга. Я знаю, происходит ли (val == 0.512) неправильно из-за ошибок, свойственных от плавающей точки...
Есть ли способ генерировать число, которое включено как для min & amp; max для диапазона двух поплавков в JavaScript? Просмотр MDN (https: //developer.mozilla.org/en-US/docs/Web/JavaScript/Reference / ...
Как я могу проверить, является ли двойной x равномерно делимым другим, удваивают y в C? С целыми числами я просто использовал бы по модулю, но каков будет корректный / лучший способ сделать это с, удваивается? Я знаю плавающую точку...