0
ответов
Как мне исправить этот код Perl, чтобы 1.1 + 2.2 == 3.3?
Как исправить этот код, чтобы 1.1 + 2.2 == 3.3? Что на самом деле здесь происходит, что вызывает такое поведение? Я смутно знаком с проблемами округления и математикой с плавающей запятой, но я подумал, что ...
вопрос задан: 14 October 2010 18:40
0
ответов
Сравнение с плавающей точкой 0
Если foo имеет тип с плавающей запятой, является ли следующее выражение допустимым / рекомендуемым? (0.0f == foo * float (0)) Будет ли оно иметь ожидаемое (математическое) значение независимо от значения foo? Стандарт C ++ ...
вопрос задан: 12 October 2010 13:22
0
ответов
Справочник по арифметике с плавающей запятой на синтаксическом ассемблере AT&T
На прошлой неделе я пытался найти достойный ресурс по арифметике с плавающей запятой для сборки x86 с использованием синтаксиса AT&T. В идеале, список кодов операций, что они делают и где находятся числа с плавающей запятой ...
вопрос задан: 10 October 2010 22:41
0
ответов
Python : a может быть округлено до b в общем случае
Как часть кода модульного тестирования, который я пишу, я написал следующую функцию. Его цель - определить, можно ли округлить «a» до «b», независимо от того, насколько точны «a» или «b». ...
вопрос задан: 3 October 2010 06:41
0
ответов
Точность C ++ и Python
Попытка найти первые k цифр числа ^ num Я написал ту же программу на C ++ и Python C ++ long double intpart, num, f_digit, k;
cin >> num >> k;
f_digit = pow (10.0, modf (num * ...
вопрос задан: 2 October 2010 17:15
0
ответов
непостоянство и двойная путаница
int x = 2;
изменчивый int y = 2; const int z = x / y; int main () {int x = 2 + 3; двойной d = 7/3;
} У меня есть три вопроса: Во-первых, может ли компилятор вычислить значение 'z' в ...
вопрос задан: 2 October 2010 13:16
0
ответов
Получение отрицательного NaN на g ++ 4.4.3, это стандарт?
У меня есть g ++ 4.4.3 в Linux с Ubuntu Lucid Lynx, и я получаю: -nan в качестве результат. На Hardy Heron с g ++ 4.3.1, Я получаю все nan Это приводит к сбою моей регрессии различий текста, так как ...
вопрос задан: 22 September 2010 19:47
0
ответов
Максимально и минимально возможный результат этого выражения javascript?
Какое наибольшее число может оценивать это выражение javascript? Какое наименьшее число? Зачем? + ('' + Math.random ()). Substring (2) Дополнительный кредит: сколько различных значений может принимать выражение ...
вопрос задан: 22 September 2010 18:30
0
ответов
Кодирование и декодирование IEEE 754 с плавающей запятой в JavaScript
Мне нужно кодировать и декодировать IEEE 754 с плавающей точкой и с двойной точностью из двоичного файла в node.js для анализа сетевого протокола. Существуют ли какие-либо существующие библиотеки, которые делают это, или мне нужно прочитать спецификацию
вопрос задан: 18 September 2010 08:10
0
ответов
Разница между приблизительно равными и по существу равными в искусстве компьютерного программирования
Я получил этот фрагмент кода где-то еще. По словам веб-мастера, код взят из книги Кнута «Искусство компьютерного программирования». Поскольку у меня нет экземпляра этой книги, могу ли я узнать, что это…
вопрос задан: 16 September 2010 17:17
0
ответов
Эффективное минимизирование эффекта ошибок округления, вызванных повторяющимися операциями
Я недавно наткнулся на алгоритм суммирования Кахана (или компенсированный) для минимизируя округление, и я хотел бы знать, есть ли эквивалентные алгоритмы для деления и / или умножения ...
вопрос задан: 14 September 2010 15:26
0
ответов
В чем разница между -0 и 0?
В C ++, например, fmod (-2,2) возвращает -0. Выражение -0 == 0 верно, но биты разные. Какова цель иметь что-то вроде -0, которое должно быть 0, но представлено иначе? ...
вопрос задан: 14 September 2010 09:14
0
ответов
Проблемы с проверкой равенства два удваиваются в.NET — что случилось с этим методом?
Таким образом, я просто собираюсь погрузиться в эту проблему... У меня есть в большой степени используемое веб-приложение, которое, впервые за 2 года, отказавшее выполнение равенства проверяет два, удваивает использование функции равенства...
вопрос задан: 5 August 2010 18:03
0
ответов
Как отобразить rationals как длинные списки цифр в Lisp?
Я только начинаю изучать Lisp и задавался вопросом, как отобразить рациональное как десятичное число с большим количеством цифр. Если я использую (пустите в ход x), где x является рациональным затем, он отображает приблизительно 8 цифр или около этого...
вопрос задан: 23 July 2010 15:06
0
ответов
MSVC win32: преобразуйте плавание расширенной точности (80-разрядное) для удвоения (64-разрядный)
Каков самый портативный и "правильный" способ сделать преобразование из плавания расширенной точности (80-разрядное значение, также известное как "долго дважды" в некоторых компиляторах) для удвоения (64-разрядный) в MSVC win32/win64?
вопрос задан: 3 June 2010 12:40