0
ответов
Почему 4,1% 2 возвращает 0,0999999999999996 с использованием Ruby? Но 4,2% 2 == 0,2
Почему 4,1% 2 возвращает 0,0999999999999996? Но 4,2% 2 == 0,2.
вопрос задан: 9 January 2012 12:53
0
ответов
Ошибка добавления в ruby-1.9.2 [дубликат]
Когда я добавляю 0,1 + 0,2, я получаю 0,30000000000000004, но когда я добавляю то же число в ruby 1.8.7, я получаю правильный ответ 0,3. Я получаю 0. 3 округлением, но я просто хочу получить 0,3 на ruby 1.9.2 к ...
вопрос задан: 15 June 2011 23:04
0
ответов
Вызов @Html. Частично для отображения частичного представления, принадлежащего другому контроллеру [дубликат]
Я разрабатываю приложение ASP.NET MVC 3, страницы содержимого которого имеют общий шаблон элементов макета. Однако, поскольку страница входа в систему не соответствует этому макету, я не могу разместить этот макет в \ ...
вопрос задан: 19 May 2011 14:41
0
ответов
Как получить кодировку CMD / консоли в C #
Мне нужно указать правильную кодовую страницу для упаковки файлов с помощью библиотеки zip. Как я вижу, мне нужно указать кодировку консоли (в моем случае 866). C: \ Users \ User> Состояние режима для устройства CON: -------------...
вопрос задан: 6 May 2011 11:15
0
ответов
Would float point format be affected by big-endian and little endian?
I know the integer format would be different between big-endian machine and little-endian machine, is it the same for float point format (IEEE 754)?
вопрос задан: 9 March 2011 07:23
0
ответов
Floating point comparison irreproducibility
I and my Ph.D. student have encountered a problem in a physics data analysis context that I could use some insight on. We have code that analyzes data from one of the LHC experiments that gives ...
вопрос задан: 15 February 2011 19:35
0
ответов
Как я могу «обрезать» двойное значение C #, которое будет сохранено как в базе данных sqlite?
Я заметил, что когда я сохраняю двойное значение, например, x = 0,56657011973046234, в базе данных sqlite, а затем получаю его позже, я получаю y = 0,56657011973046201 . Согласно спецификации sqlite и ....
вопрос задан: 17 November 2010 01:34
0
ответов
присваивание с плавающей запятой на двойное
Рассмотрим следующий фрагмент кода float num = 281.583f;
int amount = (int) Math.round (число * 100f);
округленное значение с плавающей запятой = количество / 100.0f;
двойной dblPrecision = округлено;
двойной dblPrecision2 = число;
System.out ....
вопрос задан: 11 November 2010 12:36
0
ответов
Точность C ++ и Python
Попытка найти первые k цифр числа ^ num Я написал ту же программу на C ++ и Python C ++ long double intpart, num, f_digit, k;
cin >> num >> k;
f_digit = pow (10.0, modf (num * ...
вопрос задан: 2 October 2010 17:15
0
ответов
Фортран имеет свойственные ограничения на числовую точность по сравнению с другими языками?
При работе над простым осуществлением программирования я произвел некоторое время цикл (цикл типа DO в Фортране), который был предназначен для выхода, когда реальная переменная достигла точного значения. Я заметил что из-за...
вопрос задан: 14 August 2010 00:26