0
ответов
c ++ сравнение двух значений с плавающей запятой
Мне интересно, в чем разница между двумя способами сравнения двух чисел типа double: double a1 = ...;
двойной a2 = ....; fabs (a1-a2) <эпсилон
(fabs (a1-a2) / a2)
вопрос задан: 21 February 2011 09:46
0
ответов
Как преобразовать строку в double, используя только math.h
Я пытаюсь преобразовать строку в double, но, поскольку я работаю над собственным приложением Windows (например, при связывании только с ntdll.dll), у меня нет большей части стандартная библиотека доступна. Я могу использовать ...
вопрос задан: 17 February 2011 11:55
0
ответов
Как получить десятичную часть числа с плавающей запятой?
Мне нужно извлечь десятичную часть числа с плавающей запятой, но я получаю странные результаты: float n = 22.65f;
// Я хочу x = 0.65f, но ... x = n% 1; // x = 0,6499996 x = n - Math.floor (n); // x = 0 ....
вопрос задан: 16 February 2011 13:34
0
ответов
Eclipse не может найти класс Twitter в twitter4j
Я использую jar-файл twitter4j 2.1.11, но Eclipse, похоже, не может найти в нем классы. Я добавил jar в качестве библиотеки, на которую указывает ссылка, но получить Twitter не удается преобразовать в тип при попытке ...
вопрос задан: 9 February 2011 18:49
0
ответов
Чтение VARBINARY (MAX) из SQL Server в C #
Мне нужно прочитать строку данных из SQL Server 2008. Тип одного из столбцов - VARBINARY (MAX). В C # я хочу использовать параметр out для его чтения (и данный сценарий в основном удовлетворяет потребности). Но я ...
вопрос задан: 9 February 2011 17:26
0
ответов
Задача Double равно 0 в C
Я реализовал алгоритм для вычисления натуральных логарифмов в C. double taylor_ln (int z) {double sum = 0,0; двойной tmp = 1.0; int я = 1; while (tmp! = 0.0) {tmp = (1.0 / i) * ...
вопрос задан: 31 January 2011 17:59
0
ответов
Есть ли способ обрезать числа в научной нотации в Javascript?
Как вы все знаете, поскольку это одна из наиболее часто задаваемых тем на SO, у меня возникают проблемы с ошибками округления (это нет собственно ошибки, я это прекрасно понимаю).
Вместо того, чтобы объяснять мою точку зрения, я дам ...
вопрос задан: 28 January 2011 17:09
0
ответов
Поддержание точности с плавающей точкой с помощью скользящего среднего
Мне нужно вычислить среднеквадратичную ошибку 16-битной операции для произвольного количества точек данных (более 100 миллионов). Я решил использовать скользящее среднее, чтобы не волноваться ...
вопрос задан: 27 January 2011 19:07
0
ответов
Оценить, если два двойных равны на основе заданной точности, а не в пределах определенного фиксированного допуска
Я запускаю тесты NUnit для оценки некоторых известных тестовых данных и вычисленных результатов. Числа - это двойные числа с плавающей запятой, поэтому я не ожидаю, что они будут точно равны, но я не уверен, как с ними обращаться ...
вопрос задан: 24 January 2011 21:02
0
ответов
Как я могу проверить отрицательный ноль?
Сначала я подумал, что Math.Sign будет правильным решением, но после запуска теста оказалось, что он одинаково обрабатывает -0,0 и +0,0.
вопрос задан: 19 January 2011 19:36
0
ответов
Как получить двоичное представление числа с плавающей запятой в PHP?
Есть ли способ получить двоичное представление числа с плавающей запятой в PHP? Что-то вроде Java Double.doubleToRawLongBits (). Учитывая положительное число с плавающей запятой, я хотел бы получить ...
вопрос задан: 19 January 2011 14:17
0
ответов
Почему есть неявное преобразование из Float/Double в BigDecimal, но не из String?
Хотя ситуация с преобразованием из Doubles в BigDecimals немного улучшилась по сравнению с Java scala> new java.math.BigDecimal(0.2)
res0: java.math.BigDecimal = 0....
вопрос задан: 16 January 2011 18:51
0
ответов
Понимание проблем с плавающей запятой
Не могли бы кто-нибудь помочь мне понять, как определить, когда ограничения с плавающей запятой вызовут ошибки в ваших вычислениях. Например, следующий код. CalculateTotalTax = function (...
вопрос задан: 12 January 2011 01:49
0
ответов
Форматирование чисел с плавающей запятой Python - как «g», но с большим количеством цифр
Я использую «g» для форматирования значений с плавающей запятой, но он слишком рано переключается на научное форматирование для me - на 5-й цифре: >>> format (0.0001, "g")
'0,0001'
>>> format (0.00001, "g") ...
вопрос задан: 7 January 2011 14:16
0
ответов
Как вычислить точность с плавающей запятой и с плавающей запятой
Я пытался найти, как вычислить точность с плавающей запятой / двойную точность / диапазон номера -3.402823e38 .. 3. 402823e38 и -1.79769313486232e308 .. 1.79769313486232e308. Для int32 вы бы сделали 2 ^ 32 = ...
вопрос задан: 6 January 2011 02:23
0
ответов
Краткий способ реализации round () в C?
Встроенный C, который я использую, не имеет функции round (), это math lib, как бы в сжатой форме реализовать это на C? Я думал о том, чтобы распечатать его в строке, ища десятичный разряд, ...
вопрос задан: 1 January 2011 00:49
0
ответов
Как получить биты «double» как «длинные»
Я хотел бы манипулировать поразрядным представлением чисел с плавающей запятой в C #. BinaryWriter и BinaryReader делают это следующим образом: общедоступная виртуальная небезопасная запись void (двойное значение)
{ulong num = * (...
вопрос задан: 17 December 2010 23:19
0
ответов
Плавающая точка в Python
Я учусь с помощью Learn Python The Hard Way, и я наткнулся: заметили, что математика кажется «неправильной»? Дробей нет, только целые числа. Узнайте, почему, исследуя, что такое «плавающая точка» ...
вопрос задан: 13 December 2010 19:08
0
ответов
Чтение / запись байтов с плавающей запятой в JS
Есть ли способ прочитать байты с плавающей запятой в JS? Мне нужно записать необработанное значение FLOAT или DOUBLE в некоторый двоичный формат, который мне нужно создать, поэтому есть ли способ получить побайтовое значение IEEE 754 ...
вопрос задан: 10 December 2010 23:03
0
ответов
Плавающая точка с двумя цифрами после точки
Я отформатирую число с плавающей точкой в android с двумя цифрами после точки.
Я ищу пример, но не нахожу его. Может кто-нибудь мне помочь.
вопрос задан: 8 December 2010 19:28
0
ответов
Как работать с большими числами в javascript [дубликат]
Я ищу математическое решение, которое имеет дело с действительно (длинными, большими, огромными, штормами) числами. Я еще ничего не нашел, но не знаю Я хочу думать, что эта проблема еще не решена. ...
вопрос задан: 26 November 2010 22:03
0
ответов
Когда нам нужно использовать float.PositiveInfinity и float.NegativeInfinity?
Когда нам нужно использовать значения Infinity, пожалуйста, добавьте реальный образец, если он доступен.
вопрос задан: 23 November 2010 23:32
0
ответов
Целое число PHP проблемы округления
echo (int) ((0.1 + 0.7) * 10); Почему выше выводится 7? Я понимаю, как PHP округляется до 0, но не (0,1 + 0,7) * 10 оценивается как число с плавающей запятой, а затем передается как целое число? Спасибо!
вопрос задан: 21 November 2010 02:40
0
ответов
Знак числа с плавающей запятой
Есть ли простой способ определить знак число с плавающей запятой? Я экспериментировал и придумал следующее: #include int main (int argc, char ** argv)
{union {float f; char ...
вопрос задан: 20 November 2010 22:03
0
ответов
pyPdf не сможет извлечь текст с некоторых страниц в моем PDF-файле
I Я пытаюсь использовать pyPdf для извлечения и печати страниц из многостраничного PDF-файла. Проблема в том, что текст не извлекается с некоторых страниц. Я поместил здесь пример файла: http://www.4shared.com/document/kmJF67E4/...
вопрос задан: 17 November 2010 11:20
0
ответов
Как проверить наличие inf (и | или) NaN в переменной типа double
Рассмотрим следующий код: #include
#include
#include с использованием пространства имен std; шаблон <класс T>
bool IsNaN (T t)
{вернуть t! = t;
} int main (...
вопрос задан: 4 November 2010 09:35
0
ответов
Эмуляция чисел с плавающей запятой одинарной точности в Javascript (float32)
Можно ли каким-то образом эмулировать числа с плавающей запятой одинарной точности в Javascript? Согласно блогу Дуга Крокфорда «Число - это 64-битная с плавающей запятой», но я должен использовать единственный для переноса алгоритма C ++ ...
вопрос задан: 2 November 2010 16:13
0
ответов
calculate midpoint
Why in the bisection method it is better to compute the midpoint c between a and b with c = a + (b - a) / 2. instead of the simpler: c = (a + b) / 2. all variables are floating points.
вопрос задан: 1 November 2010 17:31
0
ответов
ruby ошибки с плавающей запятой
Может кто-нибудь объяснить, почему умножение на 100 дает менее точный результат, а умножение на 10 дважды дает более точный результат? ±% сбн
Загрузка среды разработки (Rails 3.0.1)
>> ...
вопрос задан: 29 October 2010 20:26
0
ответов
Эмуляция умножения / сложения с плавающей запятой IBM в VBA
Я пытаюсь эмулировать (больше не существующий) генератор отчетов мэйнфрейма в среде Access 2003 или Access 2010. Генерируемые им данные должны точно совпадать с бумажными отчетами из ранних ...
вопрос задан: 22 October 2010 18:48