2
ответа
Как эффективно сравнить знак двух значений с плавающей точкой при обработке отрицательных нулей
Учитывая два числа с плавающей запятой, я ищу эффективный способ проверить, есть ли у них тот же знак, учитывая, что, если любое из двух значений является нулем (+0.0 или-0.0), они, как должны полагать, имеют...
вопрос задан: 4 May 2012 23:22
2
ответа
Can a Fibonacci function be written to execute in O(1) time?
So, we see a lot of fibonacci questions. I, personally, hate them. A lot. More than a lot. I thought it'd be neat if maybe we could make it impossible for anyone to ever use it as an interview ...
вопрос задан: 26 July 2011 11:20
2
ответа
C# - Существует ли 32-разрядная математическая библиотека плавающая?
Я - планирование выполнения моего следующего проекта в c#, а не C++ (использующий SlimDX). Все directX используют плавания, однако Система. Математическое использование удваивается. Это постоянно означает преобразовывать между плаваниями и удваивается...
вопрос задан: 20 July 2011 14:47
2
ответа
Haskell: Сила плавает, чтобы иметь два десятичных числа
Используя следующий фрагмент кода: (fromIntegral 100)/10.00 Используя Haskell '98 стандартных вводных частей, как я представляю результат с двумя десятичными числами?Спасибо.
вопрос задан: 16 September 2010 17:05
2
ответа
Perl вопрос об операторе по модулю
Почему первый пример печатает неправильный результат? жемчуг - le 'печатает $x = 100*1.15% 5' 4 жемчуга - le '$x печати = 1000*1.15% 5' 0
вопрос задан: 16 September 2010 14:07
2
ответа
Имеет ли JavaScript двойную точность чисел с плавающей запятой?
Я знаю, что это странный вопрос, но обладает ли JavaScript способностью работать с двойными, а не с одиночными числами? (64-разрядные числа с плавающей запятой против 32-разрядных.)
вопрос задан: 8 September 2010 15:51
2
ответа
Получить минимальное ОТРИЦАТЕЛЬНОЕ значение с плавающей запятой в C ++
я смотрел на std :: numeric_limits :: min / max (), но кажется, что min () возвращает наименьшее абсолютное значение, а не наименьшее значение. Безопасно ли использовать -std :: numeric_limits :: max (...
вопрос задан: 5 September 2010 11:20
2
ответа
Десятичная точность плаваний
эквивалентный log10 (2^24) ≈ 7,225 десятичных цифр Точность Википедии: 7 станд. MSDN 6 цифр:: numeric_limits <плавание>:: digits10, Почему numeric_limits возвращаются 6 сюда? И Википедия и MSDN...
вопрос задан: 22 July 2010 15:27
2
ответа
Отобразите плавание на 32 бита на целое число на 32 бита
Существует ли способ отобразить плавания на ints или неподписанный ints так, чтобы за исключением NaN, порядок был сохранен? Таким образом, если a и b являются плаваниями, и F является отображающейся функцией, <b подразумевает F (a) <F (b)...
вопрос задан: 5 May 2010 19:13
2
ответа
Как делает Double.isNaN () работа?
Солнце jdk реализация похоже на это: возвратите v! = v; кто-либо может объяснить, как это работает?
вопрос задан: 20 April 2010 21:59
2
ответа
Как включить предпочтение в моем приложении андроида, когда другое предпочтение отключено?
Я использовал PreferenceActivity, чтобы иметь предпочтение в моем приложении андроида. Я хочу одно предпочтение, говорят "приставку 2", чтобы быть включенным, когда другое предпочтение говорит, что "приставка 1" НЕ проверяется и "
вопрос задан: 20 April 2010 06:08
2
ответа
Найдите макс. целочисленный размер, который тип с плавающей точкой может обработать без потери точности
Дважды имеет диапазон больше, чем 64-разрядное целое число, но его точность является меньшим количеством взносов к его представлению (так как дважды является 64-разрядным также, он не может соответствовать более фактическим значениям). Так, при представле
вопрос задан: 6 April 2010 00:59
2
ответа
Почему отличается точность с плавающей точкой по C# при разделении круглыми скобками и при разделении операторами?
Я знаю, как точность с плавающей точкой работает в регулярных случаях, но я наткнулся на нечетную ситуацию в своем коде C#. Почему result1 и result2 не являются тем же самым значением с плавающей точкой здесь?...
вопрос задан: 22 March 2010 09:58
2
ответа
“Округлите в большую сторону половину” на значениях с плавающей точкой
Мы застреваем с базой данных, которая (к сожалению), использует плавания вместо десятичных значений. Это делает округление немного трудного. Рассмотрите следующий пример (SQL Server T-SQL): ВЫБЕРИТЕ ВОКРУГ (6.925e0...
вопрос задан: 10 March 2010 18:37
2
ответа
jQuery и идентификаторы длинного целого
Я имею сталкивающийся со следующей проблемой: В нашей базе данных у нас есть объекты с идентификаторами, как 4040956363970588323. Я пишу некоторый клиентский мастер на jQuery для взаимодействия с такими объектами. Клиент получает основу...
вопрос задан: 28 February 2010 10:39
2
ответа
Полноценность передачи сигналов о NaN?
Я недавно читал вполне немного на IEEE 754 и x87 архитектуре. Я думал об использовании NaN как "отсутствующее значение" в некотором числовом коде вычисления, я продолжаю работать, и я надеялся то использование...
вопрос задан: 15 February 2010 04:52
2
ответа
С IEEE 754, 0 <ABS (константа) <1, (x / константа) *, константа гарантировала, что возвратила отличные результаты для отличных значений X?
Предположите, что я делаю эту операцию: (X / константа) * константа с аргументами двойной точности, как определено IEEE 754-2008, разделение сначала, затем умножение. константа находится в диапазоне 0 <ABS (константа) <1...
вопрос задан: 10 February 2010 21:38
2
ответа
поведение сброса к нулю в арифметике с плавающей точкой
В то время как, насколько я помню, IEEE 754 ничего не говорит о режиме сброса к нулю для обработки денормализованных чисел быстрее, некоторая архитектура предлагает этот режим (например, http://docs.sun.com/source/806-3568/...
вопрос задан: 18 January 2010 03:20
2
ответа
Установите точность отображения плавания в Ruby
Действительно ли возможно установить точность отображения плавания в Ruby? Что-то как: z = 1/3 z.to_s # => 0,33333333333333 z.to_s (3) # => 0,333 z.to_s (5), который # => 0.33333 Или я должен переопределить...
вопрос задан: 19 December 2009 20:00
2
ответа
Минимум/максимум Haskell, Дважды Постоянный
Есть ли какой-либо способ в Haskell получить константу, которая является самым большим и самым маленьким положительным рациональным числом, больше, чем нуль, который может быть представлен, удваивается?
вопрос задан: 23 November 2009 01:30
2
ответа
Почему делает sprintf Perl не круглые числа с плавающей точкой правильно?
Я отсутствовал, ища округляющуюся конвенцию, используемую встроенной функцией Perl sprintf. Я думал, что это делает нормальное округление (например, ROUND_HALF_UP как в округлении Java конвенции режима), но...
вопрос задан: 1 November 2009 11:58
2
ответа
Как я могу объявить переменную класса как плавающую точку у Американского лося?
Как я могу объявить переменную класса как плавающую точку у Американского лося? Мой (вымышленный) образец ниже ошибок продуктов для "Реального", "Число" и т.д. "Ул." работает, но побеждает цель.. Поиск/Google не делает...
вопрос задан: 17 September 2009 14:02
2
ответа
Как вычислить произвольное питание/корень?
У меня есть приложение, которое должно увеличить число к дробному питанию. Целевой платформой является FPGA, и я могу получить оценки на размере FPU для нее, но мне нужен алгоритм для того, чтобы увеличить число к...
вопрос задан: 9 September 2009 17:04
2
ответа
Trunc () функция
посмотрите следовать код, почему результат функции Trunc отличается? процедура TForm1. Button1Click (Отправитель: TObject); var D: Дважды; E: Расширенный; я: Int64; начните D: = Frac (101 / 100) * 100;...
вопрос задан: 9 September 2009 08:58
2
ответа
Сохраните значения плавающие в SQL Server
Я имею простое веб-приложение и хочу сохранить некоторые числа Плавания или Двойного формата в SQL-сервере. но существует проблема, когда я пытаюсь сохранить 123.66, В Таблице я вижу 123,6600003662109 сохраненных. Как без обозначения даты...
вопрос задан: 9 September 2009 05:06
2
ответа
SQL Server: Вычисление с числовыми литералами
Я сделал некоторое тестирование с вычислениями с плавающей точкой для уменьшения потери точности. Я споткнулся через явление, которое я хочу показать здесь и надо надеяться получить объяснение. Когда я пишу печать 1.0 / (1.0/...
вопрос задан: 2 July 2009 07:45
2
ответа
Как преобразовать шестнадцатеричную строку для плавания в Java?
Как преобразовать шестнадцатеричную строку в плавающую точку одинарной точности в Java? Например, как реализовать: пустите в ход f = HexStringToFloat ("BF800000");//f должен теперь содержать-1.0, я спрашиваю это потому что...
вопрос задан: 2 July 2009 00:23
2
ответа
Используя плавающую точку программного обеспечения на x86 linux
Действительно ли (легко) возможно использовать плавающую точку программного обеспечения на i386 linux, не подвергаясь расходу захвата в ядро на каждом вызове? Я попробовал - msoft-плавание, но это кажется нормальным (человечность) C...
вопрос задан: 19 June 2009 15:36
2
ответа
Преобразование массива строк к массиву плаваний
Я пишу приложение, которое вращается вокруг получения наборов числовых данных из файла. Однако, так как данные получены в строковой форме, я должен преобразовать его в плавания, который является, где забава запускается...
вопрос задан: 29 May 2009 17:40
2
ответа
Только покажите десятичную точку, если компонент с плавающей точкой не является.00 sprintf/printf
Я довольно форматирую число с плавающей точкой, но хочу, чтобы оно появилось как целое число, если нет никакого соответствующего числа с плавающей точкой. Т.е. 1.20-> 1.2x 1.78-> 1.78x 0.80-> 0.8x 2.00-> 2x я могу...
вопрос задан: 8 May 2009 03:08