floating-point - список вопросов по программированию floating-point

1

ответ

ЦП плавающие операции стоится

Я интересен в стоимости времени на современном настольном ЦП некоторых операций с плавающей точкой для оптимизации математической оценки. В особенности мне интересно на сравнении между...

performance floating-point cpu

вопрос задан: 8 May 2014 14:06

1

ответ

Я должен вычислить некоторые переменные с плавающей запятой, и мой коллега предлагает мне использовать BigDecimal вместо double, поскольку это будет более точным. Но я хочу знать, что это такое и как добиться максимума ...

java floating-point double bigdecimal

вопрос задан: 6 January 2014 22:14

1

ответ

Хотя цикл, включающий числа с плавающей запятой [duplicate]

# Включают & Lt; stdio.h & GT; void main () {float x = 1.1; while (x == 1.1) {printf ("\n% f", x); х = х-0,1; }} Я узнал, что while цикл может также включать числа с плавающей запятой, но выше ...

c floating-point

вопрос задан: 24 September 2013 16:46

1

ответ

Максимальное значение плавающее в php

Есть ли способ программно получить максимальное значение плавающее для php. Сродни FLT_MAX или станд.:: numeric_limits <плавание>:: макс. () в C / C++? Я использую что-то как следующее: $...

php floating-point

вопрос задан: 24 December 2012 23:45

1

ответ

Блоки и стек

Я знаю, что блоки создаются в стеке. Однако, поскольку у меня недостаточно знаний о стеке и локальных переменных, я не могу понять, почему я должен перемещать блок в кучу, чтобы иметь ...

python string programming-languages floating-point

вопрос задан: 15 June 2012 13:03

1

ответ

Как преобразовать плавание в интервал с Java

Я использовал следующую строку для преобразования плавания в интервал, но это не столь точно, как я хотел бы: плавание a=8.61f; интервал b; b = (интервал) a; результат: 8 (Это должно быть 9), Когда =-7.65f, результат:-7 (...

java floating-point int

вопрос задан: 13 June 2012 16:14

1

ответ

Как преобразовать шестнадцатеричное плавание в плавание в C/C++ с помощью _mm_extract_ps SSE GCC instrinc функция

Я пишу код SSE к 2D свертке, но документация SSE очень редка. Я вычисляю скалярное произведение с _mm_dp_ps и использую _mm_extract_ps для получения результата скалярного произведения, но _mm_extract_ps...

c++ gcc floating-point hex sse

вопрос задан: 11 June 2012 12:34

1

ответ

소수점 2 자리로 부동 소수점 서식 지정

현재 고객 웹 사이트를위한 판매 모듈을 구축하고 있습니다. 지금까지 완벽하게 계산할 판매 가격을 얻었지만 문제가 발생한 부분은 출력을 소수점 이하 2 자리로 포맷하는 것입니다. 저는 ...

c# variables floating-point decimal

вопрос задан: 5 June 2012 05:02

1

ответ

Плавающее преобразование JSF

Я использую JSF 1.2 с IceFaces 1.8 в проекте здесь. У меня есть страница, которая является в основном большой сеткой редактирования для целого набора полей числа с плавающей запятой. Это реализовано с inputText полями на...

jsf exception floating-point converter

вопрос задан: 11 May 2012 15:02

1

ответ

В платформе.NET, почему там PointF (плавание) и никакой “PointD” (дважды)?

Кто-либо может объяснить, почему в платформе.NET существуют структуры PointF (использующий тип плавающий с одинарной точностью) и никакой "PointD" (использующий двойную точность двойной тип)? Они устанавливали это...

.net graphics floating-point double system.drawing

вопрос задан: 10 May 2012 18:50

1

ответ

Различия в C ++ / C # с плавающей и двойной

Мы конвертируем математику в C ++ библиотека для C #. Библиотека смешивает использование чисел с плавающей точкой и двойных чисел (иногда между ними), и мы пытаемся сделать то же самое, чтобы получить те же самые результаты в ...

c# c++ floating-point double

вопрос задан: 10 May 2012 12:37

1

ответ

что означает NaN для чисел двойной точности?

В чем разница между NaN и Infinity? Когда появляется NaN? Что это такое?

c# floating-point nan

вопрос задан: 9 May 2012 20:01

1

ответ

Стог сена в INSTALLED_APPS приводит к ошибке: невозможно импортировать имя openProc

Я довольно застрял сейчас. У меня есть проект Джанго, который работал замечательно, пока я не попытался добавить Стог Сена/Whoosh для поиска. У меня был такой же стек в других проектах, хорошо работающих. Всякий раз, когда я...

javascript math floating-point rounding

вопрос задан: 5 September 2011 20:33

1

ответ

Отдел на ноль не бросает SIGFPE

У меня есть небольшая программа, выполняя подразделение с плавающей точкой ноль, поэтому я ожидаю SIGFPE. #include #include #include #include # ...

c++ gcc floating-point sigfpe

вопрос задан: 1 September 2011 08:36

1

ответ

Формат номера, чтобы всегда показывать 2 десятичных знака

Я хотел бы отформатировать мои числа, чтобы всегда отображать 2 десятичных знака, округляя, где это применимо. Примеры: отображение номера ------ ------- 1 1.00 1.341 1.34 1.345 1.35 I ...

number-formatting javascript floating-point

вопрос задан: 26 May 2011 17:13

1

ответ

Что правильный путь состоит в том, чтобы разделить два Международных значения для получения Плавания?

Я хотел бы разделить два Международных значения на Haskell и получить результат как Плавание. Я пытался делать его как это: нечто:: Интервал-> Интервал-> нечто Плавающее b = fromRational $ % b, но GHC (версия 6.12.1)...

haskell types floating-point integer

вопрос задан: 20 April 2011 22:48

1

ответ

Как я тестирую, если число с плавающей точкой является целым числом в haskell?

Если у меня есть число с плавающей точкой в Haskell, как я тестирую, если это - целое число.

haskell floating-point integer

вопрос задан: 17 April 2011 21:18

1

ответ

Регистр SSE возвращается с отключенным SSE

Я нахожусь в следующей ситуации: Я - написание кода для ядра, которое не позволяет инструкции SSE, я должен сделать арифметику с плавающей точкой, которую я компилирую для x86_64 платформы, Вот пример кода...

c gcc floating-point sse

вопрос задан: 9 March 2011 01:27

1

ответ

Представление IEEE 754

Кто-то может просмотреть мою программу и сказать мне, если я делаю ее правильно? Я принимаю ввод данных пользователем в форме 8 шестнадцатеричных цифр. Я хочу интерпретировать те 8 цифр как 32-разрядный IEEE 754...

c floating-point

вопрос задан: 9 March 2011 01:26

1

ответ

JavaScript: Сравнение двух значений плавающих

У меня есть эта функция JavaScript: Contrl.prototype. EvaluateStatement = функция (полый, cfVal) {условная цена var = parseFloat (cfVal) .toFixed (2); var av = parseFloat (полый) .toFixed (2); если (av <...

javascript comparison floating-point numbers

вопрос задан: 27 July 2010 12:45

1

ответ

GCC, эквивалентный образцовому переключателю VC с плавающей точкой?

GCC имеет эквивалентный переключатель компилятора к образцовому переключателю VC с плавающей точкой (/fp)? В частности, мои преимущества приложения от компиляции с/fp:fast и точностью не являются грандиозным предприятием, как должен...

c++ gcc floating-point compiler-options

вопрос задан: 15 July 2010 14:39

1

ответ

Проверьте, является ли интервал Python слишком большим для преобразования в плавание

Там какой-либо путь состоит в том, чтобы проверить, является ли длинное целое слишком большим для преобразования в плавание в Python?

python floating-point integer

вопрос задан: 10 July 2010 17:04

1

ответ

Расширенная (80-разрядная) двойная плавающая точка в x87, не SSE2 - мы не пропускаем его?

Я читал сегодня об исследователях, обнаруживающих, что библиотеки Phys-X Nvidia используют x87 FP по сравнению с SSE2. Очевидно, это будет субоптимальным для параллельных наборов данных, где скорость превосходит точность. Однако...

floating-point sse2 x87

вопрос задан: 8 July 2010 16:57

1

ответ

Интенсивное FP выполнение гиперпоточности на последних Xeon

Мы недавно купили двойную рабочую станцию Intel X5650 для выполнения интенсивного моделирования с плавающей точкой, в соответствии с Ubuntu 10.04. Каждый X5650 имеет 6 ядер, таким образом, существует 12 ядер всего. Код...

performance multithreading optimization floating-point hyperthreading

вопрос задан: 8 July 2010 01:13

1

ответ

Как преобразовать число с плавающей точкой в его двоичное представление (IEEE 754) в JavaScript?

Что самый легкий путь состоит в том, чтобы преобразовать число с плавающей точкой в свое двоичное представление в JavaScript? (например, 1.0-> 0x3F800000). Я попытался сделать это вручную, и это работает в некоторой степени (с...

javascript binary floating-point ieee-754

вопрос задан: 22 June 2010 21:38

1

ответ

Почему и когда нужно назвать _fpreset ()?

Единственная документация, которую я могу найти (на MSDN или иначе) - то, что вызов к _fpreset () "сбрасывает пакет с плавающей точкой". Каков "пакет с плавающей точкой?" Делает это также очищает состояние FPU...

c++ visual-c++ floating-point

вопрос задан: 26 March 2010 03:35

1

ответ

Библиотека для строгих математических операций с плавающей точкой в.NET

У меня есть алгоритм/вычисление в Java и модульном тесте на него. Модульный тест ожидает результат с некоторой точностью/дельтой. Теперь я портировал алгоритм в.NET и хотел бы использовать тот же модульный тест. Я работаю с...

java .net floating-point

вопрос задан: 12 January 2010 14:34

1

ответ

Обработка стека с плавающей точкой за включенными исключениями с плавающей точкой

Я сталкиваюсь с проблемой с исключениями в операции с плавающей запятой, включенными в Visual Studio 2005. Если у меня есть код как это: удвойте d = 0.0; удвойте d2 = 3.0; удвойте d3 = d2/d; и если я регистрирую SEH...

c++ floating-point exception visual-c++

вопрос задан: 6 October 2009 22:07

1

ответ

Что делает ошибку с плавающей точкой-1.#J средний?

Недавно, иногда (редко), когда мы экспортируем данные из нашего приложения, журнал экспорта содержит значения плавающие, которые похожи на "-1.#J". Я не был в состоянии воспроизвести его так, я не знаю что плавание...

c++ c floating-point printf

вопрос задан: 8 May 2009 14:32

1

ответ

Как я делаю плавающую точку, округляющуюся с предвзятостью (всегда окружают или вниз)?

Я хочу к круглым плаваниям с предвзятостью, или всегда вниз или всегда. Существует отдельный момент в коде, где мне нужно это, остальная часть программы должна вокруг к ближайшему значению, как обычно. Для...

rounding floating-point c++

вопрос задан: 8 April 2009 14:29