3
ответа
Вычисления Десятичного числа PHP
Я читал, что необходимо быть осторожными со сравнениями с плавающей точкой и вычислениями в PHP. Я не эксперт в PHP, таким образом, я думал, что спрошу сообщество, что лучший способ состоит в том, чтобы сделать точный...
вопрос задан: 14 July 2010 13:31
3
ответа
Странное поведение компилятора с литералами плавающими по сравнению с переменными плавающими
Я заметил интересное поведение с плаванием, округляющимся / усечение компилятором C#. А именно, когда литерал плавающий вне гарантируемого представимого диапазона (7 десятичных цифр), затем a)...
вопрос задан: 21 June 2010 20:42
3
ответа
C #, десятичные знаки, .ToString и нормализация. Почему мантисса не нормализуется? [Дубликат]
Один из моих коллег просто заставил меня заметить «странное» поведение с десятичными буквами и методом ToString (). Рассмотрим этот пример кода. ЕЫпе (10М); ЕЫпе (10M.ToString ()); ...
вопрос задан: 8 June 2010 12:17
3
ответа
Python плавающее число [дубликат]
я отчасти смущен, почему Python добавляет некоторое дополнительное десятичное число в этом случае, помогите объяснить>>> mylist = ["элемент списка 1", 2, 3.14]>>> печатают mylist ['элемент списка 1', 2, 3....
вопрос задан: 6 June 2010 23:08
3
ответа
Преобразуйте плавание ieee 754 для преобразовывания в шестнадцатеричную систему с c - printf
Идеально следующий код взял бы плавание в представлении IEEE 754 и преобразовал бы, это в шестнадцатеричное пустое преобразование ()//получает вход плавающий от пользователя и поворачивается, это в шестнадцатеричный {пускает в ход f;...
вопрос задан: 31 May 2010 02:40
3
ответа
Как я ввожу литерал бесконечности с плавающей точкой в Python
Как я ввожу литерал бесконечности с плавающей точкой в Python? Я услышал inf =, плавание ('inf') не является портативным. Таким образом у меня было рекомендуемое следующее: inf = 1e400 Имеет любой их стандарт...
вопрос задан: 30 May 2010 05:40
3
ответа
C/C++ - Преобразуйте 24-разрядное целое число со знаком для плавания
Я программирую в C++. Я должен преобразовать 24-разрядное целое число со знаком (сохраненный в 3 массивах байтов) для плавания (нормализующий к [-1.0 1.0]). Платформой является MSVC ++ на x86 (что означает, что вход мало-...
вопрос задан: 26 May 2010 19:47
3
ответа
Сравнение с плавающей точкой в STL, ПОВЫШЕНИИ
Есть ли в STL или в Повышении ряд универсальных простых функций сравнения? Тот, который я нашел, всегда требует шаблонных параметров и/или инстанцирования шаблона структуры. Я ищу...
вопрос задан: 14 May 2010 01:37
3
ответа
точность с плавающей точкой в рубине на проверках допустимости модели направляющих
Я пытаюсь проверить сумму в долларах с помощью regex: ^ [0-9] + \. [0-9] {2} $ Это хорошо работает, но каждый раз, когда пользователь отправляет форму и концы суммы в долларах в 0 (нулях), рубин (или направляющие?) обрубает 0...
вопрос задан: 4 May 2010 16:09
3
ответа
C - округление с плавающей точкой
Я пытаюсь понять, как работают числа с плавающей точкой. Я думаю, что хотел бы проверить то, что я знаю / должен учиться путем оценки следующего: Я хотел бы найти самый маленький x таким образом что x + 1 = x...
вопрос задан: 3 May 2010 08:46
3
ответа
Как я могу добавить плавания вместе в различных заказах и всегда получать то же общее количество?
Скажем, у меня есть три 32-разрядных значения с плавающей точкой, a, b, и c, такой что (+ b) + c! = + (b + c). Есть ли алгоритм суммирования, возможно, подобный суммированию Kahan, которое гарантирует что они...
вопрос задан: 24 April 2010 21:32
3
ответа
Вычисления с фиксированной точкой будут стоить моей проблемы?
Я работаю над гидроаэродинамикой, Navier - Топит решатель, который должен работать в режиме реального времени. Следовательно, производительность важна. Прямо сейчас я смотрю на многие жесткие циклы что каждый счет...
вопрос задан: 19 April 2010 12:38
3
ответа
Хорошо представляя число с плавающей запятой в Python
Я хочу представить число с плавающей запятой как строку, округленную к некоторому числу значащих цифр и никогда использованию экспоненциального формата. По существу я хочу отобразить любое число с плавающей запятой...
вопрос задан: 19 April 2010 00:54
3
ответа
Что fpstrict делает в Java?
Я считал спецификацию JVM для fpstrict модификатора, но все еще не полностью понимайте то, что это означает. Кто-либо может просветить меня?
вопрос задан: 24 March 2010 09:00
3
ответа
iPhone: плавающий бросок к неподписанному ints установлен на 0, если они отрицательны?
попробовать: энергозависимый боб плавающий =-344.0f; неподписанный интервал fred = (неподписанный интервал) боб; printf (" %d\n", fred); вывод будет 0. очевидно, я ожидаю, что это повторится так же, как если бы я бросил от...
вопрос задан: 22 March 2010 07:40
3
ответа
Изменение вычисления с плавающей точкой в зависимости от компилятора
Когда я выполняю тот же самый код, выполняющий то же самое вычисление с плавающей точкой (использование удваивается), скомпилированный в Windows и Солярисе, я получаю немного отличающиеся результаты. Я знаю, что результаты...
вопрос задан: 4 March 2010 01:48
3
ответа
OpenGL: Как я избегаю погрешностей округления при определении ультрафиолетовых координат
Я пишу 2D игру с помощью OpenGL. Когда я хочу блитировать часть структуры как спрайт, я использую glTexCoord2f (u, v) для определения ультрафиолетовых координат, с u и v, вычисленным как это: GLfloat u = (GLfloat)...
вопрос задан: 27 February 2010 04:32
3
ответа
Вычисление плавающей точки может разойтись в различных процессорах? (+passing удваивается между C# и C),
Мне записали приложение в C#, который вызывает некоторый код C также. Код C# добирается, некоторые удваиваются как вход, выполняет некоторые вычисления на нем, передайте его исходному слою, которые выполняют его собственное...
вопрос задан: 25 February 2010 17:45
3
ответа
Действительно ли 'ДЕНЕЖНЫЙ' тип данных SQL Server является десятичной или двоичной плавающей точкой с плавающей точкой?
Я не мог найти ничего, что отклоняет или подтверждает, является ли 'ДЕНЕЖНЫЙ' тип данных SQL Server десятичной или двоичной плавающей точкой с плавающей точкой. В описании это говорит, что ДЕНЕЖНЫЙ диапазон типа от-...
вопрос задан: 22 February 2010 21:00
3
ответа
Контакт с ошибками с плавающей точкой в.NET
Я работаю над проектом научных расчетов и визуализации в C#/.NET, и мы используем, удваивается для представления всех физических количеств. Так как числа с плавающей запятой всегда включают немного...
вопрос задан: 15 February 2010 15:52
3
ответа
Этот C++ преобразует плавания PDP-11 в IEEE?
Я поддерживаю программу, которая берет данные из PDP-11 (эмулированный!) программа и помещает его в современную систему на базе Windows. У нас есть проблемы с некоторыми значениями данных, о которых сообщают как "1.#...
вопрос задан: 12 February 2010 09:07
3
ответа
Удвоиться до международного преобразования позади сцены?
Мне просто любопытно знать то, что, оказывается, позади сцены преобразовывает вдвое большее по сравнению с интервалом, говорит интервал (5666.1)? Будет этим более дорогим, чем static_cast дочернего класса для порождения? Начиная с...
вопрос задан: 3 February 2010 06:15
3
ответа
Существует ли открытый исходный код c/c ++ реализация операций IEEE 754? [закрытый]
Я ищу ссылочную реализацию операций IEEE 754. Есть ли такая вещь?
вопрос задан: 2 February 2010 19:01
3
ответа
Как избавиться от знака "минус" от нуля со знаком
Я использую asin для вычисления угла. Код как указано ниже: удвойте FindAngle (константа удваиваются, theValue) {возвращают asin (theValue);} FindAngle возвращает-0.0 (подписанный нуль), когда аргумент...
вопрос задан: 18 January 2010 09:45
3
ответа
Есть ли компиляторы, которые оптимизируют операции с плавающей точкой для точности (в противоположность скорости)?
Мы знаем, что компиляторы являются улучшением и лучше при оптимизации нашего кода и заставляют его работать быстрее, но моим вопросом являются там компиляторы, которые могут оптимизировать операции с плавающей точкой для обеспечения больше...
вопрос задан: 14 January 2010 00:46
3
ответа
Хранение синхронизации в многопользовательской стратегии в реальном времени, которая использует арифметику с плавающей точкой
Я пишу 2D стратегию в реальном времени пространства в C#. Одиночные работы. Теперь я хочу добавить некоторую многопользовательскую функциональность. Я погуглил для него, и кажется, что существует только один способ иметь тысячи единиц...
вопрос задан: 22 December 2009 20:29
3
ответа
Разделение size_t с помощью int vs double [duplicate]
У меня есть следующий код: size_t one = 100; std :: cout & lt; один / 1000 & lt; "\n"; std :: cout & lt; один / 1000,0 & lt; "\n Выходы: 0 0,1 Мне было интересно о втором ...
вопрос задан: 25 November 2009 19:50
3
ответа
Различный инструмент, который игнорирует форматы с плавающей точкой (но не значения) в тексте?
Я ищу различный инструмент, который может также сравнить значения с плавающей точкой (в рамках некоторого допуска) в текстовых файлах. Это в дополнение к типичным функциям разности текстового сравнения с опциями проигнорировать...
вопрос задан: 28 September 2009 23:55
3
ответа
Дополнение с плавающей точкой: проблемы потери точности
Короче говоря: как я могу выполнить a+b, таким образом, что потеря точности из-за усечения вдали от нуля, а не к нулю? Длинная История я вычисляю сумму длинной серии плавающей точки...
вопрос задан: 10 August 2009 08:20
3
ответа
Как плавание, и удваивается представленный в C++ (gcc)?
Как плавающие точки представлены и интерпретированы компилятором. Я пытаюсь понять что, таким образом, я могу легко интерпретировать то, что массив байтов означал бы для плаваний и удваивает.Спасибо
вопрос задан: 15 July 2009 14:09