0
ответов
Почему это правда?
Это стандартный вопрос IEEE 754. Я не совсем понимаю механику этого. public class Gray {public static void main (String [] args) {System.out.println ((float) (...
вопрос задан: 9 May 2012 19:17
0
ответов
Если работать с деньгами в плавающем состоянии - это плохо, то почему money_format () это делает?
Я долго размышлял, как работать с отображением валюты и математикой в PHP, и долгое время хранил его в MySQL, используя тип DECIMAL, и использовал money_format () для форматирования для отображения на ...
вопрос задан: 9 May 2012 19:15
0
ответов
Вертикальное выравнивание с плавающей точкой по десятичной точке
Есть ли простой способ выровнять по десятичной точке столбец с плавающей запятой? Другими словами, я хотел бы получить результат, подобный одному из (вертикальные полосы '|' здесь только для ясности) (формат t "~ {| ~ 16, ...
вопрос задан: 9 May 2012 19:15
0
ответов
Ввод-вывод NaN ASCII с Visual C ++
Я хочу читать и записывать значения NaN из / в текстовые файлы с помощью iostream и Visual C ++. При записи значения NaN я получаю 1. # QNAN. Но, читая его обратно, выдает 1.0. float nan = std :: numeric_limits <...
вопрос задан: 9 May 2012 19:09
0
ответов
C ++ gamedev: усечение float до int
Я делаю игру на C ++, где находится танк что может двигаться по сцене. У танка есть угол (плавающий, в градусах, и я полагаю, что танк находится под углом 0º, когда его пушка направлена вправо), скорость (плавание), ...
вопрос задан: 9 May 2012 19:09
0
ответов
добавление компонентов регистра SSE
Я хочу добавить четыре компонента регистра SSE, чтобы получить единственное число с плавающей запятой. Вот как я это делаю сейчас: float a [4];
_mm_storeu_ps (а, foo128);
float x = a [0] + a [1] + a [2] + a [3]; Есть ли SSE ...
вопрос задан: 9 May 2012 19:09
0
ответов
Преобразование строки "2½" (два с половиной) в 2.5
Сейчас я создаю небольшое приложение, которое импортирует данные из электронной таблицы, и из-за характера исходной записи, есть строка, которая считывается, которая имеет такие значения, как 8½, 2½ и т.д. Моя цель ...
вопрос задан: 9 May 2012 19:08
0
ответов
Visual Studio C ++ 2008/2010 - break on float NaN
Есть ли способ настроить Visual Studio (только что обновленную с 2008 до 2010) на прерывание, как если бы утверждение не удалось, всякий раз, когда любое число с плавающей запятой становится NaN, QNAN, INF и т. д.? До сих пор у меня есть ...
вопрос задан: 9 May 2012 19:07
0
ответов
Хэширование значений с плавающей точкой
Недавно мне было любопытно, как работают хэш-алгоритмы для плавающих точек, поэтому я посмотрел исходный код для boost::hash_value. Оказалось, что это довольно сложно. Реальные циклы реализации ...
вопрос задан: 9 May 2012 19:06
0
ответов
равны размеры объектов типа double и float в списке?
Мне интересно, равны ли размеры объектов типа float и double с точки зрения std :: list? Я выделил 5 миллионов объектов Real (псевдоним float или double) в std :: list и использовал Valgrind для мониторинга ...
вопрос задан: 9 May 2012 19:06
0
ответов
Как проверить зависимости чисел с плавающей запятой
Я хочу определить (в C ++), является ли одно число с плавающей запятой мультипликативно обратным другому числу с плавающей запятой. Проблема в том, что для этого мне нужно использовать третью переменную. Например, этот код: float x = 5, ...
вопрос задан: 9 May 2012 19:05
0
ответов
Какое значение с плавающей запятой заставляет sprintf_s () создавать «1. # QO»?
У меня есть некоторый (устаревший встроенный c) код, который создает файл .csv с помощью некоторых вызовов sprintf. Иногда я вижу значения 1. # QO. Я пробовал воспроизвести эти значения с условиями, которые должны ...
вопрос задан: 9 May 2012 16:31
0
ответов
Зло в python decimal / float
У меня есть большой объем кода на Python, который пытается обрабатывать числа с точностью до 4 знаков после запятой, и я застрял в Python 2.4 по многим причинам . Код выполняет очень упрощенную математику (это кредитный менеджмент ...
вопрос задан: 9 May 2012 16:28
0
ответов
Java и C с плавающей запятой :«x *x» отличается от «pow (x,2 )»?
Почему это так? Кажется, что Java дает результат с небольшим расхождением при умножении двух чисел с плавающей запятой по сравнению с C и даже с методом Java Math.pow. Java :float a = 0,88276923; double b = a *a;...
вопрос задан: 9 May 2012 16:27
0
ответов
Использование «double» в качестве переменных счетчика в циклах
В книге, которую я сейчас читаю, есть этот отрывок: Вы также можете используйте значение с плавающей запятой в качестве счетчика цикла. Вот пример цикла for с таким счетчиком: double a (0.3) ...
вопрос задан: 9 May 2012 16:14
0
ответов
Как правильно делить крошечные числа двойной точности без ошибок точности?
Я пытаюсь диагностировать и исправить ошибку, которая сводится к тому, что X/Y дает нестабильный результат, когда X и Y малы. :В этом случае и cx, и patharea плавно увеличиваются. Их соотношение является гладким...
вопрос задан: 9 May 2012 08:37
0
ответов
В C и Objective -C следует ли использовать 0,5f или 0,5?
Я видел много мест, где автор использует :sprite.anchorPoint = CGPointMake (1, 0.5f ); то есть, почему бы не использовать 0,5 вместо 0,5f --Есть ли преимущество в использовании 0,5f?
вопрос задан: 7 May 2012 06:11
0
ответов
Вычисление среднего гармонического и точность с плавающей запятой
Я реализую пифагорейские средние в PHP, средние арифметические и геометрические — это проще простого, но мне очень трудно придумать надежную реализацию среднего гармонического. Это...
вопрос задан: 4 May 2012 04:04
0
ответов
Как получить следующее значение в последовательности с плавающей запятой -? [дубликат]
Предоставляет ли Python функцию для получения значения с плавающей запятой -, которое получается в результате увеличения младшего значащего бита существующего значения с плавающей запятой -? Я ищу что-то похожее на...
вопрос задан: 2 May 2012 20:05
0
ответов
сравнить два файла, содержащие двойные числа
Я хочу проверить равенство двух файлов, содержащих двойные числа. Я должен считать близкие числа равными, например. разница не более 0,0001. Для этого легко написать тестер на C, но есть ли...
вопрос задан: 2 May 2012 08:14
0
ответов
Абсолютное значение отрицательного нуля -ошибка или часть стандарта с плавающей запятой?
Я знаю, что нули со знаком используются для того, чтобы отличить недополнение от положительных или отрицательных чисел, поэтому их стоит различать. Интуитивно я чувствую, что абсолютное значение -0.0 должно быть равно 0.0....
вопрос задан: 1 May 2012 09:19
0
ответов
Почему pow (-бесконечность, положительное не -целое число )+ бесконечность?
Приложение F C99 (Поддержка плавающей запятой IEEE )говорит, что :pow (−∞, y )возвращает +∞ для y > 0, а не нечетное целое число. Но, скажем, (−∞ )0,5 на самом деле имеет мнимые значения ±∞i, а не +∞. Собственный sqrt (−∞ )...
вопрос задан: 28 April 2012 21:42
0
ответов
Представление двоичных чисел
Во-первых, это не вопрос точности или чего-то подобного. Мой вопрос: как компилятор решает, как представлять число? Возьмем, к примеру, С. Я пишу двойное d = 4,5632; Как...
вопрос задан: 28 April 2012 14:27
0
ответов
Является ли x==x ложным в Python?
Я наткнулся на эту строку кода в исходном коде SciPy, в модуле статистики:return 1.0*(x==x)Этот результат отличается от 1.0? Другими словами, существует ли какое-либо значение x, такое что x == x выполняется...
вопрос задан: 25 April 2012 17:53
0
ответов
0 + 0 + 0… + 0 != 0
У меня есть программа, которая находит пути в графе и выводит совокупный вес. Все ребра в графе имеют индивидуальный вес от 0 до 100 в виде числа с плавающей запятой с не более чем 2...
вопрос задан: 24 April 2012 18:51
0
ответов
Преобразование строки в число с плавающей запятой в php
Я получаю некоторые контрольные данные о времени выполнения страницы. Он предоставляется фреймворком в виде строки. Я хочу преобразовать его в число с плавающей запятой, умножить на 1000 и сохранить в БД как int. Кажется...
вопрос задан: 20 April 2012 18:44
0
ответов
max float, представленный в IEEE 754
Мне интересно, является ли max float, представленный в IEEE 754,:(1.111111111111111111111111)_b*2^[(11111111)_b-127 ] Здесь _b означает двоичное представление. Но это значение равно 3,403201383*10^38, то есть...
вопрос задан: 19 April 2012 18:47
0
ответов
Можно ли округлить 0,99999999999 до 1,0 при умножении?
При умножении числа с плавающей запятой, которое очень близко к 1, на int> 0, может ли оно когда-либо интерпретироваться как 1 То есть, если Math.random () возвращает максимально возможный результат (что составляет 1 шаг ...
вопрос задан: 15 April 2012 16:36
0
ответов
Как найти ближайшее следующее/предыдущее двойное значение (числовые_пределы::эпсилон для заданного числа)
Название само-поясняет, вводу дается двойное значение, и я хочу добавить/вычесть наименьшее возможное количество.
вопрос задан: 15 April 2012 06:44
0
ответов
Библиотека расширенной точности с плавающей запятой C/C++
Я ищу библиотеку расширенной точности с плавающей запятой со следующими функциями: фиксированный размер типа данных (т. е. расширенная точность с плавающей запятой занимает фиксированный объем памяти)
нет инициализации...
вопрос задан: 14 April 2012 22:59