0
ответов
Почему старший бит нормализованного числа всегда равен 1?
Из статьи о мантиссанде в Википедии :При работе с двоичным кодом мантиссан характеризуется своей шириной в двоичных цифрах (бит ). Поскольку старший бит всегда равен 1 для...
вопрос задан: 20 August 2012 13:57
0
ответов
Как перегрузить `float()` для пользовательского класса в Python?
Резюме Как перегрузить встроенную функцию float для моего класса, чтобы при вызове float() для ее экземпляра вызывалась моя пользовательская функция вместо встроенной по умолчанию? Мой класс Привет, я кодировал свой ...
вопрос задан: 19 August 2012 15:00
0
ответов
Объединение C ++ для представления памяти данных и типа скалярной переменной C
У меня сегодня странный вопрос. Код (C ++) #include union name
{int num; float num2; } продолговатый; int main (void)
{oblong.num2 = 27,881; std :: cout << продолговатый ....
вопрос задан: 15 August 2012 17:12
0
ответов
Воспроизводимость результата операции с плавающей запятой
Может ли арифметическая операция с плавающей запятой -давать разные результаты на разных процессорах? Под процессорами я подразумеваю все x86 и x64. И под разными результатами я подразумеваю даже если хотя бы один наименьший...
вопрос задан: 14 August 2012 13:14
0
ответов
assert терпит неудачу, когда не должен, в тестовом примере Smalltalk Unit
я в тупике. Вот мой тестовый пример. theTestArray: = # (1,2 3 5,1 7).
самоутверждение: theTestArray squareOfAllElements = # (1,44 9 26,01 49). Утверждение не должно ошибаться. При вычислении квадрата каждого ...
вопрос задан: 14 August 2012 07:19
0
ответов
Представление числа с плавающей запятой одним байтом
У меня есть ситуация, которая требует, чтобы поплавок был представлен в одном символе. Диапазон, который должен представлять этот 'minifloat', составляет от 0 до 10e -7, поэтому мы всегда можем предположить, что число равно +ve, а...
вопрос задан: 13 August 2012 13:16
0
ответов
Получение реальной, плавающей -ширины точки элемента
Я использую jQuery (v1.7.1 ), и мне нужно получить абсолютную, плавающую -ширину точки элемента, но все методы ширины jQuery, похоже, округляют -от значения ширина. Например, если...
вопрос задан: 10 August 2012 18:46
0
ответов
bash :перебрать список чисел с плавающей запятой
В скрипте bash я хочу перебрать список значений, которые я хочу передать в качестве параметров скрипту на python. Оказывается, $d и $minFreq не являются числами с плавающей запятой при передаче в скрипт Python. Почему...
вопрос задан: 10 August 2012 13:36
0
ответов
Numpy dot product очень медленный с использованием целых чисел
извините за столько вопросов. Я использую Mac OSX 10.6 на Intel Core 2 Duo. Я запускаю некоторые тесты для своего исследования, и я столкнулся с другой вещью, которая меня сбивает с толку. Если я запускаю python -mtimeit -...
вопрос задан: 8 August 2012 01:10
0
ответов
CRTP + класс признаков :«тип не назван…»
Я пытаюсь реализовать CRTP с шаблонным классом, и у меня возникает ошибка со следующим примером кода:#включить template class Traits { public :typedef...
вопрос задан: 6 August 2012 12:33
0
ответов
Плавающие и рациональные числа в дробной арифметике произвольной точности (C/C++)
Поскольку существует два способа реализации дробного числа AP, один заключается в том, чтобы эмулировать хранение и поведение типа данных double, только с большим количеством байтов, а другой заключается в использовании существующего целого числа...
вопрос задан: 3 August 2012 19:34
0
ответов
Округление десятичного значения
У меня возникла проблема при округлении десятичного значения в C #с использованием Math.Round (a, 2 ); Когда я округляю 1,275 до 2 знаков после запятой, результат равен 1,27. Когда я делаю то же самое для 1,375, результат равен 1....
вопрос задан: 31 July 2012 13:56
0
ответов
C :Приведение минимального 32-битного -целого числа (-2147483648 )к веществу с плавающей запятой дает положительное число (2147483648.0)
Я работал над встроенным проектом, когда столкнулся с чем-то, что показалось мне странным. Мне удалось воспроизвести его на кодовой панели (, см. ниже ), чтобы подтвердить, но у меня нет других компиляторов C...
вопрос задан: 31 July 2012 13:23
0
ответов
Как рассчитать количество значащих десятичных цифр двойного числа С++?
При работе со значениями с плавающей запятой в Java вызов метода toString ()дает напечатанное значение с правильным количеством значащих цифр с плавающей запятой. Однако в C++ печать...
вопрос задан: 27 July 2012 21:44
0
ответов
Всегда ли приведение типа double к типу float возвращает одно и то же значение?
Приведение double к float всегда приводит к одному и тому же результату или могут быть какие-то "разницы в округлении"? Например, x in float x = (float)0,123456789d; всегда одно и то же значение? Как насчет того, когда...
вопрос задан: 25 July 2012 12:00
0
ответов
Почему MySQL возвращает одни числа с плавающей запятой в экспоненциальном представлении, а другие нет?
Я пишу PHP-скрипт, который просматривает таблицу значений с плавающей запятой в БД, которая, как правило, несколько мала, например :0,00052. 0,00134 0,00103 0,00149 0,00085 0,00068 0,00077 0,00088 0,00169 0,00063 Для...
вопрос задан: 24 July 2012 08:54
0
ответов
Float или Double?
Что быстрее, double или float, при предварительном формировании арифимических ( + - * /%), и стоит ли просто использовать float по соображениям памяти? Точность не является большой проблемой. Не стесняйтесь называть меня сумасшедшим из-за ...
вопрос задан: 24 July 2012 05:28
0
ответов
float bits and strict aliasing
I am trying to extract the bits from a float without invoking undefined behavior. Here is my first attempt: unsigned foo(float x)
{ unsigned* u = (unsigned*)&x; return *u;
} As I ...
вопрос задан: 21 July 2012 04:19
0
ответов
Как преобразовать IEEE -11073 16 -бит SFLOAT в простое число с плавающей запятой в Java?
Название говорит само за себя :Как преобразовать IEEE -11073 16 -бит SFLOAT в простое число с плавающей запятой в Java?
вопрос задан: 19 July 2012 16:10
0
ответов
JavaScript и работа с детерминизмом с плавающей запятой
Я хочу создать браузерную многопользовательскую игру, используя сетевой код отката, который запускает детерминированную симуляцию на клиентах. Я прототипировал сетевой код во Flash еще до того, как столкнулся с плавающим...
вопрос задан: 19 July 2012 13:25
0
ответов
Разница в точности чисел с плавающей запятой и BigDecimal
public static void main (String[] args ){ // TODO Auto -сгенерированный метод-заглушка BigDecimal foo,foo1; foo=BigDecimal.valueOf (3.1 ); foo1=BigDecimal.valueOf (3.1f ); System.out.println (foo )...
вопрос задан: 19 July 2012 13:22
0
ответов
Как сделать сравнение с плавающей запятой в Bash?
замок _процент=$ (эхо "масштаб = 5; $значение2 *100/$значение1" | до нашей эры )value= `echo "$lock _процент" | bc `if [[ "$value" > "$8" ]]; затем выведите "Lock Percentage :$value, процент критического состояния"...
вопрос задан: 18 July 2012 17:06
0
ответов
Почему при объявлении поплавков требуется буква «f»?
Пример :float timeRemaining = 0.58f; Зачем нужна буква f в конце номера?
вопрос задан: 18 July 2012 09:15
0
ответов
Процессор с плавающей запятой не детерминирован -?
Не вдаваясь в ненужные подробности, возможно ли, чтобы операции над числами с плавающей запятой -(x86 _64 )возвращали -даже небольшие -вариации их результатов на основе идентичных входных данных? Даже...
вопрос задан: 18 July 2012 09:08
0
ответов
Локализуйте число с плавающей запятой и укажите количество знаков после запятой в iOS
У меня есть поплавок, который я хотел бы отобразить до одного десятичного знака. Например. 104.8135674... будет отображаться как 104.8 на английском языке. Обычно я использовал :myString = [NSString stringWithFormat :@"%.1f",myFloat];...
вопрос задан: 16 July 2012 17:04
0
ответов
C++, обеспечивающий размер числа с плавающей запятой 4 байта
Мне нужна перекрестная -архитектура, чтобы гарантировать, что число с плавающей запятой будет 4 байта (, как и в 32 -битных окнах ). Например, в структурах, которые я создаю, я использую __int32 вместо int, чтобы обеспечить целочисленное значение...
вопрос задан: 16 July 2012 02:14
0
ответов
Напечатайте число с плавающей запятой с точностью, выравниваемой по правому краю
Я немного новичок в программировании на Python, поэтому, пожалуйста, будьте со мной полегче. Я пытаюсь вызвать строковый атрибут rjust, а также указать точность для числа с плавающей запятой. Вот код и пример...
вопрос задан: 15 July 2012 13:19
0
ответов
Любые реализации Java, совместимые с IEEE754 (r )?
Существуют ли какие-либо полностью совместимые реализации IEEE754r, доступные для Java, которые предлагают поддержку всех функций, которые Java решила опустить (или, скорее, языки высокого уровня в целом, например, опустить ):Ловушки?...
вопрос задан: 13 July 2012 16:33
0
ответов
Сохранение плавающей запятой и добавление побитовая операция в javascript
Я пытаюсь понять, как складывать, вычитать, делить и умножать, работая с битами. Необходимо выполнить некоторую оптимизацию моей программы на JavaScript из-за выполнения большого количества вычислений...
вопрос задан: 13 July 2012 12:12
0
ответов
Округление числа с плавающей запятой в задаче -c
Я хочу знать, есть ли простая функция, которую я могу использовать в этом образце. У меня есть значение с плавающей запятой = 1,12345; Я хочу округлить его, вызвав что-то вроде float value2 = [roundFloat value :...
вопрос задан: 12 July 2012 12:53