4
ответа

Преобразуйте шестнадцатеричное число для плавания

Как преобразовать следующую шестнадцатеричную строку для плавания (32-разрядная одинарная точность) в Python? "41973333"-> 1.88999996185302734375E1 "41995C29"-> 1.91700000762939453125E1 "470FC614"-> 3....
вопрос задан: 10 May 2012 18:50
4
ответа

Есть ли хорошая radixsort-реализация для плаваний в C#

У меня есть datastructure с полем типа плавающего. Набор этих структур должен быть отсортирован по значению плавания. Есть ли реализация вида основания для этого. Если нет...
вопрос задан: 10 May 2012 18:50
4
ответа

Foreignkeyfield - подробное имя не отображается в форме

мое verbose_name поля Foreignkey не напечатано в моих формах. (Я создаю форму модели через класс модели modelformset_factory MOrders (models.Model): amount = models.IntegerField ('Bestellmenge', ...
вопрос задан: 10 May 2012 17:12
4
ответа

CLR оптимизация JIT нарушает причинную связь?

Я писал поучительный пример для коллеги, чтобы показать ему, почему тестирование плаваний для равенства часто является плохой идеей. Пример, с которым я пошел, добавлял.1 десять раз и выдерживал сравнение с 1,0 (...
вопрос задан: 10 May 2012 14:11
4
ответа

Плавание/двойная точность в режимах отладки/выпуска

Операции плавающей точки C#/.NET отличаются по точности между режимом отладки и выпускают режим?
вопрос задан: 9 May 2012 20:09
4
ответа

Платформенно независимый способ получить максимальный C++ пускает в ход значение

Каков лучший, платформенно независимый способ получить максимальное значение, которое может быть сохранено в плавании в C++?
вопрос задан: 9 May 2012 19:19
4
ответа

Пустите в ход или удвойте специальное значение

У меня есть дважды (или плавание) переменные, которые могли бы быть "пустыми", как в содержании никакого допустимого значения. Как я могу представить это условие с созданным в плавании типов и дважды? Одна опция была бы оберткой это...
вопрос задан: 9 May 2012 17:11
4
ответа

Формат пускает в ход со стандартом json модуль

Я использую стандарт json модуль в python 2.6 для сериализации списка плаваний. Однако я получаю результаты как это:>>> импортируют json>>> json.dumps ([23.67, 23.97, 23.87]) '[23....
вопрос задан: 9 May 2012 16:31
4
ответа

Заставьте плавание только показать два десятичных разряда

У меня есть значение 25.00 в плавании, но когда я печатаю его на экране, это 25.0000000. Как я могу отобразить значение только с двумя десятичными разрядами?
вопрос задан: 9 May 2012 08:29
4
ответа

Почему Double.compare Java (дважды, дважды) реализовал способ, которым это?

Я смотрел на реализацию, выдерживают сравнение (дважды, дважды) в библиотеке стандарта Java (6). Это читает: общедоступный статический интервал выдерживает сравнение (удвойте d1, дважды d2) {если (d1 <d2) возвращаются-1;...
вопрос задан: 15 September 2011 18:41
4
ответа

Почему это не отказывает? Разве я не делящийся на нуль здесь?

Я добираюсь, наклон строки, ограниченной двумя точками, пускают в ход slopeXY (CGPoint p1, CGPoint p2) {возврат ((p2.y - p1.y) / (p2.x - p1.x));}, Если я даю ему строку нулевого размера, CGPoint p1 = CGPointMake (...
вопрос задан: 17 February 2011 21:58
4
ответа

Почему использование целочисленных переменных выдает исключение?

Я столкнулся со следующими двумя кодами. Почему это не выдает исключение для плавающей точки, где как в другом случае это выдаст исключение на этапе выполнения. класс FloatingPoint {общественность...
вопрос задан: 1 August 2010 09:25
4
ответа

Обнаружение потери точности при преобразовании из дважды для плавания

Я пишу часть кода, в котором я должен преобразовать из дважды для плавания значений. Я использую повышение:: numeric_cast, чтобы сделать это преобразование, которое предупредит меня любого переполнения/потери значимости. Однако я...
вопрос задан: 13 July 2010 17:53
4
ответа

Как я могу сравнить производительность журнала () и fp подразделение в C++?

Я использую основанный на журнале класс в C++ для хранения очень маленьких значений с плавающей точкой (поскольку значения иначе идут вне объема двойных). Поскольку я выполняю большое количество умножения, это имеет...
вопрос задан: 18 May 2010 15:04
4
ответа

C printf использующий %d и %f

Я работал над этой программой, и я заметил, что использование %f для двойного и %d для плавания дает мне что-то совершенно другое. Кто-либо знает, почему это происходит? международное основное () {плавает = 1F; дважды...
вопрос задан: 30 April 2010 20:17
4
ответа

Как калькуляторы работают с точностью?

Интересно, как калькуляторы работают с точностью. Например, значение sin(M_PI), не является точно нулевым при вычислениях в двойной точности: #include <math.h> #include <stdio.h> международное основное () {...
вопрос задан: 26 April 2010 13:12
4
ответа

как работают числа с плавающей точкой IEEE 754

Скажем, у меня есть это: плавайте i = 1.5 в двоичном файле, это плавание представлено как: 0 01111111 10000000000000000000000 я разбил двоичный файл для представления 'со знаком', 'экспоненты' и 'дробных' блоков...
вопрос задан: 25 April 2010 02:35
4
ответа

Примеры погрешности с плавающей точкой

Как Вы объясняете погрешность с плавающей точкой новым программистам и неспециалистам, которые все еще думают, что компьютеры бесконечно мудры и точны? У Вас есть любимый пример или история, которая, кажется, добирается...
вопрос задан: 24 April 2010 22:34
4
ответа

Выполните итерации через все возможные значения с плавающей точкой

Как я могу перечислить все возможные значения типа данных с плавающей точкой? Я могу сделать это использование объединения в C или C++, но это будет портативно? Как это может быть сделано на других языках? JavaScript? Позвольте нам просто...
вопрос задан: 21 April 2010 09:05
4
ответа

Точное текстовое представление IEEE “дважды”

Я должен представить IEEE 754-1985 дважды (64-разрядное) число с плавающей точкой в человекочитаемой текстовой форме с условием, что текстовая форма может быть проанализирована назад в точно то же (поразрядно)...
вопрос задан: 19 March 2010 21:48
4
ответа

Каково состояние tcl_precision?

Я не использую Tcl в своей ежедневной работе. Однако у меня есть коллега, который иногда взаимодействует с клиентом, которому жаль, что дополнительный язык нашего инструмента не работал больше как Tcl (!). Одна тема, которую он поднял, была...
вопрос задан: 18 February 2010 04:37
4
ответа

Корректный способ эмулировать плавающую точку одинарной точности в Python?

Что лучший способ состоит в том, чтобы эмулировать плавающую точку с одинарной точностью в Python? (Или другая плавающая точка форматирует в этом отношении?) Просто используют ctypes?
вопрос задан: 9 February 2010 20:37
4
ответа

Почему Math.sqrt(i*i) .floor == я?

Я задаюсь вопросом, верно ли это: Когда я пущу квадратный корень целого числа в квадрате, как в f = Math.sqrt (123*123), я получу число с плавающей точкой очень близко к 123. Из-за плавающей точки...
вопрос задан: 14 January 2010 06:55
4
ответа

Что следующим является нормализованное число с плавающей точкой после того, как (прежде чем) нормализованным числом с плавающей точкой f?

Учитывая нормализованное число с плавающей точкой f, что следующим является нормализованное число с плавающей точкой после/прежде чем f. С битовым жонглированием извлекая мантиссу и экспоненту я имею: next_normalized (double&) {...
вопрос задан: 26 August 2009 19:17
4
ответа

Почему Java BigDecimal возвращается 1E+1?

Почему это кодирует иногда возврат 1E+1, пока для других исходных данных (например, 17) вывод не печатается в экспоненциальном представлении? BigDecimal bigDecimal = BigDecimal.valueOf(doubleValue) .multiply (...
вопрос задан: 29 May 2009 09:51
4
ответа

Плавающие операции поблочного тестирования в Visual Studio 2008 Pro

У меня есть некоторые модульные тесты C#, которые выполняют некоторые операции плавающие/двойные, и я хотел бы к модульному тесту их. Утверждать. AreEqual недостаточен из-за погрешностей округления. Возьмите преобразование единицы в качестве примера....
вопрос задан: 18 May 2009 17:42
4
ответа

Каковы приложения/преимущества 80-разрядного типа данных расширенной точности?

Да, я означал говорить 80-разрядный. Это не опечатка... Мой опыт с переменными с плавающей точкой всегда включал 4-байтовые кратные числа, как одиночные игры (32 бита), удваивается (64 бита) и долго удваивается (который я'...
вопрос задан: 4 March 2009 21:25
4
ответа

Как лучше всего подвести итог большого количества чисел с плавающей точкой?

Предположите, что у Вас есть большой массив чисел с плавающей точкой всех видов размеров. Что самый корректный путь состоит в том, чтобы вычислить сумму с наименьшим количеством ошибки? Например, когда массив похож на это: [...
вопрос задан: 29 December 2008 21:31
4
ответа

Библиотека высокой точности плавающей точки Java [закрывается]

Который библиотеки для Java там, которые имеют внедрение FAST для операций или фиксированной точки с плавающей точкой с точностью нескольких тысяч цифр? Насколько производительный они? Требование...
вопрос задан: 12 November 2008 16:57
3
ответа

выявление и назначение + NaN и -NaN в C

Мне нужно получить входные данные с плавающей точкой как + NaN или -NaN и преобразовать их в другую искусственную плавающую форму, которая называется tinyfp (1 знаковый бит, 3 экспонентных бита, 4 дробных бита) для одного вопроса, или получить входные дан
вопрос задан: 14 April 2019 12:39