3
ответа
Двухбайтовый Размер в ОС на 64 бита и на 32 бита
Существует ли разница в двойных размерах, когда я запускаю свое приложение на среде на 32 и 64 бита? Если я не буду ошибающийся, то двойное в среде на 32 бита поднимет 16 цифр после 0, тогда как двойное в 64...
вопрос задан: 9 July 2009 02:19
3
ответа
Сравнение двух матриц в Matlab
У меня есть два X и Y матриц, оба - результаты различных алгоритмов/стандартных программ, которые, как предполагается, вычисляют тот же результат. В то время как я знаю, что isequal () проверил бы, являются ли X и Y тем же...
вопрос задан: 2 June 2009 14:55
3
ответа
Печать инкрементов 0,1 в c#
Я в настоящее время читаю Код, Завершенный Steve McConnell, конкретно страница 295 на числах с плавающей запятой. Когда я выполнил следующий код: удвойте номинал = 1.0; удвойте сумму = 0.0;...
вопрос задан: 19 May 2009 19:17
3
ответа
какие языки представляют прерывания IEEE 754 разработчику?
Я хотел бы играть с теми прерываниями для образовательной цели. Типичная проблема с поведением по умолчанию в числовом исчислении состоит в том, что мы "скучаем" по Nan (или +-inf) это появилось в неправильной операции...
вопрос задан: 31 March 2009 01:38
3
ответа
Действительно ставит в тупик (), возвращают что-то, что это является точно представимым?
В C89 пол () возвращает двойное. Следующее, как гарантируют, будет работать? удвойте d = пол (3.0 + 0.5); интервал x = (интервал) d; утверждайте (x == 3); Мое беспокойство - то, что результат пола не мог бы быть точно...
вопрос задан: 20 January 2009 21:40
3
ответа
Ограничения с плавающей точкой
Мой код: = '2.3' я хотел отобразиться как значение с плавающей точкой. Начиная со строки я попробовал: плавание (a) результат, который я получил, было: 2.2999999999999998 я хочу решение для этой проблемы...
вопрос задан: 2 January 2009 09:42
2
ответа
Как хранятся в памяти числа с плавающей запятой?
Я читал, что они хранятся в виде мантиссы и экспоненты Я читал этот документ, но ничего не смог понять.
вопрос задан: 23 July 2019 20:34
2
ответа
Форматирование поплавков в Python без конечных нулей
Как я могу отформатировать число с плавающей точкой, чтобы оно не содержало конечных нулей? Другими словами, я хочу, чтобы полученная строка была как можно короче. Например: 3 - > "3" 3. - > «3» 3,0 -> «3» 3,1 - & ...
вопрос задан: 6 June 2019 05:44
2
ответа
Почему нет 2-байтового числа с плавающей запятой и существует ли реализация?
Предполагая, что мне действительно не хватает памяти и я хочу меньший диапазон (аналогично short vs int). Языки шейдеров уже поддерживают половину для типа с плавающей запятой с вдвое меньшей точностью (не просто преобразование ...
вопрос задан: 7 May 2019 16:10
2
ответа
Как преобразовать строку в число с плавающей точкой в JavaScript?
Я пытаюсь проанализировать два значения из сетки данных. Поля являются числовыми, и когда они имеют запятую (например, 554,20), я не могу получить числа после запятой. Я пробовал parseInt и parseFloat. Как я могу ...
вопрос задан: 22 April 2019 23:32
2
ответа
нужен генератор случайных чисел
Мне нужно сгенерировать случайное число между -0,5 и 0,5. Я пробовал решение по переполнению стека пользователем Энтони Пеграм. Я немного его изменил (мне нужно, чтобы метод вызывался и использовался в ...
вопрос задан: 31 March 2019 05:54
2
ответа
C: цикл while с плавающей запятой никогда не завершается
Выполняя этот код: float f = 1.0; while (f! = 0.0) {f = f - 0.1; printf ("%. 1f \ n", f); } Ожидается, что он будет работать 10 раз и остановится, но получается, что это неизбежно ...
вопрос задан: 25 March 2019 09:46
2
ответа
Интерпретация абсурдно-низкой измеренной латентности в тщательном профиле (эффекты суперскалярности?)
Я написал некоторый код для профилирования небольших функций. На высоком уровне: устанавливает привязку потока только к одному ядру, а приоритет потока - к максимальному. Вычисляет статистику из следующих действий ...
вопрос задан: 2 March 2019 17:27
2
ответа
Вернуть AVG как FLOAT в MS-Access
Я пытаюсь вернуть среднее значение как FLOAT, но когда я использую приведенный ниже код, я каждый раз получаю сообщение об ошибке в сообщении «MissingOperator». Чего мне не хватает в моем коде? ВЫБЕРИТЕ AVG (CAST (Количество AS ...
вопрос задан: 19 January 2019 09:36
2
ответа
печать с плавающей точкой имеет неожиданное значение [дубликат]
Почему '32' было добавлено к значению v в выводе ниже? int main () {float v = 9.999e8; std :: cout < < "v - >" < < v < < станд :: епсИ; std :: cout < < станд :: ...
вопрос задан: 17 January 2019 04:52
2
ответа
Objective-C - проверка поплавка для nan
У меня есть переменная (наклон поплавка), которая иногда будет иметь значение nan при распечатке, так как иногда происходит деление на 0. Я пытаюсь сделать if-else, когда это произойдет. Как мне это сделать?...
вопрос задан: 10 January 2019 04:36
2
ответа
Как я подавляю экспоненциальное представление в Python?
Вот мой код: x = 1,0 года = 100 000,0 печати x/y Мои дисплеи частного как 1.00000e-05 там какой-либо путь состоит в том, чтобы подавить экспоненциальное представление и заставить его отобразиться как 0,00001? Я собираюсь использовать результат...
вопрос задан: 23 November 2018 17:49
2
ответа
Почему скаляр SSE sqrt (x) медленнее, чем rsqrt (x) * x?
Я представлял часть нашей базовой математики на Intel Core Duo, и при рассмотрении различных подходов к квадратному корню, я заметил что-то нечетное: с помощью операций скаляра SSE это быстрее для взятия...
вопрос задан: 25 April 2018 10:45
2
ответа
Как получить числа после десятичной точки?
Как мне получить числа после десятичной точки? Например, если у меня 5.55, как получить .55?
вопрос задан: 16 April 2018 15:02
2
ответа
Как я вычисляю квадратный корень числа, не используя builtins? [дубликат]
как я могу создать метод, который возвращает sqrt данного nunber? Например: sqrt (16) возвраты 4 и sqrt (5) возвраты 2.3... Я использую Java и знаю Math.sqrt () API-функция, но мне нужно...
вопрос задан: 19 December 2017 21:39
2
ответа
Как я устанавливаю точность с плавающей точкой в Perl?
Существует ли способ установить точность сценария Perl с плавающей точкой (на 3 цифры), не имея необходимость изменять его специально для каждой переменной? Что-то подобное TCL's: глобальный tcl_precision установлен...
вопрос задан: 17 November 2017 22:13
2
ответа
Подходит использование эпсилона машины для тестов равенства с плавающей точкой?
Это - продолжение Тестирования на равенство значения с плавающей точкой: существует ли стандартное имя для постоянной “точности”?. Дважды существует очень похожий вопрос. Эпсилон для равенства, больше, чем...
вопрос задан: 14 November 2017 12:37
2
ответа
Как я могу преобразовать четыре символа в 32-разрядное плавание IEEE 754 в Perl?
У меня есть проект, где функция получает четыре 8-разрядных символа и должна преобразовать получающееся 32-разрядное плавание IEEE 754 в регулярное число Perl. Кажется, что должен быть более быстрый путь, чем...
вопрос задан: 4 August 2017 21:08
2
ответа
Найдите минуту / макс. из плавающего/двойного, которое имеет то же внутреннее представление
Обновление на плавающих точках (также PDF), IEEE 754 и принятие участия в этом обсуждении плавающей точки, округляющейся при преобразовании в строки, принесло мне для лужения: как я могу получить максимум и минимум...
вопрос задан: 23 May 2017 12:25
2
ответа
Почему делает скорость этого решателя SOR, зависят от входа?
Связанный с моим другим вопросом, я теперь изменил решатель разреженной матрицы для использования SOR (Последовательная Сверхрелаксация) метод. Код теперь следующие: пустой SORSolver:: шаг () {пускает в ход константу...
вопрос задан: 23 May 2017 12:11
2
ответа
Почему нет беззнаковых типов с плавающей точкой? [Дубликат]
Возможный дубликат: Почему в C нет беззнаковых поплавков? Вопрос, вероятно, очень простой и, вероятно, на него ответили много раз раньше, но я хочу понять, почему в C ++ нет беззнаковых ...
вопрос задан: 23 May 2017 12:03
2
ответа
Что кодирует конвенции для использования с плавающей точкой в драйверах устройств Linux?
Это связано с этим вопросом. Я не эксперт по драйверам устройств Linux или модулям ядра, но я читал "Драйверы устройств Linux" [O'Reilly] Rubini & Corbet и многими онлайн...
вопрос задан: 23 May 2017 11:52
2
ответа
Типы плавающей точки фиксированного размера
В stdint.h (C99), boost/cstdint.hpp, и cstdint (C++ 0x) заголовки там, среди других, типа int32_t. Есть ли подобные типы плавающей точки фиксированного размера? Что-то как float32_t?
вопрос задан: 30 April 2017 01:46
2
ответа
Как изобразить 0,1 в арифметике с плавающей запятой и десятичной
I Я пытаюсь лучше понять арифметику с плавающей запятой и видел несколько ссылок на «Что должен знать каждый компьютерный специалист об арифметике с плавающей запятой». Я до сих пор не Я не понимаю, как ...
вопрос задан: 24 February 2017 14:09
2
ответа
“Эпсилон” действительно гарантирует что-нибудь в вычислениях с плавающей точкой?
Для создания проблемы короткой скажем, я хочу вычислить выражение a / (b - c) на плаваниях. Для проверки результат значим, я могу проверить, находятся ли b и c в равном: пустите в ход EPS = станд.::...
вопрос задан: 2 November 2016 11:32