3
ответа
C# плавают к десятичному преобразованию
Любой умный способ преобразовать плавание как это: пустите в ход f = 711989.98f; в десятичное число (или дважды), не теряя точность? Я попробовал: десятичное число d = (десятичное число) f; десятичное число d1 = (десятичное число) (Математика. Вокруг (f,
вопрос задан: 1 March 2017 02:48
3
ответа
x86-64 долгая двойная точность
Какова фактическая точность длинных дважды на Intel 64-разрядные платформы? это - 80 битов, дополненных к 128 или фактические 128 битов? если прежний, помимо идущего GMP, там другая опция достигнуть истинных 128...
вопрос задан: 12 May 2016 12:12
3
ответа
fopen / fopen_s и пишущий в файлы
Я использую fopen в C для записи вывода в текстовый файл. Объявление функции (где ARRAY_SIZE был определен ранее): освободите create_out_file (символ file_name [], долго удваивайтесь *z1) {ФАЙЛ *;...
вопрос задан: 15 October 2015 14:36
3
ответа
Различие между toFixed () и toPrecision ()?
Я плохо знаком с JavaScript и просто обнаруженным toFixed () и toPrecision () к круглым числам. Однако я не могу выяснить, каково различие между этими двумя. Каково различие между числом....
вопрос задан: 20 March 2015 12:29
3
ответа
32-разрядный по сравнению с 64-разрядной производительностью с плавающей точкой
Я имею, столкнулся с любопытной проблемой. Алгоритм я продолжаю работать, состоит из большого количества вычислений как этот q = x (0) *y (0) *z (0) + x (1) год (1) *z (1) +..., где продолжительность суммирования между 4 и 7...
вопрос задан: 12 April 2013 20:17
3
ответа
Java BigDecimal тригонометрические методы
Я разрабатываю математический синтаксический анализатор, который может оценить Строку как '5+b*sqrt (c^2)'. Я использую ANTLR для парсинга и добиваюсь существенного прогресса. Теперь я запнулся за класс Java и упал BigDecimal и...
вопрос задан: 30 July 2012 12:22
3
ответа
JavaScript, отображающий плавание к 2 десятичным разрядам
Я хотел отобразить число к 2 десятичным разрядам. Я думал, что мог использовать toPrecision (2) в JavaScript. Однако, если число 0.05, я добираюсь 0.0500. Я быть бы он оставаться таким же. Посмотрите его на JSbin...
вопрос задан: 11 May 2012 04:01
3
ответа
MATLAB - вопрос о поле
Я - новичок MATLAB. Вот проблема:>> = пол (7/2.5) = 2.00>> b = rem (7 2.5) b = 2.00>> c = пол (b/2) c = 0 c должен быть 1, правильно? Почему...
вопрос задан: 3 October 2011 23:35
3
ответа
Точность между моей IDE и PythonTutor.com? [Дубликат]
Я работаю над проблемой для своего онлайн-курса Python и заметил в моем решении что-то странное в быстром вычислении наименьшего общего числа из двух чисел: когда я отправляю свой код ...
вопрос задан: 26 September 2011 22:23
3
ответа
Почему делает Систему C#. Десятичное число помнит конечные нули?
Есть ли причина что Система C#. Decimal помнит количество конечных нулей, с которыми оно вводилось? Посмотрите следующий пример: общественность освобождает DoSomething () {десятичное число dec1 = 0.5M; десятичное число dec2...
вопрос задан: 8 June 2010 11:17
3
ответа
Как НОМЕР Oracle может иметь Масштаб, больше, чем Точность?
Состояния документации: "Точность может колебаться от 1 до 38. Масштаб может колебаться от-84 до 127". Как масштаб может быть больше, чем точность? Не был должен Диапазон шкалы от-38 до 38?
вопрос задан: 18 March 2010 22:15
3
ответа
Почему это переносит вычисление, таким образом неточное?
Это даже что неточно? Я re-implented все это с произвольной точностью Apfloat и это не имело никакого значения, которое я должен был знать для запуска с!! общедоступный статический двойной перенос (LatLng...
вопрос задан: 9 February 2010 22:16
3
ответа
PHP и утверждения поблочного тестирования с десятичными числами
У меня есть метод, который возвращает плавание как 1,234567890. Я хочу протестировать это, это действительно делает так. Однако кажется, что это возвращенное плавание имеет другую точность на различных платформах поэтому, как делают меня...
вопрос задан: 26 December 2009 10:59
3
ответа
Определите равенство значений Даты и времени с мелкой точностью в LINQ
Я должен сравнить два значения даты и времени для определения равенства (точно то же), с помощью мелкой точности. Это было бы лучшим способом сделать это? Мои даты могли иметь секунды и миллисекунды, но я хочу...
вопрос задан: 14 August 2009 13:24
3
ответа
Что такое c printf %f точность по умолчанию?
Мне любопытно: Если Вы делаете printf (" %f", число); какова точность оператора? Т.е. Сколько десятичных разрядов обнаружится? Действительно ли этот компилятор зависим?
вопрос задан: 30 July 2009 16:39
3
ответа
Ограничения с плавающей точкой
Мой код: = '2.3' я хотел отобразиться как значение с плавающей точкой. Начиная со строки я попробовал: плавание (a) результат, который я получил, было: 2.2999999999999998 я хочу решение для этой проблемы...
вопрос задан: 2 January 2009 09:42
2
ответа
C: цикл while с плавающей запятой никогда не завершается
Выполняя этот код: float f = 1.0; while (f! = 0.0) {f = f - 0.1; printf ("%. 1f \ n", f); } Ожидается, что он будет работать 10 раз и остановится, но получается, что это неизбежно ...
вопрос задан: 25 March 2019 09:46
2
ответа
Управление количеством десятичных цифр в печати производится в R
Существует опция в R для получения контроля над дисплеем цифры. Например: опции (digits=10), как предполагается, дают результаты вычисления в 10 цифрах до конца сессии R. В справочном файле R...
вопрос задан: 31 January 2019 08:25
2
ответа
печать с плавающей точкой имеет неожиданное значение [дубликат]
Почему '32' было добавлено к значению v в выводе ниже? int main () {float v = 9.999e8; std :: cout < < "v - >" < < v < < станд :: епсИ; std :: cout < < станд :: ...
вопрос задан: 17 January 2019 04:52
2
ответа
Подходит использование эпсилона машины для тестов равенства с плавающей точкой?
Это - продолжение Тестирования на равенство значения с плавающей точкой: существует ли стандартное имя для постоянной “точности”?. Дважды существует очень похожий вопрос. Эпсилон для равенства, больше, чем...
вопрос задан: 14 November 2017 12:37
2
ответа
дважды минус двойные проблемы точности предоставления
Я столкнулся с проблемой точности с дважды в.NET, я думал, что это только относилось к плаваниям, но теперь я вижу, что дважды плавание. удвойте тест = 278.97 - 90.46; Отладка. WriteLine (тест)//188....
вопрос задан: 9 September 2017 20:20
2
ответа
В java, какой диапазон целых чисел, которые плавают, может представлять собой превосходно? [Дубликат]
Без учета фракций, таких как 1.2365 ... и сосредоточения только на целых числах 1, 2, 3, -1, -2, -3. Каков диапазон чисел, которые плавают и удваиваются, могут представлять со 100% -ной точностью?
вопрос задан: 27 December 2016 00:38
2
ответа
Найдите угол между часом и минутными стрелками в аналоговых часах
Мне недавно дали этот вопрос об интервью: Учитывая 12-часовые аналоговые часы, вычислите в градусе меньший угол между часом и минутными стрелками. Будьте так точны, как Вы можете. Я задаюсь вопросом, что...
вопрос задан: 3 October 2015 09:20
2
ответа
Высокая точность чисел с плавающей точкой в Haskell?
Я знаю, что в Haskell есть нативные типы данных, которые позволяют вам иметь действительно большие целые числа, например, > > пусть x = 131242358045284502395482305 > > x 131242358045284502395482305 работа, как и ожидалось. ...
вопрос задан: 2 June 2013 00:02
2
ответа
Почему IEEE 754 решил выделить 23 бита для manitssa, а не 22 или 24 (и т. Д.)? [Дубликат]
Комитет мог бы выбрать стандартизацию базового типа float по-разному, но они выбрали это распределение. Я ищу запись процесса, по которому они решили выделить бит пространства ...
вопрос задан: 26 September 2012 12:35
2
ответа
Почему использование диапазона в списках Haskell с поплавками дает странные значения? [Дубликат]
Прелюдия & GT; [0,1,0.2..1.0] [0,1,0,2,0,30000000000000004,0,4000000000000001,0,5000000000000001,0,6000000000000001,0,7000000000000001,0,8,0,9,1,0] Почему только 0,8 и 0,9 являются правильными? В других случаях ...
вопрос задан: 19 January 2012 05:28
2
ответа
Haskell: Сила плавает, чтобы иметь два десятичных числа
Используя следующий фрагмент кода: (fromIntegral 100)/10.00 Используя Haskell '98 стандартных вводных частей, как я представляю результат с двумя десятичными числами?Спасибо.
вопрос задан: 16 September 2010 17:05
2
ответа
хранение двойных значений в SQLite: как гарантировать точность?
у меня есть проблема с двойными значениями, которые я должен сохранить в размещенной sqlite базе данных андроида. так как эти двойные значения представляют значения gps (lat и СПГ), мне действительно НУЖНА абсолютная точность вниз к...
вопрос задан: 21 June 2010 10:20
2
ответа
двойная точность в Ada?
Я очень плохо знаком с Ada и пытался видеть, предлагает ли это тип двойной точности. Я вижу, что у нас есть плавание и Помещенный (Integer'Image(Float'digits)); на моей машине дает значение 6, который не является...
вопрос задан: 20 April 2010 19:43
2
ответа
Найдите макс. целочисленный размер, который тип с плавающей точкой может обработать без потери точности
Дважды имеет диапазон больше, чем 64-разрядное целое число, но его точность является меньшим количеством взносов к его представлению (так как дважды является 64-разрядным также, он не может соответствовать более фактическим значениям). Так, при представле
вопрос задан: 6 April 2010 00:59