Существует ли сформировавшаяся библиотека для того, чтобы сделать основанную на десятичном числе математику, возможно произвольная точность, в JavaScript?Править: Я хочу эту информацию для ссылочной страницы на связанных с плавающей точкой проблемах и...
У меня есть Строка Ruby, которая содержит содержащие десятичное число числа. Что лучший способ состоит в том, чтобы преобразовать это в десятичное число (фиксированная точка)? "Лучше всего" означает: Надежный, учитывая широкий спектр входных опц
Мы столкнулись с магическим десятичным числом, которое нарушило нашу хеш-таблицу. Я свел это к следующему минимальному случаю: десятичное d0 = 295.50000000000000000000000000m;
десятичный d1 = 295,5м; Console.WriteLine ("{0} ...
Я использую read _csv для чтения файлов CSV во фреймы данных Pandas. Мои файлы CSV содержат большое количество десятичных знаков/поплавков. Числа закодированы с использованием европейской десятичной системы счисления :1.234.456,78 Это...
Я делаю Java-программу для Android, которая принимает двойные значения от пользователя. Если я запускаю программу на компьютере, она отлично работает из-за языкового стандарта моего компьютера EN_UK. Но когда я запускаю его на...
Я хотел бы знать, как я могу вывести число с двумя десятичными разрядами, не округляя исходное число. Например: 2229 999 - > 2229,99 Я уже пробовал: FORMAT (2229.999, 2) CONVERT (2229 ....
This will seem like a silly question to some but I need to cast a double to decimal to use as currency. Where does the M go? decimal dtot = (decimal)(doubleTotal);
Как десятичный тип .NET представлен в двоичном виде в памяти? Мы все знаем, как хранятся числа с плавающей запятой и, следовательно, причины их неточности, но я не могу найти ...
Есть ли простой способ вывести число с плавающей запятой с определенным количеством цифр после запятой? Например: $sum = 3,1234566768; Я хотел бы повторить $sum и получить: 3.12.
Я делаю Ajax-вызов API. Когда я проверяю fiddler, значение возвращается из API как 41.933240000000019, но при выполнении вызова ajax значение округляется до 41.93324000000002. ...
У меня есть функция JavaScript, которая возвращает запятую для десятичного ввода: getLocalDecimalSeparator: - > $ translate.instant ('numbers.decimal_separator') перевод определяется как ...
Я не могу понять, что я делаю неправильно, из-за чего цикл for не проходит через мою длину. Я пытаюсь использовать пользовательский ввод для преобразования двоичного числа в десятичное, но оно не работает. Что у меня есть ...
Мне нужно уметь использовать стандартные математические функции для десятичных чисел. Точность очень важна. дабл не является приемлемой заменой. Как можно реализовать математические операции с десятичными числами ...
Я новичок в программировании. У меня есть задача сделать деление двух произвольных чисел и установить произвольное количество десятичных знаков. Я искал в Интернете, но не совсем уверен, как его установить. Если я ...
Это может быть глупый вопрос. Мне интересно, какой тип представления используется здесь? 0a30 879d 70a5 cce1 cccb 2711 4d90 9e05 44a9 66c0 c5c2 c68e 736b 15c3 ec58 c654 294b 213c 3050 5851 7636 5e5e f871 ...
Иногда типы данных Activerecord меня сбивают с толку. Эээ, часто. Один из моих вечных вопросов в данном случае: следует ли использовать: decimal или: float? Я часто сталкивался с этой ссылкой ActiveRecord:: ...
У меня возникла эта проблема с двойными (десятичными знаками ). Когда a double = 1.234567 Затем я использую String.format ("%.3f", myString ); Итак, результат 1,234. Но когда мой двойник равен 10 Результат будет 10000 Я хочу это...
Согласно IEEE 754-2008 существует три основных двоичных формата с плавающей запятой (которые могут быть закодированы с использованием 32, 64 или 128 бит) и два десятичных базовые форматы с плавающей запятой (которые могут быть ...
Как преобразовать целое число в шестнадцатеричную строку в C ++? Я могу найти несколько способов сделать это, но они в основном ориентированы на C. Не похоже, что есть собственный способ сделать это в C ++. Это довольно просто ...
Я запускаю код для создания выходных данных, где я хочу, чтобы все выходные данные печатались с 1 десятичным знаком. Однако в коде используются функции, которые я обычно использую, и я не хочу указывать в них...
Я пишу программу, которая использует getch ()для поиска клавиш со стрелками. Мой код пока таков: :switch (getch ()){ case 65 :// key up break; case 66 :// нажатие клавиши break; case...
РЕДАКТИРОВАТЬ Я снова объясню, когда я говорю десятичный, я имею в виду system.decimal, а не математическую концепцию decimal min = 5.62;
десятичный макс = 14,39; Как мне получить system.decimal, который случайным образом находится между ...
Попытка удалить все буквы и символы, кроме 0 -9 и точки. Я использую Character.isDigit (), но он также удаляет десятичные дроби, как я могу сохранить десятичную дробь?
У меня есть двойное «138630.78380386264», и я хочу его преобразовать до десятичной дроби, однако, когда я делаю это, я делаю это либо путем преобразования, либо с помощью Convert.ToDecimal (), и я теряю точность. Что происходит? Оба ...
У меня есть число с плавающей запятой, которое я хочу усечь до трех разрядов, но не хочу округлять в большую сторону. Например, преобразовать 1.0155555555555555 в 1.015 (а не 1.016). Как бы я сделал это в ...
Предположим, у меня есть следующее десятичное число, которое я должен отформатировать так, чтобы каждая тысяча была разделена пробелом: от 897,11 до 897,11 1897,11 до 1 897,11 12897,11 до 12 897,11 123897,11 до ...
У меня есть набор строковых чисел с десятичными знаками, например :23.456, 9.450, 123.01... Мне нужно получить количество десятичных знаков для каждого числа, зная, что они имеют по крайней мере 1 десятичный знак. В другом...
Почему тип данных Decimal не имеет поля Epsilon? Из руководства, диапазон десятичных значений составляет от ± 1,0 × 10e − 28 до ± 7,9 × 10e28. Описание Double.Epsilon: представляет наименьшее ...