18
ответов

настройка параметров отображения для десятичных знаков в записной книжке ipython [duplicate]

Есть ли способ, чтобы все числа отображались как поплавки до 4 десятичных знаков в ноутбуке ipython? Я попробовал следующее: из десятичного импорта * d = 1.2345 print Decimal (d) & gt; 1 Не ...
вопрос задан: 10 May 2012 18:15
15
ответов

Способ по умолчанию переопределить тип точности и шкалы десятичных данных в Entity Framework [duplicate]

По умолчанию Entity Framework принимает .Net decimal Type и сопоставляет его с типом данных в формате SQL (). Есть ли способ изменить его на десятичный (22,4) по умолчанию для всех десятичных полей ?. Я пытался ...
вопрос задан: 25 January 2016 02:08
14
ответов

Как округлить число до n знаков после запятой в Java

То, что я хотел бы, - это метод для преобразования двойного числа в строку, которая округляется с использованием метода половинного увеличения - то есть, если десятичное число должно быть округлено до 5, оно всегда округляется до предыдущего числа. Это ..
вопрос задан: 22 March 2017 16:22
14
ответов

c # Почему я получаю двойное значение без десятичного числа (преобразование из объекта в double) [дубликат]

Я хочу получить объект из моего DataGridView, который является lon-resp. значение широты (например, 5.5186), преобразованное в двойное значение. Но я получу 55186 (из примера) без десятичной дроби. Как я могу исправить ...
вопрос задан: 16 November 2013 20:01
11
ответов

Почему Десятичные числа С плавающей точкой не аппаратно ускорены как Двоичные числа С плавающей точкой?

Действительно ли это стоит того для реализации его в аппаратных средствах? Если да, почему? Если не, почему нет? Извините я думал, что ясно, что я говорю о Десятичных Рациональных числах! Хорошо что-то как decNumber ++ для C++, десятичного числа...
вопрос задан: 19 September 2009 23:45
10
ответов

Вопрос для Вас, кто часто работает с шестнадцатеричным

Каждый раз, когда я работаю с шестнадцатеричными значениями, я делаю преобразование (в случае необходимости) в десятичное число в моей голове или с помощью преобразователя. Хорошо я думал, если Вы работаете достаточно долго и привыкаете к...
вопрос задан: 11 January 2010 21:05
9
ответов

Как я преобразовываю десятичное число в интервал в C#?

Как я преобразовываю десятичное число в интервал?
вопрос задан: 23 October 2012 12:56
9
ответов

ASP/VBScript “Глюки”

Я поддерживаю/улучшаю веб-приложение, записанное в Классике ASP/VBScript. Это были приблизительно 10 лет, с тех пор как я использовал любого в повседневной способности. Я просто натыкался на проблему, что я буду...
вопрос задан: 22 October 2009 04:09
9
ответов

Кастинг узких типов к более широким типам, чтобы сохранить память и сохранить вычисления высокой точности ужасной идеей?

Я имею дело с финансовыми данными, таким образом, существуют многие из них, и это должна быть относительно высокая точность (плавающая точка на 64 бита или шире). Общепринятая практика вокруг моего рабочего места, кажется, к...
вопрос задан: 28 May 2009 16:29
8
ответов

Преобразовать десятичную в двойную?

Я хочу использовать трек-бар, чтобы изменить прозрачность формы. Это мой код: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Когда я создаю приложение, оно выдает следующую ошибку: ...
вопрос задан: 19 July 2019 01:39
7
ответов

Как округлить десятичное значение до 2 десятичных знаков (для вывода на страницу)

При отображении значения десятичной запятой в настоящее время с помощью .ToString (), это точно, как 15 знаков после запятой, и, поскольку я использую его для представления долларов и центов, я хочу, чтобы вывод был только 2 ...
вопрос задан: 21 August 2017 10:33
7
ответов

Как соглашение с тем, что большинство десятичных дробей не может быть точно представлено в двоичном файле?

Так, мы знаем, что части такой как 0,1, не может быть точно представлен в двоичном основании, которые вызывают точные проблемы (такой, как упомянуто здесь: Форматирование удваивается для вывода в C#). И мы знаем нас...
вопрос задан: 23 May 2017 12:07
7
ответов

Определите десятичную точность входного числа

У нас есть интересная проблема, были, мы должны определить десятичную точность пользовательского входа (текстовое поле). По существу мы должны знать количество вводимых десятичных разрядов и затем возвратить точность...
вопрос задан: 18 April 2016 22:01
7
ответов

Когда я должен использовать дважды вместо десятичного числа?

Я могу назвать три преимущества для использования дважды (или плавание) вместо десятичного числа: Использование меньше памяти. Быстрее, потому что операции математических операций с плавающей точкой исходно поддерживаются процессорами. Может представить б
вопрос задан: 14 March 2014 02:20
7
ответов

Округление числа к 2 десятичным разрядам в C

Как может я вокруг плавания (такой как 37,777779) к двум десятичным разрядам (37.78) в C?
вопрос задан: 9 May 2012 03:07
7
ответов

Десятичная разница в точности для операций типа (x * = val / b vs x = x * val / b) [duplicate]

Я столкнулся с немного странным поведением с C # и задавался вопросом, может ли кто-нибудь объяснить это. Рассмотрим следующий пример кода: decimal oldVal = 0.00081836M; decimal val = 0 ....
вопрос задан: 15 July 2009 18:24
7
ответов

Преобразуйте строку в целое число с десятичным числом в Python

У меня есть строка в формате: 'nn.nnnnn' в Python, и я хотел бы преобразовать его в целое число. Прямые сбои преобразования:>>> s = '23.45678'>>> я = интервал (интервалы) Traceback (новый...
вопрос задан: 7 July 2009 09:35
7
ответов

C/C++ считая количество десятичных чисел?

Позволяет говорят, что вход от пользователя является десятичным числом, напр. 5.2155 (наличие 4 десятичных цифр). Это может быть сохранено свободно (интервал, дважды) и т.д. Есть ли любой умный (или очень прост) способ узнать сколько...
вопрос задан: 5 July 2009 01:30
7
ответов

Эффективно преобразуйте между Шестнадцатеричным числом, Двоичным файлом и Десятичным числом в C/C++

У меня есть 3 основных представления для положительных целых чисел: Десятичное число, в неподписанной длинной переменной (например, неподписанном длинном целом NumDec = 200). Шестнадцатеричное число, в строковой переменной (например, строка NumHex = "
вопрос задан: 4 May 2009 09:54
7
ответов

Производительность Типа данных decimal C#

Я пишу финансовое приложение в C#, где производительность (т.е. скорость) очень важна. Поскольку это - финансовое приложение, я должен использовать Тип данных decimal интенсивно. Я оптимизировал код так же как...
вопрос задан: 15 December 2008 09:21
7
ответов

Десятичное число по сравнению с удвоенной скоростью

Я пишу финансовые приложения, где я постоянно борюсь против решения использовать двойное по сравнению с использованием десятичного числа. Все мои математические работы над числами больше чем без 5 десятичных разрядов и не больше, чем ~...
вопрос задан: 1 December 2008 01:02
6
ответов

Как преобразовать числа между шестнадцатеричным и десятичным

Как вы конвертируете между шестнадцатеричными и десятичными числами в C #?
вопрос задан: 10 December 2018 09:52
6
ответов

Усеките десятичное значение в C++

Что самый легкий путь состоит в том, чтобы усечь плавающую переменную C++, которая имеет значение 0,6000002 к значению 0,6000, и сохраните его назад в переменной?
вопрос задан: 29 April 2017 00:09
6
ответов

Как я вычисляю проценты с десятичными числами в SQL?

Как я могу преобразовать это в десятичное число в SQL? Ниже уравнение, и я получаю ответ как 78 (целое число), но реальный ответ 78.6 (с десятичным числом), таким образом, я должен показать это как иначе, отчет не будет...
вопрос задан: 3 February 2017 14:59
6
ответов

Плавание Python к Десятичному преобразованию

Десятичное число Python не поддерживает быть созданным из плавания; это ожидает, что необходимо преобразовать плавание в строку сначала. Это очень неудобно начиная со стандартных строковых средств форматирования для плавания...
вопрос задан: 2 November 2014 22:09
6
ответов

десятичный против двойного! - Какой я должен использовать и когда? [Дубликат]

Я продолжаю видеть людей, использующих двойники в C #. Я знаю, что где-то читал, что двойники иногда теряют точность. Мой вопрос: когда следует использовать двойное и когда я должен использовать десятичный тип? Какой тип ...
вопрос задан: 14 March 2014 13:18
6
ответов

PHP преобразовывают десятичное число в часть и назад?

Я хочу, чтобы пользователь смог ввести в части как: 1/2 2 1/4 3 И преобразовывают его в его соответствующее десятичное число, чтобы быть сохраненными в MySQL, тот способ, которым я могу заказать им и сделать другие сравнения с ним...
вопрос задан: 15 October 2011 10:38
6
ответов

Негласно, что происходит с типом десятичного значения в C#/.NET?

Как десятичный тип реализован? Обновление Это - 128-разрядный тип значения (16 байтов) 1 знаковый бит 96 битов (12 байтов) для мантиссы 8 битов для битов оставлений экспоненты (23 из них!) набор к 0 Спасибо!...
вопрос задан: 20 July 2010 20:50
6
ответов

Как вычислить различие в часах (десятичное число) между двумя датами в SQL Server?

Я должен вычислить различие в часах (десятичный тип) между двумя датами в SQL Server 2008. Я не мог найти, что любая полезная техника преобразовала дату и время в десятичное число с 'ПРЕОБРАЗОВАНИЕМ' на MSDN. Может...
вопрос задан: 20 November 2009 14:32
6
ответов

Почему Система. Математика и например MathNet. Численные данные на основе дважды?

Все методы в Системе. Математика берет дважды в качестве параметров возвратов и параметров. Константы также имеют тип дважды. Я проверил MathNet. Численные данные и то же, кажется, имеют место там. Почему...
вопрос задан: 5 November 2009 14:28