18
ответов

настройка параметров отображения для десятичных знаков в записной книжке ipython [duplicate]

Есть ли способ, чтобы все числа отображались как поплавки до 4 десятичных знаков в ноутбуке ipython? Я попробовал следующее: из десятичного импорта * d = 1.2345 print Decimal (d) & gt; 1 Не ...
вопрос задан: 10 May 2012 18:15
15
ответов

Способ по умолчанию переопределить тип точности и шкалы десятичных данных в Entity Framework [duplicate]

По умолчанию Entity Framework принимает .Net decimal Type и сопоставляет его с типом данных в формате SQL (). Есть ли способ изменить его на десятичный (22,4) по умолчанию для всех десятичных полей ?. Я пытался ...
вопрос задан: 25 January 2016 02:08
14
ответов

Как округлить число до n знаков после запятой в Java

То, что я хотел бы, - это метод для преобразования двойного числа в строку, которая округляется с использованием метода половинного увеличения - то есть, если десятичное число должно быть округлено до 5, оно всегда округляется до предыдущего числа. Это ..
вопрос задан: 22 March 2017 16:22
14
ответов

c # Почему я получаю двойное значение без десятичного числа (преобразование из объекта в double) [дубликат]

Я хочу получить объект из моего DataGridView, который является lon-resp. значение широты (например, 5.5186), преобразованное в двойное значение. Но я получу 55186 (из примера) без десятичной дроби. Как я могу исправить ...
вопрос задан: 16 November 2013 20:01
10
ответов

Почему Десятичные числа С плавающей точкой не аппаратно ускорены как Двоичные числа С плавающей точкой?

Действительно ли это стоит того для реализации его в аппаратных средствах? Если да, почему? Если не, почему нет? Извините я думал, что ясно, что я говорю о Десятичных Рациональных числах! Хорошо что-то как decNumber ++ для C++, десятичного числа...
вопрос задан: 19 September 2009 23:45
9
ответов

Как я преобразовываю десятичное число в интервал в C#?

Как я преобразовываю десятичное число в интервал?
вопрос задан: 23 October 2012 12:56
9
ответов

ASP/VBScript “Глюки”

Я поддерживаю/улучшаю веб-приложение, записанное в Классике ASP/VBScript. Это были приблизительно 10 лет, с тех пор как я использовал любого в повседневной способности. Я просто натыкался на проблему, что я буду...
вопрос задан: 22 October 2009 04:09
9
ответов

Кастинг узких типов к более широким типам, чтобы сохранить память и сохранить вычисления высокой точности ужасной идеей?

Я имею дело с финансовыми данными, таким образом, существуют многие из них, и это должна быть относительно высокая точность (плавающая точка на 64 бита или шире). Общепринятая практика вокруг моего рабочего места, кажется, к...
вопрос задан: 28 May 2009 16:29
8
ответов

Преобразовать десятичную в двойную?

Я хочу использовать трек-бар, чтобы изменить прозрачность формы. Это мой код: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Когда я создаю приложение, оно выдает следующую ошибку: ...
вопрос задан: 19 July 2019 01:39
7
ответов

Когда я должен использовать дважды вместо десятичного числа?

Я могу назвать три преимущества для использования дважды (или плавание) вместо десятичного числа: Использование меньше памяти. Быстрее, потому что операции математических операций с плавающей точкой исходно поддерживаются процессорами. Может представить б
вопрос задан: 14 March 2014 02:20
7
ответов

Округление числа к 2 десятичным разрядам в C

Как может я вокруг плавания (такой как 37,777779) к двум десятичным разрядам (37.78) в C?
вопрос задан: 9 May 2012 03:07
7
ответов

Десятичная разница в точности для операций типа (x * = val / b vs x = x * val / b) [duplicate]

Я столкнулся с немного странным поведением с C # и задавался вопросом, может ли кто-нибудь объяснить это. Рассмотрим следующий пример кода: decimal oldVal = 0.00081836M; decimal val = 0 ....
вопрос задан: 15 July 2009 18:24
7
ответов

Преобразуйте строку в целое число с десятичным числом в Python

У меня есть строка в формате: 'nn.nnnnn' в Python, и я хотел бы преобразовать его в целое число. Прямые сбои преобразования:>>> s = '23.45678'>>> я = интервал (интервалы) Traceback (новый...
вопрос задан: 7 July 2009 09:35
7
ответов

C/C++ считая количество десятичных чисел?

Позволяет говорят, что вход от пользователя является десятичным числом, напр. 5.2155 (наличие 4 десятичных цифр). Это может быть сохранено свободно (интервал, дважды) и т.д. Есть ли любой умный (или очень прост) способ узнать сколько...
вопрос задан: 5 July 2009 01:30
7
ответов

Эффективно преобразуйте между Шестнадцатеричным числом, Двоичным файлом и Десятичным числом в C/C++

У меня есть 3 основных представления для положительных целых чисел: Десятичное число, в неподписанной длинной переменной (например, неподписанном длинном целом NumDec = 200). Шестнадцатеричное число, в строковой переменной (например, строка NumHex = "
вопрос задан: 4 May 2009 09:54
7
ответов

Десятичное число по сравнению с удвоенной скоростью

Я пишу финансовые приложения, где я постоянно борюсь против решения использовать двойное по сравнению с использованием десятичного числа. Все мои математические работы над числами больше чем без 5 десятичных разрядов и не больше, чем ~...
вопрос задан: 1 December 2008 01:02
6
ответов

Как округлить десятичное значение до 2 десятичных знаков (для вывода на страницу)

При отображении значения десятичной запятой в настоящее время с помощью .ToString (), это точно, как 15 знаков после запятой, и, поскольку я использую его для представления долларов и центов, я хочу, чтобы вывод был только 2 ...
вопрос задан: 21 August 2017 10:33
6
ответов

Как соглашение с тем, что большинство десятичных дробей не может быть точно представлено в двоичном файле?

Так, мы знаем, что части такой как 0,1, не может быть точно представлен в двоичном основании, которые вызывают точные проблемы (такой, как упомянуто здесь: Форматирование удваивается для вывода в C#). И мы знаем нас...
вопрос задан: 23 May 2017 12:07
6
ответов

Как я вычисляю проценты с десятичными числами в SQL?

Как я могу преобразовать это в десятичное число в SQL? Ниже уравнение, и я получаю ответ как 78 (целое число), но реальный ответ 78.6 (с десятичным числом), таким образом, я должен показать это как иначе, отчет не будет...
вопрос задан: 3 February 2017 14:59
6
ответов

Плавание Python к Десятичному преобразованию

Десятичное число Python не поддерживает быть созданным из плавания; это ожидает, что необходимо преобразовать плавание в строку сначала. Это очень неудобно начиная со стандартных строковых средств форматирования для плавания...
вопрос задан: 2 November 2014 22:09
6
ответов

Как вычислить различие в часах (десятичное число) между двумя датами в SQL Server?

Я должен вычислить различие в часах (десятичный тип) между двумя датами в SQL Server 2008. Я не мог найти, что любая полезная техника преобразовала дату и время в десятичное число с 'ПРЕОБРАЗОВАНИЕМ' на MSDN. Может...
вопрос задан: 20 November 2009 14:32
6
ответов

Почему Система. Математика и например MathNet. Численные данные на основе дважды?

Все методы в Системе. Математика берет дважды в качестве параметров возвратов и параметров. Константы также имеют тип дважды. Я проверил MathNet. Численные данные и то же, кажется, имеют место там. Почему...
вопрос задан: 5 November 2009 14:28
6
ответов

Как к раунду десятичное число к ближайшей части?

Не уверенный, если это - правильный способ спросить это или не, но здесь является проблемой. Учитывая широту 26,746346081599476, как я нахожу номер 26.75 как 16-е большее, чем число и 26.6875 как...
вопрос задан: 1 October 2009 21:17
6
ответов

Проблемы вычисления Mysql: 1+1=1.999999999

Проблема - это, когда я добавляю два или больше, удваивается от таблицы до представления, вместо того, чтобы дать мне правильные результаты, она добавляет еще приблизительно приблизительно десять цифры. Например, 0.5+1.5=1.99999999998 или 5.5+8.5 =...
вопрос задан: 29 July 2009 20:02
6
ответов

Корректируя десятичную точность, .NET

Эти строки в десятичном числе C# = 2 м; десятичное число b = 2.0 м; десятичное число c = 2.00000000 м; десятичное число d = 2.000000000000000000000000000 м; Консоль. WriteLine (a); Консоль. WriteLine (b); Консоль. WriteLine (c); Консоль....
вопрос задан: 15 July 2009 17:24
6
ответов

Производительность Типа данных decimal C#

Я пишу финансовое приложение в C#, где производительность (т.е. скорость) очень важна. Поскольку это - финансовое приложение, я должен использовать Тип данных decimal интенсивно. Я оптимизировал код так же как...
вопрос задан: 15 December 2008 09:21
6
ответов

Двойное является действительно неподходящим за деньги?

Я всегда говорю в c#, переменная типа дважды не подходит за деньги. Все странные вещи могли произойти. Но я, может казаться, не создаю пример для демонстрации некоторых из этих проблем. Может любой обеспечивать...
вопрос задан: 25 November 2008 10:52
6
ответов

Приложения с помощью Десятичного числа по сравнению с дважды..

Я хотел видеть, использовали ли люди десятичное число для финансовых приложений вместо дважды. Я видел много людей, использующих дважды повсеместно с непреднамеренными последствиями.. Вы видите других...
вопрос задан: 25 November 2008 09:24
6
ответов

Как проверить, имеет ли двойное в большинстве n десятичных разрядов?

В настоящее время у меня есть этот метод: статическая булевская переменная checkDecimalPlaces (удваивают d, интервал decimalPlaces) {если (d == 0) возвращают true; двойной множитель = Math.pow (10, decimalPlaces); проверьте дважды = d *...
вопрос задан: 7 November 2008 08:06
6
ответов

Значащие цифры в десятичном модуле

Таким образом, я решил попытаться решить свою домашнюю работу физики путем записи некоторых сценариев Python для решения проблем для меня. Одна проблема, с которой я сталкиваюсь, состоит в том, что значащие цифры, не всегда кажется, прибывают...
вопрос задан: 29 September 2008 00:05