0
ответов
C # int хранится с двойной точностью «==». Проблема точности
Вот упрощенный код: int i = 1;
двойной a = i;
двойной b = i; Гарантировано ли, что a == b истинно?
вопрос задан: 27 November 2010 08:31
0
ответов
преобразовать десятичный массив в двойной массив
Какое эффективное и, надеюсь, элегантное заклинание для преобразования decimal [] в double []?
Я работаю с некоторыми довольно большими массивами.
вопрос задан: 14 November 2010 03:43
0
ответов
Выполнение математических операций с десятичным типом данных в C #?
Мне было интересно, возможно ли это вообще. Например: Math.Sqrt (myVariableHere); Когда я смотрю на перегрузку, она требует двойного параметра, поэтому я не уверен, есть ли другой способ ...
вопрос задан: 8 November 2010 13:21
0
ответов
C # Высокая двойная точность
Я пишу функцию, которая вычисляет значение PI и возвращает его как double. Все идет нормально. Но как только функция достигает 14 цифр после десятичной точки, она больше не может работать. Я ...
вопрос задан: 5 November 2010 14:54
0
ответов
для цикла, инкремент дважды
Я хочу использовать для цикла для моей проблемы, не в то время как. Действительно ли возможно сделать следующее?: для (удваивают меня = 0; я <10.0; i+0.25) я хочу добавить двойные значения.
вопрос задан: 19 October 2010 18:27
0
ответов
Как изменить значение double на его наименьшее приращение
Что-то сломано или я не понимаю, что происходит? статическая строка getRealBinary (double val) {long tmp = Double.doubleToLongBits (val); StringBuilder sb = новый StringBuilder (); ...
вопрос задан: 10 October 2010 13:16
0
ответов
Удвоить мои деньги: моя структура использует двойные денежные суммы
Я унаследовал проект в какие денежные суммы используют двойной тип. Хуже того, используемый фреймворк и собственные классы фреймворка используют double за деньги. Фреймворк ORM также обрабатывает ...
вопрос задан: 5 October 2010 20:42
0
ответов
Получение HTTP 404 при проверке свойства Double с ограничением min в Grails
Для простого класса, такого как класс Person {String Name Double yieldFromWork = new Double (0.0) static constraints = {доходFromWork (мин: 0 дней)}
} Однако на странице GSP я получаю ...
вопрос задан: 27 September 2010 15:05
0
ответов
BigDecimal from Double неверное значение?
Я пытаюсь создать BigDecimal из строки. Не спрашивайте зачем, мне это просто нужно! Это мой код: Double theDouble = new Double (". 3");
System.out.println ("Двойник:" + theDouble.toString ());
...
вопрос задан: 11 September 2010 23:00
0
ответов
Целочисленное против двойной арифметической производительности?
Я пишу класс C # для выполнения разделимой двумерной свертки с использованием целых чисел, чтобы получить лучшую производительность, чем двойной аналог. Проблема в том, что я не получаю реального прироста производительности. Это ...
вопрос задан: 9 September 2010 20:26
0
ответов
C# double precision problem
Imagine that a - b < c (a, b, c are C# doubles). Is it guaranteed that a < b + c? Thanks! EDIT
Let's say that the arithmetical overflow doesn't occur unlike the following example: double a = ...
вопрос задан: 3 September 2010 09:38
0
ответов
Двойная точность типа метода set Symfony 1.4
Я хочу сохранить число с 14 десятичными разрядами, но симфония только сохраняет 6. Как может я управлять этим: $loc-> setSinRadLon (0.73946213661883); В схеме столбец похож: sin_rad_lon: {введите:...
вопрос задан: 4 June 2010 00:17