0
ответов
Тип данных SQL 'float' при выводе как XML приводит к нежелательному результату с плавающей запятой
Вы можете просто попробовать:
table1: имеет column1 типа 'float' вместо SELECT column1 из Table1; дает значения, как показано в таблице. Скажем, это возвращает 15.1 Однако, если вы попробуете Выбрать столбец1 из ...
вопрос задан: 31 May 2012 14:52
0
ответов
Почему преобразование из float в varchar округляется в SQL Server
После объявления sql @a как float, @b как float select @ a = 1.353954, @ b = 1.353956
выберите CAST (@a как VARCHAR (40)) AS a_float_to_varchar,
CAST (@b as VARCHAR (40)) AS b_float_to_varchar приводит к ...
вопрос задан: 31 May 2012 14:52
0
ответов
IEEE Std 754 Floating-Point: пусть t := a - b, гарантирует ли стандарт, что a == b + t?
Предположим, что все t,a,b являются двойными (IEEE Std 754) переменными, и оба значения a, b НЕ являются NaN (но могут быть Inf).
После t = a - b обязательно ли у меня есть a == b + t?
вопрос задан: 29 May 2012 00:53
0
ответов
Ruby Floating Point Math — Проблема с точностью вычисления суммы
Всем доброе утро, у меня возникли некоторые проблемы с математикой с плавающей запятой и полностью потерялся в «.to_f», «*100» и «.0»! Я надеялся, что кто-нибудь сможет помочь мне с моей конкретной проблемой, и...
вопрос задан: 28 May 2012 13:29
0
ответов
Генерируют ли JIT-компиляторы JVM код, использующий векторизованные инструкции с плавающей запятой?
Предположим, что узким местом моей Java-программы на самом деле являются несколько узких циклов для вычисления множества векторных скалярных произведений. Да, я профилировал, да, это узкое место, да, это существенно, да, именно так...
вопрос задан: 28 May 2012 12:48
0
ответов
Почему рациональные числа не реализуются и не хранятся в виде дробей с нулевой потерей информации? [закрыто]
Я знаю, что это немного гипотетически, но мне интересно, почему ни один из известных мне языков не делает этого. Например, вы хотите сохранить 1/3. Дайте программисту возможность указать его как 1/3 и сохранить 1 и 3. ...
вопрос задан: 27 May 2012 03:32
0
ответов
Как заставить Float отображаться с полной точностью без экспоненциальной нотации, а не в виде строки?
Как заставить float отображаться со всеми значащими местами / с полной точностью без экспоненциальной нотации в Ruby? В настоящее время я конвертирую BigDecimal в Float, BigDecimal (0.000000001453) .to_f, ...
вопрос задан: 25 May 2012 02:26
0
ответов
Что именно означает Double в java?
Я очень плохо знаком с Java и просто хотел подтвердить, что такое Double? Это похоже на Float или Int? Любая помощь будет оценена по достоинству. Я также иногда вижу прописные буквы Double, а иногда - нижние ...
вопрос задан: 24 May 2012 19:31
0
ответов
Почему моя переменная с плавающей запятой содержит целые числа?
Я уже некоторое время смотрю на этот код и не могу понять, в чем, вероятно, простая ошибка ... Короче говоря, я есть переменная типа float в Java, которая, кажется, хранит только целое число ...
вопрос задан: 24 May 2012 19:31
0
ответов
iOS вокруг поплавка
У меня есть число с плавающей запятой, которые имеют больше десятичных цифр, например: float fRes = 10.0 / 3.0; на самом деле значение fRes равно 3.3333333333333, например, можно задать, например, 2 десятичных знака: float ...
вопрос задан: 24 May 2012 19:30
0
ответов
Печать значений с плавающей запятой с помощью sprintf
Сейчас у меня есть: printf ('Рейтинг:% .2F', $ rating); выводится примерно так: 4.00 Как я могу показать ведущий ноль, только если после него есть что-то показать? Например: 4,00 должно быть 4
4,20 должно ...
вопрос задан: 24 May 2012 15:28
0
ответов
Преобразование float в десятичное число теряет точность в C #
В C # 4.0 следующее приведение ведет себя очень неожиданно: (десятичное) 1056964.63f
1056965 Преобразование в double работает нормально: (double) 1056964.63f {{ 1}} 1056964.625 (десятичный) (двойной) 1056964.63f
1056964.625 ...
вопрос задан: 24 May 2012 15:27
0
ответов
Преобразование двойного числа в int в Javascript без округления
В C # следующий код возвращает 2: double d = 2.9;
int i = (int) d;
Debug.WriteLine (i); Однако в Javascript единственный способ преобразовать "double" в "int", о котором я знаю, - это использовать Math ....
вопрос задан: 24 May 2012 15:27
0
ответов
Как вычислить десятичные цифры точности на основе количества бит?
Я изучаю форматы с плавающей запятой (IEEE ). В формате одинарной точности с плавающей запятой упоминается, что мантисса имеет 24 бита, поэтому она имеет точность 6 1/2 десятичных цифр (, поскольку...
вопрос задан: 24 May 2012 15:24
0
ответов
Округлить до ближайшего целого числа
Есть ли официальная спецификация функции раунда в Haskell? В GHCi версии 7.0.3 я вижу следующее поведение :ghci> round (0.5 ::Double )0 ghci> круглый (1,5 ::Двойной )2 С...
вопрос задан: 24 May 2012 13:35
0
ответов
Вычисления с плавающей запятой IEEE-754, равенство и сужение
В следующем коде функции foo1,foo2 и foo3 считаются эквивалентными. Однако, когда запуск foo3 не завершается из цикла, есть ли причина, по которой это так? template <...
вопрос задан: 23 May 2012 06:51
0
ответов
Преобразование числа с плавающей запятой в биты
Как получить отдельные биты (или целую переменную) числа типа double или числа с плавающей запятой? Например, если у меня есть float a = 0,5; Я бы ожидал, что строка будет равна:
"00111111000000000000000000000000" или в шестнадцатеричном формате:
"...
вопрос задан: 18 May 2012 17:40
0
ответов
Каков результат встроенного Float.floatToRawIntBits (значение с плавающей запятой)?
В документации JRE указано, что встроенная функция Float.floatToRawIntBits (значение с плавающей запятой) ... возвращает представление указанного значения с плавающей запятой в соответствии с к IEEE 754 с плавающей запятой -...
вопрос задан: 17 May 2012 17:08
0
ответов
Как заставить UITouch возвращать float вместо int?
Я назначаю центр представления на основе UITouch. Я читал, что UITouch возвращает значение типа int - это означает, что он не дает мне точного местоположения касания. Есть ли способ применить касание ...
вопрос задан: 17 May 2012 17:05
0
ответов
Запуск приложение Windows из службы Windows
Я пытаюсь запустить приложение Windows из службы Windows, используя следующий код: Process.Start (@ "filename.exe"); В Windows 7 я получаю всплывающее окно с сообщением: «Программа, запущенная на этом компьютере ...
вопрос задан: 17 May 2012 17:05
0
ответов
ERLANG - преобразование двоичной строки в целое число или число с плавающей запятой
У меня есть двоичные строки в виде: << "5.7778345" >> или << "444555" >> Я не знаю перед рукой, будет ли это число с плавающей запятой или целое число. Я попытался выполнить проверку, чтобы увидеть ...
вопрос задан: 17 May 2012 17:03
0
ответов
Переосмыслить приведение числа с плавающей точкой к целому числу
Этот вопрос, вероятно, "необычный", но мне нужно привести число с плавающей точкой к целому числу, не изменяя его двоичного представления. Например, число с плавающей точкой 37.5 представлено байтами ...
вопрос задан: 17 May 2012 17:03
0
ответов
C # Generics: как использовать x.MaxValue / x.MinValue (int, float, double) в универсальном классе
Я использую WPF Extended Toolkit (http://wpftoolkit.codeplex.com/) . У него есть хороший элемент управления NumericUpDown, который я бы хотел использовать, но внутри он использует двойные значения, что означает, что он использует double.MinValue ...
вопрос задан: 16 May 2012 19:35
0
ответов
печатать числа с плавающей запятой в ada
Я хочу напечатать число с плавающей запятой, я использую пакет FLOAT_IO. Есть ли способ контролировать количество цифр после точки и перед ней?
вопрос задан: 16 May 2012 19:35
0
ответов
Форматировать число с плавающей запятой для отображения в строке с двумя цифрами?
NSString * timerend = [[NSString alloc] initWithFormat: @ "%. 0f:%. 0f:% 02d", часы, минуты, секунды]; Итак, у меня есть эта строка и несколько поплавков. Например, скажем, секунды = 6,54. Он будет отображаться как ...
вопрос задан: 16 May 2012 19:35
0
ответов
Как заполнить printf, чтобы учесть отрицательные знаки и числа переменной длины?
Я пытаюсь вывести некоторые числа в файл журнала, и я хочу добавить кучу чисел с плавающей запятой с помощью функции printf, чтобы получить: 058.0 020.0 038.0
-050.0 800.0 150.0 100.0 В настоящее время я делаю следующее: ...
вопрос задан: 16 May 2012 19:33
0
ответов
В чем смысл float_t и когда его следует использовать?
Я работаю с клиентом, который использует старую версию GCC (3.2.3, если быть точным), но хочет обновиться, и одна из причин, которая была названа в качестве камня преткновения для перехода на более новую версию, это...
вопрос задан: 16 May 2012 19:21
0
ответов
x.xxxx не является допустимым числом с плавающей запятой. Преобразование между языками / местными жителями
У меня есть испанский пользователь, который получает неверную ошибку с плавающей запятой при выполнении этого var S: String; R: Реальный;
begin S: = '3.12345'; R: = StrToFloat (S); // - Исключение здесь. Причина ...
вопрос задан: 16 May 2012 19:21
0
ответов
Переносимая сериализация значений с плавающей запятой IEEE754
Недавно я работал над системой, которая должна хранить и загружать большие объемы данных, включая числа с плавающей запятой одинарной точности. точечные значения. Я решил стандартизировать сетевой порядок байтов для...
вопрос задан: 16 May 2012 15:11
0
ответов
цел на проблем со споредба на плови c
чудно однесување: (xcode 4 слика на екранот) зошто оваа споредба дава вистина? Јас навистина не го сфаќам ..
вопрос задан: 16 May 2012 13:32