0
ответов
Целочисленное значение с плавающей запятой
Этот код работает: posToXY :: Float -> Float -> Целое число
posToXY ab = do let y = a / b round y Но это не работает: posToXY :: Integer -> Integer -> Integer
posToXY ab = ...
вопрос задан: 11 May 2012 17:31
0
ответов
Разделить строку на строку [] с помощью точки, но вернуть пустой массив
Хорошо, может быть, мне просто нужна вторая пара глаз на это. У меня есть поплавок, который я превращаю в строку. Затем я хочу разделить его на период/десятичное число, чтобы представить его как валюту. Вот мой код :...
вопрос задан: 11 May 2012 16:18
0
ответов
что происходит в фоновом режиме при преобразовании int в float
Я не понимаю, как можно шаг за шагом преобразовать int в float? Предположим, у меня есть целое число со знаком в двоичном формате. Более того, я хочу, чтобы он плавал вручную. Однако я ...
вопрос задан: 11 May 2012 16:09
0
ответов
Проблема округления в тестах rspec при сравнении массивов с плавающей запятой
Есть метод, результат которого я хочу проверить: result.should == [1.0,2.0,3.0] Но я получаю сообщение об ошибке: ожидается: [1.0, 2.0 , 3.0] получил: [1.0, 2.0, 3.0] (используя ==) Я думаю, что проблема в ...
вопрос задан: 11 May 2012 16:08
0
ответов
Ввод числа с плавающей запятой в программу, которая имеет дело только с целыми числами
У меня есть программа, но когда я ввожу числа с плавающей запятой всякий раз, когда программа запрашивает ввод, программа резко пропускает шаг и переходит к конечному выводу. Программа ниже: #include
# ...
вопрос задан: 11 May 2012 16:08
0
ответов
Каково приблизительное разрешение числа с плавающей точкой одинарной точности, когда оно около нуля
Я храню много долгот и широт как двойные числа, мне интересно, могу ли я обойтись без хранения их как плавающих чисел. Чтобы ответить на этот вопрос, мне нужно знать приблизительное разрешение одного ...
вопрос задан: 11 May 2012 16:07
0
ответов
Почему у объектов float в Python нет атрибута знаменателя, а у int есть?
Пока я возился с Python, >>> [attr для attr в dir (1), если не attr.startswith ('_ ')]
['бит_длина', 'сопряжение', 'знаменатель', 'воображаемый', 'числитель', 'действительный']
>>> [attr ...
вопрос задан: 11 May 2012 15:41
0
ответов
Modulo (%) работает с типом данных Decimal, но не с float или real. ПОЧЕМУ?
Почему по модулю работает нормально с десятичной дробью, но не с плавающей/действительной
MSDN утверждает, что это «должно быть допустимым выражением любого из типов данных в категориях целочисленных и денежных типов данных или числового...
вопрос задан: 11 May 2012 15:41
0
ответов
GCC по-разному обрабатывает сравнение с плавающей запятой на разных уровнях оптимизации
У меня есть простой код, который сравнивает два значения с плавающей запятой, чтобы проиллюстрировать проблему, которую я вижу с оптимизацией GCC, и надеюсь, что кто-то сможет помогите мне выяснить, почему результат, который он производит, отличается ...
вопрос задан: 11 May 2012 14:44
0
ответов
Как преобразовать из float в bigDecimal в java?
Как преобразовать из float в bigDecimal в java?
вопрос задан: 11 May 2012 14:44
0
ответов
Почему CLR переполняет Int32.MaxValue -> Single -> Int32, где JVM этого не делает ?
Я столкнулся с неожиданным результатом при циклическом преобразовании Int32.MaxValue в System.Single: Int32 i = Int32.MaxValue;
Одиночный s = i;
Int32 c = (Int32) s; Debug.WriteLine (i); // 2147483647
Debug.WriteLine (c) ...
вопрос задан: 11 May 2012 14:44
0
ответов
Как правильно и стандартно сравнивать числа с плавающей запятой?
Каждый раз, когда я начинаю новый проект и когда Мне нужно сравнить некоторые переменные типа float или double, я пишу такой код: if (fabs (prev.min [i] - cur-> min [i]) <0.000001 && fabs (...
вопрос задан: 11 May 2012 14:44
0
ответов
Самый быстрый способ перевернуть знак двойного числа / числа с плавающей запятой в C
Каков самый быстрый способ изменить знак числа с плавающей запятой в C? Я подумал, что прямой доступ к знаковому биту будет самым быстрым способом, и обнаружил следующее: double a = 5.0;
* (__ int64 *) & ...
вопрос задан: 11 May 2012 14:43
0
ответов
Преобразование числа с плавающей запятой в представление строковой дроби
В Java я пытаюсь найти способ преобразовать число с плавающей запятой в дробную строку. Например: число с плавающей запятой = 1,33333; Я пытаюсь найти способ преобразовать число с плавающей запятой в дробную строку. Например: число с плавающей запятой =
вопрос задан: 11 May 2012 14:43
0
ответов
Проблема с сохранением значений широты и долготы в базе данных MySQL
Я хочу сохранить значения широты и долготы, полученные из API геокодирования Google Maps, в базе данных MySQL. Значения представлены в формате с плавающей запятой. 12.9274529 77.5905970 И когда я хочу сохранить ...
вопрос задан: 11 May 2012 14:43
0
ответов
Функция работает нормально, но возвращает мусор
У меня есть эта функция: float calc_nnc (struct ImageWindow * window1, struct ImageWindow * window2) {/ * Дополнительный код * / double numerator = (double ) sum_a_x_b; двойной делитель = (sqrt (sum_a) * ...
вопрос задан: 11 May 2012 14:43
0
ответов
декодировать значение rgb в одиночное число с плавающей запятой без битового сдвига в glsl
Я сейчас занят отложенным затенение в webgl, и мне нужно декодировать 3 целочисленных значения (в диапазоне [0..256] = 256 ^ 3) в одно 32-битное число с плавающей запятой и закодировать его позже. поскольку это для WebGL, он имеет ...
вопрос задан: 11 May 2012 13:45
0
ответов
почему я не могу присвоить значение 1,2 переменной с плавающей запятой в C #? Я сделал то же самое в C и C ++, и это сработало
, почему я не могу присвоить значение 1,2 переменной с плавающей запятой в C #? Я сделал то же самое на C и C ++, и это сработало. программа класса
{частное только чтение int a = 20; частный только для чтения с плавающей запятой b; public ...
вопрос задан: 11 May 2012 13:44
0
ответов
Java: байты в числа с плавающей запятой / целые числа
У меня есть массив байтов, отправленный через UDP из x-plane. Все байты (4) являются числами с плавающей запятой или целыми числами ...
Я пытался преобразовать их в числа с плавающей запятой, но пока безуспешно ... Пример массива: byte data [41] = {-66,3
вопрос задан: 11 May 2012 13:43
0
ответов
Преимущество использования «x * = -1». over «x * = -1»?
Я смотрю на какой-то numpy-код Python, который содержит такие строки, как a = 1. # позже, `a` умножается на другие числа с плавающей запятой
х * = -1. (Надеюсь, я правильно понимаю, что 1. эквивалентно 1.0). ...
вопрос задан: 11 May 2012 13:43
0
ответов
Может ли Hibernate сопоставлять NULL с плавающей точкой без числа?
Вот мое отображение Hibernate для конкретного column:
вопрос задан: 11 May 2012 13:42
0
ответов
C ++: Очистить биты с плавающей запятой одинарной точности
Я сейчас конвертирую программа, которая изначально была предназначена для OpenCL to C ++, и у меня возникли некоторые проблемы с одной ее частью. Одно из выражений, обычно используемых в указанной программе ...
вопрос задан: 11 May 2012 13:42
0
ответов
Потеря точности преобразования 'float' в NSNumber, обратно в 'float'
Кажется, я столкнулся со странной проблемой в Objective-C, преобразовывая float в NSNumber (обернув его для удобства), а затем конвертирую обратно на поплавок. Вкратце, у моего класса есть ...
вопрос задан: 11 May 2012 13:36
0
ответов
Сравнение чисел с плавающей запятой (равенство) в CoreGraphics
Apple CoreGraphics.framework, CGGeometry.h: CG_INLINE bool __CGSizeEqualToSize (CGSize size1, CGSize size2)
{return size1.width == size2.width && size1. height == size2.height;
}
# определить ...
вопрос задан: 11 May 2012 13:36
0
ответов
Округлить число с плавающей запятой до следующего целого числа в цели C?
Как округлить число с плавающей запятой до следующего целого значения в цели C? 1.1 -> 2
2.3 -> 3
3.4 -> 4
3.5 -> 4
3.6 -> 4
1.0000000001 -> 2
вопрос задан: 11 May 2012 13:35
0
ответов
Как использовать текстуры с типом GL_HALF_FLOAT_OES в iOS?
Я пытаюсь создать плавающую текстуру для хранения промежуточных результатов моего конвейера рендеринга, созданного фрагментным шейдером. Мне нужны значения фрагментов, которые нужно подписать с плавающей запятой. Я понимаю, что ...
вопрос задан: 11 May 2012 13:35
0
ответов
Как может примитивное значение с плавающей запятой быть -0.0? Что это значит?
Почему примитивное значение с плавающей запятой может быть -0,0? Что это значит?
Могу ли я отменить эту функцию? Когда у меня есть: float fl; Тогда fl == -0.0 вернет истину, и fl == 0. Но когда я его распечатал, он ...
вопрос задан: 11 May 2012 06:32
0
ответов
Как программно проверить, приближается ли переменная к x?
Возможно ли это чтобы проверить, приближается ли переменная (переменная может быть float, double или int) к определенному числу. Я выполнил поиск в Google, но ничего не нашел. Например, как n ^ x как x ...
вопрос задан: 10 May 2012 20:27
0
ответов
Преобразовать float [] в byte [] в float [] еще раз
Итак, что я пытаюсь сделать здесь, это получить float [], преобразовать его в byte [], отправить его по сети в виде пакета дейтаграммы, а затем преобразовать обратно в byte [] на принимающем терминале. . Теперь я знаю, что могу ...
вопрос задан: 10 May 2012 20:26
0
ответов
C: Как обернуть число с плавающей запятой в интервал [-pi, pi)
Мне нужен хороший код на C, который будет эффективно работать: while (deltaPhase>
в то время как (deltaPhase <-M_PI) deltaPhase + = M_TWOPI; Какие у меня варианты?
вопрос задан: 10 May 2012 19:53