0
ответов

Как интерпретируются индексы массива с плавающей запятой?

Я не могу найти никакой информации по этому поводу, но предположим, что у меня есть var arr = [1, 2, 3 ]; var x = arr [1.5]; Я предположил, что Javascript упростит индекс и вернет элемент с индексом 1, но похоже, по крайней мере ...
вопрос задан: 16 May 2012 13:32
0
ответов

Способ округлить поплавки вниз

Плавать кругом вверх или вниз. Мне всегда нужно, чтобы это округлилось. У меня есть решение, но оно мне не очень нравится ... Может быть, есть лучший способ. Это то, что я хочу: 1.9999.round_down (2) # => 1 ....
вопрос задан: 16 May 2012 13:06
0
ответов

Преобразование уникальной исходной строки в случайное, но детерминированное значение с плавающей запятой в Ruby

У меня проблемы с это концептуально. По сути, мне нужно принять некоторую произвольную уникальную строку и уметь преобразовать ее в нормализованное значение с плавающей запятой. Что такое выходное значение с плавающей запятой ...
вопрос задан: 16 May 2012 13:06
0
ответов

преобразование из float в Decimal в python-2.6: как это сделать и почему они этого не сделали

Прямое преобразование из float в Decimal было реализовано в python-2.7, как в конструкторе Decimal, так и в Decimal. from_float () метод класса. Python-2.6 вместо этого выдает ошибку TypeError, предлагая ...
вопрос задан: 16 May 2012 13:05
0
ответов

Неявное преобразование типов в C

Я наткнулся на следующий пример в википедии (http://en.wikipedia.org/wiki/Type_conversion#Implicit_type_conversion). #include int main () {int i_value = 16777217; ...
вопрос задан: 16 May 2012 12:49
0
ответов

Самый быстрый min max среди трех чисел с плавающей запятой в C

Думаю, вопрос довольно ясен: у меня есть три числа, у меня есть две функции, min и max. Каковы самые быстрые реализации?
вопрос задан: 16 May 2012 12:49
0
ответов

Как найти константы epsilon, min и max для CUDA?

Я ищу значения epsilon (наименьший шаг между двумя числами), min (наименьшая величина) и max (наибольшая величина) для устройств CUDA. Т.е. эквиваленты FLT_EPSILON (...
вопрос задан: 16 May 2012 12:49
0
ответов

MAXFLOAT в Objective-C

Максимальное число с плавающей запятой определяется как: math.h #define MAXFLOAT 0x1.fffffep + 127f Мне немного грустно, что я никогда раньше этого не замечал. Что это на самом деле говорит? Я ожидал чего-то вроде этого: #define ...
вопрос задан: 16 May 2012 12:47
0
ответов

Безопасно ли проверять число с плавающей запятой на равенство 0,0?

Я знаю, что проверять равенство с плавающей запятой на равенство опасно из-за ошибок точности, но безопасно ли тестировать на ноль? Я могу вспомнить некоторые случаи, например, при оптимизации особых случаев в алгоритмах, когда вы ...
вопрос задан: 16 May 2012 12:47
0
ответов

В чем разница между big и little endian float?

Для целочисленных значений разница в представлении little endian и big endian довольно очевидна. Но мне неясно, чем отличается little endian float от big endian float. ...
вопрос задан: 16 May 2012 12:46
0
ответов

как вычислить напоминание с плавающей запятой для двух значений с плавающей запятой

У меня есть два значения с плавающей запятой, 'a' и 'b' . Мне нужно рассчитать напоминание об этих двух значениях с плавающей запятой, и это должно быть значение с плавающей запятой. Пусть float а = 1,1; поплавок b = 0,5; Таким образом, остаток 'r' долже
вопрос задан: 15 May 2012 18:07
0
ответов

Java float неожиданно округляется

Я используя константу с плавающей запятой и устанавливая частную переменную с плавающей запятой объекта на константу с плавающей запятой ниже, но когда объект выводит значение, на которое он был установлен, он округляет последнюю цифру в поплавке в больш
вопрос задан: 15 May 2012 18:03
0
ответов

Таблица поиска квадратного/кубического корня

Мне интересно, как лучше всего создать две таблицы поиска для квадратного корня и кубического корня значений с плавающей запятой в диапазоне [0,0, 1,0). Я уже профилировал код и увидел, что это довольно сильный ...
вопрос задан: 15 May 2012 15:48
0
ответов

Haskell Converting Int to Float

У меня возникла проблема с одной из функций, в которой я новичок, это функция fromIntegral. По сути, мне нужно принять два аргумента Int и вернуть процент чисел, но когда я...
вопрос задан: 15 May 2012 14:16
0
ответов

Усечение чисел с плавающей запятой и двойных значений в java

Я хочу обрезать значения с плавающей запятой и двойных значений в java. Ниже приведены мои требования :1. если у меня есть 12.49688f, оно должно быть напечатано как 12.49 без округления 2. если это 12.456 в двойном значении, это...
вопрос задан: 15 May 2012 13:21
0
ответов

Является ли if (double) допустимым для C ++?

Я только что наткнулся на эту строку кода: if (lineDirection.length2 ()) {...}, где length2 возвращает двойное значение. Меня как бы озадачивает, что 0,0 эквивалентно 0, NULL и / или false. Является ли это частью C ++ ...
вопрос задан: 14 May 2012 15:09
0
ответов

Тип Flash Messenger в Zend

Возможно ли или как я могу указать тип FlashMessage в Zend? Например / * Это сообщение «Успех» * / $ this -> _helper -> FlashMessenger ('Вы успешно создали сообщение.'); /*………………………………………………………………………………………………………………………………………………… .. Производительность jQue
вопрос задан: 14 May 2012 13:56
0
ответов

Почему «0f» не рассматривается как литерал с плавающей запятой в C ++?

Почему 0f не рассматривается как литерал с плавающей запятой в C ++? #include с использованием пространства имен std; int main () {cout << 0f << endl; возврат 0; } Компиляция приведенного выше дает мне ...
вопрос задан: 14 May 2012 13:55
0
ответов

Обрезка числа с плавающей запятой в Erlang

Я использую функцию для создания списка из числа с плавающей запятой. float_to_list (0,02). Он возвращает: «2.00000000000000000000e-002» Мне нужно, чтобы он дал мне точно такое же число: «0,20» Если я скармливал ему 5,23 «5,23» ...
вопрос задан: 14 May 2012 13:55
0
ответов

Haskell int для float и char для float

Есть ли в haskell функция, которая преобразует int в float и из char в float? Я знаю, что есть функция, которая преобразует char в int и int в char.
вопрос задан: 14 May 2012 13:19
0
ответов

Как преобразовать массив чисел с плавающей запятой в byte [] и обратно?

У меня есть массив чисел с плавающей запятой, который нужно преобразовать в массив байтов и назад к поплавку [] ... может ли кто-нибудь помочь мне сделать это правильно? Я работаю с классом bitConverter и обнаружил, что застрял ...
вопрос задан: 14 May 2012 13:18
0
ответов

Когда денормали действительно полезны?

Всякий раз, когда я ищу термин «денормализованные числа» или «денормалы», я нахожу только способы их обнаружения и округления до нуля. По-видимому, никто их не любит, потому что работа с ними сопряжена с...
вопрос задан: 14 May 2012 12:27
0
ответов

Целые числа в JavaScript

Я новичок в Javascript, так что простите меня, если я покажусь глупым, потому что я выучил Javascript из W3Fools (это действительно сложные учебники - они ничего не объясняют Я хочу знать, но ...
вопрос задан: 11 May 2012 19:39
0
ответов

все значения списка одинаковы [дубликат]

Есть ли простой способ в Python проверить, что все значения в списке равны друг другу?
вопрос задан: 11 May 2012 19:38
0
ответов

Почему «decimal.Decimal ('0') <1.0» дает False в Python 2.6.5

В Python 2.6.5 следующее выражение дает значение False: >>> import decimal >>> десятичный. десятичный ('0') <1.0 False Есть ли объяснение, почему сравнение Decimal с ...
вопрос задан: 11 May 2012 19:38
0
ответов

как преобразовать Float64 в NSString в iOS

Как преобразовать Float64 в NSString в objective-c?
вопрос задан: 11 May 2012 19:38
0
ответов

Число с плавающей запятой в C ++ до nan

Я хочу знать, что делает число с плавающей запятой nan в C ++. Я использую большой набор данных, и его действительно сложно отследить. Я хочу знать, как изменить число с плавающей запятой на nan, чтобы уменьшить вероятность ошибки. ...
вопрос задан: 11 May 2012 19:38
0
ответов

F# converting a string to a float

I have a simple problem that I haven't been able to figure out. I have a program that's supposed to read a float from input. Problem is it will come as string and I can't for the life of me figure out ...
вопрос задан: 11 May 2012 19:38
0
ответов

Почему я не могу преобразовать список str в список чисел с плавающей запятой?

Я начинаю писать код, но сначала это не удается. Это мой код: импорт csv reader = csv.reader (open ("QstartRefseqhg19.head"), dialect = 'excel-tab') для строки в читателе: C = row [1] ....
вопрос задан: 11 May 2012 19:37
0
ответов

как я могу отключить экспоненциальную нотацию при выборе числа с плавающей запятой из MySQL?

У меня есть столбец FLOAT, который содержит очень маленькие числа, например 0,00000000000234, когда я выбираю их в MySQL, я возвращаю их в экспоненциальной записи, например, 2.34e-13. Есть ли способ изменить ...
вопрос задан: 11 May 2012 17:32