0
ответов

Javascript min max

В PHP вы можете использовать это, чтобы сохранить число между двумя значениями, минимальным и максимальным: $ n = min (макс ($ n, 1), 20); поэтому, если $ n больше 20, оно будет иметь значение 20. Если оно меньше 1, потребуется ...
вопрос задан: 18 June 2012 13:39
0
ответов

В значении Javascript не отображаются десятичные дроби, если оно не равно 0,00

// В этот момент анализируется значение "150,00" var productValue = parseFloat ($ ("# product-cost-value -значение "). текст (). replace (',', '.')); console.log (productValue); Регистрируемое значение - 150. ...
вопрос задан: 18 June 2012 13:39
0
ответов

Форматирование двойки и не округление

Мне нужно отформатировать (и не округлять) двойку до 2 знаков после запятой. Я пробовал с: String s1 = "10.126"; Double f1 = Double.parseDouble(s1); DecimalFormat df = new DecimalFormat(".00"); System.out....
вопрос задан: 18 June 2012 13:35
0
ответов

remquo: сокращение аргументов?

В спецификации C99 о remquo говорится: Функции remquo предназначены для реализации сокращения аргументов, которое может использовать несколько младших битов частного. Обратите внимание, что x может быть таким большим в ...
вопрос задан: 17 June 2012 23:05
0
ответов

C # разбирает float из строки

Я читаю числа из файлов XML. Остальные числа через запятую (0, 1111) и другие с точкой (0,1111). Как мне проанализировать эти числа, чтобы в итоге получить желаемый результат? Я пробовал использовать ...
вопрос задан: 15 June 2012 19:03
0
ответов

Как читать числа с плавающей запятой из файла?

Как я могу открыть файл и прочитать числа с плавающей запятой из файла, когда он находится в строковом формате, в Python? Я также хотел бы изменить значения каждого поплавка и перезаписать файл новым...
вопрос задан: 15 June 2012 16:20
0
ответов

Преобразовать float в CharSequence в android?

Я делаю калькулятор пропускной способности, в котором пользователь вводит данные и время, необходимое для загрузки или выгрузки, и я намерен отображать пропускную способность в различных единицах. Однако я не могу найти ...
вопрос задан: 15 June 2012 14:30
0
ответов

String.format использует запятую вместо точки

Мое приложение работает на многих устройствах без проблем до сих пор. Но теперь у меня есть новый Galaxy Tab с Android 3.2, на котором оно постоянно падает. Я обнаружил, что проблема заключается в плавающей точке в EditText. Я ...
вопрос задан: 15 June 2012 14:30
0
ответов

проблема преобразования 4-байтового массива в float в C #

Я использую C # и читаю массив байтов с некоторого контроллера и конвертирую их в их типы. все значения (int, string) ОК, кроме значений с плавающей запятой. Предполагаемое значение - 533174,1. но когда ...
вопрос задан: 15 June 2012 13:36
0
ответов

Сколько памяти используется numpy ndarray?

Кто-нибудь знает, сколько памяти используется numpy ndarray? (скажем, 10 000 000 элементов с плавающей запятой).
вопрос задан: 15 June 2012 13:06
0
ответов

python: принудительно установить два нуля после точки при преобразовании числа с плавающей точкой в ​​строку

В настоящее время я пытаюсь заставить python сохранять два нуля после преобразования числа с плавающей запятой в строку, например: 150.00 вместо 150.0 Я не очень разбираюсь в python и поэтому могу думать только о грубом ...
вопрос задан: 15 June 2012 13:03
0
ответов

Python - десятичные разряды (вставка чисел с плавающей точкой в ​​строку)

Я использовал формат: print 'blah, blah% f'% переменную для помещения переменных в строки. Я слышал, что это более питонический подход, чем подход '+ str () +', и я к нему привык. Есть ли способ ...
вопрос задан: 15 June 2012 13:03
0
ответов

Python находит первую ненулевую цифру после десятичной точки

Простая задача, как найти первую ненулевую цифру после десятичной точки. Что мне действительно нужно, так это расстояние между десятичной точкой и первой ненулевой цифрой. Я знаю, что смогу сделать это с несколькими ...
вопрос задан: 15 June 2012 13:01
0
ответов

Rails 3 Плавающая или десятичная для GPS-координат

Мне нужно сохранить GPS-координаты в базе данных. Я слышал, что числа с плавающей запятой менее точны, чем десятичные. Это правда? Если да, то какая причина когда-либо использовать поплавки?
вопрос задан: 14 June 2012 21:47
0
ответов

Безопасно ли 'const' двойное копирование + сравнение?

Я заметил, что существует много дискуссий на тему ошибок вычислений с плавающей запятой, которые требуют от вас использования более сложного сравнения, чем ==. Однако все эти статьи, кажется, предполагают...
вопрос задан: 13 June 2012 09:09
0
ответов

Путаница с NaN в Java

int i = 0, j = 0; двойной нан1 = (двойной)0/0; двойной нан2 = (двойной)0/0; двойной нан3 = (двойной)i/j; System.out.println(Double.doubleToRawLongBits(nan1) == Double.doubleToRawLongBits(nan2)); System.out....
вопрос задан: 13 June 2012 05:35
0
ответов

Чтение чисел с плавающей запятой из файла .txt

Как я могу читать числа с плавающей запятой из файла .txt. В зависимости от имени в начале каждой строки я хочу прочитать разное количество координат. Поплавки разделены «пробелом». Пример: треугольник 1.2 ...
вопрос задан: 12 June 2012 18:21
0
ответов

Сортировка поплавка численно - не в порядке ASCII - в Python

Это может звучать как глупый вопрос, но я пытался найти ответ, который работает без особого успеха. У меня есть список списков: для V в сортировке (список): Print V [885.1, 12824] [885.1, 19843] [...
вопрос задан: 12 June 2012 13:01
0
ответов

Пытаясь написать код для поиска машинного эпсилон

Я пытаюсь узнать уровень точности для различных форматов с плавающей запятой в C (т.е. float, double и long double). Вот код, который я использую сейчас: #include # define N ...
вопрос задан: 12 June 2012 12:40
0
ответов

Преобразовать float в строку в php?

Например: float (1.2345678901235E + 19) => строка (20) «12345678901234567890» Можно ли? (это для json_decode ...)
вопрос задан: 11 June 2012 19:00
0
ответов

С точки зрения непрофессионала, что на самом деле означает строковый формат Python «g»?

Я чувствую себя немного глупо, задавая, как я уверен, довольно простой вопрос, но я изучаю Python, и мне трудно понять, что именно на самом деле делают строковые форматы «g» и «G». ...
вопрос задан: 11 June 2012 13:31
0
ответов

печать очень больших чисел с плавающей запятой

#include #include int main() { printf("%f\n", FLT_MAX); } Вывод GNU: 340282346638528859811704183484516925440.000000 Вывод Visual Studio: ...
вопрос задан: 10 June 2012 17:00
0
ответов

Проблема с данными jQuery () обработка строки как числа

У меня есть MySQL BIGINT, который я храню в данных HTML5. Затем я пытаюсь получить доступ к этому значению и передать его через вызов AJAX.
И JavaScript: var ...
вопрос задан: 9 June 2012 03:16
0
ответов

TypeError: объект 'float' не повторяется

Я использую python 3.2.2 в Windows 7 и пытаюсь создать программа, которая принимает 7 чисел, а затем сообщает пользователю, сколько положительных, отрицательных и нулевых. вот что ...
вопрос задан: 8 June 2012 17:30
0
ответов

Когда двойное число с целочисленным значением приводится к целому числу, гарантируется ли это "правильно"?

Когда double имеет «точное» целочисленное значение, например: double x = 1.0; двойной у = 123123; двойной г = -4,000000; Гарантируется ли, что оно будет правильно округлено до 1, 123123 и -4 при приведении к ...
вопрос задан: 7 June 2012 20:46
0
ответов

BigDecimal Error

В Java я определил k как double k = 0,0; Я беру данные из базы данных и добавляю их, используя цикл while, while (rst.next ()) { k = k + Double.parseDouble (rst.getString (5)); } ПРИМЕЧАНИЕ. В ...
вопрос задан: 7 June 2012 08:36
0
ответов

Округляется ли setprecision в C++? Если да, то почему я это вижу?

Следующий фрагмент выводит 0,29847, хотя я ожидал 0,29848: double f = 0,298475; cout << setprecision (5) << f << endl; Однако для других примеров я наблюдаю округление:...
вопрос задан: 6 June 2012 21:11
0
ответов

Как получить двоичное представление числа с плавающей запятой в IEEE 754 в C #

У меня есть несколько чисел с плавающей запятой одинарной и двойной точности, которые я хочу записывать и читать из байта []. Есть что-нибудь внутри. Net, я могу использовать их для преобразования их в 32- и 64-битные IEEE 754 и обратно ...
вопрос задан: 6 June 2012 16:01
0
ответов

Отображение числа с плавающей запятой без экспоненциальной записи

Когда я делаю следующее умножение в PHP: $ret = 1.0 * 0.000000001; я получаю результат: 1.0E-9 Я хочу преобразовать этот результат в обычное десятичное представление, как я могу это сделать? sprintf('%f',$...
вопрос задан: 6 June 2012 15:58
0
ответов

Двоичные числа, числа с плавающей запятой и современные компьютеры

Я много читал о числах с плавающей запятой и компьютерных операциях с плавающей запятой. Самый большой вопрос, который я вижу, когда читаю о них, — почему они настолько неточны? Я понимаю, что это потому, что...
вопрос задан: 6 June 2012 14:20