0
ответов

c заменить точку запятой в числе с плавающей запятой

Я разрабатываю простую программу GTK+3, которая выполняет простые вычисления. У меня проблема с числом с плавающей запятой, потому что если я напишу. вместо того, общее количество будет неправильным. Итак, у меня есть плавающая цена; а я...
вопрос задан: 11 July 2012 13:58
0
ответов

python datetime.strptime :игнорирует доли секунды

Я работаю над преобразованием удобочитаемого времени в объект datetime. Для этого я использую datetime.datetime.strptime. Однако достаточно просто: удобочитаемое время, которое у меня есть, содержит...
вопрос задан: 11 July 2012 00:35
0
ответов

Почему Float.MIN _VALUE в Java является положительным значением? [закрыто]

Как вы думаете, чему равно Float.MIN _VALUE? Следующий код объясняет, на что ушли мои последние 5 часов, пытаясь исправить ошибку. public static void main (String[] args ){ compareToZero (Float.MIN _VALUE ); /...
вопрос задан: 10 July 2012 19:20
0
ответов

Приведение к ошибкам с целыми числами и числами с плавающей запятой?

myInt = int (5 *myRandom())myRandom ()— это случайно сгенерированное число с плавающей запятой, которое должно быть равно 0,2. Таким образом, это утверждение должно оцениваться как 1. Мой вопрос :возможно ли, что из-за плавающей запятой...
вопрос задан: 6 July 2012 02:09
0
ответов

Как вернуть номер float с 2 цифрами после десятичной точки?

У меня есть простая функция f :: float -> float f x = x prelude> f 5.00 5.0 Почему не 5.00? Как я могу добиться этого?
вопрос задан: 2 July 2012 14:00
0
ответов

Python 2.7, использующий ввод функции в виде строки и переменной

Я хотел бы сделать следующее :print "CC =",CC, но как функцию, чтобы мне нужно было написать переменную CC только один раз. Я не могу понять, как это сделать в функции, поскольку она всегда оценивает CC как...
вопрос задан: 2 July 2012 10:57
0
ответов

Функция Variadic (va _arg )не работает с числом с плавающей запятой?

У меня есть вариационная функция, которая принимает параметр с плавающей запятой. Почему это не работает? ва _аргумент (аргумент, число с плавающей запятой)
вопрос задан: 1 July 2012 19:08
0
ответов

Почему невозможно получить координаты мыши как значения с плавающей запятой?

Мне кажется, что в некоторых случаях было бы полезно считывать с мыши значения с более высокой точностью, а не просто диапазон дискретных координат пикселей по текущему разрешению экрана. ...
вопрос задан: 25 June 2012 12:58
0
ответов

Различия в точности в Matlab и C++

Я пытаюсь провести тесты на эквивалентность алгоритма, написанного на C++ и в Matlab. Алгоритм содержит некоторую петлю во времени и выполняется более 1000 раз. В нем есть арифметические операции и...
вопрос задан: 22 June 2012 08:17
0
ответов

Индексировать python dict по объекту или двум числам с плавающей запятой

У меня есть ряд объектов, которые мне нужно связать с целым числом. Эти объекты являются объектами ArcGIS Point (именно то, что они не имеют значения), которые хранят значения X и Y для точки, поскольку ...
вопрос задан: 21 June 2012 14:30
0
ответов

Python array multiply

hh = [[82.5], [168.5]] N = 1. / 5 ll = N * hh Что я делаю не так? Я получил ошибку: «невозможно умножить последовательность на не-int типа 'float'». Я пытаюсь добавить float (), но это не решает мою проблему; Мне нужно ...
вопрос задан: 21 June 2012 14:29
0
ответов

Вопрос Python об экспонентах и ​​int

Из любопытства я выполнил следующее: >>> int (1e100) И результат был: 10000000000000000159028911097599180468360808563945281389781327557785478387721 Почему? Почему ...
вопрос задан: 21 June 2012 13:30
0
ответов

ValueError: недопустимый литерал для float () в Python

Для всех: Мне интересно, может ли кто-нибудь помочь мне разобраться в ошибке: ValueError: недопустимый литерал для float (). Я получаю это, когда передаю текстовый файл в список, а затем пытаюсь преобразовать это ...
вопрос задан: 21 June 2012 13:09
0
ответов

Преобразование числа с плавающей запятой в десятичное (SQL Server)

Мне нужно преобразовать число с плавающей запятой в десятичное число (28,10) в SQL Server. Моя проблема заключается в том, что из-за природы числа с плавающей запятой и того, как выполняются преобразования, простое приведение числа с плавающей запятой мож
вопрос задан: 20 June 2012 22:05
0
ответов

Почему значение с плавающей запятой, такое как 3.14, по умолчанию считается в MSVC двойным?

Почему мне нужно поставить 3.14f вместо 3.14, чтобы отключить все эти предупреждения? Есть ли для этого явная причина?
вопрос задан: 20 June 2012 20:40
0
ответов

SQL устанавливает точность с плавающей запятой

Для SQL int, который преобразуется в число с плавающей запятой, как установить точность числа с плавающей запятой? Это выбор, который я хотел бы обрезать до двух или трех знаков после запятой :AVG (Cast (e....
вопрос задан: 20 June 2012 19:19
0
ответов

Scala Разделите два целых числа и получите результат с плавающей запятой

Если я сделаю следующее println(3/4) >0, я хотел бы получить десятичный ответ вместо целого числа. Из-за того, как я печатаю в своем фактическом коде, я бы предпочел приведение в println ...
вопрос задан: 20 June 2012 16:42
0
ответов

Разница между SQRT и SQRTF

Я хочу рассмотреть код. Сначала это: #include #include #include используя пространство имен STD; int main () {int s = 25; Cout << SQRT (ы) << ...
вопрос задан: 20 June 2012 14:58
0
ответов

Erlang и большие числа

Я пытаюсь сохранить число Пи примерно до 200 знаков после запятой, erlang сводит его примерно к 15 цифрам, как я могу сохранить оригинал и использовать его в дальнейших вычислениях? 1> P = 3....
вопрос задан: 20 June 2012 12:42
0
ответов

Как сохранить число с плавающей запятой в виде текста без потери точности?

Как говорится в вопросе. Преобразование в/из (усеченных) строковых представлений может повлиять на их точность. Но хранение их в других форматах, таких как pickle, делает их нечитаемыми (да, я хочу это...
вопрос задан: 20 June 2012 06:13
0
ответов

Java: Как преобразовать строку двоичных значений в Float и наоборот?

Как преобразовать значение float 12345.12346f в Строка двоичных значений, то есть «0011010101010101», и наоборот?
вопрос задан: 19 June 2012 18:42
0
ответов

SQL AVG возвращает целое число

В одном из моих запросов оказалось, что функция AVG возвращает целое число. select ..., AVG(e.employee_level)avg_level Как заставить его возвращать значения с плавающей запятой? Я пытался привести его, но все мои...
вопрос задан: 19 June 2012 17:38
0
ответов

Цикл For не работает для значений с плавающей запятой

У меня есть цикл for, как показано ниже "; }?> этот код печатает значение i до 9.6, а не 10. почему он наконец возвращает значение i = 10.
вопрос задан: 19 June 2012 14:54
0
ответов

Эхо значения с плавающей запятой

$result = floatval(mysql_query($query)) Выше приведен оператор для получения значения с плавающей запятой из моей базы данных . Когда я печатаю значение результата, оно всегда дает круглую цифру, например ...
вопрос задан: 19 June 2012 14:36
0
ответов

returning a float type from function in c

I have this simple code: int main() {float x = foo (); printf ("возвращаемое значение:% f", x); возврат 0; } float foo () {возврат 5; } when i run the code , the output is: "returned value: -...
вопрос задан: 19 June 2012 13:24
0
ответов

C: printf значение с плавающей запятой

Я хочу напечатать значение с плавающей запятой, которое имеет 2 целых и 6 десятичных цифр после запятой. Если я просто использую printf ("% f", myFloat), я получаю усеченное значение. Не знаю, всегда ли это происходит ...
вопрос задан: 19 June 2012 01:32
0
ответов

Javascript float subtract

Мне было интересно, как я могу вычесть два отрицательных числа с плавающей запятой в javascript. Пробовал: alert (-0,2-0,1); и результат -0.30000000000000004. Я делаю что-то неправильно? Что мне нужно ...
вопрос задан: 18 June 2012 16:09
0
ответов

Литерал NaN в C?

Как написать NaN с плавающей точкой- литерал точки в C?
вопрос задан: 18 June 2012 15:35
0
ответов

Как создать число с плавающей запятой NaN в c?

float f = (float) 'a'; if (f <0) {} else if (f == 0) {} else if (f> 0) {} else {printf ("NaN \ n"); } f не будет больше / ...
вопрос задан: 18 June 2012 15:35
0
ответов

в Java, как удалить все нули в float?

Я бы хотел изменить float следующим образом: 10.5000 -> 10.5 10.0000 -> 10 Как я могу удалить все нули после десятичной точки и изменить его либо на float (если там не нули), либо на int (если бы были только ...
вопрос задан: 18 June 2012 15:34