0
ответов

Ошибка Python:не удалось преобразовать строку в число с плавающей запятой

У меня есть код Python, который извлекает строки из текстового файла:[2.467188005806714e-05, 0.18664554919828535, 0.5026880460053854,....] Код Python:v = строка[строка.индекс('['):].split(',')for elem...
вопрос задан: 27 December 2013 02:01
0
ответов

Python: преобразование строки в десятичное число

У меня есть список Python со строками в следующем формате: A1 = ['"29.0"', '"65.2"', ' "75.2" '] Как преобразовать эти строки в десятичные числа для выполнения арифметических операций с элементами списка?
вопрос задан: 20 December 2013 21:42
0
ответов

Почему нет ceil(float ) в Java?

Предположим, я хочу округлить число с плавающей запятой до целого числа в Java. Например, roundUp(0.2) = 1 округлить вверх (0,7) = 1 округлить(1.3) = 2 ... Я хотел бы вызвать Math.ceil и Math.round, чтобы сделать это, но java.lang....
вопрос задан: 11 December 2013 11:39
0
ответов

Макрос или функция для построения числа с плавающей запятой (двойного числа) по заданному знаку, мантиссе и показателю степени?

Существует ли какой-либо макрос или функция для создания числа с плавающей запятой (двойного числа) из заданного знака, мантиссы и показателя степени (все двоичные или десятичные), которые либо возвращают допустимое число с плавающей запятой (двойное числ
вопрос задан: 23 November 2013 01:58
0
ответов

Почему деление в Ruby возвращает целое число вместо десятичного?

Для пример: 9/5 # => 1 но я ожидал 1.8. Как я могу получить правильный десятичный (нецелочисленный) результат? Почему он вообще возвращает 1?
вопрос задан: 29 October 2013 15:07
0
ответов

Как преобразовать число с плавающей запятой в двоичное?

Кто-нибудь, пожалуйста, скажите мне, как я могу преобразовать это число с плавающей запятой: 12,25 в двоичное? Я знаю, как преобразовать «12», но не 0,25. Любая помощь приветствуется. Спасибо
вопрос задан: 28 October 2013 00:56
0
ответов

Сравнение типов данных float и double в объекте C

При использовании типа данных double или float в приложении для iPhone у меня возникают проблемы со сравнениями "> =" и "<=" потому что, когда переменной присваивается число, введенное с одним десятичным знаком, например ...
вопрос задан: 21 October 2013 22:50
0
ответов

Почему переменная float сохраняет значение, вырезая цифры после точки странным образом?

У меня есть такая простая строка кода: float val = 123456.123456; когда я печатаю этот val или смотрю в область видимости, он сохраняет значение 123456.13 Хорошо, все в порядке, он не может сохранить все эти цифры после точки всего в 4 байта, ...
вопрос задан: 17 October 2013 19:31
0
ответов

В чем разница между типом данных float и integer при одинаковом размере?

В чем разница между типом данных float и integer при одинаковом размере?
вопрос задан: 10 October 2013 10:01
0
ответов

Округление числа с плавающей запятой до следующего целого числа в javascript

Мне нужно округлить числа с плавающей запятой до ближайшего целого числа, даже если число после точки меньше 0,5. Например, 4,3 должно быть 5 (, а не 4 )4,8 должно быть 5 Как я могу сделать это в...
вопрос задан: 30 September 2013 17:10
0
ответов

Операция модуло с плавающей точкой

Я пытаюсь реализовать операцию сокращения диапазона для тригонометрии. Но вместо этого я думаю, что было бы лучше просто выполнить операцию модуляции pi/2 над входящими данными. Мне интересно, что ...
вопрос задан: 26 September 2013 06:42
0
ответов

Сдвиг влево Тип с плавающей запятой

получить ошибку компилятора при попытке выполнить float_val = float_val << 1; Он выдает сообщение об ошибке: «Ошибка C2296: '<<': недопустимый, левый операнд имеет тип 'float'» Не может vars сдвинуть влево переменные с плавающей запятой? ...
вопрос задан: 22 September 2013 20:16
0
ответов

Как определить, есть ли у числа с плавающей запятой дробная часть?

Вот проблема: в игру «Итоги» может играть любое количество людей. Он начинается с 100, и каждый игрок по очереди делает целочисленное смещение от -20 до 20 к этой сумме. The ...
вопрос задан: 22 September 2013 20:14
0
ответов

проблемы при сравнении с плавающей запятой [дубликат]

void main () {float f = 0,98; если (f <= 0,98) printf ("привет"); еще printf ("привет"); getch (); } У меня возникла эта проблема. При использовании разных значений с плавающей запятой ...
вопрос задан: 22 September 2013 20:05
0
ответов

преобразуйте интервал для плавания для преобразовывания в шестнадцатеричную систему

Используя scanf, каждое число ввело, я хотел бы, чтобы моя программа распечатала две строки: например, порядок байтов: прямой порядок байтов> 2 2 0x00000002 2.00 0x40000000>-2 - 2 0xFFFFFFFE-2.00...
вопрос задан: 22 September 2013 20:04
0
ответов

Размер int и float

У меня есть вопрос о диапазонах int и float: если они оба имеют одинаковый размер 4 байта, почему у них разные диапазоны?
вопрос задан: 22 September 2013 19:58
0
ответов

Работа с точностью с плавающей запятой в Javascript [дубликат]

У меня есть большое количество числовых значений y в javascript. Я хочу сгруппировать их, округлив до ближайшего числа, кратного x, и преобразовать результат в строку. Как мне обойти надоедливую...
вопрос задан: 20 September 2013 02:11
0
ответов

Python: Вернуть max float вместо inf?

У меня есть несколько функций с несколькими вычислениями, которые могут возвращать inf, например: In [10]: numpy.exp (5000) Out [10] : inf Я бы предпочел, чтобы он возвращал максимальное значение с плавающей запятой: В [11]: sys.float_info.max ...
вопрос задан: 18 September 2013 08:00
0
ответов

Почему напечатан последний номер (1)?

Код: <? Php $ start = 0; $ stop = 1; $ step = ($ stop - $ start) / 10; $ i = $ start + $ step; while ($ i < $ stop) {echo ($ i. "< br / >"); $ i + = $ step; }? > Выход: 0,1 0,2 0,3 0 ....
вопрос задан: 10 September 2013 19:21
0
ответов

double или float, что быстрее? [дубликат]

Я читаю "ускоренный C ++". Я нашел одно предложение, в котором говорится, что «иногда double выполняется быстрее, чем float в C ++». Прочитав предложение, я запутался в работе с плавающей точкой и двойной работой. ...
вопрос задан: 9 September 2013 07:59
0
ответов

Есть ли «аномалии» при сравнении с плавающей запятой?

Если я сравниваю два числа с плавающей запятой, есть ли случаи, когда a> = b не эквивалентно b < = a и! (a
вопрос задан: 28 August 2013 18:29
0
ответов

Преобразование float в double теряет точность, но не через ToString

У меня есть следующий код: float f = 0.3f; двойной d1 = System.Convert.ToDouble (f); двойной d2 = System.Convert.ToDouble (f.ToString ()); Результаты эквивалентны: d1 = 0,30000001192092896; d2 = 0 ....
вопрос задан: 5 August 2013 11:51
0
ответов

Оптимизация с плавающей запятой во время компиляции GCC

Я разрабатываю для платформы AVR, и у меня есть вопрос. Я не хочу, чтобы библиотека с плавающей запятой была связана с моим кодом, но мне нравится концепция наличия аналоговых значений в диапазоне 0,0 ... 1,0 ...
вопрос задан: 5 August 2013 07:47
0
ответов

показывать максимум 2 цифры после числа с плавающей запятой… только если это число с плавающей запятой, содержащее более двух цифр с плавающей запятой

В моем приложении я делаю некоторую математику, и результат может быть с плавающей запятой или int, я хочу показать конечный результат с двумя цифрами после десятичной точки max ... если результат - число с плавающей запятой, есть два варианта сделать ...
вопрос задан: 21 July 2013 11:01
0
ответов

Доступна ли Python произвольная точность с плавающей запятой?

Просто для удовольствия и потому, что это было действительно просто, я написал короткую программу для генерации чисел Grafting, но из-за проблем с точностью с плавающей запятой она не находит некоторые из более крупных примеров....
вопрос задан: 19 July 2013 21:41
0
ответов

Точное значение с плавающей запятой из NSString

NSString * str = @ "37.3336"; float f = [str floatValue]; f - 37.3335991. Помимо округления, есть ли способ получить точное значение с плавающей запятой из NSString?
вопрос задан: 5 July 2013 04:17
0
ответов

Развертывание PHP с использованием Git. Как я могу сделать его более автоматизированным?

Я отвечаю за запуск веб-проектов, и в настоящее время от подписания клиента до окончательного запуска проходит слишком много времени. Он находится на сервере, к которому у меня есть root-доступ, но он запускает Plesk, так что ...
вопрос задан: 3 June 2013 10:41
0
ответов

неявное преобразование float / int

Я выполняю умножение и деление чисел с плавающей точкой и целыми числами, и я забываю правила неявного преобразования (и слова в вопросе кажутся слишком расплывчатыми, чтобы быстрее погуглить чем спрашивать здесь). Если у меня есть ...
вопрос задан: 24 May 2013 10:10
0
ответов

Небольшой вопрос по Android

В настоящее время я изучаю smali /" обфускатор кода ", и я В данный момент пытаюсь ознакомиться с декомпилированными исходными кодами. Для этого я создал простое приложение и декомпилировал его с помощью smali. ...
вопрос задан: 20 May 2013 16:51
0
ответов

Округление значений с плавающей запятой

У меня есть значение типа double, например 12.256852651, и я хочу отобразить его как 12,257 как число с плавающей запятой, не преобразовывая его в строковый тип. Как это сделать на C #?
вопрос задан: 15 May 2013 01:18