7
ответов
Что происходит в C++, когда целый тип брошен к типу с плавающей точкой или наоборот?
Базовые биты просто становятся "данными иное толкование" как значение с плавающей точкой? Или есть ли преобразование во время выполнения для создания ближайшего значения с плавающей точкой? Порядок байтов фактор на любых платформах (т.е....
вопрос задан: 12 January 2010 14:41
7
ответов
Странная проблема сравнения поплавков в target-C
В какой-то момент в алгоритме мне нужно сравнить значение с плавающей точкой свойства класса с плавающей точкой. Поэтому я делаю это: if (self.scroller.currentValue < = 0.1) {} где currentValue - это число с плавающей точкой ...
вопрос задан: 26 October 2009 14:07
7
ответов
Что самый эффективный путь состоит в том, чтобы сохранить и работать с числом с плавающей точкой с 1 000 000 значащих цифр в C?
Я пишу утилиту для вычисления π к миллиону цифр после десятичного числа. На 32-или 64-разрядной потребительской настольной системе, что самый эффективный путь состоит в том, чтобы сохранить и работать с таким большим количеством...
вопрос задан: 5 October 2009 23:42
7
ответов
Неточный логарифм в Python
Я ежедневно работаю с Python 2.4 в своей компании. Я использовал универсальную функцию логарифма 'журнал' из стандартной математической библиотеки, и когда я ввел журнал (2 ** 31, 2) это возвратилось 31.000000000000004, который ударил...
вопрос задан: 31 May 2009 13:04
7
ответов
Как изменить плавание его самым маленьким инкрементом (или близко к нему)?
Я имею двойное значение f и хотел бы способ пошагово переместить его очень немного больше (или меньший) для получения нового значения, которое будет максимально близким к оригиналу, но все еще строго больше, чем (или меньше...
вопрос задан: 11 December 2008 03:55
6
ответов
Плавающая точка C++ к преобразованиям целого типа
Что различные методы используются для преобразования типа плавающего данных к целому числу в C++? #include <iostream> использование станд. пространства имен; база данных структуры {международный идентификатор, возраст; зарплата плавающая;}; междунар
вопрос задан: 23 September 2019 10:56
6
ответов
Математика с плавающей точкой нарушена?
Рассмотрим следующий код: 0,1 + 0,2 == 0,3 -> неверно 0,1 + 0,2 -> 0,30000000000000004 Почему возникают эти неточности?
вопрос задан: 29 April 2019 14:53
6
ответов
Большие количества ошибочно округлены в JavaScript
См. этот код: <HTML> <голова> <сценарий src = "http://www.json.org/json2.js" вводит = "текст/JavaScript"> </сценарий> <тип сценария = "текст/JavaScript"> var jsonString...
вопрос задан: 28 October 2018 13:26
6
ответов
C#, Преобразовывающий строку, содержащую плавающую точку к целому числу
Что лучший способ состоит в том, чтобы взять строку, которая может быть пустой или содержать "1.2", например, и преобразовать его в целое число? интервал. Сбои TryParse, конечно, и я не хочу использовать плавание. TryParse и затем...
вопрос задан: 21 February 2018 19:04
6
ответов
Каково различие между операцией плавающей точки одинарной точности и двойной точности?
Каково различие между операцией плавающей точки одинарной точности и двойной точностью плавающая операция? Мне особенно интересно на практике относительно игровых приставок...
вопрос задан: 17 November 2017 22:03
6
ответов
Действительно ли возможно прокрутить значительно более быструю версию modf
В приложении я являюсь профильным, я нашел, что в некоторых сценариях эта функция может принять 10% общего времени выполнения. MSVC ++ компилятор 2008 года используется для ссылки... Я не вспоминаю если modf...
вопрос задан: 23 May 2017 12:18
6
ответов
Как ограничить десятичное число? [дубликат]
Возможный Дубликат: Как отформатировать десятичное число, Как я могу ограничить свое десятичное число, таким образом, я получу только 3 цифры после точки? например, 2.774
вопрос задан: 23 May 2017 12:13
6
ответов
Почему я не могу умножить плавание? [дубликат]
Возможный Дубликат: Контакт с проблемами точности в числах с плавающей запятой, я был вполне удивлен, почему я пытался умножить плавание в C (с GCC 3.2) и что это не сделало, поскольку я ожидал.. Как...
вопрос задан: 23 May 2017 12:04
6
ответов
Как выполнить битовую операцию на числах с плавающей точкой
Я попробовал это: плавайте = 1.4123; = a и (1 <<3); я получаю ошибку компилятора, говоря, что операнд и не может иметь плавания типа. Когда я делаю: плавайте = 1.4123; = (интервал) a и (1 <и...
вопрос задан: 23 May 2017 12:02
6
ответов
“Приблизительный” наибольший общий делитель
Предположим, что у Вас есть список чисел с плавающей точкой, которые являются приблизительно кратными числами общего количества, например, 2.468, 3.700, 6.1699, которые являются приблизительно всеми кратными числами 1,234. Как был бы...
вопрос задан: 23 May 2017 11:46
6
ответов
Формат числа с плавающей точкой
Я хочу использовать функцию number_format в PHP. Например: $number = 234.51; повторите number_format ($number, 2); Это работает на числа плавающие, но я хочу использовать его для различных чисел. Если число...
вопрос задан: 8 February 2017 20:27
6
ответов
Проблема с операцией плавающей точки Точности в C
Для одного из моего проекта курса я начал реализовывать "Наивный байесовский классификатор" в C. Мой проект состоит в том, чтобы реализовать приложение классификатора документа (особенно Спам) использование огромных обучающих данных. Теперь я...
вопрос задан: 8 February 2017 14:24
6
ответов
Ошибка плавающей точки Matlab [дубликат]
Я попробовал сравнить Tan с инверсией (8.66025 / 5) и 60. Поскольку первый дает 60.0000, это приводит к тому, что функция сравнения дает ложный результат. Как я могу это исправить?
вопрос задан: 18 August 2016 07:21
6
ответов
Обработка переполнения, когда кастинг удваивается до целых чисел в C
Сегодня, я заметил, что, когда я бросил двойное, которое больше, чем максимальное возможное целое число к целому числу, я добираюсь-2147483648. Точно так же, когда я бросил двойное, которое является меньше, чем возможный минимум...
вопрос задан: 8 April 2016 23:47
6
ответов
Действительно ли безопасно проверить значения с плавающей точкой на равенство 0?
Я знаю, что Вы не можете полагаться на равенство между двойными или десятичными значениями типа обычно, но я задаюсь вопросом, ли 0 особый случай. В то время как я могу понять неточности между 0,00000000000001 и 0....
вопрос задан: 21 February 2016 12:38
6
ответов
PHP: использовать float с заданной точностью в функции json_encode () [duplicate]
Мне нужно использовать PHP-поплавки в строке JSON. Код: $ obj ['val'] = '6.40'; json_encode ($ OBJ); преобразуется в: {"val": "6.40"} Все в порядке - у меня есть строковое значение «6.40» в PHP, и у меня есть строковое значение «6.40» ...
вопрос задан: 2 November 2015 04:27
6
ответов
Двойное может представить все значения, которые может представить плавание?
Существуют определенные международные значения, которые не может представить плавание. Однако двойное может представить все значения, которые может представить плавание? Моя интуиция говорит да, с тех пор дважды имеет больше дробных битов и больше...
вопрос задан: 2 June 2015 15:30
6
ответов
самое большое целое число, которое может быть сохранено в двойном
Каково самое большое целое число "без плавания", которое может быть сохранено в IEEE 754 двойной тип, не теряя точность?
вопрос задан: 19 June 2014 00:40
6
ответов
Вычислить e (основание натурального журнала) с высокой точностью в Python?
Можно ли рассчитать значение математической константы, e с высокой точностью (более 2000 знаков после запятой), используя Python? Я особенно заинтересован в решении или в котором интегрируется ...
вопрос задан: 28 April 2014 15:54
6
ответов
Это корректно для сравнения двух округленных чисел с плавающей точкой с помощью == оператор?
Или есть ли шанс, что операция перестанет работать?Спасибо. Я выбрал неправильный термин и что я действительно имел в виду, округлялся к 0, не усечение. Точка, я должен сравнить целую часть два...
вопрос задан: 8 May 2013 13:05
6
ответов
разделение поплавков и округление на int в java [duplicate]
Ниже приведен пример из списка гребня. https://en.wikipedia.org/wiki/Comb_sort Я хочу разделить разрыв с сокращением в арифметике с плавающей запятой, а затем округлить результат до значения int ....
вопрос задан: 9 July 2012 15:05
6
ответов
Числа плавающие в Java
Кто-либо мог понравиться мне, почему вывод следующей программы не "отличающийся отличающийся"? общедоступная статическая основная пустота (Строка [] args) {пускает в ход f1=3.2f; плавание f2=6.5f; если (f1 == 3.2) System.out.println (...
вопрос задан: 30 June 2012 11:56
6
ответов
Определите точность и масштаб конкретного числа в Python
У меня есть переменная в Python, содержащем число с плавающей точкой (например, цифра = 24654.123), и я хотел бы определить точность числа и значения масштаба (в смысле Oracle), таким образом, 123.45678 должен дать...
вопрос задан: 7 June 2012 13:51
6
ответов
Ruby круглое плавание to_int, если целое число
В рубине я хочу преобразовать плавание в интервал, если это - целое число. Например, = 1.0 b = 2.5 to_int_if_whole # => 1 b.to_int_if_whole # => 2.5 В основном я стараюсь не отображаться "...
вопрос задан: 15 May 2012 13:36
6
ответов
Преобразование списка дробей в числа с плавающей запятой в Python
У меня есть список дробей, например: data = ['24 / 221 ', '25 / 221', '24 / 221 ', '25 / 221' , «25/221», «30/221», «31/221», «31/221», «31/221», «31/221», «30/221», «30/221», « 33/221 '] Как бы ...
вопрос задан: 14 May 2012 15:07