22
ответа
mySQL получает неожиданный результат за 0,99 раза 5 [дублировать]
Из предложений @manix и @Matt Crandall я узнал, что .toFixed (2) решает мою проблему. Я буду копать глубже в том, почему позже. Дело закрыто. Я создаю базу данных для магазина и ошибаюсь ...
вопрос задан: 26 May 2011 18:13
16
ответов
Что случилось с использованием == для сравнения плаваний в Java?
Согласно этой java.sun странице == оператор сравнения равенства для чисел с плавающей точкой в Java. Однако, когда я ввожу этот код: если (разделенный == currentSectionID) в моего редактора и выполненный...
вопрос задан: 26 April 2017 09:21
11
ответов
1.265 * 10000 = 126499.99999999999? [дубликат]
Когда я умножаюсь на 1.265 на 10000, я добираюсь 126499.99999999999 при использовании JavaScript. Почему это так?
вопрос задан: 31 January 2014 09:56
9
ответов
Погрешности округления?
В моем курсе мне говорят: Непрерывные значения представлены приблизительно в памяти, и поэтому вычисляющий с плаваниями включает погрешности округления. Это крошечные несоответствия в комбинациях двоичных разрядов; таким образом...
вопрос задан: 7 April 2015 18:57
9
ответов
Для цикла в C++ с помощью дважды вспыхивающий один шаг рано, граничное значение, не достигнутое
У меня есть скомпилированное использование программы простого C++ gcc 4.2.4 на 32-разрядной Ubuntu 8.04. Это имеет для цикла, в котором двойная переменная увеличена от нуля до одного с определенным размером шага. Когда размер шага...
вопрос задан: 17 August 2009 06:36
8
ответов
Устройство хранения данных широты/Долготы и сжатие в C
Кто-либо знает самое эффективное представление для координат lat/long? Уровень точности должен быть достаточно для потребителя устройствами GPS. Большинство реализаций, кажется, использует дважды для каждой единицы, но я...
вопрос задан: 7 October 2009 22:03
8
ответов
Контакт с проблемами точности в числах с плавающей запятой
Я задавался вопросом, существует ли способ преодолеть проблему точности, которая, кажется, результат внутреннего представления моей машины чисел с плавающей запятой: Ради ясности проблема...
вопрос задан: 26 February 2009 15:54
7
ответов
Управление и сравнение плавающих точек в Java
В Java арифметика с плавающей точкой не представлена точно. Например, этот код Java: плавайте = 1.2; пустите в ход b = 3.0; пустите в ход c = * b; если (c == 3.6) {System.out.println ("c 3.6");}...
вопрос задан: 14 June 2015 23:18
7
ответов
Почему делает (интервал) (33.46639 * 1000000), возвращаются 33466389?
(интервал) (33.46639 * 1000000) возвращается 33466389, Почему это происходит?
вопрос задан: 11 June 2014 08:33
7
ответов
Почему ghci говорит, что 1.1 + 1.1 + 1.1> 3.3 Верно?
Я проходил учебное руководство Haskell недавно и заметил это поведение при попытке некоторых простых выражений Haskell в интерактивной оболочке ghci: Вводная часть> 1.1 + 1.1 == 2.2 Истинных Вводных части>...
вопрос задан: 8 September 2011 20:59
7
ответов
n-й корень числа
Я написал программу для вычисления n-го корня числа до 2 десятичных знаков. например, 4-й корень из 81 - 3., 3-й корень из 125 - 5. Хорошо работает, за исключением 2-го корня из 4. Он дает вывод 1.99 ...
вопрос задан: 16 August 2010 15:56
7
ответов
Как сделать целое число log2 () в C++?
В библиотеках стандарта C++ я нашел только метод журнала с плавающей точкой. Теперь я использую журнал для нахождения уровня индекса в двоичном дереве (пол (2log (индекс))). Кодируйте (C++): интервал targetlevel = интервал (журнал (...
вопрос задан: 15 June 2009 07:49
7
ответов
Как определить точность Pi (π)
Оптимизация игры, которую мы разрабатываем, мы сталкиваемся с фазой, где каждый цикл ЦП выиграл количества. Мы использующий радианы для вычислений положения окружения объектов вокруг других объектов и я хочу сократить...
вопрос задан: 20 May 2009 15:59
6
ответов
Математика с плавающей точкой нарушена?
Рассмотрим следующий код: 0,1 + 0,2 == 0,3 -> неверно 0,1 + 0,2 -> 0,30000000000000004 Почему возникают эти неточности?
вопрос задан: 29 April 2019 14:53
6
ответов
Большие количества ошибочно округлены в JavaScript
См. этот код: <HTML> <голова> <сценарий src = "http://www.json.org/json2.js" вводит = "текст/JavaScript"> </сценарий> <тип сценария = "текст/JavaScript"> var jsonString...
вопрос задан: 28 October 2018 13:26
6
ответов
Почему я не могу умножить плавание? [дубликат]
Возможный Дубликат: Контакт с проблемами точности в числах с плавающей запятой, я был вполне удивлен, почему я пытался умножить плавание в C (с GCC 3.2) и что это не сделало, поскольку я ожидал.. Как...
вопрос задан: 23 May 2017 12:04
6
ответов
Существует ли значение с плавающей точкой x, для которого x-x == 0 является ложью?
В большинстве случаев я понимаю, что сравнительное испытание с плавающей точкой должно быть реализовано с помощью по диапазону значений (брюшной пресс (x-y) <эпсилон), но делает сам, вычитание подразумевает, что результат будет...
вопрос задан: 9 May 2012 16:27
6
ответов
Случайное распределение целых чисел с фиксированным итоговым [дубликатом]
Я пытаюсь получить случайное распределение N целых чисел с общей суммой, равной K. numbers = np.array (range (N)) для n в диапазоне (N): prob [n] = rd.randrange (10000) sum = numpy.sum (prob) prob = (prob ...
вопрос задан: 28 August 2010 03:37
5
ответов
PI и точность числа с плавающей запятой
Единственная/двойная/расширенная точность представление с плавающей точкой Pi точно до сколько десятичных разрядов?
вопрос задан: 19 May 2019 00:16
5
ответов
Точность плавающей точки C++ [дубликат]
Возможный Дубликат: примеры погрешности С плавающей точкой удваиваются = 0.3; станд.:: cout.precision (20); станд.:: суд <<<<станд.:: endl; результат: 0,2999999999999999889 двойных a, b; = 0.3; b =...
вопрос задан: 23 May 2017 11:51
5
ответов
Как преобразовать строки в плавания с идеальной точностью?
Я пытаюсь записать функцию на языке программирования D для замены вызовов к C strtold. (Объяснение: Для использования strtold от D необходимо преобразовать струны ре в струны до, который неэффективен...
вопрос задан: 26 March 2014 03:20
5
ответов
Почему значение этого пускает в ход изменение от того, на что оно было установлено?
Почему эта программа C дает "неправильный" вывод? #include <stdio.h> освобождают основной () {пускают в ход f = 12345.054321; printf (" %f", f); getch ();} Вывод: 12345.054688 Но вывод должен...
вопрос задан: 16 March 2012 18:07
5
ответов
Параметры компилятора C ++ с плавающей запятой | предотвращение a / b -> a * (1 / b)
Я пишу числовое программное обеспечение в реальном времени на C ++, в настоящее время компилирую его с помощью Visual-C ++ 2008.
Теперь использую «быструю» модель с плавающей запятой (/ fp: fast), различные оптимизации, большинство из них полезно в мое
вопрос задан: 5 August 2010 10:54
5
ответов
Почему мое число округляет неправильно?
Это чувствует себя подобно виду кода, который только перестал работать на месте, но я попытаюсь адаптировать его во фрагмент кода, который представляет то, что я вижу. пустите в ход f = myFloat * myConstInt;/*, Где myFloat == 13.45...
вопрос задан: 24 April 2010 22:33
5
ответов
Точность с плавающей точкой в Visual C++
ПРИВЕТ, я пытаюсь использовать устойчивые предикаты для вычислительной геометрии от Jonathan Richard Shewchuk. Я не программист, таким образом, я даже не уверен в том, что я говорю, я могу делать некоторых основных...
вопрос задан: 2 April 2010 09:14
4
ответа
Форматирование плавающей точки в printf ()
У меня есть массив плаваний, где данные хранятся с переменными десятичными точками, таким образом, некоторые 123.40000, 123.45000, 123.45600... теперь, если я хочу распечатать эти значения в строке без 0s в конце в...
вопрос задан: 16 June 2014 18:59
4
ответа
Обнаружение потери точности при преобразовании из дважды для плавания
Я пишу часть кода, в котором я должен преобразовать из дважды для плавания значений. Я использую повышение:: numeric_cast, чтобы сделать это преобразование, которое предупредит меня любого переполнения/потери значимости. Однако я...
вопрос задан: 13 July 2010 17:53
4
ответа
Примеры погрешности с плавающей точкой
Как Вы объясняете погрешность с плавающей точкой новым программистам и неспециалистам, которые все еще думают, что компьютеры бесконечно мудры и точны? У Вас есть любимый пример или история, которая, кажется, добирается...
вопрос задан: 24 April 2010 22:34
4
ответа
Точное текстовое представление IEEE “дважды”
Я должен представить IEEE 754-1985 дважды (64-разрядное) число с плавающей точкой в человекочитаемой текстовой форме с условием, что текстовая форма может быть проанализирована назад в точно то же (поразрядно)...
вопрос задан: 19 March 2010 21:48
4
ответа
Каково состояние tcl_precision?
Я не использую Tcl в своей ежедневной работе. Однако у меня есть коллега, который иногда взаимодействует с клиентом, которому жаль, что дополнительный язык нашего инструмента не работал больше как Tcl (!). Одна тема, которую он поднял, была...
вопрос задан: 18 February 2010 04:37