10
ответов
Как плавающая точка хранится? Когда это имеет значение?
В следуют до этого вопроса, кажется, что некоторые числа не могут быть представлены плавающей точкой вообще и вместо этого приближены. Как числа с плавающей точкой хранятся? Есть ли общее...
вопрос задан: 17 July 2019 02:23
5
ответов
Погрешность округления.NET в ToString (“f2”)
Привет у меня есть этот код в C#: пустите в ход n = 2.99499989f; MessageBox. Покажите ("n =" + n. ToString ("f2", CultureInfo. InvariantCulture)); И этот код в C++: пустите в ход n = 2.99499989f; printf ("n = %.2f", n);...
вопрос задан: 18 January 2010 18:28
4
ответа
Обнаружение потери точности при преобразовании из дважды для плавания
Я пишу часть кода, в котором я должен преобразовать из дважды для плавания значений. Я использую повышение:: numeric_cast, чтобы сделать это преобразование, которое предупредит меня любого переполнения/потери значимости. Однако я...
вопрос задан: 13 July 2010 17:53
4
ответа
Какой класс использовать для денежного представления?
Какой класс я должен использовать для представления денег для предотвращения большинства погрешностей округления? Я должен использовать Десятичное число или простое встроенное число? Есть ли любой существующий Денежный класс с поддержкой валюты...
вопрос задан: 18 September 2009 17:24
3
ответа
Определение DPI контекста устройства GDI
У меня есть приложение, которое генерирует метафайлы (ЭДС). Это использует эталонное устройство (иначе экран) для рендеринга этих метафайлов, таким образом, DPI изменений метафайла в зависимости от того, какова машина код...
вопрос задан: 11 May 2011 11:24
3
ответа
php intval () и пол () возвращаемое значение, которое слишком низко?
Поскольку тип данных float в PHP неточен, и ПЛАВАНИЕ в MySQL занимает больше места, чем INT (и неточно), я всегда храню цены как INTs, multipling 100 прежде, чем сохранить для обеспечения нас...
вопрос задан: 1 May 2009 19:12
1
ответ
Почему я получаю специфичный для платформы результат для std :: exp? [Дубликат]
У меня есть программа, которая дает разные результаты под Android и Windows. Поскольку я проверяю выходные данные по двоичному файлу, содержащему ожидаемый результат, разница, даже если очень ...
вопрос задан: 18 January 2019 09:12
0
ответов
Правильные суммы с делением сумм, устранение ошибок округления
Веб-приложение, написанное на PHP с базой данных MySQL. У меня есть система, которая рассчитывает разные затраты для нескольких человек при разделении стоимости. Например, человек А покупает что-то за 10, а люди Б, С,...
вопрос задан: 23 May 2017 12:27
0
ответов
Проблема R с округлением миллисекунд
Учитывая следующую проблему с округлением миллисекунд в R. Как мне обойти ее, чтобы время было правильным? > варианты (цифры.сек=3)
> as.POSIXlt("13:29:56.061", format='%H:%M:%OS', tz=...
вопрос задан: 23 May 2017 12:00
0
ответов
сложение вместо вычитания в алгоритме Кахана
Это алгоритм суммирования Кахана из Википедии: функция KahanSum (input) var sum = 0.0 var c = 0.0 for i = 1 to input.length do y = input [i] - c // зачем вычитание? ...
вопрос задан: 9 December 2011 14:22
0
ответов
C # округление среднего месторождения. Тоевен против Midpointrounding.awyfromzero
в C # Есть ли разница в точности двух десятичных стратегий округления в средние стратегии в среднем. Доуэевен и среднего размера. Я имею в виду, что оба обеспечивают равномерное распределение между ...
вопрос задан: 9 September 2011 10:41
0
ответов
Невозможно вставить десятичную дробь в таблицу сервера sql с помощью кода C #
Я не могу вставить десятичные значения в таблицу Sql Server. То, что я пытаюсь сделать, самоочевидно с помощью этих строк кода: long fileSizeInBytes = ComponentUploadControl.FileContent.Length;
...
вопрос задан: 2 May 2011 14:27
0
ответов
Ошибка округления PHP
Я использую PHP 5.2.13 на моем сервере Linux. Я получаю странную ошибку при округлении чисел. Это мой тестовый пример:
вопрос задан: 7 February 2011 12:48
0
ответов
Есть ли способ обрезать числа в научной нотации в Javascript?
Как вы все знаете, поскольку это одна из наиболее часто задаваемых тем на SO, у меня возникают проблемы с ошибками округления (это нет собственно ошибки, я это прекрасно понимаю).
Вместо того, чтобы объяснять мою точку зрения, я дам ...
вопрос задан: 28 January 2011 17:09
0
ответов
Rounding differences on Windows vs Unix based system in sprintf
I have problem on UNIX based systems sprintf does not round up properly value. For example double tmp = 88888888888885.875
char out[512]; Thats 88,888,888,888,885.875 just to be easier on eyes.
I ...
вопрос задан: 10 January 2011 17:26
0
ответов
Стандарты округления - Финансовые расчеты
Мне интересно узнать о существовании каких-либо стандартов «округления» когда дело доходит до расчета финансовых данных. Мои первоначальные мысли заключаются в том, чтобы выполнять округление только тогда, когда данные предоставляются ...
вопрос задан: 1 October 2010 15:45
0
ответов
Эффективное минимизирование эффекта ошибок округления, вызванных повторяющимися операциями
Я недавно наткнулся на алгоритм суммирования Кахана (или компенсированный) для минимизируя округление, и я хотел бы знать, есть ли эквивалентные алгоритмы для деления и / или умножения ...
вопрос задан: 14 September 2010 15:26