0
ответов
Как реализовать деление с округлением до бесконечности в Python
Я хочу 3/2 равным 2, а не 1,5 Я знаю, что есть математический термин для этой операции (не называется округлением в большую сторону), но я не могу вспомнить его прямо сейчас. В любом случае, как мне это сделать, не выполняя два ...
вопрос задан: 24 August 2011 22:52
0
ответов
Арифметика с плавающей запятой = Какая наихудшая точность / разница между десятичными и двоичными числами?
поскольку все знают десятичные дроби (например, 0,1), при сохранении как числа с плавающей запятой (например, double или float) будут внутренне представлены в двоичном формате формат »(IEEE 754). И некоторые десятичные дроби не могут ...
вопрос задан: 24 August 2011 03:19
0
ответов
.NET - Сравнение чисел с плавающей запятой
Сравнение чисел с плавающей запятой (double, float) напрямую в .net на предмет равенства небезопасно. Двойное значение переменной может со временем измениться на очень небольшую величину. Например, если вы установите переменную ...
вопрос задан: 19 August 2011 20:36
0
ответов
Сравнение с плавающей запятой [дубликат]
int main ()
{float a = 0,7; поплавок b = 0,5; if (a <0,7) {if (b <0,5) printf («2 правы»); else printf ("1 правильный"); } else printf ("0 правильные") ...
вопрос задан: 16 August 2011 17:54
0
ответов
Как преобразование из double в int работает в Java?
Для следующего кода (Java) : двойной d = (двойной) m / n; // m и n целые числа, n> 0
int я = (int) (d * n); i == m Всегда ли верно последнее выражение?
Если это не так, всегда ли это правда ?: i = (...
вопрос задан: 15 August 2011 02:20
0
ответов
Какова взаимосвязь между значимыми цифрами и потерей точности в числах с плавающей запятой?
Итак, я пытался обернуть голову вокруг отношения между количеством значащих цифр в числе с плавающей запятой и относительной потерей точности точность, но я просто не могу понять ...
вопрос задан: 10 August 2011 04:17
0
ответов
הדרך המהירה ביותר לעשות סכום וקטורי צף אופקי ב- x86
יש לך וקטור של שלושה (או ארבעה) צפים. מהי הדרך המהירה ביותר לסכם אותם? האם SSE (movaps, shuffle, add, movd) תמיד מהיר יותר מ- x87? האם ההוראות להוסיף לרוחב ב- SSE4.2 שוות את זה? ...
вопрос задан: 9 August 2011 13:16
0
ответов
Арифметика с плавающей запятой Python и Javascript дает очень разные ответы. Что я делаю не так?
Версия Python | Версия Javascript | Технический документ Итак, я работаю над веб-сайтом для расчета рейтингов Glicko для игр для двух игроков. Он включает в себя много арифметических операций с плавающей запятой (квадратные корни, экспоненты, ...
вопрос задан: 9 August 2011 05:23
0
ответов
Bruk av kaster på resultatene av heltall og flytende divisjon: hva skjer her?
Jeg er nybegynner og det er noe som ikke gir mye mening for meg. Vær så snill å forklare hvor jeg går galt. Jeg beklager hvis dette har blitt spurt før. Her er tilstedeværelsen av ...
вопрос задан: 4 August 2011 23:50
0
ответов
Что такое каноническая цифра со знаком?
Что такое каноническая цифра со знаком (CSD) и как преобразовать двоичное число в CSD, а CSD обратно в двоичное число? Как узнать, следует ли канонически выбирать цифру CSD как +, -, ...
вопрос задан: 1 August 2011 21:07
0
ответов
Может ли cos (a) когда-либо равняться 0 в числах с плавающей запятой
Учитывая, что PI / 2 никогда не может быть точно представлен в числах с плавающей запятой, можно ли предположить что cos (a) никогда не может вернуть точный ноль? Если это так, то следующий псевдокод никогда не будет ...
вопрос задан: 31 July 2011 10:21
0
ответов
Изменить режим округления с плавающей запятой
Как наиболее эффективно изменить режим округления * для чисел с плавающей запятой IEEE 754? Переносная функция C была бы хороша, но решение, которое использует сборку x86, тоже подойдет. * Я имею в виду ...
вопрос задан: 29 July 2011 01:37
0
ответов
Возврат 1.0f дает мне 1065353216
У меня есть функция C, которая возвращает тип float. Когда функция возвращает 1.0f, получатель видит 1065353216, а не 1.0. Я имею в виду следующее: float Function ()
{return 1.0f;
} float ...
вопрос задан: 25 July 2011 23:37
0
ответов
Полезно ли 128-битное «длинное плавание»?
На днях я понял, что больше всего common lisp имел 128-битные "длинные поплавки". Как результат,
наиболее положительное длинное число с плавающей запятой: 8.8080652584198167656 * 10 ^ 646456992, в то время как наиболее положительное двойное число с пл
вопрос задан: 25 July 2011 09:13
0
ответов
Разделив 1 на огромное целое число [closed]
Мне нужно разделить 1 на число X из более чем 4000 цифр, которое я сохранил в строке, и, очевидно, это вернет число с плавающей запятой. Я ищу алгоритмы для выполнения этого ...
вопрос задан: 20 July 2011 17:45
0
ответов
Стандарт для синуса очень больших чисел
Я пишу (почти) IEEE 854-совместимую реализацию с плавающей запятой в TeX (которая поддерживает только 32 -битовые целые числа). Этот стандарт определяет только результат +, -, *, /, сравнения, ...
вопрос задан: 12 July 2011 14:02
0
ответов
Назначить двойную константу переменной с плавающей запятой без предупреждения в C?
В языке программирования C , константа с плавающей запятой по умолчанию имеет двойной тип
так что 3.1415 - это двойной тип, если только не используется суффикс 'f' или 'F' для обозначения типа с плавающей точкой. Я предполагаю, что const float pi = 3.
вопрос задан: 30 June 2011 17:34
0
ответов
Можно ли удалить ошибки с плавающей запятой, не прибегая к типам данных произвольной точности?
Мне было интересно, можно ли при определенных условиях удалить ошибки с плавающей запятой, не прибегая к произвольным -точность типов данных. Проблема обычная. Язык ...
вопрос задан: 27 June 2011 20:03
0
ответов
Округление до 2 десятичных знака
(Math.round (doubleValue * 100)) / 100.0 Есть ли лучший способ округлить десятичные дроби до двух десятичных знаков?
вопрос задан: 27 June 2011 14:56
0
ответов
Разница в точности при делении с плавающей запятой и умножении
Есть ли разница между этим: среднее = (x1 + x2) / 2;
отклонение1 = x1 -среднее;
отклонение2 = x2 -среднее;
отклонение = отклонение1 * отклонение1 + отклонение2 * отклонение2; и это: среднее2 = (x1 + x2);
...
вопрос задан: 26 June 2011 09:46
0
ответов
Вычисление x mod y, где y не может быть представлен как плавающая точка
В качестве канонического примера рассмотрим проблему уменьшения аргумента для тригонометрических функций, например, вычисление x mod 2π как первый шаг для вычисления sin ( Икс). Проблема такого рода трудна в том, что ...
вопрос задан: 25 June 2011 04:02
0
ответов
Вычисление среднего двух значений, минимизация ошибок
Я выполняю вычисления с плавающей запятой и результаты не так точны, как мне хотелось бы. Это алгоритм: ...
центр = (max_x + min_x) / 2
distance = old_x - центр
new_x = center ...
вопрос задан: 24 June 2011 22:29
0
ответов
Точность умножения двойной точности в java?
Какова гарантированная точность оператора умножения для значений типа double в java? Например, 2,2 * 100 - это 220,00000000000003, но 220 - это двойное число. 220.00000000000003 - это следующее двойное ...
вопрос задан: 23 June 2011 19:06
0
ответов
Ввод числа двойной точности
Я пишу некоторые астрономические программы, и у меня есть исходный код для реализации Джеффри Сакса алгоритмов из книги Миуса «Астрономические алгоритмы». Одна из его функций ...
вопрос задан: 23 June 2011 08:19
0
ответов
fp: точное против fp: строгое выполнение
Я обнаружил некоторые различия в результатах моей программы между версиями Release и Debug. После некоторых исследований я понял, что некоторые оптимизации с плавающей запятой вызывают эти различия. Я решил ...
вопрос задан: 21 June 2011 01:01
0
ответов
CS193P - Добавление кнопки с плавающей запятой в калькулятор iOS
Недавно я начал проходить онлайн-курс по разработке iPhone от Стэнфордского университета в iTunes У. Я сейчас пытаюсь делать домашние задания к первой паре лекций. Я следил за ...
вопрос задан: 18 June 2011 12:29
0
ответов
Есть ли какие-то преимущества в использовании pow (x, 2) вместо x * x с x double?
есть ли какие-то преимущества в использовании этого кода double x;
двойной квадрат = pow (x, 2); вместо этого? двойной x;
двойной квадрат = х * х; Я предпочитаю x * x и, глядя на свою реализацию (Microsoft), я не нахожу ...
вопрос задан: 12 June 2011 15:50
0
ответов
Какая польза от feholdexcept и т. Д.?
Документация (в стандартах) для всего fenv.h довольно запутана, но меня особенно смущает feholdexcept и концепция «безостановочного режима» для исключения с плавающей запятой. Что касается ...
вопрос задан: 12 June 2011 13:36
0
ответов
Numpy - квадратный корень из -1 оставляет небольшую действительную часть
Возможно, это проблема алгоритма, но следующий фрагмент кода numpy.power ((- 1 + 0j), 0.5 ) производит следующий вывод (6.1230317691118863e-17 + 1j) Аналогичные выражения, например numpy.power (...
вопрос задан: 10 June 2011 12:05
0
ответов
Чтение 32-битных подписанных IEee 754 с плавающей точкой из двоичного файла с помощью python?
У меня есть двоичный файл, который представляет собой простой список 32-битных чисел с плавающей запятой ieee754 со знаком. Они ничем не разделены, а просто появляются друг за другом до EOF. Как мне читать из ...
вопрос задан: 8 June 2011 22:31