2
ответа
Определение минимального номера десятичных разрядов для станд.:: точность ostream
Есть ли способ определить "минимальный" номер десятичных разрядов что станд.:: ostream произведет? Например, скажите, что у меня есть две неизвестных двойных переменные, которые я хочу распечатать (значения, добавленные здесь для пользы...
вопрос задан: 22 March 2010 20:22
2
ответа
Почему отличается точность с плавающей точкой по C# при разделении круглыми скобками и при разделении операторами?
Я знаю, как точность с плавающей точкой работает в регулярных случаях, но я наткнулся на нечетную ситуацию в своем коде C#. Почему result1 и result2 не являются тем же самым значением с плавающей точкой здесь?...
вопрос задан: 22 March 2010 09:58
2
ответа
Установите точность отображения плавания в Ruby
Действительно ли возможно установить точность отображения плавания в Ruby? Что-то как: z = 1/3 z.to_s # => 0,33333333333333 z.to_s (3) # => 0,333 z.to_s (5), который # => 0.33333 Или я должен переопределить...
вопрос задан: 19 December 2009 20:00
2
ответа
Точность округления доступа MS с группой
Почему не делает среднего числа счета сотрудника каждого месяца при подведении итогов равняйтесь среднему числу счета сотрудников (когда-нибудь)? Средний ВЫБОР В среднем (r.score) AS rawScore ОТ (Сотрудник ВНУТРЕННЕГО ОБЪЕДИНЕНИЯ ET...
вопрос задан: 15 October 2009 05:11
2
ответа
Там какой-либо путь состоит в том, чтобы получить раздел периодической десятичной дроби части в Python?
Я работаю с частями с помощью десятичного модуля Python, и я хотел бы получить просто повторяющуюся часть определенной части. Например: если бы у меня было 1/3, то я хотел бы добраться 3, если бы у меня было 1/7, то я хотел бы добраться...
вопрос задан: 12 July 2009 21:42
2
ответа
SQL Server: Вычисление с числовыми литералами
Я сделал некоторое тестирование с вычислениями с плавающей точкой для уменьшения потери точности. Я споткнулся через явление, которое я хочу показать здесь и надо надеяться получить объяснение. Когда я пишу печать 1.0 / (1.0/...
вопрос задан: 2 July 2009 07:45
2
ответа
C#, Преобразовывающие 20 точности цифры, удваиваются до строки и назад снова
В C#. У меня есть двойное (который я извлек из базы данных), который имеет 20 точности цифры. В Visual Studio (использующий QuickWatch) я вижу значение двойного, чтобы быть = 0.00034101243963859839. Я...
вопрос задан: 4 March 2009 17:10
2
ответа
Какова точность long double в C ++?
Кто-нибудь знает, как узнать точность long double на конкретной платформе? Кажется, я теряю точность после 17 десятичных цифр, что так же, как когда я просто использую double. Я мог бы ...
вопрос задан: 24 January 2009 16:38
1
ответ
Swift Playgrounds: плавающие всегда округлые при отображении во встроенной переменной просмотра
Используя игровые площадки Swift, я экспериментирую с некоторыми математическими задачами, в частности, с помощью функции pow. Если бы я сделал следующее: var x: Float = powf (0.2, 2) Возвращает 0.04 в качестве ответа как ...
вопрос задан: 26 March 2019 12:42
1
ответ
Как получить больше точности для вычисленного расстояния в MySQL, не используя геометрические типы?
Я должен вычислить расстояние между объектом (городом) и каждой из нескольких записей из таблицы MySQL, которую я имею (некоторые рестораны). Этот город и рестораны расположены в одной стране. ...
вопрос задан: 17 January 2019 14:32
1
ответ
Как мне интерпретировать точность и масштаб числа в базе данных?
У меня есть следующий столбец, указанный в базе данных: десятичное число (5,2). Как это можно интерпретировать? В соответствии со свойствами столбца, которые отображаются в SQL Server Management Studio, я вижу, что он ...
вопрос задан: 27 December 2018 10:55
1
ответ
Как к Java String.format с переменной точностью?
Я хотел бы варьироваться точность двойного представления в строке, которую я форматирую на основе ввода данных пользователем. Прямо сейчас я пробую что-то как: Строковое нечто = String.format (" %.*f\n", точность...
вопрос задан: 26 September 2017 16:09
1
ответ
Гарантируется ли для любого конечного значения с плавающей запятой, что x - x == 0?
Значения с плавающей запятой неточны, поэтому мы редко должны использовать строгие численное равенство в сравнениях. Например, в Java это печатает false (как показано на ideone.com): System.out.println (.1 + ....
вопрос задан: 23 May 2017 12:10
1
ответ
Можете ли вы безопасно сравнивать поплавки с целым числом, когда оно равно нулю? [Дубликат]
Я знаю, что вы не можете безопасно сравнивать что-то вроде 1.0 == 1. Но вы могли бы сравнить что-то вроде 0.0 == 0? Поскольку плавающие точки могут отлично представлять идею нуля, это не должно быть проблемой ...
вопрос задан: 14 January 2017 19:41
1
ответ
Как я могу убедиться, что число с плавающей запятой всегда будет округляться с помощью PHP?
Я хочу убедиться, что число с плавающей точкой в PHP округляется вверх, если присутствует десятичный разделитель, не беспокоясь о правилах математического округления. Эта функция будет работать следующим образом: от 1.1 до 2
1,2 к 2
1,9 к 2
От 2.3 до .
вопрос задан: 16 December 2015 20:32
1
ответ
Необходимая рабочая точность для алгоритма BBP?
Я надеюсь вычислять энную цифру Pi в среде низкой памяти. Поскольку я не имею десятичные числа в наличии для меня, этот алгоритм BBP только для целого числа в Python был большой начальной точкой. Мне только нужно...
вопрос задан: 30 May 2010 21:16
1
ответ
C# - проблема с очень небольшими числами - недостаточно цифр в двойном типе данных
Я пишу программу в C#, которые предполагают для вычисления очень небольших чисел. Однако все мои вычисления получают значение NaN, потому что они являются слишком маленькими для 'двойного' типа данных. Есть ли опция...
вопрос задан: 29 January 2010 23:23
1
ответ
Как я могу установить уровень точности для сверхбольшого числа Перла?
Я пытаюсь использовать модуль сверхбольшого числа в Perl и хотеть установить точность. Я знаю, что это может быть сделано на одном лайнере, как детализировано на странице модуля CPAN: жемчуг $-Mbignum=p,-50 - le 'печатают sqrt (20)'....
вопрос задан: 26 January 2010 00:11
1
ответ
Почему присвоение дважды к интервалу не инициировало gcc предупреждения?
интервал i = 3.1 / 2 не вызывает предупреждений, даже с - Стенная опция. Иногда, я хотел бы знать, где точность проигрывает. Почему gcc не поддерживает это предупреждение, в то время как msvc поддерживают этого?спасибо....
вопрос задан: 4 January 2010 17:12
1
ответ
Ограничьте точность на станд.:: суд значений по умолчанию в повышении:: options_description
Когда я создаю повышение:: экземпляр options_description как опции add_options () ("double_val", значение (&config.my_double)-> default_value (0.2), "это - двойное"); и позже хочу иметь...
вопрос задан: 14 November 2009 17:22
0
ответов
Как использовать Gcc 4.6.0 libquadmath и __float128 на x86 и x86_64
У меня есть программа C99 среднего размера, которая использует длинный двойной тип (80 бит) для чисел с плавающей запятой вычисление. Я хочу повысить точность с помощью нового расширения GCC 4.6 __float128. Как я понял, это программное обеспечение ...
вопрос задан: 12 November 2019 15:32
0
ответов
Какая конфигурация для сборки Tensorflow с включенным XLA и AUTO_MIXED_PRECISION в Ubuntu
Как построить Tensorflow из источника с включенными XLA и AUTO_MIXED_PRECISION в Ubuntu. Не удалось найти какие-либо настройки по линии TF_NEEDED_AUTO_MIXED_PRECISION.
вопрос задан: 31 March 2019 01:23
0
ответов
float128 SVD в scipy
У меня есть ndarray типа float128. Я хотел бы вычислить SVD этой матрицы, однако, когда я использовал sp.linalg.svd, возвращаемые массивы имеют тип float64. Есть ли простой способ получить ...
вопрос задан: 6 March 2019 09:53
0
ответов
Как выяснить, находится ли разница между вычислением с плавающей запятой и двойным вычислением в пределах ошибки точности типа данных?
Например, у меня есть два числа, представленные в base-10 как n1 = 5.7818 x 10 ^ (- 4) = 0.00057818 и n2 = 5.6743 x 10 ^ (- 4) = 0.00056743 Первое число, n1, является результатом вычисления с поплавком ...
вопрос задан: 28 February 2019 20:20
0
ответов
Сохранение больших чисел
Я пытаюсь прочитать файл CSV со штрих-кодами в первом столбце, но когда R получает его в data.frame, он преобразует 1665535004661 в 1,67Е+12. Есть ли способ сохранить это число в виде целого числа...
вопрос задан: 13 February 2019 10:07
0
ответов
Метрическая кера средней средней точности (мАР)
Я тренирую модель keras, которая принимает вложения элементов в виде пар и выводит двоичную классификацию (близкую к word2vec). Мне нужно найти карту модели для рекомендательной системы после каждой эпохи ...
вопрос задан: 18 January 2019 07:29
0
ответов
Добавление плавающей запятой точность до qnorm / pnorm?
Мне было бы интересно увеличить предел с плавающей запятой при вычислении qnorm / pnorm от их текущего уровня, например: x <- pnorm (10) # 1
qnorm (x) # Inf
qnorm (.9999999999999999444) # ...
вопрос задан: 17 January 2019 16:43
0
ответов
Какова точность GPS в зависимости от количества спутников?
Я знаю, что точность GPS во многом зависит от его качества, но если вы точно знаете точность GPS-отслеживания в зависимости от количества спутников, я был бы очень благодарен.
вопрос задан: 31 December 2018 00:05
0
ответов
В MATLAB переменные ДЕЙСТВИТЕЛЬНО имеют двойную точность по умолчанию?
Этот вопрос возник из-за чего-то странного, что я заметил после дальнейшего изучения этого вопроса. .. Я всегда понимал, что переменные MATLAB по умолчанию имеют двойную точность. Итак, если бы я сделал ...
вопрос задан: 21 August 2018 15:06
0
ответов
Как установить точность числа с плавающей запятой
Может кто-нибудь объяснить мне, как выбрать точность числа с плавающей запятой с помощью функции C? Примеры : theFatFunction (0,666666666, 3) возвращает 0,667 theFatFunction (0,111111111, 3) возвращает 0,111
вопрос задан: 20 August 2018 03:46