0
ответов
Как преобразовать строку в float? [дубликат]
Возможный дубликат: преобразовать строку в число с плавающей запятой в Objective-C. Я хотел бы преобразовать строку в число с плавающей точкой. / * dict - это NSDictionary для загрузки настроек * / NSString * str = [dict objectForKey: @ "key"];
...
вопрос задан: 23 May 2017 10:30
0
ответов
С плавающей точкой половинной точности в Java
Есть ли где-нибудь библиотека Java, которая может выполнять вычисления на числах половинной точности IEEE 754 или преобразовывать их в двойную точность и обратно? Любой из этих подходов подойдет: сохранить ...
вопрос задан: 23 May 2017 10:29
0
ответов
Как в C # получить необходимое количество значений десятичной точки без округления? [дубликат]
Возможный дубликат: C # Double - форматирование ToString () с двумя десятичными знаками, но без округления. Я использую числа с плавающей запятой, и я хочу получить количество десятичных знаков без округления ...
вопрос задан: 23 May 2017 10:28
0
ответов
Реализуйте «толерантный» `equals` и` hashCode` для класса с членами с плавающей запятой
У меня есть класс с полем с плавающей запятой. Например: открытый класс MultipleFields {final int count; final float floatValue; public MultipleFields (int count, float floatValue) {this.count = ...
вопрос задан: 23 May 2017 10:27
0
ответов
iPhone/iPad математика двойной точности
Принятый ответ на этот вопрос Community Wiki: Какие лучшие практики вы используете при написании Objective-C и Cocoa? говорит, что iPhone не может выполнять математику двойной точности (точнее, может, но ...
вопрос задан: 23 May 2017 02:29
0
ответов
Как округлить число float до заданного количества значащих цифр в Ruby?
Было бы неплохо иметь эквивалент функции signif из R в Ruby. Например: >> (11.11).signif(1)
10
>> (22.22).signif(2)
22
>> (3.333).signif(2)
3.3
>> (4.4).signif(3)...
вопрос задан: 4 May 2017 20:18
0
ответов
Согласована ли математика с плавающей запятой в C #? Может ли это быть?
Нет, это не еще один вопрос «Почему (1 / 3.0) * 3! = 1». В последнее время я много читал о плавающих точках; в частности, как один и тот же расчет может дать разные результаты для разных ...
вопрос задан: 13 April 2017 12:18
0
ответов
Функции сравнения с плавающей запятой для C #
Может ли кто-нибудь указать (или показать) некоторые хорошие общие функции сравнения с плавающей запятой в C # для сравнения значений с плавающей запятой? Я хочу реализовать функции для IsEqual, IsGreater и IsLess. Я ...
вопрос задан: 29 March 2017 13:45
0
ответов
numpy float: в 10 раз медленнее, чем встроенные арифметические операции?
Я действительно получаю странное тайминги для следующего кода: импортировать numpy как np
s = 0
for i in range (10000000): s + = np.float64 (1) # заменить на np.float32 и встроенный float встроенный float: 4.9 с
...
вопрос задан: 21 March 2017 15:27
0
ответов
Как я могу предотвратить округление моих чисел с плавающей запятой csv.DictWriter () или writerow ()?
У меня есть словарь, который я хочу записать в файл csv, но числа с плавающей запятой в словаре округляются, когда я их записываю в файл. Я хочу сохранить максимальную точность. Где округление ...
вопрос задан: 10 March 2017 08:35
0
ответов
Haskell :Как преобразовать входную строку ввода-вывода в Float (или Int или что-то еще )?
Я пытаюсь создать программу, которая принимает число с плавающей запятой, введенное пользователем с клавиатуры, и делает с ним что-то. Однако каждый раз, когда я пытаюсь разобрать введенную строку в число с плавающей запятой, я продолжаю получать...
вопрос задан: 26 February 2017 16:06
0
ответов
Как выполнить округление до равного числа с числами с плавающей запятой
Что касается IEEE-754 с плавающей запятой одинаровой точности, как вы выполняете округление до ближайшего, где завязываются к ближайшей четной цифре в требуемом положении (по умолчанию и на сегодняшний день наиболее распространенная ...
вопрос задан: 16 February 2017 16:29
0
ответов
Почему GCC не оптимизирует a * a * a * a * a * a до (a * a * a) * (a * a * a)?
Я делаю некоторую числовую оптимизацию для научного приложения. Одна вещь, которую я заметил, заключается в том, что GCC оптимизирует вызов pow (a, 2), скомпилировав его в a * a, но вызов pow (a, 6) не оптимизируется и ...
вопрос задан: 3 February 2017 15:20
0
ответов
Экстремальные числовые значения в точности с плавающей точкой в R
Может кто-нибудь, пожалуйста, объясните мне следующий вывод. Я знаю, что это как-то связано с точностью с плавающей запятой, но порядок величины (разница 1e308) меня удивляет. 0: высокая точность и ...
вопрос задан: 2 February 2017 08:18
0
ответов
Независимых ассоциаций EF4 - почему их следует избегать?
Я видел этот комментарий в MSDN (ссылка и ссылка): «Обратите внимание, что независимые ассоциации должны часто этого следует избегать, поскольку такие вещи, как N-уровень и параллелизм, становятся более сложными ". Я новичок в EF4 и ...
вопрос задан: 24 January 2017 21:55
0
ответов
Как получить случайное число между диапазоном чисел с плавающей запятой?
randrange (start, stop) принимает только целочисленные аргументы. Итак, как мне получить случайное число между двумя значениями с плавающей запятой?
вопрос задан: 17 January 2017 03:56
0
ответов
Assert.AreEqual() с System.Double становится очень запутанным
Описание Это не пример из реального мира! Пожалуйста, не предлагайте использовать десятичную систему счисления или что-то еще. Я спрашиваю об этом только потому, что действительно хочу знать, почему это происходит. Недавно я увидел потрясающий ...
вопрос задан: 4 January 2017 21:00
0
ответов
Какое первое целое число, которое с плавающей точкой IEEE 754 не в состоянии точно представить?
Для ясности, если я использую язык, который реализует плавающие элементы IEE 754, и я объявляю: float f0 = 0.f; float f1 = 1.f; ... а затем распечатать их обратно, я получу 0,0000 и 1,0000 - точно. Но IEEE ...
вопрос задан: 26 December 2016 23:38
0
ответов
как преобразовать строку в float и избежать использования try / catch в java?
В некоторых ситуациях мне нужно преобразовать строку в float или какой-либо другой числовой тип данных, но есть вероятность получить неконвертируемый значения, такие как «-» или «/», и я не могу ...
вопрос задан: 7 December 2016 14:31
0
ответов
Эмуляция «double» с использованием 2 «float»
Я пишу программу для встроенного оборудования, которая поддерживает только 32-битную арифметику с плавающей запятой одинарной точности. Однако реализуемый мной алгоритм требует 64-битной двойной точности ...
вопрос задан: 1 December 2016 02:48
0
ответов
Что на самом деле делает GCC Ffaf-Math?
Я понимаю, что флаг GCCFFAST-Math может значительно увеличить скорость для поплавки OPS и выходит за пределы стандартов IEEE, но я не могу найти информацию о том, что действительно происходит, когда он на. Может ...
вопрос задан: 19 November 2016 23:59
0
ответов
Алгоритм для pow (float, float)
Мне нужен эффективный алгоритм для выполнения функции math :: power между двумя числами с плавающей запятой, знаете ли вы, как это сделать (мне нужен алгоритм, чтобы не использовать саму функцию)
вопрос задан: 10 November 2016 04:31
0
ответов
Проверка равенства с плавающей запятой
Есть ли в python функция для проверки приблизительного равенства с плавающей запятой? Что-то вроде def приблизительно_equal (a, b, tol): return abs (a - b)
вопрос задан: 8 October 2016 16:29
0
ответов
Почему оператор модуля возвращает дробное число в javascript?
Почему 49,90 % 0. 10 в JavaScript возвращает 0,09999999999999581? Я ожидал, что это будет 0.
вопрос задан: 1 October 2016 16:26
0
ответов
Описание ошибок представления с плавающей запятой; что не так с моим мышлением?
Мне трудно понять, почему некоторые цифры не могут быть представлены числами с плавающей запятой. Как мы знаем, у обычного числа с плавающей запятой будет бит знака, экспонента и мантисса. Почему нельзя, например, ...
вопрос задан: 1 October 2016 06:42
0
ответов
Почему код целочисленного деления дает неправильный ответ?
у меня есть очень простое подразделение в Java (это - количество продукта / производство в час), однако каждый раз, когда я делаю это подразделение, я получаю странные ошибки: разрешение плавающее = количество / стандарт; я попробовал...
вопрос задан: 2 September 2016 07:08
0
ответов
Деление целых чисел в Java [дубликаты]
Это основной вопрос, но я не могу найти ответ. Я изучил арифметику с плавающей запятой и несколько других тем, но, похоже, ничего не решало. Я уверен, что просто ошибаюсь ...
вопрос задан: 22 August 2016 15:44
0
ответов
PHP - Точность плавающих чисел [дубликат]
$ a = '35';
$ b = '-34,99';
эхо ($ a + $ b); Результаты в 0.009999999999998 Что с этим делать? Я удивился, почему моя программа продолжала сообщать странные результаты. Почему PHP не возвращает ожидаемые 0,01?
вопрос задан: 30 July 2016 15:32
0
ответов
не может преобразовать «float» в «float *» для аргумента «2»
У меня проблемы с выяснением этого, чтобы получить netpay для отображения. Для выполнения задания у меня должна быть внешняя функция. Я держу это: calcTax.cpp: В функции ‘void CalculateTaxes (float, float, ...
вопрос задан: 11 July 2016 18:46
0
ответов
Стандарт JSON - числа с плавающей запятой
Мне интересно, является ли следующая нотация с плавающей запятой действительной нотацией JSON: "result": {"base_fee": 1e-005} или нотация экспоненты должна быть заменена десятичной нотацией?
вопрос задан: 12 June 2016 13:53