3
ответа
32-разрядный по сравнению с 64-разрядной производительностью с плавающей точкой
Я имею, столкнулся с любопытной проблемой. Алгоритм я продолжаю работать, состоит из большого количества вычислений как этот q = x (0) *y (0) *z (0) + x (1) год (1) *z (1) +..., где продолжительность суммирования между 4 и 7...
вопрос задан: 12 April 2013 20:17
3
ответа
C ++ int float casting
Почему m всегда = 0? Члены x и y someClass являются целыми числами. float getSlope (someClass a, someClass b)
{float m = (ay - by) / (ax - bx); cout << "m =" << ...
вопрос задан: 29 December 2012 11:43
3
ответа
Когда я делю числа на clojure, я получаю часть, как я получаю десятичное число?
Когда я делаю (/411 125), я не получаю его с точки зрения десятичного числа. Как я делаю это?
вопрос задан: 18 December 2012 09:14
3
ответа
Округлите в большую сторону рубиновое плавание или вниз к ближайшим 0.05
Я получаю числа как 2,36363636363636 4.567563 1.234566465448465 10.5857447736, Как я заставил бы Ruby округлять в большую сторону эти числа (или вниз) к ближайшим 0.05?
вопрос задан: 18 November 2012 04:11
3
ответа
Как Вы читаете плавающие числа (РЕАЛЬНЫЕ) из sqlite базы данных по iPhone?
Я должен считать десятичные числа с плавающей точкой из sqlite дб, я создал Тип переменной в базе данных как ЦЕЛОЕ ЧИСЛО, которое я читаю с sqlite3_column_int в переменные NSInteger, какие части должны измененный так...
вопрос задан: 1 October 2012 22:31
3
ответа
can ' умножить последовательность на не-int типа ' float '
level: beginner, почему я получаю ошибку "не могу умножить последовательность на не-int типа' float '"? def nestEgVariable (salary, save, growthRates): SavingsRecord = [] fund = 0 depositPerYear = ...
вопрос задан: 21 June 2012 16:06
3
ответа
Преобразовать список плаваний в буфер в Python?
Я играю вокруг с PortAudio и Python. данные = getData () stream.write (данные), я хочу, чтобы мой поток играл звуковые данные, которые представлены в значениях Float32. Поэтому я использую следующее...
вопрос задан: 18 June 2012 13:34
3
ответа
Проверьте на равенство на поле MySQL Float
У меня есть система Joomla, и я пытаюсь изменить поиск так, чтобы он правильно нашел значения с плавающей точкой в базе данных. Так, у меня есть запрос, который создается во времени выполнения, которое смотрит что-то как this:...
вопрос задан: 5 June 2012 17:03
3
ответа
Предотвратите округляют в String.format (“%.2f”, doubleValue) в Java
Как делают я предотвращаю String.format (" %.2f", doubleValue); от закругления (круглая половина алгоритма) вместо того, чтобы просто усечь его? например, doubleValue = 123.459 после форматирования, doubleValue = 123.46 я...
вопрос задан: 5 June 2012 16:17
3
ответа
универсальный парсинг строк в плавание
В среде, которую моя программа собирается выполнить, люди используют'', и'.' в качестве десятичных разделителей случайным образом на ПК с'' и'.' разделителей. Как был бы Вы реализовывать такой floatparse (строка)...
вопрос задан: 5 June 2012 16:05
3
ответа
Как я изменяю свое плавание в два десятичных числа с запятой как разделитель десятичной точки в Python?
У меня есть плавание: 1.2333333 Как я изменяю его в два десятичных числа с запятой как разделитель десятичной точки, например, 1,23?
вопрос задан: 5 June 2012 12:32
3
ответа
Тестовые утверждения для кортежей с плаваниями
У меня есть функция, которая возвращает кортеж, который, среди других, содержит значение плавающее. Обычно я использую assertAlmostEquals для сравнения их, но это не работает с кортежами. Кроме того, кортеж содержит другой...
вопрос задан: 14 May 2012 14:48
3
ответа
JavaScript, отображающий плавание к 2 десятичным разрядам
Я хотел отобразить число к 2 десятичным разрядам. Я думал, что мог использовать toPrecision (2) в JavaScript. Однако, если число 0.05, я добираюсь 0.0500. Я быть бы он оставаться таким же. Посмотрите его на JSbin...
вопрос задан: 11 May 2012 04:01
3
ответа
Шестнадцатеричное представление плаваний в Haskell
Я хочу преобразовать Плавание Haskell в Строку, которая содержит 32-разрядное шестнадцатеричное представление плавания в стандартном формате IEEE. Я, может казаться, не нахожу пакет, который сделает это для меня. Делает...
вопрос задан: 10 May 2012 17:16
3
ответа
Haskell, преобразовывающий Плавание в Интервал
Я являюсь все еще новым и пытаюсь создать список для использования в функции и хотеть сохранить его как можно меньше, который, оказывается, logBase x y., но я испытываю затруднения при получении logBase во что-то, что я могу...
вопрос задан: 10 May 2012 17:15
3
ответа
Как проверить, могла ли строка быть преобразована тип для плавания в Python? [дубликат]
Есть ли некоторая функция как str.isnumeric, но применима к плаванию? '13,37 '.isnumeric () #False я все еще использую это: определение isFloat (строка): попробуйте: плавание (строка) возвращает True...
вопрос задан: 10 May 2012 17:15
3
ответа
Что хороший путь состоит в том, чтобы показать числу с плавающей точкой через SNMP?
Я кодирую Агент SNMP. Я должен отправить значения, которые имеют десятичную точку менеджеру по SNMP. У меня есть пара опций: Усеките число. Умножьтесь константой. Спросите Stackoverflow. Если я...
вопрос задан: 10 May 2012 13:08
3
ответа
ArithmeticException добавленный Java
В Java, (Число/0) бросает ArithmeticException в то время как (Число/0.0) = Бесконечность. Почему это происходит?
вопрос задан: 9 May 2012 19:19
3
ответа
Форматирование плаваний в Objective C
Я должен отформатировать плавание (броский заголовок, он?) к 2 десятичным разрядам, но только если те десятичные разряды имеют значения, которые не являются нулем. Пример: у Меня есть NSTextField, названный 'ответом', после того, как я сделаю некоторую ма
вопрос задан: 9 May 2012 19:08
3
ответа
Как создать случайное плавание в Objective-C?
Я пытаюсь создать случайное плавание между 0,15 и 0,3 в Objective-C. Следующий код всегда возвращает 1: int randn = (random ()% 15) +15; 3 в Objective-C. Следующий код всегда возвращает 1: int randn = (random ()% 15) +15; 3 в Objective-C. Следующий код в
вопрос задан: 9 May 2012 16:32
3
ответа
Лучший способ генерировать случайное плавание в [закрытом] C#
Что лучший способ состоит в том, чтобы генерировать случайное плавание в C#? Обновление: Я хочу случайные числа с плавающей точкой от плавания. Minvalue для плавания. Maxvalue. Я использую эти числа в поблочном тестировании некоторых...
вопрос задан: 9 May 2012 05:28
3
ответа
Как я преобразовываю плавание в интервал в Objective C?
Общий вопрос о новичке, но это сводит меня с ума! Я пробую это: myInt = [myFloat integerValue]; но я добираюсь, ошибка при высказывании по существу integerValue не работает над плаваниями. Как я делаю это?
вопрос задан: 9 May 2012 03:55
3
ответа
В .net, как мне выбрать между десятичным и двойным числом
Мы обсуждали это на днях на работе, и мне хотелось бы, чтобы не было вопроса о Stackoverflow, на который я бы указал людям, так что вот оно.) разница между двойным и десятичным числами?
Когда (в чем ...
вопрос задан: 11 January 2012 10:19
3
ответа
MATLAB - вопрос о поле
Я - новичок MATLAB. Вот проблема:>> = пол (7/2.5) = 2.00>> b = rem (7 2.5) b = 2.00>> c = пол (b/2) c = 0 c должен быть 1, правильно? Почему...
вопрос задан: 3 October 2011 23:35
3
ответа
Двойная точность формата в PostgreSQL
У меня есть таблица с 3 столбцами: customer_name varchar, account_type varchar, current_balance Пример двойной точности оценивает за current_balance: 1200 1500.5 1500 я хочу, чтобы они отобразились как...
вопрос задан: 23 September 2011 18:36
3
ответа
Представление плавания в C
Я пытался понять, представление с плавающей точкой в C, использующем этот код (и плавание и интервал составляют 4 байта на моей машине): интервал x = 3; пустите в ход y = * (плавание*) &x; printf (" %d %e \n", x, y); Мы...
вопрос задан: 11 April 2011 18:01
3
ответа
То, почему Октава Гну имеет отрицательным, обнуляет?
Это - нечетное, о котором я озадачен. Я недавно заметил при подсказке Октавы Гну, возможно войти в отрицание, обнуляет, как так: octave:2> отвращение =-0 И это помнит это, также:...
вопрос задан: 17 February 2011 21:58
3
ответа
Дважды по сравнению с плаванием на iPhone
Я только что услышал, что iPhone не может сделать дважды исходно, таким образом, создания их намного медленнее что регулярное плавание. Действительно ли это верно? Доказательство? Я очень интересуюсь проблемой, потому что для моей программы нужно...
вопрос задан: 17 February 2011 21:47
3
ответа
Другой вопрос с плавающей точкой
Я прочитал большинство сообщений на здесь относительно плавающей точки, и я понимаю основную базовую проблему что использование IEEE 754 (и только по природе хранения чисел в двоичном файле) определенные части...
вопрос задан: 10 November 2010 11:06
3
ответа
binary16 в Python
Модуль структуры полезен, когда Вы пытаетесь преобразовать данные в и от двоичных форматов. Однако недавно я столкнулся со спецификацией формата файла, которая использует binary16 формат с плавающей точкой. Я...
вопрос задан: 18 July 2010 04:15