8
ответов
Инвертирование 4x4 матрица - Числовое самое стабильное решение необходимо
Я хочу инвертировать 4x4 матрица. Мои числа хранятся в формате фиксированной точки (1.15.16, чтобы быть точными). С арифметикой с плавающей точкой я обычно просто создаю примыкающую матрицу и делюсь на детерминант (...
вопрос задан: 3 July 2013 15:52
6
ответов
хранение денег составляет в mysql
Я хочу сохранить 3.50 в mysql таблицу. У меня есть плавание, в котором я храню его, но это хранит как 3,5, не 3.50. Как я могу заставить это иметь конечный нуль?
вопрос задан: 9 May 2012 16:33
6
ответов
Когда использовать Фиксированную точку в эти дни
Для интенсивного перемалывания чисел я рассматриваю использование фиксированной точки вместо плавающей точки. Конечно, будет иметь значение, сколько байтов тип фиксированной точки находится в размере, на том, на каком ЦП это будет работать, если я...
вопрос задан: 12 November 2008 03:51
6
ответов
Преобразование плавающей точки к фиксированной точке
В C++, что универсальный путь состоит в том, чтобы преобразовать какое-либо значение с плавающей точкой (плавание) в фиксированную точку (интервал, 16:16 или 24:8)?Править: Для разъяснения значения фиксированной точки имеют две части им: целая часть и...
вопрос задан: 9 October 2008 15:37
4
ответа
Математика фиксированной точки в c#?
Я задавался вопросом, знает ли кто-либо здесь о каких-либо хороших ресурсах для математики фиксированной точки в c#? Я видел вещи как этот (http://2ddev.72dpiarmy.com/viewtopic.php?id=156) и это (К чему лучший способ...
вопрос задан: 23 May 2017 01:46
4
ответа
Как использовать expr на плавании?
Я знаю, что это - действительно глупый вопрос, но я не знаю, как сделать это в ударе: 20 / 30 * 100 Это должно быть 66.67, но expr говорит 0, потому что это не поддерживает плавание. Какая команда в Linux может...
вопрос задан: 24 October 2014 16:27
4
ответа
Что Вы используете для представления фиксированной точки в C++?
Я ищу стандарт фиксированной точки для использования для финансовых данных, Вы знаете кого-либо, которого стоит попробовать? У Вас есть опыт в производительности той фиксированной точки ручной работы классами?
вопрос задан: 28 September 2008 16:36
3
ответа
Плавания Oracle по сравнению с числом
Я вижу конфликтующие ссылки в документации Оракулов. Есть ли какое-либо различие между тем, как десятичные числа хранятся в ПЛАВАНИИ, и ЧИСЛО вводит в базе данных? Поскольку я вспоминаю из C, и др., плавания...
вопрос задан: 7 August 2015 14:02
3
ответа
Вычисления с фиксированной точкой будут стоить моей проблемы?
Я работаю над гидроаэродинамикой, Navier - Топит решатель, который должен работать в режиме реального времени. Следовательно, производительность важна. Прямо сейчас я смотрю на многие жесткие циклы что каждый счет...
вопрос задан: 19 April 2010 12:38
2
ответа
Библиотека фиксированной точки C++? [закрытый]
Я ищу свободную библиотеку фиксированной точки C++ (Главным образом для использования со встроенными устройствами, не для математики произвольной точности). В основном требования: Никакое ненужное время выполнения наверху: безотносительно...
вопрос задан: 31 May 2010 09:01
2
ответа
Фиксированная точка на алгоритме сжатия, широко используемом в наше время
Я задавался вопросом, существует ли алгоритм сжатия, широко использующийся сегодня, который содержит фиксированную точку, т.е. файл идентификационных данных. Для объяснения давайте назовем C: байт []-> байт [] функция это...
вопрос задан: 20 August 2009 12:55
1
ответ
Какая максимальная разница должна быть между вычислением с плавающей запятой и 16-разрядным вычислением? [закрыто]
Допустим, у меня есть формула, которая вычисляет значение. Я могу вычислить значение либо с помощью арифметики с плавающей запятой, либо с помощью арифметики с фиксированной запятой (используя 16-битные целые числа) Какой должен быть максимум ...
вопрос задан: 19 March 2019 08:37
1
ответ
Является ли mfix for Возможно невозможно быть нетривиально общим?
Поскольку Nothing & gt; & gt; = f = Nothing для каждого f, для mfix подходит следующее тривиальное определение: mfix _ = Nothing Но это не имеет практического применения, поэтому мы имеем следующее неточное определение: ...
вопрос задан: 13 July 2018 12:16
1
ответ
Как я могу выполнить 64-битное деление с помощью 32-битной инструкции деления?
Это (AFAIK) конкретный вопрос в рамках этой общей темы. Вот ситуация: у меня есть встроенная система (игровая консоль), основанная на 32-битном микроконтроллере RISC (вариант NEC V810) ....
вопрос задан: 23 May 2017 12:18
0
ответов
Быстрая фиксированная точка pow, log, exp и sqrt
У меня есть класс с фиксированной точкой (10.22), и мне нужны функции pow, sqrt, exp и log. Увы, я даже не знаю, с чего начать. Может ли кто-нибудь предоставить мне ссылки на полезные ...
вопрос задан: 21 June 2019 15:44
0
ответов
Как исправить положение двоичной точки в N-разрядном целом числе без знака?
Я работаю над разработкой алгоритма с фиксированной точкой в C ++. Я знаю, что для N-разрядного целого числа двоичное целое с фиксированной точкой представляется как U (a, b). Например, для 8-битного целого числа (то есть 256 выборок) ...
вопрос задан: 26 February 2015 13:05
0
ответов
Обработка с фиксированной точкой: в чем разница между uint16_t и uint_fast16_t?
У меня есть 16-битный процессор с фиксированной точкой, и я хочу выполнять с ним обработку с фиксированной точкой. Я ищу правильный тип данных для использования с 16-битными целыми числами без знака. Мой вопрос: в чем разница ...
вопрос задан: 3 October 2013 08:47
0
ответов
Воспроизводимость результата операции с плавающей запятой
Может ли арифметическая операция с плавающей запятой -давать разные результаты на разных процессорах? Под процессорами я подразумеваю все x86 и x64. И под разными результатами я подразумеваю даже если хотя бы один наименьший...
вопрос задан: 14 August 2012 13:14
0
ответов
арифметика с фиксированной точкой в java с высокой производительностью
Мне нужно представить некоторые числа в Java с идеальной точностью и фиксированным количеством десятичных знаков после запятой; после этой десятичной точки мне все равно. (Конкретнее -деньги и проценты...
вопрос задан: 11 August 2012 18:06
0
ответов
Как улучшить извлечение квадратного корня из фиксированной точки для малых значений
Я использую библиотеку фиксированной точки Энтони Уильямса, описанную в статье доктора Добба «Оптимизация интенсивных математических приложений с фиксированными -Точечная арифметика "для вычисления расстояния между двумя ...
вопрос задан: 28 July 2012 07:00
0
ответов
Как использовать расширение типов с фиксированной точкой GCC на ARM Cortex-M?
Я использую ARM Cortex-M3 и Cortex-M4. Я хочу использовать расширение типа фиксированной точки GCC. Я использую набор инструментов для вызова рук. Следующая строка кода _Fract f = 0.1; бросает ...
вопрос задан: 17 June 2012 08:08
0
ответов
Как преобразовать упакованное целое число (16.16) с фиксированной точкой в float?
Как преобразовать "32-битное знаковое число с фиксированной точкой (16.16)" в float? Является ли (fixed >> 16) + (fixed & 0xffff) / 65536.0 нормальным? А как насчет -2.5? И -0.5? Или фиксированное / 65536.0 - это правильный путь? (...
вопрос задан: 10 May 2012 13:02
0
ответов
Арифметика с фиксированной запятой в программировании на C
Я пытаюсь создать приложение, которое хранит цены акций с высокой точностью. В настоящее время я использую double для этого. Можно ли для экономии памяти использовать любой другой тип данных? Я знаю, что в этом что-то есть...
вопрос задан: 8 April 2012 23:59
0
ответов
Почему в C99 не включены типы с фиксированной точкой?
К счастью, модификатор сложного типа был введен в стандарт C99. Чего я не понимаю, так это почему было решено исключить поддержку арифметики с фиксированной запятой (в частности, поддержку дробных типов...
вопрос задан: 27 March 2012 04:50
0
ответов
Ошибка вычислений Python
Я использую API mpmath для вычисления следующей суммы. Давайте рассмотрим серию u0, u1, u2, определенную следующим образом: u0 = 3/2 = 1,5 u1 = 5/3 = 1,6666666… un + 1 = 2003 - 6002 / un + 4000 / un un-1 Серия ...
вопрос задан: 2 January 2012 09:55
0
ответов
Библиотека C ++ для целочисленной тригонометрии, скорость оптимизирована с помощью дополнительных приближений?
Я достиг точки в проекте, когда имеет смысл начать создавать некоторые классы поддержки для векторов и разная тригонометрия, чем продолжать использовать специальные функции. Я ожидаю, что будет много C ++ ...
вопрос задан: 22 November 2011 09:53
0
ответов
Как оптимизировать класс-оболочку простого числового типа в C ++?
Я пытаюсь реализовать класс с фиксированной точкой в C ++, но у меня возникают проблемы с производительностью. Я свел проблему к простой оболочке типа float, но она все еще медленная. У меня вопрос - почему ...
вопрос задан: 19 July 2011 08:52
0
ответов
Обратный sqrt для фиксированной точки
Я ищу лучший алгоритм обратного квадратного корня для чисел с фиксированной точкой 16,16 . Приведенный ниже код - это то, что у меня есть до сих пор (но в основном он берет квадратный корень и делит его на исходное число, ...
вопрос задан: 8 June 2011 23:31
0
ответов
Алгоритм умножения с фиксированной точкой
Я пытаюсь изменить масштаб метки времени (только дробная часть секунд) от наносекунд (единицы 10 ^ -9 секунд) до нижней половины метки времени NTP (единицы 2 ^ -32 секунды). Фактически это означает ...
вопрос задан: 3 March 2011 23:56
0
ответов
.NET - Почему в C # нет числового типа данных с фиксированной запятой?
Похоже, что у типа данных с фиксированной запятой будет множество применений. Почему в .NET его нет? Примечание: я понимаю, что мы можем создавать наши собственные классы / структуры для соответствия нашим целям с фиксированной точкой и ...
вопрос задан: 21 February 2011 18:29