Как упомянуто, статья Wikipedia о IEEE 754 делает хорошее задание показа, как числа с плавающей точкой хранятся в большинстве систем.
Теперь, вот некоторые общие глюки:
- самое большое - то, что Вы почти никогда не хотите сравнить два числа с плавающей точкой для равенства (или неравенство). Вы захотите использовать больше, чем/меньшее количество, чем сравнения вместо этого.
- , Чем больше операций Вы делаете на числе с плавающей точкой, тем более значительные погрешности округления могут стать.
- Точность ограничена размером части, таким образом, Вы не можете быть в состоянии правильно добавить числа, которые разделяются несколькими порядками величины. (Например, Вы не будете в состоянии добавить 1E-30 к 1E30.)
задан gcamp 31 August 2011 в 17:30
поделиться