Я не могу использовать функцию изображения Wand в скрипте Python

Переполнение происходит, когда результат арифметической операции не соответствует типу данных операции. У вас может быть переполнение с байтом без знака, если вы добавите 255 + 1, потому что результат (256) не вписывается в 8 бит байта.

У вас может быть переполнение с плавающей запятой номер, если результат операции с плавающей запятой слишком велик для представления в показателе типа данных с плавающей запятой или мантиссы.

Вы также можете иметь underflow с типами с плавающей запятой, когда результат операции с плавающей запятой слишком small для представления в заданном типе данных с плавающей запятой. Например, если тип данных с плавающей запятой может обрабатывать показатели в диапазоне от -100 до +100, и вы присваиваете значение с показателем -80, результат будет иметь показатель около -160, который не будет соответствовать данный тип данных с плавающей запятой.

Вы должны быть обеспокоены переполнениями и недоисполнениями в вашем коде, потому что это может быть тихий убийца: ваш код производит неправильные результаты, но может не сигнализировать об ошибке.

Независимо от того, можете ли вы спокойно игнорировать переполнения, очень многое зависит от характера вашей программы - отображать пиксели экрана из 3D-данных гораздо больший допуск для числовых ошибок, чем, скажем, финансовые расчеты.

Проверка переполнения часто отключается в настройках компилятора по умолчанию. Зачем? Поскольку дополнительный код для проверки переполнения после каждой операции требует времени и пространства, что может ухудшить производительность вашего кода во время выполнения.

Сделайте себе одолжение и, по крайней мере, разработайте и протестируйте свой код с проверкой переполнения.

0
задан Nizam35 19 March 2019 в 06:56
поделиться