Как насчет этого:
double ratio = imageWidth/imageHeight; int newHeight = Math.min(displayHeight, displayWidth / ratio); int newWidth = Math.min(displayWidth, displayHeight * ratio);