попробуйте это:
viewer.setWindowState( (windowState() & ~Qt::WindowMinimized) | Qt::WindowActive);
viewer.raise(); // for MacOS
viewer.activateWindow(); // for Windows
он работает в моем проекте (в моем проекторе - QMainWindow): https://github.com/iptton/Rythem .