Как закрыть диалог?

Ну, для меня похоже, что VideoCapture не работает. Вы должны проверить после прочтения изображения, если он мог что-то прочитать:

ret, cur = cam.read()
if not ret:
    print "VideoCapture read no frame."
    break

Если это так, в SO были некоторые ответы, которые могут вам помочь, например: OpenCV 2.4. VideoCapture не работает в Windows В основном, они говорят, что у вас могут быть проблемы с ffmpeg. Возможно, вам нужно добавить его в путь Windows и / или переименовать его, чтобы на нем была версия OpenCV.