Если вы не хотите закрывать окно, вы должны использовать событие запроса на закрытие:
if(prop.getProperty("name") != null || f.exists()) { primaryStage.show(); } else { e.consume(); }