Почему этот вид вызова функции является неправильным в JavaScript?

Хотя я не рекомендую отменять обычное управление историей браузера (кнопка «Назад»), чтобы использовать его по своему усмотрению ....

Я думаю, что единственное, что вы пропустили в своем примере, это то, что закрытие Кнопка не должна закрывать модальное само по себе, а вместо этого просто выполнить событие кнопки (которое в конечном итоге закроет модальное).

Это простое исправление, и оно будет работать так, как вы хотели.