Для этого вам вообще не нужен ajax. Если вы просто установите «download.php» как href на кнопке или, если это не ссылка, используйте:
window.location = 'download.php';
Браузер должен распознать двоичную загрузку и не загружать фактическую страницу, а просто служит для загрузки файла.