Вы пытались настроить переменную среды JAVA_TOOL_OPTIONS
?
Установите этот параметр на "-Dfile.encoding=UTF8"
, и предполагается, что он будет поднят на jvm. Но если это не так, у вас не останется другого выбора, кроме как использовать параметр командной строки.