Это можно сделать в одной строке кода. Надеюсь, это поможет:)
Files.write(Paths.get(fileName), msg.getBytes(), StandardOpenOption.APPEND);