Можно ли зарегистрировать какой-либо протокол а затем запустите IntelliJ через URL-адрес. я думаю отправить URL через Desktop.browse ()изнутри JVM.
Моя идея состоит в том, что URL будет состоять из параметр имени файла и параметр номера строки. Затем IntelliJ откроет это имя файла и прокрутите до заданного номера строки. Вот пример:
intellij:/mypath/myfile#99
Это уже было сделано?
Пока
P.S. :Класс java.awt.Desktop
http://docs.oracle.com/javase/6/docs/api/java/awt/Desktop.html