Я исправил эту проблему, установив JDK x64. Я предполагаю, что вы используете jdk x86, и для графы недостаточно памяти.