Запустите JVM с -XX:MaxHeapSize=512m (или любым большим числом) (или -Xmx512m для краткости)
-XX:MaxHeapSize=512m
-Xmx512m