A alocação de memória pode ser muito pequena. tente incrementar um pouco de cada vez. Se falhar no menor, tente a próxima alocação maior.
export _JAVA_OPTIONS="-Xms128m -Xmx128m
export _JAVA_OPTIONS="-Xms256m -Xmx256m
export _JAVA_OPTIONS="-Xms512m -Xmx512m
export _JAVA_OPTIONS="-Xms1024m -Xmx1024m
execute este comando depois de definir o mesmo:
java -jar yourJavaApp.jar
(você precisa estar no diretório do seu aplicativo).
Por favor, note que você pode tentar "temporariamente", passando como uma opção:
java -Xms128m -Xmx128m -jar yourJavaApp.jar
Falha porque o JRE não possui memória suficiente alocada. Talvez você esteja executando muitos aplicativos abertos, com pouca memória, etc.