nohup é um comando que torna outro comando seguro contra sinais hup. Supondo que você já saiba como se comporta, você pode executar o arquivo java como:
nohup ${JAVA_HOME}/bin/java YourClass &
Ou
nohup ${JAVA_HOME}/bin/java -cp ${CLASSPATH} YourClass &
Em caso de jarro
nohup ${JAVA_HOME}/bin/java -jar Yourjar.jar &
Nota: o último & sinal não é a parte de nohup. Isso é para que seu processo seja executado em segundo plano.