O problema é que o nmStart não passa nenhum argumento para o processo JVM filho e os padrões não possuem memória suficiente. Tente adicionar o seguinte:
# Start the Admin Server
arg = "Arguments=\" -server -Xms192m -Xmx768m -XX:MaxPermSize=256m -Xrs\""
prps = makePropertiesObject (arg)
nmStart('AdminServer', props=prps)
Este é um problema irritantemente comum que o Oracle / BEA parece não querer corrigir ou documentar corretamente.