Se bem me lembro, é só uma questão de invocar asadmin para inserir o asadmin shell:
thufir@dur:~$
thufir@dur:~$ glassfish-5.0/glassfish5/bin/asadmin
Exception in thread "main" java.lang.NullPointerException
at com.sun.enterprise.module.common_impl.AbstractModulesRegistryImpl.initializeServiceLocator(AbstractModulesRegistryImpl.java:152)
at com.sun.enterprise.module.common_impl.AbstractModulesRegistryImpl.newServiceLocator(AbstractModulesRegistryImpl.java:144)
at com.sun.enterprise.module.common_impl.AbstractModulesRegistryImpl.createServiceLocator(AbstractModulesRegistryImpl.java:218)
at com.sun.enterprise.module.common_impl.AbstractModulesRegistryImpl.createServiceLocator(AbstractModulesRegistryImpl.java:224)
at com.sun.enterprise.module.single.StaticModulesRegistry.createServiceLocator(StaticModulesRegistry.java:88)
at com.sun.enterprise.admin.cli.CLIContainer.getServiceLocator(CLIContainer.java:217)
at com.sun.enterprise.admin.cli.CLIContainer.getLocalCommand(CLIContainer.java:255)
at com.sun.enterprise.admin.cli.CLICommand.getCommand(CLICommand.java:231)
at com.sun.enterprise.admin.cli.AdminMain.executeCommand(AdminMain.java:371)
at com.sun.enterprise.admin.cli.AdminMain.doMain(AdminMain.java:306)
at org.glassfish.admin.cli.AsadminMain.main(AsadminMain.java:57)
thufir@dur:~$
thufir@dur:~$ java -version
openjdk version "9.0.0.15"
OpenJDK Runtime Environment (Zulu build 9.0.0.15+181)
OpenJDK 64-Bit Server VM (Zulu build 9.0.0.15+181, mixed mode)
thufir@dur:~$
thufir@dur:~$ javac -version
javac 9.0.0.15
thufir@dur:~$
thufir@dur:~$ cat /etc/lsb-release
DISTRIB_ID=Ubuntu
DISTRIB_RELEASE=17.10
DISTRIB_CODENAME=artful
DISTRIB_DESCRIPTION="Ubuntu 17.10"
thufir@dur:~$
Eu também tentei inserir diretamente list-domains , bem como alguns outros comandos - todos falharam.
O GlassFish 5 ainda não suporta o JDK 9. O trabalho de suporte ao JDK 9 está em andamento e fará parte da versão 5.0.1 - consulte o aviso no link
O Payara Server , um fork do GlassFish mantido ativamente, é executado no JDK 9 desde a versão 5 - Alpha 2 . Este é um pré-lançamento e ainda não totalmente testado, mas se você precisar de suporte a JDK 9, provavelmente é o único servidor liberado que o faz até que o GlassFish 5.0.1 seja lançado.