nohup executa um executável. Você precisa passar um comando externo, ou seja, um arquivo executável. Você não pode chamar nohup em uma construção de shell como um alias, função ou builtin. nohup executa um novo processo, ele não roda algo dentro do processo de shell existente (desde que nohup em si é um processo separado), então nohup . … não faz sentido.
nohup ./test.sh é a maneira correta de executar um script de shell com nohup. Certifique-se de que o script comece corretamente com uma linha shebang ( #!/bin/sh ) e que o arquivo seja executável ( chmod +x ./test.sh ).