Se você quiser uma solução gratuita, você pode usar o DNS dinâmico, por exemplo, www.noip.com. Mas com uma solução 'gratuita', vem uma armadilha: seu nome de host será algo como "myserver.no-ip.info" em vez de algo legal como "myserver.com" ou o que você quiser.
Você precisa se registrar para um nome de host e pagar por isso.
E depois disso vem o próximo passo de permitir a conexão de entrada em seu gateway doméstico e redirecionar a solicitação recebida para o seu servidor Ubuntu (Port Forwarding)