Para aqueles de vocês que tropeçam neste post, resolvi o problema. Foi devido a um problema no VirtualBox. Eu tinha as duas NICs configuradas como "Cable Connected" em minhas configurações para o servidor no Oracle VM VirtualBox Manager.
Quando eu verifiquei o servidor como estava em execução, procurei em Dispositivos > Rede > Configurações de rede, nenhuma delas tinha a caixa "Conectado a cabo" marcada. Uma vez que eu verifiquei isso, eu era de ouro. Eu tinha a minha conexão de Internet do Ubuntu para atualizações, navegação, etc., e eu consegui me conectar ao servidor Ubuntu do meu host Windows.