Se você quiser remover completamente sua instância do Ubuntu, você pode executar o comando LXRun a partir do cmd / PowerShell (de acordo com os docs ):
lxrun /uninstall /full
Se você quiser reinstalar sua instância do Ubuntu, basta executar o seguinte no cmd / PowerShell:
lxrun /install
Atualização 2018-02-06
Atualize já que muita coisa mudou desde que escrevi essa resposta;)
A orientação acima permanece w.r.t. a distribuição original do Ubuntu que o WSL baixou e instalou quando você executou o WSL pela Atualização de Aniversário do Windows 10.
No Creators Update e posterior, você habilita o WSL e instala sua distro de escolha na Windows Store. Para remover uma distro entregue na loja, basta clicar com o botão direito do mouse no menu Iniciar e clicar em "Desinstalar":