Com o WUBI, o Ubuntu instala algum tipo de partição "aninhada" dentro da partição principal do Windows, eu acho. A instalação é como instalar qualquer outro programa do Windows, o que significa que também pode ser desinstalado facilmente.
Mas como a partição está dentro do Windows, se algo der errado com a partição do Windows, o Ubuntu também não poderá recuperar. E como está aninhado, ele também não é tão estável quanto uma partição independente e tem maior probabilidade de travar depois de reinicializações intensas.
O aninhamento também torna o desempenho do disco um pouco mais lento que as partições independentes, e a suspensão e a hibernação não são suportadas.
O WUBI é voltado principalmente para pessoas que querem experimentar o Ubuntu por um tempo e se sentir confortável com ele antes de fazer uma instalação completa, então se você tem certeza que vai usar o Ubuntu, então é melhor fazer um bom instalar a partir do LiveCD. Isso também pode ser removido mais tarde se você não quiser, embora o procedimento seja um pouco mais complicado do que desinstalar o WUBI.