Você deve sempre usar a versão de 64 bits se a sua CPU suportar.
64 bits (x64) tem muitas vantagens sobre 32 bits (x86). Além disso, as CPUs de 64 bits têm compatibilidade com versões anteriores de 32 bits.
Leia mais sobre o 64-bit no wiki do Ubuntu, por exemplo.
Um problema pode ser que você não pode executar todos os programas de 32 bits no seu Ubuntu de 64 bits por padrão . Isso pode ser facilmente corrigido instalando as bibliotecas de 32 bits (o que é explicado na página do wiki a que me referi).