Você precisa de uma versão de 64 bits do Ubuntu em um computador compatível com 64 bits e, em seguida, pode instalar todos os softwares de 64 bits e de 32 bits. Em um sistema de 32 bits, você só pode instalar software de 32 bits.
Você precisa instalar uma versão de 64 bits do Ubuntu para poder instalar aplicativos de 64 bits.
A razão para isso é que o hardware precisa ser capaz de manipular instruções de 64 bits e o sistema operacional precisa saber disso. Um sistema de 32 bits não sabe disso e não pode lidar com as instruções extras de 32 bits em uma instrução de 64 bits. É por isso que você precisa instalar um sistema operacional de 64 bits.
Além disso, todos os sistemas de 32 bits suportados são os kernels PAE, o que significa que eles podem suportar até 64 GB de RAM, e não o máximo de 4 GB usual.
Você já tem mais perguntas, não hesite em comentar. :)