Em teoria, você provavelmente pode, mas não é recomendado instalar o Ubuntu de 64 bits (ou outro sistema operacional) em sistemas com significativamente menos de pelo menos 4 GB de RAM.
A razão é que um sistema de 64 bits armazena todos os dados na RAM como pedaços de pelo menos 64 bits, o que equivale a 8 bytes. Isso também se aplica se o fragmento de dados precisar apenas 1 ou 8 bits a serem salvos.
Em um sistema de 32 bits, todos os dados na memória são divididos em clusters de largura de 32 bits, que é de 4 bytes. Portanto, como muitos aplicativos usam principalmente tipos de dados com largura não superior a 32 bits, um sistema de 64 bits pode precisar de até o dobro de RAM que um sistema de 32 bits. Por causa disso, existe a regra prática de 4GB.
A versão de 64 bits pode ser um pouco mais rápida devido ao melhor uso do processador, mas também pode ser mais lenta porque é executada com mais freqüência e mais rapidamente na RAM.
Este tópico fornece mais explicações sobre 32bit vs. 64bit.
Portanto, minha recomendação:
Instale o Ubuntu (versão 14.04 LTS ou 15.04) na arquitetura de 32 bits ou atualize sua RAM.
Caso você ainda tenha um desempenho ruim, talvez deva considerar a possibilidade de escolher um ambiente de desktop mais leve, como o XFCE em vez do Unity. O Xubuntu vem com o desktop XFCE por padrão.