Você pode comprar um DVD com a versão mais recente (14.04 LTS) aqui: link
mas é uma versão de 64 bits, por isso, verifique primeiro o seu computador. Eu acho que você não pode comprar uma versão de 32 bits, você tem que baixá-la ou fazer seu próprio CD.
Mas você pode obter ajuda para criar seu próprio CD se estiver preso. Começa aqui: link