Se você estiver executando o ubuntu de 64 bits, poderá optar por executar mongo de 32 bits ou mongo de 64 bits, como takkat mencionado. (um sistema operacional de 32 bits o forçaria a usar somente o executável de 32 bits).
Pessoalmente, acho mais simples e previsível ir à página de 10gen distribuições , e baixar e descompactar a versão I quer. Depois disso, a execução do bin/mongod
correto funciona imediatamente.