Você pode simplesmente instalar o pacote rails
sudo apt-get install rails
no meu sistema:
$ ruby -v
ruby 1.8.7 (2010-06-23 patchlevel 299) [i686-linux]
$ rails -v
Rails 2.3.5
Seus números de versão serão um pouco menores que os meus porque estou usando o Ubuntu 10.10.