Então você quer desinstalar o Rails 2.3.14?
Tente isto: gem uninstall rails
e ele deve mostrar todas as versões e você escolhe a que deseja desinstalar.
se isso não funcionar, tente sudo apt-get remove rails
Para mais ajuda tente este tópico como eu estou em um barco semelhante tentando instalar trilhos corretamente (apenas instalado o Ubuntu):