Você provavelmente precisará instalar o RubyGems. Experimente:
yum install rubygems
Se falhar, tente instalá-lo manualmente:
wget http://rubyforge.org/frs/download.php/74922/rubygems-1.8.4.tgz
tar xzpvf rubygems-1.8.4.tgz
cd rubygems-1.8.4
ruby setup.rb