Contanto que você esteja usando apt-get e não tenha modificado nenhum dos repositórios de origem dos quais apt-get extrai os pacotes, você deve estar completamente apto a instalar um gem desta maneira.
Se você precisar instalar lotes de gems ou precisar ter várias versões do Ruby, convém dar ao aplicativo rvm uma tentativa.
rvm aka. O Ruby Version Manager é uma ferramenta para gerenciar suas próprias versões locais de Ruby + Gems fora do Ruby que vem com sua distro.