Se você pudesse colocar a mensagem de erro aqui, será muito mais fácil obter ajuda.
Agora, eu tenho que adivinhar, você já instalou o RubyGems?
Depois disso, você também pode precisar fazer
sudo gem update --system
Basicamente, você precisa primeiro instalar o zlib e usar o rvm para remover e reinstalar o Ruby. Lembrei que usei o rvm para instalar o Ruby on Rails da última vez no Ubuntu 10.04 também.
Em um mundo ideal, o apt deve ser o balcão único para cada pacote e será automaticamente
Resolva a dependência para você. Mas provavelmente nunca funcionará dessa maneira, a menos que o gerenciamento de pacotes possa ser compilado para você também, quando necessário. O Gentoo manipula a instalação do Ruby um pouco melhor sem precisar do rvm para gerenciar Ruby e, em seguida, o Gems gerencia gemas. Mas usar o Gentoo para instalar o Gems também não é mais fácil.
Eu sempre achei que o Ubuntu ou outros sistemas gerenciadores de pacotes Linux como o Portage é muito melhor que o Windows, mas no caso de instalar o Ruby Gems o Linux não parece significativo ou simples.