Eu pesquisei um pouco no Google e encontrei uma postagem no blog sobre Instalando o Ruby 1.9 no CentOS . Eu só instalei Ruby via código-fonte no CentOS uma ou duas vezes, e isso foi há mais de um ano, mas eu recomendo fazer tudo que puder com o gerenciador de pacotes do CentOS (yum) primeiro - como instalar o openssl e o openssl-devel com yum, assim:
yum install openssl openssl-devel
Espero que isso ajude, David