Bem, eu entendi. Eu estava hesitante em usar a resposta nesta pilha;
Como houve comentários sugerindo que o próprio yum acabou quebrado. Eu tentei mesmo assim;
rpm -e --nodeps libffi
E ele desinstalou o pacote libffi ofensivo. Então
yum install libffi-devel
funcionou bem e eu poderia continuar e instalar o ruby sem problemas.