A primeira coisa a tentar é yum clean packages . Dê uma olhada em man yum para mais opções de limpeza.
Outras coisas que você pode fazer são limpar seus próprios arquivos baixados, registros etc., para os quais não há uma regra geral.
Agora, vejo que minha área de trabalho executando o rhel 5.6 ficou sem espaço. Agora preciso limpá-lo. Deve haver alguns arquivos não intencionais somando. O que eu gostaria de poder fazer é listar os arquivos em ordem decrescente de tamanho de forma limpa e ver os culpados.