Coisas que eu tentaria:
yum clean all ; yum install mysql-devel
Se fosse um problema intermitente com o repositório do yum que você está usando, isso poderia resolver o problema.
rpm -qa ^mysql\*
Também é possível que você tenha cópias duplicadas do mesmo pacote instalado. Eu vi erros muito semelhantes ao que você descreve quando isso aconteceu.