Você provavelmente desejará todos os três pacotes.
yum info mysql mysql-server mysql-devel fornecerá descrições escritas dos mantenedores dos pacotes em detalhes.
Mas em suma, mysql é o cliente MySQL e as bibliotecas necessárias. mysql-server é o servidor de banco de dados real, com os scripts daemon e init correspondentes. mysql-devel inclui pacotes de desenvolvimento que serão necessários para outros aplicativos.