Instalei o media player VLC e ele toca música de uma maneira que você se apaixona pela música;).
O problema foi o próprio rythmbox. Eu olhei para mudar alguma coisa na caixa de diálogo de configurações, mas sem sucesso. Eu prefiro usar o VLC media player, que é muito poderoso e toca a maioria dos formatos de música e vídeo sem instalar mais codecs.