Você provavelmente é afetado pelo bug gstreamer. Eu tive problemas semelhantes com 12.04, apesar dos mesmos arquivos serem reproduzidos em versões anteriores. Eu segui essa correção e obtive meu mp4 / mp3 de volta
Estou passando pelos mesmos problemas em duas máquinas com 12.04 (com a versão final beta2 e ontem); Os arquivos MP4 não são reproduzidos no reprodutor de filmes padrão, e a qualidade e o tempo do MP3 parecem insatisfatórios. Instalar pacotes medibuntu e extras restritos não resolveu.
O único jogador que parece funcionar bem para mim é o VLC.
Eu não tive esses problemas em 11.04 e 11.10
Você pode tentar reinstalar os extras restritos do Ubuntu.
Abra uma janela de terminal e digite:
sudo apt-get install ubuntu-restricted-extras
Há mais algumas informações sobre codecs e plugins no site do Ubuntu: link
Por favor, tenha em mente que linux mp3 e mp4 plugins são relativamente de baixa qualidade para começar, e que o VLC tem seus próprios plugins embutidos, e é por isso que a reprodução não é afetada usando o VideoLan. Se você é um audiófilo, talvez a compra de codecs de alta qualidade seja um bom investimento, embora eu não ache muito errado com os codecs que estão no pacote extras restritos.
Felicidades!