Como você está usando o alsa, instale a versão 0.10 do plugin alsa do gstreamer, não a versão 1.0.
aptitude install gstreamer0.10-alsa
e o quodlibet deve inicializar imediatamente o pipeline de gstreamer correto.
O Quodlibet depende da versão 0.10 dos outros plugins do gstreamer, já que a execução apt-cache depends quodlibet
dirá a você:
jb@x:~$ apt-cache depends quodlibet
quodlibet
Depends: python
Depends: exfalso
Depends: gstreamer0.10-plugins-base
Depends: python-gst0.10
Depends: gstreamer0.10-plugins-good
Depends: gstreamer0.10-plugins-ugly
Suggests: gstreamer0.10-plugins-bad
Suggests: quodlibet-plugins
Suggests: gstreamer0.10-gconf
|Recommends: gstreamer0.10-alsa
Recommends: <gstreamer0.10-audiosink>
gstreamer0.10-plugins-bad
gstreamer0.10-alsa
gstreamer0.10-plugins-good
gstreamer0.10-pulseaudio
O Quodlibet 2.4 não é compatível com a versão 1.0 do plugin alsa do gstreamer. Nem a versão do plugin fluendo mp3 do gstreamer é necessária.