Não sei ao certo o que aconteceu com o que você está tentando fazer, mas o que fiz foi o resultado da transparência que você deseja:
-
Ubuntu 11.10
instalado
-
Xfce4 instalado
-
Ligado "Ativar composição de exibição" (Configurações - > Gerenciador de configurações - > Gerenciador de janelas Ajustes - > Compositor (guia).
Mas, antes de ativar a composição, também não estava obtendo pseudo-transparência (que é o que você está descrevendo). Se você for cedo o suficiente no processo de configuração, pode valer a pena instalar o Ubuntu 11.10 e adicionar o Xfce4 manualmente. Eu tive resultados muito melhores fazendo isso no passado. (para 10.04 e 11.10)