Você pode usar o gerenciador de configurações do Compiz (você precisa instalar o pacote "compizconfig-settings-manager", e então executar o "CompizConfig manager" no menu "System- > Preferences").
No item "Acessibilidade", você tem a opção "opacidade, luminosidade". Lá você pode definir a opacidade (e, em seguida, transparência) de suas janelas, e você pode defini-lo com base no título da janela ou digitar ... Se você criar um novo item aqui, digite "class = Nautilus" e selecione a transparência desejada. Então todas as janelas do Nautilus serão transparentes.