Na verdade, isso acabou se tornando apenas uma opção com excesso de zelo no meu tema de aparência. Ou seja, em ~/.themes/Xfce-darkness/gtk-3.0/gtk-widgets.css
,
* {
/* inherit colors from parent */
color: inherit;
background-color: inherit;
}
Que fez tudo assumir a cor de fundo padrão do tema. Isso incluía também algum tipo de elemento de limite na janela do Evince, que deveria ser realmente transparente.
Remover esta cláusula (de qualquer forma questionável, porque tudo e também completamente desnecessário para mim) corrigiu o problema.