Isso não funcionará no compiz! O Compiz espera que o tipo de propriedade _MOTIF_WM_HINTS seja _MOTIF_WM_HINTS , mas o comando xprop defina como CARDINAL . Se você usa xprop | grep _MOTIF_WM_HINTS , verá isto:
_MOTIF_WM_HINTS (CARDINAL) = 2, 0, 0, 0, 0
Deveria ser assim:
_MOTIF_WM_HINTS (_MOTIF_WM_HINTS) = 2, 0, 0, 0, 0
Seu script python funciona, porque o GTK + define corretamente essa propriedade. :)