Metacity é o gerenciador de janelas x11 e isso não vai mudar. Não, o Metacity não usará o Wayland.
Pode ser possível usar o Mutter, mas não é suportado. Você teria que desabilitar muitas coisas no gnome-flashback, caso contrário, haverá conflitos entre o gnome-flashback e o mutter, porque ambos tentarão fazer as mesmas coisas, por exemplo, gerenciar monitores.