É verdade que esse comportamento pode ser desagradável em alguns aplicativos.
Felizmente, pode ser desativado com este ajuste simples:
gsettings set org.gnome.shell.overrides attach-modal-dialogs false
Editar: em versões mais recentes do gnome, você também precisa usar isto:
gsettings set org.gnome.shell.extensions.classic-overrides attach-modal-dialogs false
As janelas modais serão então separadas e redimensionadas.
em gnome-tweak-tool
, a configuração é windows > Diálogos Modais Anexados. Primeiro item na captura de tela.