Não é uma resposta concreta, mas poucos indicadores podem ajudar.
Se a janela tiver um título único, você pode obter o ID da janela usando
NAUTILUS_WINDOWID='xwininfo -name <title> |grep 'Window id' |awk '{print }''
Agora, chamar periodicamente xwininfo -id $NAUTILUS_WINDOWID >/dev/null
deve funcionar.
Ele retorna 0
se a janela existir e 1
caso contrário.