Você pode instalar um servidor VNC no contêiner. Como funciona bem com o Gnome ou outro DE e no macOS, não sei dizer, mas um Google rápido mostra que há algumas imagens com Gnome + VNC combo então pode ser viável.
Existem algumas limitações, no entanto. Para executar um contêiner do Linux no macOS, tem que haver uma VM do Linux em algum lugar, porque o Docker isola apenas os processos em um contêiner, mas o kernel usado ainda é o da máquina host.
Hoje em dia, quando você faz o download do Docker a partir do site oficial, ele traz uma pequena VM que age de forma transparente para você. Mas a VM ainda precisa de um pouco de RAM e o Kernel que a VM está rodando pode estar perdendo algo que você precisa.
Dependendo do que você quer usá-lo, pode ser o suficiente, ou você pode estar melhor com uma VM completa.
Além disso, considere repositórios do tipo "Linux" que contêm muitos aplicativos portados diretamente para o macOS, como Homebrew ou Macports se você quiser apenas algumas ferramentas (por exemplo, GNU versões do grep, awk, etc ...), mas realmente não se importam com o sistema operacional que rodam.
Eu tentei os dois. Minha preferência pessoal é para Homebrew que eu chamaria de mais ativo e um pouco mais fácil de usar.