Existem vários métodos para isso, dependendo do que você realmente precisa fazer.
Para encaminhar aplicativos remotos para o ambiente X local, você precisa instalar o X11 no seu Mac (você pode encontrá-lo no site de suporte da Apple): link
No aplicativo X11, abra o terminal e acesse o host remoto com:
ssh -XC user@host
Então, quando estiver logado, basta executar o comando para o aplicativo desejado, ex: firefox, nautilus, thunderbird, o que for ...
Você pode até mesmo iniciar o menu principal do sistema (Ubuntu, Xubuntu, Mint, etc.) e interagir com o sistema remoto a partir daí, sem a necessidade de um front-end gráfico completo. Em um ambiente Linux Mint remoto, simplesmente executo:
mintmenu&
Se você realmente precisa, você pode até mesmo iniciar o ambiente gráfico remoto localmente no X11 do seu Mac, simplesmente rodando:
ubuntu-session
xubuntu-session
etc... (depends of your remote environment)
Melhor que qualquer VNC, melhor que uma conexão X11VNC! Conexão segura e comprimida FTW.