Primeiro você precisa encontrar o endereço IP do seu computador Linux na rede local. Você pode usar o programa Network Tools no Ubuntu se você estiver confortável com a linha de comando, então você pode usar o comando "ifconfig" e procurar o endereço inet. Normalmente, ele será iniciado com 192.168.X.X ou 10.X.X.X.
Em seguida, no seu Mac, vá até o Finder e digite Command-K para abrir a caixa de diálogo de conexão do servidor e digite vnc: // e o endereço IP da etapa um. por exemplo: vnc: //192.168.1.2