Primeiro, ao conectar dois computadores back-to-back via serial RS-232, você precisa usar um conector de modem nulo (crossover) para que você conecte a entrada à saída e a saída à entrada. Você pode obter um cabo de modem nulo ou obter um adaptador para substituir o alterador de gênero.
Uma vez conectado, seu pensamento de usar massa está no caminho certo. Você precisa ter certeza de que ambas as extremidades estão tentando falar com a mesma taxa de baud (velocidade de transferência de bit) e usando a mesma paridade (par, ímpar ou nenhuma). Ambas as extremidades provavelmente terão o mesmo padrão, mas você deve checá-las.
Quando você os testa e se sente confortável com a configuração, você pode tentar habilitar o getty em uma ponta (getty é o programa que solicita "login:"). Você deve conseguir ver o prompt de login na sessão de putty do outro lado.
Certifique-se de ativar somente o getty nos seus servidores headless, não no computador na outra extremidade da conexão serial - ambos pensarão que o prompt "login:" do outro é o nome de login e iniciar ecoando para frente e para trás.