A máquina de que você deseja conectar via ssh precisa de um ssh-client. Se você estiver usando o Ubuntu, este cliente é instalado por padrão.
Todas as máquinas para que você deseja conectar precisam de um ssh-server instalado e em execução. No Ubuntu, você pode instalar o openssh-server através do Centro de software ou através de apt-get install .
Isso permitirá o login remotamente.
Se você deseja mais conforto, crie um arquivo /home/YOURNAME/.ssh com entradas para as máquinas remotas às quais deseja se conectar. As entradas serão assim:
Host OTHERMACHINE
HostName OTHERHOSTNAME
User OTHERUSER
ServerAliveInterval 60
O uso desse arquivo permitirá que ssh to OTHERMACHINE simplesmente digite ssh OTHERMACHINE , mesmo quando os nomes de usuário forem diferentes no cliente e no servidor.