Claro. Do terminal ( Ctrl + Alt + T ):
ssh <host-username>@<hostname/ip-address>
Se você não sabe qual é o endereço IP do seu servidor, você pode usar o nmap para encontrá-lo (eu não sou um especialista em nmap, mas algo como sudo nmap -sS 192.168.1.1-255
geralmente funciona. Seu servidor deve ser um dos hosts que o nmap retorna.