Você pode acessar seu servidor remotamente através de um terminal. Você precisará instalar / configurar o OpenSSH no seu servidor.
Veja link
Na sua máquina cliente, você precisará de um software como o PuTTY ( link )
No PuTTY, basta digitar o endereço IP do servidor. Se o seu servidor não estiver na mesma sub-rede que a máquina cliente, você precisará encaminhar as portas apropriadas (no roteador) para o servidor.