Se você quiser usar o Debian ou uma distribuição Debian baseada no Debian, então você deve dar uma olhada no Manual do Administrador do Debian: link
Você também pode dar uma olhada no site Debian Administratrion: link
Sobre os serviços, existem alguns exemplos em ambos os sites. Mas você deve ter um firewall no seu servidor. Eu recomendaria ufw
(1) como um bom firewall para um servidor para você dar uma olhada.
Uma alternativa à VPN que você também pode usar é o IPv6 e permite que gogoc
(8) gerencie um túnel IPv6. Mas você ainda precisa ter um firewall.
Você também pode querer ver o OwnCloud como um servidor de arquivos / nuvem.