O melhor recurso é a documentação do Ubuntu. Eu listei abaixo algumas páginas dentro dessa documentação e algumas outras fontes para ajudá-lo.
- O índice dos tópicos de rede, abordando tópicos como DHCP, servidores residenciais, Wi-Fi e segurança.
- DHCP (geral), DNS estático , dinâmico DNS, configuração de um servidor DHCP.
Os tópicos LAMP (Linux, Apache, PHP e MySQL) são abordados aqui .
Quanto à segurança, o Wiki do Ubuntu tem uma página de índice , que abrange vários tópicos, como detecção de intrusão, firewall e criptografia. Você também pode consultar a orientação dada pela Equipe de segurança do Ubuntu.
Não sei ao certo como a rede funciona em um ambiente virtualizado. A configuração necessária também depende do que você deseja alcançar. Por exemplo, qualquer teste de segurança deve ser feito em uma instalação real, já que quaisquer limitações, bugs ou recursos de segurança podem tornar os resultados do teste pouco confiáveis ou imprecisos.
Por fim, este artigo do blog lista várias distribuições especializadas em testes de penetração, como backtrack-linux ou NodeZero, que é baseado no Ubuntu.