Há muitas perguntas nesta ... pergunta.
"Funções e recursos" existe para instalar funções e recursos que fazem parte do SO Windows Server básico, em vez de ter tudo pré-instalado para você. Não é para software de terceiros ou de código aberto.
A instalação de software de código aberto e de terceiros é perfeita, mesmo que substitua um recurso fornecido no sistema operacional como um servidor da web. Há também muitas maneiras diferentes de automatizar a instalação de software no Windows, mas esse é um tópico muito amplo para essa questão. Se precisar de mais ajuda nessa área, faça uma pergunta separada com mais detalhes.
Sim, a execução de cada serviço como uma conta de "privilégio mínimo" dedicada é altamente recomendada. Talvez você precise instalar coisas como um usuário administrador, mas nunca precisará executá-las como usuário administrador, a menos que o software esteja mal escrito.
Se este for um servidor destinado a ser executado de forma "sem cabeça", sim. Você deve fazer todas as tentativas para fazer as coisas funcionarem como serviços nativos do Windows. Mesmo softwares que não suportam nativamente a execução como um serviço podem ser executados como um serviço. Mais uma vez, detalhes específicos exigirão uma pergunta separada.
O mais importante "Do" da administração do servidor Windows é mantê-lo corrigido. A natureza dos patches de segurança nos dias de hoje é que eles estão sendo frequentemente explorados em estado selvagem no momento em que atingem a atualização do Windows. E os patches geralmente exigem reinicializações. Projete seus serviços para esperar reinicializações e ser capaz de recuperá-los automaticamente. Existem várias maneiras de tornar as atualizações de atualizações previsíveis, de modo que você possa avisar os usuários antecipadamente sobre uma janela de manutenção.
Algumas boas práticas "Não". Não desligue o UAC. Não desligue o firewall. Não use seu servidor para navegação na Web casual. Servidores Windows modernos fazem um bom trabalho em ser seguro por padrão. Mas há muitas maneiras pelas quais você pode optar por se tornar menos seguro.