Você instalou a versão principal do Windows Server 2016, que é essencialmente uma versão resumida da versão Desktop Experience, e não contém ferramentas de gerenciamento gráfico, como o Gerenciador de Servidores.
A capacidade de conversão entre o núcleo e as versões da GUI (Desktop Experience) foi removida no Windows Server 2016 e, portanto, será necessário reinstalar o sistema operacional e selecionar a versão Servidor com Desktop Experience durante instalação.
Unlike some previous releases of Windows Server, you cannot convert between Server Core and Server with Desktop Experience after installation. If you install Server Core and later decide to use Server with Desktop Experience, you should do a fresh installation.