Abra um prompt de comando elevado ou o PowerShell:
dism /online /enable-feature /featurename:IIS-BasicAuthentication
Agora você terá a opção Autenticação básica na página Autenticação no Gerenciador do IIS.
Isso funciona no Server Core e é muito mais rápido do que usar a GUI.