Encontrou! Foi tão fácil ...
Este site teve a resposta.
Key: HKEY_CURRENT_USER\Software\Microsoft\Exchange\Exchange Provider
Value name: DS Server
Value type: REG_SZ
Value: FQDN of the GC server
Aparentemente, o servidor de catálogo global (eu tenho apenas um controlador de domínio para o domínio raiz e ele está sendo executado como também é o DNS) estava faltando.
Depois de adicionar seu nome ao valor "DS Server", a conexão funciona!
Mas por que o Outlook precisa do servidor de catálogo global para resolver um nome DNS quando o DNS está funcionando, eu não sei.