Este é realmente um estranho. Eu configuro a configuração que você descreve com o IIS em execução em um DC não um servidor membro e o diretório virtual configurado para usar o usuário conectado. Isso funcionou. Então eu tentei com o IIS em execução em um servidor não-domínio, e funcionou também. Infelizmente, o IIS em execução em um servidor membro do domínio é a configuração que não posso testar.
Em seguida, configurei o diretório virtual para se conectar como nondomainpc \ administrator. No DC isso não funcionou, mas no servidor não-domínio que fez.
Eu liguei o Network Monitor para dar uma olhada, e quando o diretório virtual no DC está configurado para usar a conta de administrador do PC que não é da DC, o DC tentou fazer uma conexão anônima. Ele não fez nenhuma tentativa de usar o nome de usuário nondomainpc \ administrator que eu tinha configurado para o diretório virtual. Isso parece um bug para mim.
Observe que o diretório virtual funcionou no DC ao usar o usuário conectado, enquanto no seu caso não. No entanto, notei que os controladores de domínio tendem a ignorar o bit "host" do nome de usuário "host \ usuário", presumivelmente porque não há nenhum SAM em um controlador de domínio, por isso não atribuo muita importância a isso. O servidor membro presumivelmente está passando o nome de usuário logado como "domínio \ usuário" e você está rejeitando o servidor não-DC.
Em termos de consertar seu problema, tudo que posso sugerir é mover o servidor FTP para um servidor DC ou não-domínio, mas acho que nenhuma dessas opções seria muito atrativa: - (
JR