Quando você não está em um domínio (ou em um domínio diferente, o mesmo se aplica a afaik), você ainda precisa se conectar pelo nome , e deve ser um simples nome, não um fqdn.
Na prática, isso provavelmente significa editar o arquivo hosts
no cliente e no servidor.
editar:
No seu caso, você pode alcançar o mesmo, estabelecendo uma relação de confiança entre os domínios.