Se você não tem um domínio, e parece que você não está executando um servidor de e-mail, a única coisa que você precisa mover é dados. Isso facilita a tarefa. Você pode obter a nova configuração do servidor e adicioná-la à rede e, em seguida, copiar os dados da máquina antiga pela rede. Se isso for muito lento, você também pode procurar anexar uma unidade externa à máquina antiga, copiando os arquivos e, em seguida, movendo-a para a nova.
Depois de transmitir os dados, você poderá analisar os usuários migrando para o novo servidor. Minha sugestão seria mover os dados, antes de verificar a configuração do AD, ou configurar o AD e conectar os usuários ao domínio, deixando os dados acessíveis no servidor antigo. Depois de configurar um controlador de domínio, você precisará adicionar clientes ao domínio, alterar contas de usuário, configurar novos perfis, etc., o que significa que os usuários não têm acesso a seus dados por mais tempo se você fizer a mudança e o AD instala no mesmo tempo.