Sei que você postou isso há alguns meses, mas caso ainda esteja procurando por essa resposta, eu instalaria o ESXi como o host em vez do Windows Server e, em seguida, criaria uma VM com o PFSense e outra VM com o Windows Servidor para o DC + Fileserver.
O desempenho no servidor de arquivos será bom, desde que você tenha potência de CPU e memória RAM suficientes. Eu tenho um servidor de arquivos em uma VM no meu Home Server (2012 R2) agora e posso obter velocidades de até 600Mbps em transferências de arquivos ... Esta é uma rede Gigabit.