Sim e não, existem ferramentas disponíveis para verificar o integridade dos arquivos do sistema no Windows. No entanto, você não precisa afetar a integridade dos arquivos do sistema para colocar em um rootkit ou backdoor.
Se você não tiver certeza de um computador que acabou de adquirir, reformate-o e reinstale o Windows. Existem recursos disponíveis se você não tiver seu ISO, mas ainda tiver uma chave de licença válida.
EDIT: Se você está preocupado com um ISO adulterado, é só pegar um do último link que eu postei.
EDIT2: Se você já tem um ISO, você pode ver os hashes oficiais de TechNet , mas você precisa de uma assinatura para baixar as iso's do site.