O Windows Explorer não usa o tempo de execução do Visual C ++. O problema é causado pelo código injetado no explorer.exe. A partir do que você está descrevendo, esse código pode ter uma dependência no Visual C ++ 2010 Runtime e falha ao ser executado quando estiver ausente. Desinstalar o Visual C ++ 2010 Runtime não é a solução, o Runtime é popular entre os desenvolvedores e você pode recuperar o tempo de execução ao instalar algum outro software que depende do tempo de execução.
Existem muitas maneiras de injetar código no explorer.exe, de extensões Shell a teclados de software, de vírus a ganchos globais. Você pode usar a ferramenta freeware ShellExView para listar (e possivelmente desativar) as extensões do shell. A partir da verificação de qual DLL foi carregada no explorer.exe, você pode usar o Process Explorer da sysinternals.
Como parece que você é um desenvolvedor de software, provavelmente pode investigar o despejo de memória. Quando o explorer falha, salva um despejo de memória e analise o despejo no windbg para ver o que é realmente acontecendo.