Eu resolvi esse problema: Mesmo quando você instalou extensões de servidor frontpage, isso não significa que o seu site o suporte, é por isso que o VS não pode abrir o site. Você terá que configurar seu site: -Clique no seu site, escolha Todas as tarefas = > Configure as extensões de servidor do Frontpage e siga as instruções para configurar seu site.
Depois disso, você poderá abrir o site usando o VS :)