Seu problema é que você não pode fazer uma "atualização" para o Server 2008R2, que é o que é tentado quando você o executa de dentro do Windows.
Você precisa gravar a imagem real no DVD, não os arquivos contidos no arquivo .iso. Se você apenas extrair o conteúdo do arquivo .iso e gravá-lo, não obterá a imagem de inicialização do DVD, que informa ao computador que ele pode ser inicializado. Quase todos os softwares de gravação de DVD / CD têm a capacidade de gravar uma imagem (o .iso) em um disco. Windown 7 ven tem essa funcionalidade incorporada ao sistema operacional.