Não há como renomear uma instância do SQL Server. Provavelmente, você pode criar uma nova instância apenas com o nome da máquina para atender aos seus requisitos.
Não tenho certeza da versão expressa do SQL Server junto ao VS 2010, mas com o SQL Express 2008 (ou R2) autônomo, a execução da configuração novamente permitirá que você crie uma nova instância.