Inicie o MS SQL Server 2005, desanexe o banco de dados antes de copiar e, em seguida, no MS SQL Server 2008, anexe o arquivo mdf copiado.
Atualização : você realmente não pode remover completamente os componentes do MSSQL Server pelo processo de desinstalação, especialmente com bancos de dados anexos deixados para trás. Além dos componentes do servidor, a instalação do MSSQL Server pode instalar as bibliotecas de ferramentas do cliente, o BIDS (Business Intelligence Development Studio), o MDAC, etc.
O banco de dados do MS SQL Server pode ser usado (e bloqueado) não apenas pelo MS SQL Server. O bloqueio pode ser iniciado, retido e passado de muitas ferramentas.
Só posso aconselhá-lo a verificar / limpar de forma iterativa o Registro do Windows (por exemplo, pelo CCleaner) e, em seguida, remover manualmente os arquivos restantes do disco rígido do MSSQLServe2005, depois repetir os dois passos novamente.
Mas, meu palpite qualificado é que você o estragou ao desinstalar o SS2005 antes de migrar ou, pelo menos, desanexar o banco de dados.
Realmente, eu não aconselharia anexar / desanexar, mesmo sem migrar para outra versão. Qual foi a necessidade de fazer isso?
Além disso, por que você não copia também o arquivo LDF?