O SQL Server 2008 e outros mastodontes da Microsoft são muito difíceis de desinstalar completamente.
Para certificar-se de que você foi totalmente desinstalado, consulte: Como desinstalar uma instância do SQL Server 2008
SQL Server 2008 Install Nightmare
Em seguida, tente novamente instalar o SQLDatabase 2005.
Se isso não funcionar, infelizmente a única solução pode ser reinstalar o Windows a partir do zero.