Às vezes, algum lixo fica para trás, em pastas desconhecidas. Eu tive um pequeno pesadelo quando instalei uma versão de 64 bits no Vista 64, depois um de 32 bits e tentei retornar para 64 bits.
Sugiro a abordagem que usei: instale novamente uma versão de 32 bits, desinstale-a e tente instalar a versão de 64 bits desejada. Desta forma, quaisquer dependências que o svnTortoise tenha serão mapeadas novamente pela nova instalação de 32 bits e provavelmente serão removidas quando você o desinstalar.
EDIT: de acordo com a observação de lakshman, não é recomendado reiniciar o Windows após desinstalar a versão de 32 bits.