Eu uso o Excel 2010 de 64 bits (14.0.6023.1000)
Uma pasta de trabalho protegida pela senha "gripe" e desprotegida pela senha "flu" OU "ab". Por que é que? Primeiro de tudo, eu pensei que, começando com o Excel 2007, eles começaram a usar melhor hashing de senha do que os antigos arquivos .xls. Segundo, "gripe" e "ab" têm um hash SHA1 diferente.
1) Eu vou para Review -> Changes -> Protect Workbook
Estrutura: sim
Windows: não
Senha: "gripe" (sem citações)
2) Confirme a senha
3) Review -> Changes -> Protect Workbook
Senha: "ab" (sem citações)
4) A pasta de trabalho está desprotegida
P.S. Caso você não consiga reproduzir o problema, aqui está um arquivo de teste. Você pode ver que as duas senhas funcionam: link