Ordenou! Orca foi a resposta.
Eu usei Monitor de processo filtrando em msiexec.exe para Process Name e msi para Path
Isso mostrou que o arquivo .msi correto era c:\windows\installer\b2cbf2.msi (YMMV)
Eu abri isso no Orca, procurei a mensagem de erro e soltei cada linha que se referia a ela.
Salvei o arquivo novamente em c:\windows\installer (Importante! Eu tentei primeiro na área de trabalho e ele ainda acessou aquele em c:\windows\installer , provavelmente algum GUID causando isso).
Isto correu bem e o Add-in está agora desinstalado!