A Microsoft forneceu uma ferramenta (Assistente do Office Removal) para remover completamente todos os aplicativos do Office quando uma desinstalação manual não resolveu o problema. Eu tive que usar isso muitas vezes com versões mais antigas do Office. Deve ser mais informação aqui:
Também tenho certeza de que você instalará o office como um usuário com direitos de administrador e, em seguida, executará um dos aplicativos do Office após a instalação. Isso cria algumas chaves de registro necessárias para outros usuários.