Você pode reverter para um ponto de restauração do sistema antes de instalar o Office (ou antes de começar a agir mal).
Desde que, é claro, você tenha a restauração do sistema ativada e que o Office não tenha feito isso nos últimos milênios, caso em que pode ser um pouco difícil encontrar esse ponto de restauração.
Lembre-se também de que quaisquer alterações no sistema nesse período também foram revertidas, de modo que os drivers, o software etc. desse período também desapareceram. Ainda assim, para problemas que ocorreram relativamente recentemente, é uma boa solução em muitos casos.