Algumas coisas -
Tente carregar o Process Explorer e dê uma olhada para ver se há algum pico - especialmente em IO e CPU no momento do carregamento, pois isso pode revelar o que está atrasando o lançamento.
Pode ser Antivirus, lembro-me de uma versão antiga do Norton usada para adicionar mais de 10 segundos ao tempo de carregamento do Office. O Office Anti Virus é diferente de muitos scanners sob demanda e, mesmo que você desative o componente do scanner Ativo, ele ainda pode estar sendo verificado no início do Office.
Além disso, clique no "orb" no canto superior esquerdo e clique em "nome do programa" no canto inferior direito. Vá para a seção Add-In e veja se há algum que possa ser desativado.
Outra coisa para tentar se você quiser desativá-los todos rapidamente para testar se é isso, segure a tecla Ctrl próxima vez que você iniciar o Word (ou a maioria dos programas de escritório), isso deve ir no modo de segurança.
Se esses métodos não fizerem nada, estou um pouco surpreso com seus problemas nos outros programas do Office, mas o Outlook parece sempre demorar para começar se você tiver algumas mensagens ... A maioria das pessoas nos escritórios simplesmente não fecha (Desculpe se usar um laptop como eu sei que esta parte não é uma solução).