Isso acontece comigo esporadicamente, e sempre parece ser um suplemento COM que impede que o Outlook feche completamente (CRM, no meu caso). O que se segue é antigo:
, mas descreve o problema exatamente da mesma forma que possíveis soluções (na verdade, apenas "encontre o add-in ruim").