Resposta curta: Não - No Outlook / Exchange, as exclusões permanentes são apenas do lado do cliente.
Solução possível:
Se você quiser fazê-lo sem deixar o Outlook aberto, provavelmente precisará configurar uma regra de exclusão regular (no lado do servidor) no Outlook e depois escrever um script (digamos com o Powershell) para esvaziar os itens excluídos. pasta.
Esse script precisa ser agendado para ser executado ocasionalmente no próprio servidor do Exchange (ou em uma estação de trabalho ligada enquanto você está ausente e com acesso de gerenciamento remoto ao servidor Exchange).