Na minha versão do Outlook (2010) nas configurações da Conta para a conta IMAP, há um botão "Mais configurações ...". Isso mostra uma caixa de diálogo "Configurações de email da Internet", com várias guias. Uma dessas guias é chamada 'Itens excluídos'. Lá você pode especificar como os itens devem ser excluídos, ou seja, marcados para exclusão, movidos para a pasta excluída e se a limpeza deve ocorrer ao alternar pastas.
Eu especifiquei para mover os itens para uma pasta 'Itens Excluídos' e eles serão excluídos imediatamente (o que pode tornar a capacidade de resposta um pouco irritante), mas significa que você não tem os itens irritantes a lista.