Para responder à sua pergunta, o Nixphoe tem a resposta correta com a desfragmentação offline. Entretanto, como aviso, todas as caixas de correio no banco de dados que você está desfragmentando ficarão offline durante a desfragmentação (o que pode ser obsceno).
Se você considerar seriamente fazer uma operação importante como uma desfragmentação offline para recuperar 5 GB de espaço em disco, é necessário atualizar seu armazenamento com urgência (coisas ruins acontecem no Exchange quando os discos são preenchidos ).
Se você realmente deseja fazer isso, uma alternativa melhor e mais fácil é criar um novo banco de dados de caixa de correio e mover suas caixas de correio do banco de dados antigo para o novo. Isso também tem o benefício muito atraente de apenas colocar as caixas de correio off-line que estão atualmente em trânsito e significa um tempo de inatividade consideravelmente menor para seus usuários do que uma desfragmentação offline. A ressalva desse método é que você precisa de espaço de armazenamento suficiente para manter o banco de dados existente, bem como o novo, enquanto move as caixas de correio entre os dois.
O motivo pelo qual seu arquivo .edb (o banco de dados real do Exchange) não ficou menor é um recurso de desempenho do Exchange e, a menos que você tenha um realmente bom motivo, nunca recomendaria faça uma desfragmentação offline em um banco de dados de produção. Com respeito, você fazendo esta pergunta significa que você não entende porque o mecanismo de banco de dados ESE funciona dessa maneira e, como tal, provavelmente não tem um bom motivo para fazer uma desfragmentação offline.