Eu não tenho 100% de certeza sobre o que está acontecendo, mas suspeito que você precise esvaziar sua lixeira enquanto o DMG estiver montado.
OS X armazena a lixeira em um diretório oculto na raiz de cada unidade montada. Se você arrastar arquivos do DMG montado para a lixeira, eles não serão realmente excluídos. eles permanecerão nesse diretório oculto (dentro do DMG) e ocuparão espaço adicional. Se você esvaziar sua lixeira, isso excluirá o diretório oculto e poderá armazenar mais dados na DMG criptografada.