Se você estiver usando um sistema de arquivos que suporte, então você pode usar zerofree .
Se você não é, então basicamente você precisa apenas usar o dd para escrever zero em um arquivo em cada partição até que não haja mais espaço. Em seguida, exclua o arquivo que você preencheu com zeros.