shred
é praticamente inútil. Para remover o conteúdo de um arquivo excluído da imagem do disco, não é suficiente substituir os locais onde o arquivo estava: você precisa remover todas as cópias do arquivo. Não é apenas uma questão de o arquivo ter sido substituído no lugar. Com muitos tipos de arquivos, pode haver vários arquivos com o mesmo conteúdo, porque o arquivo foi editado e há cópias de backup excluídas por aí.
Além disso, se o disco for danificado, pode ser impossível ler os dados por meios de software, mas ainda é possível recuperá-los por meios de hardware ou deixar o disco esfriar (colocar um disco rígido em um freezer o torna menos propenso a erros por um tempo, até que finalmente desista do fantasma).
O modo seguro de fragmentar um arquivo é armazená-lo desde o início dentro de um contêiner criptografado protegido por uma senha strong (gerar uma senha aleatória o suficiente e anotá-la; quando terminar o arquivo, grave o pedaço de papel). Esfregue seu sistema de arquivos completamente (faça o backup dos dados, depois substitua-os por zeros), crie um contêiner ecryptfs e restaure seus arquivos. Não se esqueça de limpar o backup quando tiver certeza de que a restauração foi bem-sucedida ou guarde o backup em um local seguro.