Você pode usar a opção -P com o comando rm . O -P sobrescreve os arquivos excluídos 3 vezes com dados.
rm -rP /path/to/files
link
Existem também ferramentas de terceiros, como Blancco 5 se você quiser ter quase certeza de que os arquivos não serão recuperados.