Como Kenneth L mencionou em seu comentário, não há como fazer isso com as ferramentas que você está usando, devido à maneira como pv
pipes file
to gzip
.
Uma solução alternativa seria excluir o arquivo original imediatamente após compactá-lo:
pv -tpreb file | gzip -9 > file.gz && rm file
Você pode compactar vários arquivos no mesmo arquivo e excluir os originais com os seguintes comandos:
export FILES='foo bar quux'
tar c $FILES | pv -tpreb | gzip -9 > zip.gz && rm $FILES
e descomprima esses arquivos com tar xvzf zip.gz
.