Compacte-o em outro arquivo e copie o conteúdo sobre o original.
$ file=testfile1
$ ls -li $file
6630 -rw-r--r-- 1 foo foo 2075323 Nov 1 21:22 testfile1
$ gzip -c < $file > $file.tmp
$ cp $file.tmp $file
$ rm $file.tmp
$ mv $file $file.gz
$ ls -li $file.gz
6630 -rw-r--r-- 1 foo foo 8189 Nov 1 21:23 testfile1.gz