O ZLib suporta descompactação parcial e seqüencial, assim você pode ler em uma parte do arquivo gzip (mas lembre-se de que os arquivos gzip possuem um cabeçalho) e chamar util.zip.Inflater com o número de bytes que você deseja inflar. p>
Note em particular o método
setInput(byte[] b, int off, int len)
que permite que você inicie com bytes desativados no arquivo gzip e leia e descompacte os bytes de tamanho a partir desse ponto.
O Javadoc está aqui: link