Você precisa abrir o arquivo usando algo que leia e o processe como um fluxo, em vez de tentar ler todo o arquivo na memória.
Tente instalar o Cygwin e gerenciar o arquivo usando suas ferramentas de linha de comando; por exemplo
$ tar zxf my-big-file.tar.gz something/I/want.doc
extrairá um arquivo do seu arquivo.
Como um cara do Unix, naturalmente ofereço uma solução semelhante ao Unix: -)