tente executar o tar sem especificar a parte "z".
tar xvf nginx-1.11.6.tar.gz
Além disso, tente catar o arquivo. Parece que você não está recebendo o arquivo correto.
dak@dak-tp:~/Downloads$ file nginx-1.11.6.tar.gz
nginx-1.11.6.tar.gz: gzip compressed data, last modified: Tue Nov 15 15:11:52 2016, from Unix
dak@dak-tp:~/Downloads$ md5sum nginx-1.11.6.tar.gz
4e29a07a7c74376fa032e5af0d1c5369 nginx-1.11.6.tar.gz