Você pode usar o comando file para fazer isso. Ele vai olhar para os números mágicos no arquivo e dizer que tipo é realmente.
O que é um bom truque de linha de comando para saber se um arquivo .gz é realmente compactado, ao invés de ser um arquivo não-Gzip assim chamado?
Se for gzip'd, os dois primeiros bytes são 0x1F e 0x8B.
Para ficar mais complicado do que isso, você precisará entender o formato do arquivo. Veja aqui: link e vá até a seção "Cabeçalho e trailer do membro", onde você pode identificar um gzip por seu cabeçalho de 10 bytes.
Tags gzip file-format