Sim (pelo menos o programa tar) irá sobrescrever arquivos existentes (não irá acrescentar nada):
$ mkdir x
$ echo hello >x/file
$ tar cvfz x.tar.gz x
x/
x/file
$ echo world >x/file
$ tar xvfz x.tar.gz
x/
x/file
$ cat x/file
hello
Como você reescreveu sua pergunta, a resposta é que os arquivos existentes .htaccess, a.html, b.html, c.html serão substituídos pelas versões em x.tar.gz.
O arquivo existente y.html não será tocado.