Você colocou o htpasswd no diretório de nginx habilitado para sites.
No nginx.conf, provavelmente há uma linha como esta:
include /etc/nginx/sites-enabled/*;
Portanto, todos os arquivos nesse diretório são tratados como arquivo de configuração nginx.
O conteúdo não tem nada a ver com a configuração do nginx e, portanto, você receberá esse erro.
Você precisa colocar esse arquivo em outro lugar e usar o caminho correto na sua opção auth_basic_user_file.