Você de alguma forma conseguiu instalar o nginx
e o repositório do yum (fornecido pelo nginx.org) que você instalou junto com ele não é compatível com o Amazon Linux. Ele é destinado ao RHEL 7 ou ao CentOS 7. O Amazon Linux não é compatível com o RHEL / CentOS, e os pacotes para eles geralmente não funcionam no Amazon Linux.
Para resolver o problema, inicie uma nova instância com uma distribuição de sistema operacional suportada, como RHEL 7 ou CentOS 7, e instale o nginx nessa instância.