A menos que você realmente saiba o que está fazendo, recomendo usar o yum para instalar o nginx. Está disponível no repositório EPEL, provavelmente rpmforge também.
Edit: Já que você precisa de módulos customizados para o nginx, pode ser melhor colocar sua custom build em um RPM. A manutenção de compilações de origem em mais de uma dúzia de servidores se torna problemática para uma pequena equipe administrativa.