Do jeito que eu entendi, o segundo gateway padrão só será usado se o primeiro não estiver disponível.
EDIT: Um segundo gateway também pode fornecer uma rota para uma rede que não está disponível através do primeiro, caso em que um será usado em seu lugar.