Seu problema imediato é que você declara um gateway padrão em ambas as entradas. Suponho que isso resultará no que ocorrer por último para "vencer" e ser o gateway padrão.
No entanto, se você remover o da eth1, você terá o problema de a caixa responder na eth0, mesmo que o pacote tenha chegado na eth1. Para dizer à caixa para responder em uma interface específica, você precisa fazer o que é comumente chamado de roteamento de origem.
Eu tenho o seguinte conjunto de comandos em uma caixa:
/sbin/ip rule add from 1.2.3.4/24 tab 1 priority 500
/sbin/ip route add default via 1.2.3.1 dev eth2 tab 1
/sbin/ip route flush cache
A primeira linha diz à caixa para procurar na tabela "1" informações sobre os pacotes que saem do IP 1.2.3.4. A segunda linha cria a tabela "1" dizendo que o gateway padrão nessa tabela é 1.2.3.1. A última linha garante que isso tenha efeito imediatamente.
Para mais informações, veja por exemplo link