Foi um problema com o gateway
Usando o 'route' me deu
Destination Gateway Genmask Flags Metric Ref Use Iface
192.168.2.0 * 255.255.255.0 U 0 0 0 eth0
169.254.0.0 * 255.255.0.0 U 0 0 0 eth1
68.0.0.0 * 255.0.0.0 U 0 0 0 eth1
default 192.168.2.1 0.0.0.0 UG 0 0 0 eth0
então não havia gateway configurado para eth1 então eu fiz
route add -net default gw 68.195.x.x dev eth1
e, em seguida, tenho
Destination Gateway Genmask Flags Metric Ref Use Iface
192.168.2.0 * 255.255.255.0 U 0 0 0 eth0
169.254.0.0 * 255.255.0.0 U 0 0 0 eth1
68.0.0.0 * 255.0.0.0 U 0 0 0 eth1
default 44c3e659.st 0.0.0.0 UG 0 0 0 eth1
default 192.168.2.1 0.0.0.0 UG 0 0 0 eth0
Eu entendo por que não fui capaz de responder ao ping externo, mas estou um pouco confuso sobre como consegui fazer ping bem-sucedido em um servidor externo? Meu palpite é que ele usou eth0 mesmo que eu tenha explicitamente dito para usar eth1