Não pense que você pode eliminá-los, mas pode excluir:
ip link delete dev eth5
Não sei por que eles estão sendo diferentes no seu caso ... no entanto, você reiniciou o serviço de rede depois? Caso contrário, você provavelmente acabou de excluir os arquivos quando as interfaces ainda estão registradas.
Outro exemplo seria quando você diz ifconfig eth0 down
no ponto em que a interface está administrativamente inativa, mas se você fez ip addr
você ainda veria porque ip addr
mostra interfaces que não apenas não estão conectadas, mas aquelas que são " administrativamente para baixo ".