O Rtnetlink permite que as tabelas de roteamento do kernel sejam lidas e alteradas. Ele é usado dentro do kernel para se comunicar entre vários subsistemas e para comunicação com programas de espaço do usuário. Fonte
A causa mais comum para a mensagem que vi é que você está tentando rotear por um caminho que não é conhecido pelo host. Por exemplo, a LAN é 192.168.56.100 e a WAN é 10.0.3.15. ip route add 8.8.8.8/32 via 192.168.6.1
resulta em RTNETLINK answers: No such process
porque 192.168.6.1 não é conhecido pelo host.