Você pode usar Netlink . Do wiki ,
Netlink was designed for and is used to transfer miscellaneous networking information between the Linux kernel space and user space processes. Networking utilities such as iproute2 use Netlink to communicate with the Linux kernel from user space. Netlink consists of a standard socket-based interface for user space processes and an internal kernel API for kernel modules. It is designed to be a more flexible successor to ioctl. Originally, Netlink used the AF_NETLINK socket family.
Minha preferência pessoal seria scripts bash para essas tarefas, já que eu posso especificar o iptables rules / routing no meu próprio script. Se você estiver usando linguagem de programação como C, provavelmente poderá invocar system e usar o valor de retorno em seu programa para fazer alguma coisa.
Existe uma API chamada haxwithaxe disponível em aqui