Se falamos sobre o Ubuntu aqui, o cabeçalho necessário está localizado em libnl-3-dev package (o caminho completo será /usr/include/libnl3/netlink/genl/genl.h ).
No Ubuntu 16.04, o LTS hostapd precisa das seguintes dependências de compilação:
android-headers android-headers-19 autotools-dev debhelper
dh-strip-nondeterminism docbook docbook-dsssl docbook-to-man docbook-utils
jadetex libdbus-1-dev libfile-stripnondeterminism-perl libncurses5-dev
libnl-3-dev libnl-genl-3-dev libnl-route-3-200 libnl-route-3-dev libosp5
libostyle1c2 libpcsclite-dev libpotrace0 libptexenc1 libqt4-designer
libqt4-dev libqt4-dev-bin libqt4-help libqt4-qt3support libqt4-scripttools
libqt4-svg libqt4-test libreadline-dev libreadline6-dev libsgmls-perl
libsp1c2 libssl-dev libsynctex1 libtexlua52 libtexluajit2 libtinfo-dev
libzzip-0-13 lynx lynx-common openjade po-debconf qt4-linguist-tools
qt4-qmake sgml-data sgmlspl sp tex-common texlive-base texlive-binaries
texlive-fonts-recommended texlive-generic-recommended texlive-latex-base
texlive-latex-recommended tipa zlib1g-dev
Você deve ajustar seu sistema de compilação para satisfazer essas dependências.