O seguinte funcionou para mim no Ubuntu 16.04:
sudo apt-get install linux-headers-$(uname -r) build-essential git
git clone https://github.com/zebulon2/rtl8812AU-driver-5.2.9
sudo dpkg -i gord-rtl8812au-dkms_1.0-13_amd64.deb
Ou instale com o instalador do pacote gdebi