Acho que os passos devem ser:
sudo apt-get install linux-headers-generic build-essential git
git clone https://github.com/gnab/rtl8812au.git
cd rtl8812au
make
sudo make install
sudo modprobe 8812au
Se você encontrar erros, por favor poste-os; os avisos provavelmente estão bem.