Seu kernel é novo demais para trabalhar com esse código-fonte, confira dkms status para ver o que seu kernel antigo era, como eu acho que é 4.10.0 -?
O que você pode fazer é reiniciar e manter pressionada a tecla SHIFT até que o menu Grub apareça e vá até Opções Avançadas, pressione enter e você verá um novo menu, role até a primeira entrada para um kernel antigo e pressione enter. Então no terminal
cd Desktop
git clone https://github.com/jeremyb31/rtl8814AU.git
Reinicialize e deixe-o inicializar no kernel 4.13 automaticamente, depois no terminal
sudo dkms remove rtl8814AU/4.3.21 -k $(uname -r)
sudo dkms uninstall rtl8814AU/4.3.21
sudo rm -r /usr/src/rtl8814AU-4.3.21
sudo rm -r /var/lib/dkms/rtl8814AU
cd Desktop
sudo dkms add rtl8814AU
sudo dkms install rtl8814AU/1.0
Reinicie e deixe usar o kernel 4.13