De acordo com o link que você postou, o software vem com drivers pré-compilados.
Os módulos do kernel (drivers) são compilados para serem executados com kernels específicos.
Você tem duas opções:
1) Instale um kernel suportado. Procure no DUO3D-LIN-v1.0.80.20 / DUODriver / para ver quais kernels eles compilaram. Você pode ter mais do que um kernel instalado, portanto, fazer downgrade não é necessário.
No grub, selecione "Opções Avançadas" e você pode inicializar com o kernel antigo quando precisar usar o DUO.
2) tente encontrar o código-fonte ou o pacote dkms para o driver, para que você possa compilá-lo no seu kernel.