Você pode ter sorte usando cgroups ( documentação do Linux , Wikipedia article ).
É usado principalmente para contêineres Linux e outros, mas você pode permitir ou negar o uso de dispositivos para processos de sua escolha.
Este tópico do fórum do Gentoo tem alguns exemplos de como restringir o uso da GPU (por negando / dev / nvidia0 a certos processos, por exemplo)