Sim. No meu trabalho eu uso um pc com uma Geforce GTX 760 para cuda e uma 8400GS. Minha placa-mãe não tem suporte a SLI e eu coloquei o 760 em um slot pciex 16x e o 8400 em um slot 16x (mas 4x eletricamente). O único problema nesta configuração é que meu BIOS acha que o 760 é a placa de vídeo principal e eu tenho que conectar um monitor no 760 se eu precisar acessar a configuração do BIOS. Outra pessoa no meu escritório tem um Tesla C2075 para cuda e um quadro para exibição.
O Windows tem a restrição de que ambas as placas precisam ser da Nvidia. No Linux, você provavelmente pode usar um cartão de outro fornecedor para controlar a exibição.