Quão importante é a CPU ao construir um sistema CUDA?

Question

Sou apenas um administrador de sistemas sem noção e precisamos montar algumas máquinas especificamente para os usuários usarem o CUDA. Estamos olhando para o Dell PowerEdge T620 e encravando quatro cartões CUDA no otário. Pesquisando os componentes CUDA é outro tópico em si, mas uma coisa que eu queria saber é, quão importante é o componente da CPU para uma máquina cujo único propósito é o processamento CUDA? O CUDA depende da CPU de alguma forma, ou é uma coisa preta / branca em que, quando você inicia a execução do CUDA, tudo é 100% na GPU? Ou há algum equilíbrio / mistura?

A questão fundamental é: podemos comprar a CPU mais barata e nos safar, tendo em mente que o único propósito dessas máquinas é para a programação CUDA?

    

Answer 1

Você ainda precisa de uma CPU para:

• Tome decisões. CUDA apenas faz cálculos; ele não tem nada como uma declaração if para decidir o que calcular. O código em execução na CPU decide o que será feito e, em seguida, configura o cálculo para execução do CUDA.
• Copiar dados para dentro e fora das GPUs. Para acelerar isso, certifique-se de ter o máximo de largura de banda PCIe possível. É provável que isso envolva mais servidores com menos GPUs por servidor, se você se deparar com isso como um gargalo.
• Compile os programas a serem executados nas GPUs.

CPUs são relativamente baratas; não há razão para economizar nisso.