Opções para servidores GPU de mercadorias escaláveis para CUDA?

Question

Estou fazendo um trabalho de aprendizado de máquina que se beneficia enormemente do uso da GPU. Eu estou meio que nos limites da minha configuração atual (uma estação de trabalho com uma única GTX580) e eu realmente não tenho espaço para outro computador em casa. Então, eu estou olhando para construir um servidor de GPU (e muito possível vários deles) e tentando encontrar a maneira mais econômica para fazê-lo.

Idealmente, gostaria de construir algo como os servidores de tesla da NVidia (por exemplo, s2075), mas com GTX580s em vez de cartões Tesla. Isso ajusta 4 cartões em um chassi de 1u que é então conectado via extensores PCI-e a um sistema host. Uma versão DIY disso parece não existir.

Então, meu próximo plano é 4u e, basicamente, colocar um padrão SLI quad nele. Eu provavelmente usaria 2 PSUs de 850 watts para alimentar as 4 placas. O resfriamento também pode ser um problema.

Então, minhas perguntas são especificamente:

• Se eu estou usando principalmente a GPU e usando apenas a CPU para lidar com lógica básica e outras coisas, é razoável usar uma CPU de baixo custo como um i3?
• Se eu quiser co-localizar, isso não seria caro? Use muita energia?
• Eu estou indo sobre isso da maneira errada e há uma maneira muito mais fácil / mais rentável para construir trituradores de número de GPU e não mantê-los no meu apartamento?

Answer 1

Eu fiz um pouco mais de pesquisa e eu vou responder a mim mesmo caso alguém se encontre procurando algo similar.

A AWS (e outros fornecedores) fornece serviços de computação na nuvem da GPU. Isso funciona muito bem para certas aplicações, mas certamente não todas. Na melhor das hipóteses, os clusters de GPU virtualizados tendem a ser mais lentos do que o hardware real que anunciam, e são caros se você os usa com bastante regularidade. Os aplicativos nos quais pode ser útil construir seu próprio hardware incluem renderização em 3D e certos tipos de aprendizado de máquina que se beneficiam do uso de uma GPU. Se você está apenas fazendo cálculos de números periódicos, o cloud gpu é uma boa escolha.

Então, para a minha pergunta original - o melhor para seus servidores GPU. Atualmente, o GTX580 (~ $ 400) é um ótimo valor comparado aos cartões tesla e quadro MUITO mais caros, e o desempenho é comparável. A Quadro 6000 é atualmente US $ 6.000 e executa aproximadamente o mesmo em benchmarks GPGPU (especificamente, NQueens) como o 580. Os tesla têm mais memória onboard. O 680 está estropiado para o GPGPU e não terá o mesmo desempenho que o 580. Então, em meados de 2012, compre o GTX 580s.

O Quad SLI não parece necessariamente valer a pena. 4x SLI não é 4 vezes mais rápido. Mas você ainda pode colocar 4 GPUs no seu sistema com 2 2x SLI, isso parece ser um bom negócio. Ou apenas deixe-os como cartões separados.

Parece que um chassi 4u é o que você precisa se quiser colocá-lo em um rack. Você provavelmente vai querer fontes de alimentação de 2 750 watt.

Na CPU - não consigo uma resposta direta sobre isso. Para mim, provavelmente vou conseguir um i5 menor em vez de um i3.

A partir daí, basta construir quantos sistemas você precisar, colocá-los em um rack (co-lo ou uma sala de servidores) e você deve estar pronto. Você provavelmente está olhando para menos de US $ 2.500 por unidade para um teórico de 6 tflops de 4 gtx580s. Isso é muito bom para você.

Para fins de comparação, uma nvidia tesla s1070 faz 4 tflops e custa algo entre US $ 8.000 e US $ 10.000. Mas esse é o preço 'corporativo' para o desempenho que você pode ficar muito mais barato.

A conta de energia era algo sobre o qual eu também estava curioso, não consegui uma resposta direta sobre isso, eu suspeito que será alta.

    

Answer 2

A maioria dos gabinetes de servidores não são projetados para a quantidade de calor que as 4 placas vão apagar. E parece que seus aplicativos estarão empurrando as placas para os níveis de pico. Você definitivamente precisará monitorar de perto as temperaturas de placas individuais, bem como o processador. Você pode muito bem precisar de ventiladores adicionais ou até mesmo ir a uma solução de refrigeração líquida.

Outra questão é o ruído. Se é em um espaço colo, não é grande coisa. No entanto, você disse que isso pode entrar no seu apartamento e isso pode ser um problema. Os fãs de placas gráficas de consumo variam de fornecedor para fornecedor. Mesmo os fãs "quietos" das placas gráficas têm ruído e você multiplicará isso por 4, sem mencionar os ventiladores adicionais usados para resfriamento. Mais uma vez, uma solução de refrigeração líquida pode ser uma boa solução.

    

Answer 3

Se você precisa de um único desempenho de ponto flutuante, vá com a GTX680, também é mais eficiente em termos de energia, você não pagará tanto pela eletricidade. Se você precisa de desempenho de ponto flutuante duplo, vá com a GTX 580.
Dê uma olhada no presente post no blog.
Também renderstream tinha um blogpost sobre um servidor 8GPU 4U. São 14k $. O fixo o BIOS para obtê-lo trabalhando com todos os 8 cartões. Eu acho que apenas o servidor barebones é de 3k $.
Eu também estou olhando para talvez construir uma máquina como no futuro, eu não tenho certeza ainda se vale a pena o problema e apenas alugar um quando eu precisar dele. Pode ser uma boa ideia dividir o custo e compartilhar uma máquina, mas podemos acabar pisando nos dedos uns dos outros.

    

Answer 4

Tenho certeza que a Amazon oferece uma coisa dessas.

Provavelmente por muito mais barato do que você conseguirá fazer também.

link

link

Isso removeria muita complexidade do que você deseja fazer.