Solução de armazenamento compartilhado para ~ 200 nós de computação

2

Eu tenho ~ 200 nós de computação nos quais eu executo meus programas. Quando esses programas são executados, esses nós precisarão de acesso a um local compartilhado onde meus dados são armazenados. Eu preciso de um armazenamento que pode armazenar ~ 3TB de dados, mas deve ser zippy quando acessado de todos os nós ao mesmo tempo.

O padrão de uso é ler e gravar ~ 10 arquivos em torno de 2MB para cada programa executado. Cada nó executará 8 instâncias desse programa. Assim, tenho 1600 instâncias do mesmo programa em execução e tentando acessar os dados.

Não há gravação simultânea no mesmo arquivo.

Qual sistema de armazenamento devo usar?

Atualmente, estou pensando em comprar alguns servidores Dell com o gabinete RAID + 1 4U RAID. Os servidores da Dell servirão os arquivos do gabinete. Eu não sei o software que me permitirá fazer o serviço de balanceamento de carga ainda.

    
por Dat Chu 07.10.2010 / 05:33

3 respostas

1

A questão mais importante nisto é qual é a I / O existente que seus 200 nós já possuem?

A razão pela qual eu digo isso é que muitas plataformas de computação intensiva usam infiniband e se você já tiver essa infra-estrutura instalada, aconselho você a simplesmente comprar um gateway FC-to-IB e "suar" seu investimento existente - vai ser rápido e resiliente.

Na falta da IB, a próxima SAN de melhor desempenho seria uma rede FC de 8 / 4Gbps - isso será super rápido, mas muito caro para 200 nós, pois FC HBAs / SFP + s / FC-switches etc não são baratos esse volume. Dito isto, esta é uma ótima solução que permite que você durma bem à noite. Ah, e eu concordo com Adrian acima de que os HP EVAs são super fáceis de configurar.

Se os seus nós tiverem apenas 1 ou 10GB de ethernet, eu ficaria tentado a optar por um desses sistemas de arquivos distribuídos tipo NAS, como gluster ou apenas um NAS médio / topo de linha, como um NetApp (menor os que realmente lutarão com a carga). Isso funcionará, mas você pode ver problemas nos horários de pico, é claro que isso significa que seus custos serão muito menores do que as outras soluções. Se você seguir o caminho do 'grande NAS', ficaria tentado a conectá-los com NICs de 10 Gbps, já que seu preço caiu muito e eles serão muito mais fáceis de lidar do que muitos NICs de 1 Gbps agrupados.

O que eu absolutamente evitaria é iSCSI, a razão é que se você deseja ter algum armazenamento compartilhado, mesmo que apenas dois nós vejam o mesmo volume, você precisará de um sistema de arquivos cluster - eles são bons para alguns nós, mas não funcionará bem para 200 nós - se é que o será - a arbitragem por si só prejudicaria o ambiente. Isso não é um problema para a FC, já que a arbitragem é projetada mais para o FC.

Espero que isso ajude, sinta-se à vontade para voltar com perguntas de acompanhamento. Ah e boa pergunta pelo caminho:)

    
por 07.10.2010 / 10:36
1

Se você deseja criar o seu próprio, isso foi criado em um post / pergunta anterior e parece muito interessante ...

link

    
por 07.10.2010 / 06:18
1

ummm, ok, se você estiver interessado em produtos dell, pode solicitar informações sobre a Dell Equallogic. É uma solução SAN iSCSI. Ele pode fornecer 4 (portas) * 10Gb (eu acho que é a configuração de porta fastests permitida para equallogic) largura de banda.

Você também pode optar por uma solução de canal de fibra. HP MSA ou EVA ...

    
por 07.10.2010 / 10:04